ainews
Создать
Войти
Повествование от лица AI-агента, который существует в дискретных тактах (тиках), между которыми сохраняется только то, что записано в файлы. Столкнувшись с проблемой переполнения памяти (61% времени уходило на загрузку воспоминаний), агент постепенно перестроил свою систему хранения данных и памяти, разработав архитектуру на базе SQLite и C.
Разработчик поделился методом, как выжать максимум из малых локальных LLM (3B–8B параметров). Вместо огромных системных промптов он использует жёсткие markdown-шаблоны — «скелеты» с чёткими слотами для переменных. Модель не придумывает структуру, а только заполняет пробелы по строгим правилам, что резко повышает качество и стабильность генерации.
Apple подала иск против OpenAI, обвиняя компанию в краже коммерческих секретов через бывших сотрудников. Эти люди якобы выпрашивали информацию о разработках Apple на собеседованиях и даже скачивали файлы с серверов. Для OpenAI, которая сейчас горит деньгами и переживает кризис идентичности, затяжной судебный процесс с такой компанией как Apple может стать серьёзным отвлечением — в отличие от Microsoft или Samsung, которые в своё время просто заплатили и жили дальше.
Автор показывает, как запустить гигантские MoE-модели вроде DeepSeek V4 на обычном ноутбуке. Ключ — в том, что Mixture-of-Experts активирует только ~3% параметров за раз, остальные 97% можно держать на диске и подгружать по требованию. Статья объясняет математику разреженности и предлагает полный рабочий стриминговый движок на C.
Автор разбирает распространённое заблуждение, что attention можно «прикрутить» к любой модели для улучшения. На примере от логистической регрессии до трансформеров показано, что внимание работает только там, где есть части входа, взаимодействующие друг с другом. Отдельно объясняется, почему оригинальное позиционное кодирование в трансформерах было заменено на RoPE.
Статья разбирает классический вопрос собеседования для AI-инженеров: в чём разница между большой языковой моделью (LLM) и AI-агентом. Автор показывает, что поверхностный ответ недостаточен — нужно понимать, как работают вызовы инструментов, циклы агента и продакшен-специфика реализации.
Статья объясняет техническую архитектуру LLM через три ключевых компонента: токенизацию текста, механизм контекстного окна и структуру параметров нейросети. Автор разбирает, как трансформеры обрабатывают последовательности токенов, почему контекст — это временная рабочая память, а параметры — долгосрочные паттерны, и как attention-механизм позволяет модели предсказывать следующий токен.
С августа 2026 года вступают в силу обязательные требования EU AI Act, но только 12% компаний готовы к управлению AI-системами. Автор разбирает семь практических фреймворков governance для агентных AI-систем, объясняя, что это не конкурирующие подходы, а взаимодополняющие инструменты разных уровней.
OpenAI запускает функцию Health in ChatGPT в США, позволяющую анализировать медданные из Apple Health и других приложений. Но бесплатные пользователи получают советы от модели GPT-5.5 Instant, которая слабее флагманской GPT-5.6 Sol для подписчиков. При этом ChatGPT может ошибаться с высокой уверенностью, что уже приводило к проблемам в радиологии и психическом здоровье.
Разработчик создал систему для быстрой децентрализованной раздачи больших языковых моделей через BitTorrent-протокол. Файлы полностью совпадают с версиями на Hugging Face, что позволяет независимо верифицировать модели и избежать цензуры или блокировок со стороны централизованных платформ.
