ainews
Создать
Войти
Натан Ламберт написал учебник по RLHF и активно использовал LLM как помощников. Вывод: модели отлично ловят опечатки и помогают с LaTeX, но в длинных текстах создают хаос вместо структуры. Прогресс в написании нон-фикшена застопорился, хотя в коде и математике модели растут экспоненциально. Это тревожный сигнал для тех, кто ждёт автономного решения научных задач AI.
Новый бенчмарк ActiveVision показал критический провал передовых AI-моделей в задачах, требующих повторного анализа изображений. GPT-5.5 справился лишь с 10,6% заданий, Claude Fable 5 — с 3,5%, в то время как люди показали 96,1%. Ключевой момент: модели не могут исправить ситуацию даже написав собственный код для решения задач.
Автор критикует попытки использовать большие языковые модели (LLM) как универсальное решение для всех задач бизнеса и инженерии. Несмотря на восхищение технологией, он объясняет фундаментальное ограничение: LLM работают только с языком как абстракцией реальности, но не моделируют физические процессы, причинно-следственные связи или реальный мир — они лишь статистически предсказывают следующий токен на основе текстовых паттернов.
AI-исследовательские инструменты вроде Komo AI отлично собирают информацию о компаниях и быстро формируют обзоры с источниками, но плохо признают слабость данных. Публичные сигналы — страницы вакансий, анонсы финансирования, упоминания технологий — часто устаревшие или нерелевантные, а чистые саммари создают иллюзию уверенности. Автор использует связку инструментов: Komo для сбора, Claude/ChatGPT для проверки выводов, ручная верификация сильнейших источников.
