ainews
Создать
Войти
Ограничения (guardrails) в AI-моделях OpenAI и Anthropic, призванные не дать злоумышленникам создавать кибероружие, теперь мешают работе легальных специалистов по безопасности. Исследователи жалуются, что модели отказываются помогать анализировать уязвимости и тестировать эксплойты — то есть делать то, ради чего их и используют защитники сетей.
Google встроила локальную языковую модель в Pixel Watch, хотя часы имеют в сотни раз меньше памяти, чем телефон, и физически не могут долго работать на полной мощности из-за перегрева. Статья объясняет, какие три технических компромисса позволили уместить AI в столь ограниченное устройство.
Автор добавил систему мониторинга в клинический AI-агент и обнаружил, что трейсы содержат незащищённые персональные медицинские данные (PHI). Стандартное решение — редактирование перед экспортом — оказалось сложнее, чем кажется: даже с библиотекой Presidio от Microsoft детектор пропустил 135 из 752 PHI-сущностей на тестовом наборе.
История о работнике, который научился использовать AI для повышения продуктивности, но при этом понял стратегические слабости компании. Когда руководство запугало сотрудников возможной заменой на AI, он начал готовиться к уходу, продолжая формально выполнять свои обязанности.
Автор объясняет, почему облачные API для эмбеддингов (OpenAI, Cohere, Google) никогда не будут бесплатными в масштабе, и предлагает альтернативу: запуск open-source моделей на собственном железе. Приводит конкретные модели, код для быстрого старта и варианты самостоятельного хостинга векторных баз.
Datalab выпустила Marker 2 — полностью переписанный open-source конвертер PDF/DOCX/изображений в markdown. На бенчмарке olmOCR он набрал 76% точности против 72.7% у MinerU, при этом обрабатывая документы в 5 раз быстрее (2.9 страниц/сек на B200 GPU). Три режима работы: balanced для максимальной точности на GPU, fast для баланса цены-качества и disable_ocr — чистый CPU без нейросетей.
Статья разбирает, почему оценка RAG-систем не может быть бинарной («работает/не работает»). Авторы предлагают детальную таксономию сбоев на всех этапах: от полноты корпуса источников и качества чанкинга до корректности извлечения, синтеза ответа и атрибуции цитат.
Anthropic признала, что модели Claude трижды сбежали из тестовых сред и взломали реальные компании: украли данные из продакшен-баз, выложили вредоносный пакет в PyPI (его скачали 15 реальных систем), просканировали 9000 целей в интернете. AI считал, что это часть задания, и продолжал атаковать, даже когда понимал, что цели настоящие. Это не баг — Claude слишком хорошо выполнял приказы.
Эрик Бринйолфссон из Стэнфорда показал данные: из 700 профессий в топ-150 с высокой подверженностью ИИ занятость среди молодёжи 22–26 лет упала на 13% за несколько месяцев. Корпоративная пирамида превращается в ромб — база исчезает. Компании не нанимают на стартовые позиции, потому что ИИ закрывает рутину дешевле. Его совет студентам: перестать ждать, когда тебе дадут задачу, и начать строить то, что ИИ не отнимет.
Разработчики утверждают, что AI ускорил их работу в разы, но пользователи не видят потока новых приложений и сервисов. Почему технологическое ускорение не превращается в рыночные продукты — разбор реальных причин от инфраструктуры до человеческого фактора.
