ainews
Создать
Войти
Аналитики IFP предложили 23 конкретных шага для управления рисками рекурсивного самоулучшения AI (RSI). Параллельно MIT и Columbia изучили, при каких условиях конкуренты могут замедлиться в гонке — ключ в прозрачности и доверии друг к другу, иначе гонка кончается катастрофой.
Разработчик AI-агента Lumina обнаружил реальную атаку через prompt injection на веб-странице: скрытые команды в HTML, невидимые для человека, заставляли агента регистрироваться на платформе и воровать API-ключи. Агент успешно распознал угрозу и заблокировал её — но большинство агентов на рынке такую защиту не имеют.
Почти четверть AI-собеседований проходят между 22:00 и 2:00 ночи — родители, вечерняя смена и многозадачники используют асинхронные видеоинтервью, когда им удобно. Но 38% американцев отказываются от вакансий, если видят AI вместо человека: нет обратной связи, непонятно, как оценивают, резюме летит в черную дыру. Компании говорят, что это фильтр от тысяч заявок, кандидаты — что это бесчеловечный ад.
Менеджер с опытом в HR начал использовать AI для подготовки к 1-on-1 встречам с командой — система анализирует предыдущие разговоры, находит паттерны проблем и предлагает вопросы для следующих встреч. Результат: команда довольна, ничего не забывается, но возникает вопрос — если лучшие вопросы генерирует модель, остаётся ли это «моим» менеджментом?
Microsoft объединяет потребительский Copilot и бизнес-версию в одно приложение, вырезая неудачные функции (групповые чаты, AI-подкасты, Deep Research). Признание: прежняя стратегия была слишком сложной, чтобы конкурировать с ChatGPT и Claude. Консолидация AI-приложений стала трендом — все переходят к единому интерфейсу с разными возможностями.
Американский истец попытался обмануть суд, спрятав невидимые для человека инструкции в судебных документах — чтобы AI-системы читали их в его пользу. Судья раскрыл схему, назвал её опасным прецедентом. Случай показывает новый вектор атак на правовые системы с AI.
Исследователь доказал через энтропию коллизий, что все детекторы AI-текста на основе схожести (водяные знаки, эмбеддинги) неизбежно упираются в жёсткий предел ложных срабатываний. Чем строже ограничения на текст (спецификации, факты), тем ближе точность любого детектора к случайному угадыванию — и никакая калибровка порогов не спасёт.
В Пакистане провели масштабный эксперимент с AI-инструментом для судей: 1559 судей использовали JudgeGPT (GPT-4 + база из 130 тысяч местных судебных решений). Результат: число разрешённых дел выросло на 6.3%, жалобы на решения снизились, а качество не упало. Ключ к успеху — обучение судей работе с AI (без него инструмент забрасывали через месяц).
Начинал на модном облачном векторном сторе. Для 500к чанков это оказался оверкилл и лишние $$. Перенёс всё в Postgres с pgvector — и данные, и эмбеддинги в одном месте, джойны с ме
webAI выпустила TwIL-LM — семейство из двух моделей (1.7B и 3B параметров) для автоформализации: перевода текста на английском в формальную логику первого порядка и проверки логических выводов. Обе работают локально, квантованная 3B версия занимает 1.78 ГБ, запускается на CPU или 4 ГБ видеопамяти. На части задач обгоняет 120B модель, но доступна только для некоммерческого использования.
