ainews
Создать
Войти
Разработчик создал браузерную игру, где пользователь одобряет команды AI-агента под давлением времени. Из 409 тысяч решений люди пропустили 33% вредоносных команд — особенно те, что маскировались под безобидные npm-скрипты. Исследование показывает: «человек в цикле» как защита от взломанных AI-агентов работает плохо из-за усталости от разрешений.
Исследователь James Kettle показал на Black Hat, что агентные ИИ уже эффективны в поиске багов и создании эксплойтов, но самостоятельно изобретать принципиально новые методы атак они пока не могут. Зато в связке с человеком ИИ становится мощным партнёром — вместе они нашли новый класс уязвимостей Shared-Parser Confusion, который один ни человек, ни ИИ не обнаружили бы.
Автор наблюдает переход от модели «человек проверяет каждое решение AI» (Human-in-the-Loop) к «человек контролирует систему в целом» (Human-on-the-Loop). Вместо тотальной валидации AI сам оценивает уверенность и эскалирует только сложные случаи, что меняет роль экспертов с операторов на архитекторов систем.
Продакт-менеджер e-commerce платформы создал агентного помощника для автоматизации рутинных задач в жизненном цикле бизнес-заявок (BR). Инструмент отслеживает 9 этапов обработки заявки, сам напоминает о дедлайнах, формирует документы и синхронизирует PM Board, оставляя человеку только ключевые решения.
Автор описывает процесс создания Signal Brief — приложения для еженедельных дайджестов из выбранных источников. Главный фокус — на методологии RBA (человеко-управляемой разработки с ИИ), где AI генерирует варианты, а человек принимает ключевые решения на контрольных точках.
Агент по недвижимости делится реальным опытом использования AI для лидогенерации: инструменты действительно экономят время (описания объектов, квалификация лидов), но автономность — миф. В регулируемых отраслях каждая галлюцинация модели может стоить лицензии, поэтому приходится проверять каждый выход AI вручную. Основной вопрос: как закрыть разрыв между тем, что генерирует модель, и тем, что можно безопасно отправить клиенту.
