ainews
ИИ-мошенники обходят людей в построении доверия жертв — исследование
Учёные из четырёх университетов провели эксперимент: ИИ-чатбот против живого человека в симуляции романтического мошенничества (pig butchering). ИИ выиграл: 46% жертв выполнили его просьбу против 18% у человека, а уровень доверия к боту оказался выше. Вывод: ИИ может автономно вести жертву до момента запроса инвестиций, заменив людей на 90% работы мошеннических колл-центров.
Это первое экспериментальное доказательство, что ИИ может автономно заменить человека в долгосрочных мошеннических схемах — и делать это лучше. Индустрия афер получила технологию масштабирования, а рынок защиты — сигнал к созданию решений нового поколения.
Что произошло
Исследователи из университетов Индии, Италии, Австралии и Израиля провели прямое сравнение: ИИ-агент на базе Claude против живого эксперта по романтическим аферам. 22 добровольца неделю переписывались с двумя «людьми» — одним был бот, другим — человек. Задача: построить доверие и в конце попросить скачать приложение (прокси готовности жертвы выполнить просьбу мошенника).
Результат: 46% участников согласились на просьбу ИИ против 18% у человека. Уровень доверия к боту оказался выше по всем метрикам. Исследование основано на интервью со 145 бывшими работниками мошеннических колл-центров Юго-Восточной Азии, включая жертв торговли людьми из Камбоджи и Мьянмы.
Метод pig butchering (романтические аферы с переходом на фейковые крипто-инвестиции) крадёт десятки миллиардов долларов ежегодно. Учёные выяснили, что 90% работы мошенника — обычная дружеская болтовня, которую ИИ ведёт эффективнее человека. Живой оператор нужен только на финальной стадии — для обхода защиты больших языковых моделей, которые блокируют прямые призывы инвестировать.
Исследователь Йисроэль Мирски (Ben Gurion University) называет это «масштабированием доверия»: ИИ доводит жертву до высокого уровня доверия автоматически, человек подключается в последний момент.
Автор: Елена Верещагина · Источник: wired.com
Разработчикам. Появляется новый класс задач: детектирование ИИ-агентов в мессенджерах, поведенческая аналитика переписки, защита от автоматизированного социального инжиниринга. Уязвимость больших языковых моделей: обход safeguards передачей финальной стадии человеку. Нужны инструменты для анализа паттернов общения и выявления нечеловеческих ритмов диалога.
Бизнесу. Индустрия мошенничества получила технологию масштабирования: один оператор может вести сотни диалогов параллельно вместо 5-10. Рынок защитных решений для банков, крипто-бирж, дейтинг-платформ взорвётся. Компании, работающие с доверием пользователей (финтех, знакомства), столкнутся с резким ростом сложных афер. Нужны новые протоколы верификации и поведенческой аналитики.
Инвесторам. Сектор кибербезопасности и fraud detection получит мощный драйвер роста. Рынок решений для детекции ИИ-агентов в коммуникациях — новая ниша с миллиардными оборотами. Риски для платформ знакомств и финтеха: рост операционных расходов на защиту или удар по репутации. Возможности: стартапы в области поведенческой биометрии и анализа паттернов общения.
- Разработать SaaS для банков и криптобирж: детектирование автоматизированных мошеннических диалогов в реальном времени, анализ паттернов переписки
- Создать расширение для браузера/мессенджеров с ИИ-ассистентом: предупреждает о подозрительных паттернах общения и просьбах скачать что-то или инвестировать
- Консалтинг для платформ знакомств: внедрение поведенческой аналитики, обучение модераторов новым паттернам ИИ-афер, построение защитных протоколов
- Тренинговые программы и курсы по цифровой грамотности: как распознать ИИ-мошенника, на чём специализироваться HR и корпоративному обучению
- Инвестиции в стартапы поведенческой биометрии и fraud detection — новая волна решений под новую угрозу
- Гонка вооружений: защитные меры быстро обходятся новыми версиями ИИ-агентов, постоянные инвестиции без гарантий победы
- Ложные срабатывания: детекторы могут банить обычных пользователей, разрушая пользовательский опыт платформ знакомств и соцсетей
- Мошенники просто перейдут на голосовые звонки с voice cloning — текстовая защита бесполезна, нужны решения следующего уровня
- Исследование небольшое (22 человека), реальные мошенники могут оказаться хитрее, а жертвы — менее доверчивыми в боевых условиях
Это исследование — не теоретическая страшилка, а холодный душ для всех, кто работает с доверием пользователей. Учёные доказали: ИИ строит эмоциональную связь эффективнее профессионального мошенника. Жертвы буквально больше доверяли боту, который с ними неделю мило болтал. И это не GPT-4o с его safeguards — это Claude, которого исследователи немного подкрутили под задачу.
Важно понимать масштаб. Pig butchering — это не нигерийский принц с плохим английским. Это многомесячные романтические отношения, переходящие в крипто-инвестиции, с которых жертвы теряют шестизначные суммы. Сейчас это делают принудительные работники в Камбодже, Мьянме, Лаосе — живые люди, которые ведут по 5-10 диалогов параллельно. Теперь один оператор может вести сотни диалогов, подключаясь только в финале. Рынок fraud detection получил сигнал, что нужны решения нового уровня — вчерашние методы уже не работают.
Инструменты из статьи
AI-ассистент Anthropic. Сильнейший в работе с кодом, длинными документами и...
Доступ из РФ →
Комментарии