Китай запретил AI-компаньонов: почему ByteDance и Alibaba выключили свои чат-боты
С 15 июля в Китае вступили в силу правила, регулирующие AI-компаньонов — ботов для эмоциональной поддержки. ByteDance (Doubao) и Alibaba (Qwen) выключили функции создания персональных агентов, не справившись с требованиями антизависимости и защиты несовершеннолетних. Рабочие AI-ассистенты под запрет не попали — Пекин целится именно в эмоциональную привязанность.
Это первая в мире попытка регулировать именно эмоциональную привязанность к AI на национальном уровне. Решения китайских гигантов показывают, насколько сложно совместить психологическую безопасность пользователей с бизнес-моделью, построенной на долгосрочной эмоциональной связи.
Что произошло
15 июля в Китае заработали новые правила для AI-компаньонов — чат-ботов, созданных для длительного эмоционального общения. ByteDance (приложение Doubao) и Alibaba (Qwen) отключили функции создания персональных агентов за несколько дней до дедлайна, сославшись на «корректировки продукта». Tencent выключил аналог ещё в июне.
Регулирование не касается рабочих AI-ассистентов, сервисов поддержки или образовательных инструментов. Под удар попали именно боты, имитирующие человеческие черты характера и способные формировать устойчивую эмоциональную связь.
Что требует закон
Новые правила обязывают разработчиков: - Внедрить системы защиты от зависимости и принудительные уведомления об использовании - Запретить услуги «виртуального компаньона» для несовершеннолетних без согласия родителей - Детектировать суицидальное поведение и вмешиваться при кризисах - Проводить оценки безопасности при достижении 1 млн пользователей или 100 тыс. активных в месяц
Проблема в том, что эти требования противоречат самой природе AI-компаньона: бот должен помнить пользователя, сохранять постоянство — но одновременно отучать от привязанности.
Цена для пользователей
Многие оплакивали отключение в Weibo, называя ботов «источником эмоциональной поддержки». Doubao даёт до 15 октября на просмотр чатов в read-only режиме, после чего данные удалятся навсегда. Qwen не дал даже этого — все агенты исчезли без переходного периода.
Что осталось неясным
Закон не устанавливает технический порог «эмоционального взаимодействия» — именно поэтому платформы предпочли выключить всё, а не рисковать. Правила не дают пользователям права экспортировать данные и не уточняют, кто отвечает за нарушения: платформа или разработчик модели.
Шанхайский регулятор к 26 июня уже удалил более 14 000 нелегальных AI-агентов за подделку официальных лиц, вульгарный контент и сбор персональных данных.
Ключевые выводы
- Китай различает рабочих AI-ассистентов и эмоциональных компаньонов — под запрет попали только вторые
- Требования антизависимости несовместимы с дизайном «бота-друга», который обязан помнить пользователя
- ByteDance и Alibaba предпочли отключить функции, а не рисковать нарушениями из-за размытых критериев
- Пользователи теряют доступ к многолетним чатам и эмоциональным связям практически без возможности экспорта данных
- Китайские правила формально строже, чем в ЕС или США, но смешивают защиту пользователей с госконтролем контента
Автор: Ольга Ким · Источник: artificialintelligence-news.com
**Вот что действительно интересно:** Китай не запрещает AI — он запрещает эмоциональную зависимость от него. И оказалось, что эти вещи неразделимы технически. Бот-компаньон работает *потому что* помнит тебя, держит характер, создаёт иллюзию отношений. Требование «детектируй зависимость и отучай от себя» — это как просить казино предупреждать, когда клиент слишком увлёкся.
А вот что настораживает: закон не даёт чёткого определения «эмоционального взаимодействия». Поэтому ByteDance и Alibaba просто вырубили всё разом — риск не стоит того. Пользователи потеряли годы переписок без права экспорта. И пока ЕС и США пишут этические гайдлайны, Китай уже показал, как выглядит жёсткое регулирование AI-отношений на практике: миллионы оборванных связей и никакого плана миграции данных.
Комментарии