#провалы AI

Б безопасность ·16 авг 2026

Anthropic год работала без фильтров биооружия: 133 миллиона запросов в зоне риска

Anthropic случайно отключила защиту от биологических угроз почти на год (май 2025 – апрель 2026). 50 тысяч внешних подрядчиков отправили 133 млн запросов без проверки на опасный контент. Следов реального злоупотребления не нашли, но провал серьёзный — особенно на фоне громких заявлений CEO о рисках биооружия.

0 87

Б бизнес ·10 авг 2026

Kinney Drugs отключила AI-ассистента после сотен жалоб: неверные дозы и пропущенные рецепты

Американская аптечная сеть Kinney Drugs свернула AI-помощника Burt после жалоб на некорректные звонки, ошибки в дозировках и пропущенные уведомления о рецептах. Компания вернулась к классической тоновой системе для входящих звонков, оставив AI только для исходящих SMS с согласия клиентов. Президент компании признал провал пользовательского опыта, но настаивает на соблюдении HIPAA.

0 84