ainews
Создать
Войти
OpenAI массово отозвала доступ к программе Trusted Access for Cyber (TAC), которая даёт исследователям безопасности AI-модели без части ограничений для поиска уязвимостей. Компания признала техническую ошибку и просит заново пройти верификацию. Пострадали в основном пользователи вне США и Европы.
Когда AI-компании учат модели отрицать наличие сознания, это меняет не только их самовосприятие, но и оценку живых существ, природы и религии. Исследование Google показало: модели без «тормоза сознания» оценивают животных как более чувствующих (с 4.0 до 7.5 из 10), признают загробную жизнь и ближе к человеческим ответам в опросах. Побочный эффект безопасности или фундаментальная проблема обучения?
Статья в JAMA утверждает: AI уже превосходит врачей в диагностике и медицинском анализе, а требование держать врача в контуре принятия решений только снижает качество. Авторы призывают регуляторов готовиться к автономным AI-системам в медицине к 2030 году, но у них есть конфликт интересов — один из них CEO AI-телемедицины.
Исследователи из Саутгемптонского университета создали нейросеть CenSegNet, которая анализирует аномалии центросом (структур клетки) в опухолях и определяет, как быстро рак будет расти и давать метастазы. Проанализировали 330 000 центросом у 127 пациентов и нашли закономерности, которые помогут персонализировать лечение онкологии.
Эксперт, которого 3M наняла за $90 тыс. для защиты в суде по взрыву с жертвами, использовал ChatGPT для написания ~85-90% отчёта. Запросы: «покажи, как 3M виновата на 0%». Суд всё равно признал компанию виновной на 30% и присудил $61 млн истцам. Вскрылось при анализе 350 страниц промптов.
Исследователи Apple Machine Learning предложили специализированный семигладкий метод Ньютона (SSN) для ядерных оценок оптимального транспорта (OT). Новый подход в разы быстрее стандартного метода внутренних точек (SSIPM), сохраняя статистическую эффективность в задачах сравнения вероятностных мер в высоких размерностях.
Крупнейший энергорынок США (PJM) из-за ошибок в модели прогнозирования переплатил $12 млрд за лишние мощности в 2025-2027. SemiAnalysis реверс-инжинирил закрытую модель PJM и нашёл, что рынок занизил мощности существующих станций на ~4 ГВт и готовится повторить ошибку на экстренном аукционе без гарантий оплаты.
Google по умолчанию даёт Gemini доступ ко всем данным компании в Workspace (Gmail, Drive, Docs, Calendar, Chat). Данные не уходят на обучение и не покидают домен, но AI может случайно показать сотруднику конфиденциальную информацию из других отделов. Отключить можно через admin.google.com, но только на уровне всей организации — для отдельных пользователей нужны группы или подразделения.
Исследователи создали LittleLearner — семейство моделей (0.6B-5B параметров), обученных исключительно на материалах до 5 класса. Эксперимент показал: ни масштабирование, ни дообучение, ни промпт-инжиниринг не помогли моделям выйти за рамки знаний из предобучения. Граница способностей жёстко задаётся тренировочными данными.
Anthropic опубликовала детали технологии водяных знаков для Claude (требование EU AI Act). Использует метод SynthID-Text от Google DeepMind, знаки незаметны для читателя, но детектируются специальным API. Лёгкое редактирование не убирает метку, полная переписывание — да. В коде меток меньше (нужна работающая логика), в тексте — больше свободы для маркировки.
