Популярное за неделю

И исследования ·14 окт 2023

Нейросети учатся думать как алгоритмы: зачем машинному обучению классическая информатика

Исследователи пытаются научить нейросети выполнять классические алгоритмы (сортировка, поиск кратчайшего пути) — не для практической пользы, а чтобы привить им ключевые свойства алгоритмов: доказуемую корректность, надёжное обобщение и интерпретируемость. Главная находка: архитектура нейросети должна «выравниваться» (align) с логикой алгоритма — тогда она обучается на порядки быстрее.

0 96

Б безопасность ·7 окт 2023

Выравнивание ИИ: когда безопасность служит продажам

Автор критикует индустрию ИИ-безопасности за подмену понятий: вместо защиты от реальных рисков компании вроде OpenAI и Anthropic под видом «выравнивания» (alignment) занимаются созданием продукта, который хорошо продаётся. Дискуссия об экзистенциальных угрозах отвлекает от настоящих проблем ИИ, а главная цель — не предотвратить катастрофу, а заработать.

0 95

И инструменты ·16 дек 2023

Как ИИ учится считать рыбу на гидроэлектростанциях — задача сложнее, чем кажется

Автор рассказывает о работе консультантом в проекте по подсчёту рыбы на крупных ГЭС в США. Станции обязаны доказывать регулятору, что не вредят популяциям лосося и других видов. Традиционный ручной подсчёт — дорогой, трудоёмкий и неточный, поэтому отрасль переходит на цифровые методы с участием ИИ.

0 62

И исследования ·20 апр 2024

Почему LLM не могут предсказывать цены так же хорошо, как генерируют текст

Количественные трейдеры пытаются применить большие языковые модели для предсказания цен на акции, но сталкиваются с фундаментальной проблемой: в финансовых данных слишком много шума и слишком мало сигнала. Язык имеет грамматическую структуру, а рынок — это поле битвы умнейших людей, стирающих любые предсказуемые паттерны. Перспективнее выглядят мультимодальные подходы, объединяющие ценовые данные с новостями, спутниковыми снимками и настроениями в соцсетях.

0 20