модели 1 мин

Открытые веса уже достаточно хороши. Проблема — в том, что идёт после

Открытые LLM-модели догнали коммерческие по большинству корпоративных задач, работая в 6–100 раз дешевле. Основной вопрос теперь не «какая модель лучше», а как грамотно провести границу между открытыми и закрытыми решениями и управлять рисками при их эксплуатации.

Корпоративным AI-стратегам и техлидам, отвечающим за выбор моделей: статья даёт практический фреймворк для снижения затрат на инференс без потери качества и с учётом безопасности. Показывает реальный сдвиг рынка на основе production-данных, а не бенчмарков.

Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.

О чём статья

  • На OpenRouter доля токенов от US-моделей (OpenAI, Anthropic, Google) упала с ~70% до ~30% за год, китайские открытые модели выросли до 30–46%
  • Открытые модели отстают от закрытых на 4–7 месяцев в сложных задачах, но на рутинных (извлечение, суммаризация, код) разрыв закрылся
  • Ценовая разница достигает 100× (DeepSeek V4 Flash ~$0.14/$0.28 за млн токенов vs. премиум-модели $5/$25), что критично для агентных сценариев
  • Автор предлагает маршрутизировать запросы по принципу «самая дешёвая модель, проходящая порог качества», учитывая чувствительность данных и тип задачи
Ксения Лаврова Medium #llm
Читать оригинал

Инструменты из статьи

Открытая языковая модель класса 3T параметров от Moonshot AI, представляющая...

Доступ из РФ →

Ещё по теме

Комментарии