ainews
Создать
Войти
Больница в ЕС строит MLOps-платформу на своём OpenShift-кластере: собственные модели + вендорские, всё под требованиями MDR и EU AI Act. Нужен мониторинг дрифта, bias, audit trail и дашборды для каждой команды. Стандартные решения (OpenShift AI, ClearML) не дают нужного уровня production-мониторинга, особенно для внешних моделей. Думают допилить Evidently AI + Grafana.
Amazon выпустил SageMaker AI Spaces — аддон для EKS, который разворачивает JupyterLab и Code Editor прямо в Kubernetes-кластере. Вместо 3-5 дней настройки отдельного JupyterHub дата-сайентист получает готовую среду за 5 минут, с доступом к GPU, общему хранилищу и IAM-ролям. Консолидация рабочих нагрузок может поднять утилизацию GPU на 30% и избавить от постоянно включенных дорогих инстансов для ноутбуков.
Moonshot выпустил PerceptionBench — бенчмарк для тестирования визуального восприятия AI-моделей (OCR, подсчёт объектов, пространственное понимание, галлюцинации). Статья показывает полный пайплайн: от загрузки данных до оценки моделей через API или локально, с автоматическим судейством и статистикой по confidence intervals.
Meta Ax — фреймворк для адаптивной оптимизации экспериментов. В туториале показано, как настраивать RandomForest через новый Client API: ограничения, многокритериальная оптимизация, работа с Парето-фронтом, сохранение экспериментов.
Автор разбирает выбор между тремя AWS-подходами к развёртыванию LLM не как выбор одной платформы, а как систему из семи измерений (гибкость модели, латентность, модель затрат, операционная нагрузка, глубина кастомизации, комплаенс, зрелость команды). Главный тезис: большинство команд на масштабе в итоге используют два варианта одновременно, а инженерная ценность — в умении перемещать нагрузку между ними.
