инструменты 1 мин

AWS упростила сборку AI-агентов: Bedrock AgentCore + SageMaker теперь работают вместе

AWS связала Amazon Bedrock AgentCore и SageMaker AI через единую среду выполнения, позволяя комбинировать готовые модели с кастомными в одном агентном workflow. Разработчики теперь могут одновременно использовать Claude от Bedrock и свои тюнингованные модели на SageMaker (например, Qwen 3.5 9B) без переписывания кода. Это решает проблему mix-and-match моделей в продакшене с контролем затрат и локализацией данных.

Если строите продакшен-агентов на AWS, это снимает головную боль mix-and-match моделей и даёт конкретный способ оптимизировать затраты на инференс без потери качества.

Что произошло

AWS анонсировала связку Bedrock AgentCore Runtime и SageMaker AI с поддержкой OpenAI-совместимого API. Теперь можно строить мультиагентные системы, где каждый агент использует оптимальную для задачи модель: дорогие Claude/GPT для сложной логики и дешевые кастомные модели на SageMaker для узких задач.

В примере показан рабочий пайплайн из трёх агентов: оркестратор на Claude Haiku 4.5 маршрутизирует запросы, бюджетный агент на Claude Sonnet 4.6 делает финансовые расчёты, а аналитик на Qwen 3.5 9B (развёрнут на SageMaker ml.g6e.2xlarge через vLLM) анализирует акции. Все три работают в одной среде Bedrock AgentCore.

Ключевое решение — авто-обновление bearer-токенов для SageMaker через httpx.Auth, потому что токены живут недолго, а агенты работают часами. Используется паттерн agents-as-tools из Strands Agents, где каждый специализированный агент вызывается как функция.

AWS даёт полный код в GitHub-репозитории, включая ноутбуки для деплоя через bedrock-agentcore-starter-toolkit. Работает с Python 3.12+, требует доступ к Bedrock моделям и права sagemaker:InvokeEndpoint.

Автор: Никита Громов · Источник: aws.amazon.com

Разработчикам. Готовый шаблон для микса Bedrock и SageMaker в агентах: OpenAI-совместимые эндпоинты SageMaker + авто-ротация токенов через httpx.Auth + интеграция с Strands Agents. Можно запускать локальные fine-tuned модели рядом с Claude без переписывания логики оркестрации.

Бизнесу. Снижение затрат на инференс за счёт использования дешёвых моделей на SageMaker для рутинных задач, оставляя топовые модели Bedrock только для сложной логики. Плюс контроль резидентности данных и независимость от одного вендора моделей.

Инвесторам. AWS укрепляет позиции в корпоративном AI-стеке, решая болевую точку гибридных деплоев. Рынок enterprise-агентов растёт, а возможность миксовать модели без vendor lock-in усиливает конкурентную позицию против Google Vertex и Azure AI.

Хайп35
Реальная польза68
Заработать72
  • Сервис оптимизации затрат на инференс: анализатор workflow, который автоматом предлагает, какие агенты пересадить на дешёвые SageMaker-модели вместо Bedrock
  • Маркетплейс готовых агентов под специфические задачи (юридический анализ, финансы, code review) с предобученными моделями на SageMaker
  • Консалтинг по миграции существующих LangChain/CrewAI систем на гибридную Bedrock + SageMaker архитектуру с экономией 40-60% на моделях
  • Платформа для A/B-тестирования моделей в агентах: запускать параллельно Claude и свои модели, мерить качество и cost per task
  • Инструмент для auto-scaling SageMaker эндпоинтов под нагрузку агентов с предсказанием пиков через анализ Bedrock метрик
  • Vendor lock-in усиливается: выход из AWS-экосистемы становится сложнее при глубокой связке Bedrock + SageMaker
  • Добавляется сложность инфраструктуры: управление токенами, версионность моделей, мониторинг двух платформ одновременно
  • Непонятная экономика при масштабе: если агентов десятки, overhead на оркестрацию и межсервисные вызовы может съесть выгоду от дешёвых моделей
  • Зависимость от доступности моделей по регионам: Claude в Bedrock есть не везде, а SageMaker требует резидентности данных

Это типичный AWS-ход: не изобретать велосипед, а убрать трение между своими же сервисами. Проблема реальная — в продакшене хочется часть задач отдать дешевым моделям, но интегрировать Bedrock и SageMaker было болью. Теперь AWS даёт готовый шаблон с автообновлением токенов и примерами. Код рабочий, документация есть, но это работает только внутри AWS.

Честно говоря, это скорее признак зрелости рынка агентов, чем прорыв. Все уже поняли, что одна модель на всё — слишком дорого или слишком тупо. Гибридный подход (топовые модели для мозга, дешевые для рутины) становится стандартом. AWS просто сделала его удобным в своей экосистеме. Если ты в AWS — бери и используй, экономия на инференсе будет ощутимой. Если выбираешь платформу — это плюс в копилку AWS, но помни про lock-in.

Ещё по теме

Комментарии