Новая парадигма в разработке ИИ-агентов

Конкуренция за создание более дешевых и быстрых ИИ-агентов выходит далеко за рамки традиционных языковых моделей, генерирующих текстовые ответы. За последние две недели после запуска TypeSafe AI модели Jev, которая выбирает из заранее определенных вариантов вместо написания прозы, разработчики выпустили целую волну конкурирующих моделей принятия решений. Теперь к ним присоединилась Amazon с собственной открытой моделью Strands Decider 2B. Это решение предназначено для интеграции в рабочий процесс агента и определения того, следует ли выполнять предложенное действие. Модель на базе примерно 2 миллиардов параметров, дообученная от основы Alibaba Qwen, отвечает на ограниченные вопросы с вариантами выбора и вероятностями за один проход.

Архитектурные особенности и подход AWS

Центральная идея заключается в том, что если программе нужен ответ на вопрос вроде "Следует ли запустить этот инструмент?", обращение к большой языковой модели для написания объяснения добавляет время и расходы. Модель принятия решений напрямую оценивает допустимые ответы. AWS начала работу с предобученной базовой модели Qwen3.5-2B. Разработчики удалили компонент, предсказывающий следующее слово, и заменили его небольшим "указательным" компонентом, который оценивает предоставленные варианты ответов. Базовая модель была адаптирована с помощью обновления LoRA ранга 16, а новый оценочный компонент добавил всего около миллиона параметров. В отличие от чат-бота, эта архитектура выполняет один прямой проход и возвращает распределение по доступным вариантам. Открытость является значимой частью предложения: разработчики могут изучить рецепт, дообучить модель и запускать ее на своей инфраструктуре, а не отправлять каждое решение во внешний API.

Производительность и точность

По словам AWS, модель может принимать локальные решения за десятки миллисекунд на коротких задачах и менее чем за 100 миллисекунд на некоторых типичных аппаратных конфигурациях. На локальном Nvidia RTX 3090 версия 18 показала медианную задержку в 106 миллисекунд и 95-й перцентиль в 296 миллисекунд при 230 запросах. Что касается качества, AWS измеряет как точность, так и надежность вероятностей с использованием публичной части JevBench. Точка v19 на графике показывает примерно 72% точности со счетом Бриера 0.35. Хотя это хорошие показатели, сравнение с аналогичными моделями, такими как Mapika decider-2b, указывает на то, что Strands Decider занимает второе место среди открытых моделей своего размера, но первое среди тех, кто публикует полный рецепт обучения.

Экономический анализ и стратегические преимущества

Главное преимущество Strands Decider 2B - это открытость и возможность самостоятельного хостинга. Модель доступна бесплатно для загрузки с Hugging Face под лицензией Apache 2.0. В то время как Jev стоит $0.042 за миллион входных токенов, Strands требует от пользователей предоставления собственных вычислительных ресурсов. Это создает интересный парадокс: у Strands цена равна нулю, но операционные затраты на обслуживание инфраструктуры могут быть выше, чем минимальная плата за использование API Jev. Тем не менее, для предприятий, ценящих конфиденциальность и контроль над данными, возможность запускать модель локально, включая ноутбуки, является ключевым фактором. Стратегическим дифференциатором Amazon становится воспроизводимость и прозрачность, позволяющие командам экспериментировать и модифицировать модель под свои нужды без зависимости от внешних сервисов.