Что произошло
Fireworks Research представила Ember-1 — специализированную версию своей флагманской модели Kimi K3. Главное преимущество: она даёт те же качественные ответы, но тратит на 35–50% меньше токенов. Это особенно важно для задач, где большая часть токенов уходит на внутренние «рассуждения» модели, а не на сам ответ.
Детали
- Основа: Ember-1 построена на архитектуре Kimi K3, но прошла дополнительное обучение для оптимизации процесса «мышления»
- Тестирование: модель проверяли на 500 медицинских кейсах (Bedside Bench), задачах по программированию и реальных рабочих нагрузках
- Экономия: в тестах с реальными клиентами модель сократила расход токенов на 39% без ухудшения качества
- Разработка: команда провела более 50 обучающих экспериментов и 200 оценок, чтобы добиться такого результата
«Разработчики продолжили работать как обычно, даже не заметив перехода, но при этом тратили значительно меньше токенов»
Почему это важно
- Экономия: токены — это деньги, особенно при масштабном использовании. Ember-1 может вдвое сократить расходы на сложные задачи
- Производительность: модель особенно хороша для агентных систем и многоэтапных задач, где каждый сохранённый токен умножается на количество шагов
- Качество: несмотря на оптимизацию, модель сохраняет все возможности оригинальной Kimi K3, что подтверждено тестами
Модель научилась различать необходимые и избыточные «рассуждения». Например, в медицинских кейсах она перестала «пережёвывать» очевидные выводы, но сохранила способность к самопроверке.
Что дальше
- Fireworks Research планирует развивать линейку Ember, добавляя новые специализированные модели
- Уже доступна возможность дообучения Ember-1 под конкретные задачи с использованием собственных данных
- Компания продолжает работать над дальнейшей оптимизацией расхода токенов без потери качества
Ember-1 — не «упрощённая» версия, а именно оптимизированная. Она не жертвует качеством ради экономии, а делает то же самое эффективнее.
Источники
- Оригинал: fireworks.ai — © fireworks.ai
