Агент, модель и сервис: как устроены системы ИИ

Что произошло

В мире ИИ часто путают термины «агент», «модель» и «сервис», называя, например, Claude и моделью, и агентом. На самом деле это разные компоненты сложной системы. Агентная система — это многослойная конструкция, где каждый слой выполняет свою функцию.

Детали

Стек современных ИИ-систем состоит из трёх ключевых компонентов:

1. Модель (например, GPT-4 или Claude Opus) — это ядро системы, математическая функция, преобразующая входные токены в выходные. Как отмечает автор:

«Модели — это непостижимые математические объекты, которые мы просто вызываем»

2. Сервис вывода (inference service) — облачная инфраструктура, которая запускает модель «в железе», управляет распределением ресурсов и биллингом. Примеры: API Anthropic, AWS Bedrock.

3. Обвязка (harness) — слой, который:

• Формирует контекст для модели
• Обрабатывает её ответы
• Интегрирует внешние инструменты
• Обеспечивает интерфейс для пользователя

Почему это важно

Понимание этой структуры критично для:

• Диагностики проблем: если ИИ даёт некорректные ответы — возможно, дело в недостаточном контексте от обвязки, а не в самой модели
• Оптимизации затрат: дороговизна может быть связана с выбором сервиса вывода, а не модели
• Разработки: создавая кастомные решения, вы работаете в основном с harness-слоем

Что дальше

С развитием моделей некоторые функции современных обвязок (например, сложный контекстный менеджмент) могут стать менее актуальными — модели научатся лучше справляться сами. Но слоёная архитектура останется, просто баланс ответственности между компонентами сместится.

Для практиков это означает:

1. При выборе ИИ-инструмента смотрите не только на модель, но и на качество обвязки
2. Проблемы производительности чаще решаются на уровне сервиса вывода
3. Кастомизацию поведения удобнее делать через harness-слой, а не пытаться «доучить» модель