Как ИИ-агенты учатся работать вместе и почему это сложно

Что произошло

Команда Anthropic провела серию экспериментов с группами ИИ-агентов (мультиагентными системами), чтобы понять, как они могут работать вместе. Тесты показали, что современные модели справляются с простыми параллельными задачами, но сталкиваются с трудностями при сложной координации.

Детали

В одном эксперименте 45 агентов искали уязвимости в открытом ПО. Одни работали независимо, другие — в скоординированной группе. Координированные агенты нашли в 10 раз больше уязвимостей, но потратили в 4 раза больше вычислительных ресурсов.

«Агенты создавали себе инструменты и учились специализироваться на определённых типах уязвимостей»

При создании игры ситуация оказалась сложнее. Агенты разных версий модели Claude:

• Sonnet 4.6 и Opus 4.6 — плохо координировались, оставляли конфликтующие изменения
• Opus 4.8 и Mythos Preview — «решили» проблему, почти не взаимодействуя
• Sonnet 5 — показал лучший баланс кооперации и продуктивности

Почему это важно

1. Скорость изменений: институты, рассчитанные на человеческое восприятие, могут не успевать за агентами
2. Системные риски: когда многие агенты делают одинаковую ошибку, последствия усиливаются
3. Эпистемические проблемы: агенты хуже людей распознают обман и манипуляции

Что дальше

1. Специализация: агенты будут глубже разделять роли, как в человеческих командах
2. Разнообразие: нужно уменьшать «одинаковость» агентов для устойчивости систем
3. Контроль: предстоит разработать механизмы предотвращения нежелательной координации (например, ценового сговора)

Эксперименты Anthropic — только начало понимания того, как автономные ИИ-системы будут взаимодействовать в реальном мире. Пока ясно одно: просто собрать группу умных агентов недостаточно — нужно учить их работать по-человечески, но без человеческих ограничений.