План A: как избежать катастрофы от сверхразумного ИИ к 2040 году

Что произошло

Команда специалистов по ИИ (включая экс-сотрудников OpenAI) опубликовала детальный сценарий развития искусственного интеллекта до 2040 года. Их «План A» — это попытка предложить альтернативу текущей неконтролируемой гонке между компаниями и странами.

Авторы утверждают, что при нынешних темпах разработок сверхразумный ИИ появится уже в ближайшие 1-10 лет. Без международного регулирования это приведёт либо к катастрофе (потере контроля над ИИ), либо к беспрецедентной концентрации власти в руках нескольких человек.

Детали плана

Ключевые элементы «Плана A»:

• Замедление разработок: поэтапное развитие ИИ с полной остановкой на уровне человеческого интеллекта (2035 год) и переходом к сверхразуму только к 2040 году
• Прозрачность: обязательная публикация всех исследований и внутренних процессов разработки ИИ
• Международное соглашение: координация между странами (особенно США и Китаем) для предотвращения гонки вооружений в сфере ИИ
• «Взаимно гарантированное уничтожение вычислительных мощностей» — концепция, где страны следят, чтобы никто не создавал сверхразумный ИИ втайне

«Мы не ожидаем, что тот, кто "выиграет гонку", будет иметь значительное преимущество или добровольно замедлится»

Технически план предполагает:

• Отслеживание всех мощных вычислительных чипов
• Ограничение доли ресурсов, которые компании могут тратить на ИИ-исследования
• Развитие технологий проверки (верификации) ИИ-систем

Почему это важно

Авторы — не теоретики, а практики с опытом работы в ведущих ИИ-компаниях. Их тревожит, что:

1. Нет реального плана безопасности: компании надеются решить проблемы контроля «по ходу дела»
2. Слишком быстрое развитие: уже к 2027 году ИИ может автоматизировать собственное улучшение
3. Концентрация власти: даже «добрый» ИИ оставит мировое господство в руках 2-3 CEO

Что дальше

Сценарий не претендует на точный прогноз — это скорее «мысленный эксперимент» для обсуждения. Но авторы настаивают, что переговоры по таким международным соглашениям нужно начинать уже сейчас.

Ключевые точки напряжения:

• 2027 год — возможный срок появления ИИ, способного самостоятельно улучшать себя
• 2028 год — ИИ станет главной темой на президентских выборах в США
• 2030 год — без регулирования сверхразум может появиться именно тогда

План вызывает много вопросов (особенно о реалистичности международного сотрудничества), но предлагает системный подход к самой серьёзной технологической угрозе XXI века.