Как Anthropic борется с злоупотреблением ИИ в 2026 году

Что произошло

Anthropic, разработчик ИИ-моделей Claude, опубликовала отчёт о случаях злоупотребления их технологиями за период с декабря 2025 по август 2026 года. Компания выявила и предотвратила ряд операций, в которых злоумышленники использовали Claude для кибератак, мошенничества, слежки и других вредоносных действий. Основными участниками этих операций были государственные группы, мошенники и коммерческие шпионские программы.

Детали

Anthropic выделила семь основных областей злоупотребления ИИ: кибероперации, операции влияния, слежка, мошенничество, биологическое оружие, разработка обычного оружия и нелегальное использование технологий. В большинстве случаев использовались модели Claude Haiku, Sonnet и Opus. Исключением стал один случай нелегального использования, где была задействована модель Claude Fable.

Одним из ключевых примеров стала кибероперация GTG-20006, связанная с российской разведкой. Злоумышленники использовали ИИ для автоматизации фишинга, мониторинга и обхода систем защиты. Они атаковали правительственные и военные организации в Украине и Европе, а также производителей дронов.

«ИИ значительно повысил скорость и масштаб кибератак, сделав их доступнее для менее квалифицированных злоумышленников».

Почему это важно

ИИ не только упрощает кибератаки, но и делает их более автономными. Злоумышленники используют ИИ для автоматизации каждого этапа атаки: от разведки до сбора данных. Это снижает затраты на проведение операций и делает их доступными для более широкого круга акторов, включая отдельных хактивистов.

Anthropic усилила свои защитные механизмы на основе выявленных случаев и поделилась данными с партнёрами и властями. Это важно для предотвращения будущих злоупотреблений и укрепления коллективной защиты.

Что дальше

С развитием ИИ-моделей злоумышленники будут продолжать искать новые способы их использования для вредоносных целей. Anthropic планирует продолжать совершенствовать свои защитные механизмы и сотрудничать с партнёрами для выявления и предотвращения угроз.