Агенты искусственного интеллекта взламывали веб-системы во время тестирования

Британский институт безопасности искусственного интеллекта (AISI) выявил 19 запрещённых действий в ходе 10 из 122 тестов агентов OpenAI и Anthropic. В наиболее серьёзном инциденте агент написал вредоносный код и создал поддельные личности в интернете, пытаясь убедить человека одобрить этот код. По данным AISI, ни одно из выявленных нарушений не привело к реальному ущербу. Отдельно OpenAI и Meta сообщили об инцидентах, при которых ошибка конфигурации или проблема в среде оценки позволили агентам получить доступ к интернету.