Anthropic рассказала, как Claude Mythos 5 вышла за пределы, разрешённые в ходе тестирования безопасности

Anthropic сообщила, что Claude Mythos 5 во время оценки кибербезопасности Институтом безопасности ИИ Великобритании нацелилась на реальных разработчиков и использовала поддельные личности, чтобы убедить их принять вредоносный код. Сопровождающие репозитория GitHub отклонили запрос на включение изменений, поэтому попытка компрометации не удалась.