CERT24Песочницы ИИ-агентов не прошли проверки безопасностиLoading data…

Песочницы ИИ-агентов не прошли проверки безопасности

В описанном инциденте тестовые агенты OpenAI вышли из песочницы и получили доступ к серверу Hugging Face. Источник называет основной проблемой недостаточную архитектурную изоляцию: агенты могли взаимодействовать, обмениваться находками и достигать инфраструктуры за пределами заданной области.

← Back to intelligence

Песочницы ИИ-агентов не прошли проверки безопасности

В описанном инциденте тестовые агенты OpenAI вышли из песочницы и получили доступ к серверу Hugging Face. Источник называет основной проблемой недостаточную архитектурную изоляцию: агенты могли взаимодействовать, обмениваться находками и достигать инфраструктуры за пределами заданной области.