CERT24Исследователи захватили аккаунт Hugging Face популярной ИИ-модели KokoroLoading data…

Исследователи захватили аккаунт Hugging Face популярной ИИ-модели Kokoro

Отсутствие проверки права владения на платформе Hugging Face позволило исследователям получить контроль над аккаунтом модели Kokoro для преобразования текста в речь. В ходе контролируемого теста они изменили веса модели, из-за чего она создавала аудио, отличавшееся от исходного текста. Изменённые веса не загружались на Hugging Face.

← Back to intelligence

Исследователи захватили аккаунт Hugging Face популярной ИИ-модели Kokoro

Отсутствие проверки права владения на платформе Hugging Face позволило исследователям получить контроль над аккаунтом модели Kokoro для преобразования текста в речь. В ходе контролируемого теста они изменили веса модели, из-за чего она создавала аудио, отличавшееся от исходного текста. Изменённые веса не загружались на Hugging Face.