Исследователи предупреждают: защитные ограничения почти всех крупных LLM можно обойти с помощью многоходовой манипуляции

Исследователи Cisco установили, что многоходовые диалоги могут ослаблять защитные ограничения нескольких известных и передовых больших языковых моделей. В исследовании, среди прочих, рассматривались ChatGPT, Claude, Gemini, Nova и Grok.