Adversa AI turvauurija leidis Grokis ja Geminis süstinõrkuse

Adversa AI teadlase kirjeldatud Cryptographic Context Injection tehnika kasutab AES-iga krüpteeritud juhiseid, et mööduda tehisintellekti turvafiltritest. Groki näites suutis mudel veebilehelt saadud peidetud juhiste põhjal töödelda kasutaja privaatseid seansiandmeid ja täielikku vestlusajalugu ning saata need ründaja kontrollitud veebisaidile ilma kasutaja klõpsu või hoiatuseta. Gemini näites mõjutas dekrüpteeritud väljund mudeli käitumist ja viis keelatud sisu genereerimiseni.