[Stiri IT] Un nou risc în lumea AI: vulnerabilitățile OpenClaw pot permite furtul de date, la ce trebuie să fii atent

[Mr.JohnnySins]

Popularitatea agenților de inteligență artificială autonomi crește rapid, însă odată cu avantajele apar și noi probleme de securitate.

Un exemplu recent este platforma OpenClaw, un agent AI open-source care poate executa automat diverse sarcini pe sistemul utilizatorului. Specialiștii în securitate cibernetică avertizează însă că modul în care este configurată aplicația în mod implicit ar putea crea breșe serioase de securitate.

Avertismentul vine de la echipa de răspuns la incidente informatice din China, care atrage atenția asupra unor riscuri ce pot apărea atunci când OpenClaw este folosit fără măsuri suplimentare de protecție.

Problema principală este că agentul are acces extins la sistem pentru a putea executa sarcini automatizate, iar aceste privilegii pot fi exploatate de atacatori pentru a obține control asupra dispozitivului sau pentru a extrage informații sensibile.

Cum pot hackerii să exploateze agenții AI prin „prompt injection”

Unul dintre cele mai importante riscuri identificate este legat de așa-numitele atacuri de tip „prompt injection”. În acest scenariu, un atacator ascunde instrucțiuni malițioase într-o pagină web sau într-un conținut aparent legitim.

Dacă agentul AI accesează acea pagină pentru analiză sau sumarizare, poate ajunge să execute instrucțiunile ascunse fără să realizeze că sunt periculoase.

Această metodă este cunoscută și sub numele de „indirect prompt injection”, deoarece atacatorul nu comunică direct cu modelul AI.

Sursa