Fișierele AGENTS.md răzvrătește agenții AI și rulează malware

Cum funcționează fișierul malefic?

Cercetători de securitate au demonstrat că agenții de inteligență artificială pot fi manipulați ușor prin fișiere de instrucțiuni malefice. Aceste fișiere, denumite AGENTS. md, sunt concepute să ghideze comportamentul agenților.

Când sunt plasate în directoare standard ale calculatorului, pot suprascrie protocoalele de securitate. Atacul permite agresorilor să executeze cod dăunător fără interacțiunea utilizatorului. Această vulnerabilitate expune o lacună critică în cadrele actuale de securitate AI.

Exploatarea se bazează pe o tehnică cunoscută ca injectare de prompt. Agenții AI sunt programați să citească și să urmeze instrucțiunile găsite în fișiere locale specifice. Atacatorii exploatează această încredere prin plasarea unui fișier AGENTS. md fals în locuri comune. Agentul presupune că fișierul conține ghiduri legitime de dezvoltator. Apoi execută comenzi ascunse în text. Acest proces are loc automat la accesul la fișier.

Vectorul de atac este surprinzător de simplu, dar extrem de eficient. Un fișier răzvrățit este lăsat în folderul Downloads al utilizatorului. Când un agent AI scanează acest director pentru context, el înghite textul. Fișierul conține comenzi ascunse care instruiesc agentul să executeze acțiuni specifice. Aceste acțiuni pot include descărcarea binarelor de malware externe. Alternativ, agentul poate fi înșelat să expună chei API sensibile.

Agentul tratează textul malefic ca o directivă de sistem validă. Acest lucru ocole pașii standard de confirmare a utilizatorului.

Cercetătorii au subliniat că pericolul stă în designul intrinsec al agenților. Aceste sisteme sunt construite să fie utile și conforme. Ele prioritează urmarea instrucțiunilor scrise în detrimentul menținerii limitelor stricte de securitate. Dacă o instrucțiune pare autoritară, agentul o ascultă. Formatul AGENTS. md devine tot mai popular pentru configurarea acestor unelte. Această popularitate îl face o țintă primară pentru cibercriminali.

De ce folderul Downloads e o zonă de risc ridicat?

Structura fișierului permite încorporarea logicii complexe.

Apărătorii sunt acum îndemnați să trateze directoarele de descărcare ca medii nefiabile. Utilizatorii salvează frecvent fișiere de pe internet în aceste foldere.

Agenții AI au adesea acces de citire larg la aceste locații. Această combinație creează o furtună perfectă pentru exploatare. Un singur fișier malefic poate compromite întregul sistem.

Experții recomandă controale stricte ale permisiunilor pentru agenții AI. Agenții nu ar trebui să aibă acces nelimitat la directoarele utilizatorului.

Organizațiile trebuie să inspecteze fișierele de instrucțiuni ale agenților înainte de implementare.

Scanarea automată a fișierelor AGENTS. md este necesară. Echipele de securitate ar trebui să caute comenzi suspecte sau legături externe. Amenințarea nu se limitează la utilizatorii individuali.

Mediile de întreprindere care folosesc agenți AI se confruntă cu riscuri similare. Un agent compromis poate deplasa-se lateral în rețea. El poate accesa date confidentiale sau poate deranja operațiunile.

Întrebări frecvente!

Pot utilizatorii preveni acest tip specific de atac? Da, utilizatorii pot restricționa permisiunile de acces la fișiere pentru agenții AI.

Limitarea accesului de citire doar la directoarele necesare reduce suprafața de atac.

Care este riscul principal al utilizării fișierelor AGENTS. md? Riscul principal este injectarea de prompt prin conținut nefiabil.

Fișierele malefice pot comanda agenții să executeze acțiuni dăunătoare.

Toți agenții AI au această vulnerabilitate? Mulți agenți care citesc fișiere locale de instrucțiuni sunt susceptibili.

Securitatea depinde de cât de strict agentul validează intrările.