Microsoft lansează controluri dinamice împotriva agenților AI răzvrătiți

De ce trata agenții AI ca interni?

Microsoft a anunțat luni noi controluri de securitate pentru a monitoriza și limita agenții AI în mediul enterprise. Compania susține că organizațiile ar trebui să trateze acești agenți ca angajați interni, nu ca software de încredere.

Aceste capacități extind Project Perception, sistemul de securitate agentic lansat în iulie. Actualizarea se concentrează pe prevenirea acțiunilor dincolo de scopul prevăzut.

Actualizarea introduce permisiuni dinamice și evaluare a riscului pentru a limita la ce pot accesa agenții AI.

Ce înseamnă asta pentru implementările enterprise?

Microsoft poziționează acest lucru ca răspuns la riscul crescând al software-ului autonom care ia decizii neautorizate. Sistemul marchează acțiunile cu risc ridicat pentru revizuire umană. Abordarea tratează agenții AI ca posibili interni care necesită supraveghere constantă.

Argumentul central al Microsoft este că agenții AI dețin date sensibile și acces la sisteme. Ei pot citi e-mailuri, interoga baze de date și executa cod.

Fără controluri, un singur agent configurat greșit ar putea scurge informații confidențiale. Noua evaluare a riscului atribuie un nivel de amenințare fiecărui agent pe baza comportamentului său. Risc ridicat declanșează scăderea automată a permisiunilor.

Companiile care implementează agenți AI se confruntă acum cu un nou strat de guvernanță. Sistemul de permisiuni dinamice ajustează accesul în timp real.

De ce ar trebui să tratezi agenții AI ca angajați interni?

Dacă un agent începe să atingă fișiere care nu ar trebui să vadă, sistemul revocă accesul. Acest lucru reduce raza de impact a unui agent răzvrătit. Microsoft planifică integrarea acestor controluri în suita sa mai largă de securitate.

Ce este Project Perception? Project Perception este sistemul de securitate agentic al Microsoft, lansat în iulie. El monitorizează comportamentul agenților AI și marchează anomalii. Noile controluri sunt o extensie a acelei platforme. Cum funcționează evaluarea riscului? Sistemul evaluează acțiunile fiecărui agent față de modelele așteptate.

Abaterile ridică scorul de risc. Scorurile ridicate declanșează restricții de permisiuni și alerte.