Meta dă vina pe inteligența artificială Claude pentru suspendarea unei coaliții anti-Trump pe Instagram

De ce dau greș sistemele automate de cenzură?

Contul de Instagram al coaliției No Kings a fost șters sâmbătă, 17 octombrie, după ce Meta a identificat drept cauză un instrument legat de tehnologia Claude AI de la Anthropic. Vicepreședintele pentru comunicații al Meta, Andy Stone, a clarificat situația printr-o postare publicată duminică, explicând că instrumentul a declanșat sistemul automat de moderare al platformei.

Coaliția, o grupare care i se opune fostului președinte Donald Trump, a confirmat că pagina sa este offline și și-a exprimat nemulțumirea față de această eliminare bruscă.

Incidentul scoate în evidență tensiunile tot mai mari dintre rețelele de socializare și grupurile de advocacy politic. O evaluare internă efectuată de Meta a arătat că pagina a fost semnalată de sisteme pentru conținut care ar fi încălcat standardele comunității. Stone a explicat că materialul vizat nu a fost verificat manual, ci a fost detectat de un algoritm care analizează activitatea utilizatorilor. Instrumentul, dezvoltat cu ajutorul Claude AI de la Anthropic, ar fi fost folosit pentru a scana postările contului în căutarea unor posibile încălcări ale regulilor.

Când sistemul a descoperit un model care se potrivea cu datele sale de antrenament, a trimis automat o cerere de suspendare către echipa de moderare a Meta.

Sistemele automate ale Meta se bazează pe modele de învățare automată pentru a depista încălcări ale politicilor în miliarde de postări zilnice. În acest caz, instrumentul Claude AI a etichetat conținutul coaliției No Kings ca fiind potențial instigator la ură sau extremist. Postările grupării, care critică politicile lui Trump, au fost considerate drept o depășire a limitelor discursului politic protejat. Decizia luată de soft nu a fost verificată de un moderator uman înainte ca pagina să fie suspendată.

Acest lucru ridică semne de întrebare serioase privind transparența și acuratețea moderării bazate pe inteligență artificială, în special atunci când este vorba despre subiecte politice sensibile.

Cum funcționează de fapt contestațiile pe platformă?

pentru restul organizațiilor politice? Oare și alte grupuri de advocacy riscă să pățească același lucru? Organizațiile politice care folosesc instrumente externe bazate pe inteligență artificială pentru a-și gestiona prezența online pot declanșa din greșeală mecanismele de blocare ale platformelor.

Politica Meta stipulează că orice conținut care încalcă standardele comunității va fi șters, indiferent de orientarea sa politică. Totuși, utilizarea unor aplicații terțe adaugă un nivel suplimentar de complexitate, deoarece rețeaua s-ar putea să nu înțeleagă pe deplin contextul materialului semnalat. Această situație ar putea duce la suspendări sau interdicții mai frecvente pentru grupurile care nu respectă întocmai cerințele tehnice impuse de Meta.

În urma acestei suspendări, coaliția No Kings a cerut o analiză a procedurilor de moderare ale Meta și stabilirea unor reguli mai clare privind utilizarea inteligenței artificiale terțe. La rândul său, gigantul tehnologic a promis că își va reexamina procesele și va oferi explicații mai detaliate utilizatorilor afectați. Întregul incident subliniază nevoia urgentă de echilibru între moderarea automată și supravegherea umană, mai ales când în joc se află libertatea de exprimare politică.

Î1: De ce a folosit Meta un instrument Claude AI pentru moderare? R1: Meta utilizează inteligența artificială pentru a procesa volumul imens de conținut de pe platformele sale. Instrumentul Claude AI a fost folosit pentru a detecta încălcări ale politicilor, însă decizia sa nu a fost verificată manual înainte de aplicarea sancțiunii.

Î2: Are coaliția No Kings dreptul să conteste decizia? R2: Da. Regulile Meta le permit utilizatorilor să ceară o reevaluare a suspendării conturilor. Coaliția poate depune o contestație pentru a-și recupera pagina dacă consideră că blocarea a fost o eroare.

Î3: Va schimba Meta modul în care folosește inteligența artificială? R3: Compania a anunțat că își va revizui procedurile de moderare și va îmbunătăți transparența.

Deși nu a prezentat încă modificări concrete, Meta a recunoscut public că este nevoie de un control uman mai eficient.