Anthropic acordă auditorilor acces aproape de cel al angajaților la sistemele sale AI

Ce înseamnă accesul „ca angajat”?

Anthropic, startupul de top în domeniul inteligenței artificiale, a anunțat joi că va oferi unui grup de evaluatori externi acces de tip „angajat” la sistemele sale. Șase auditorii din METR, o firmă de testare terță parte, vor avea intrare completă în mediile interne ale companiei. Decizia vine într-un moment în care laboratoarele AI se confruntă cu o atenție crescândă asupra securității și a problemelor etice.

Compania a explicat că auditorii vor putea examina codul, fluxurile de date și documentația internă ca și cum ar fi angajați.

Scopul este să ofere observatorilor independenți o înțelegere mai profundă a protocoalelor de siguranță ale Anthropic și să identifice riscuri pe care echipele interne le-ar putea trece cu vederea.

Inițiativa urmează unei serii de incidente de securitate de profil în sectorul AI, care au determinat reglementatorii și grupurile din industrie să ceră o supraveghere mai transparentă.

Abordarea Anthropic este notabilă pentru că depășește auditurile externe standard. Prin acordarea aceluiași nivel de acces ca cel al personalului, compania vizează un proces de evaluare mai exhaustiv. Echipa METR va putea revizui modelele proprietare, seturile de date de antrenament și fluxurile de implementare fără restricțiile obișnuite. Această transparență ar trebui să scoată la iveală vulnerabilități ascunse, cum ar fi scurgerile de date sau biasuri nedorite, care ar putea compromite siguranța utilizatorilor sau ar încălca reglementările de confidențialitate.

accesul „ca angajat” pentru siguranța AI? Specialiștii din industrie spun că astfel de accesuri profunde sunt rare. Majoritatea firmelor AI limitează auditorii la rezumate de nivel înalt sau medii sandbox.

Cum oferă Anthropic acces de tip „angajat” la sistemele sale?

Decizia Anthropic semnalează o schimbare spre responsabilitate mai deschisă și reflectă angajamentul companiei de a Poate influența această mișcare standardele de reglementare? Ar putea seta un nou benchmark pentru industrie? Prin demonstrarea faptului că evaluatorii externi pot opera cu privilegii aproape de cele ale angajaților, Anthropic ar putea încuraja alte laboratoare să adopte practici similare.

Dacă reglementatorii observă că astfel de aranjamente îmbunătățesc siguranța, ar putea le considera obligatorii. Inițiativa companiei ar putea, de asemenea, să influențeze dezvoltarea ghidurilor industriei, solicitând definiții mai clare ale ceea ce constituie supraveghere externă adecvată.

Decizia vine într-un moment în care guvernarea AI este subiectul de discuție.

Corporații legislative din mai multe țări redactează proiecte de lege care ar cere audituri independente pentru modelele mari de limbaj. Atitudinea proactivă a Anthropic ar putea ajuta la modelarea limbajului acestor legi, asigurând că cerințele de audit sunt realiste și eficiente.

Care este rolul METR în acest audit? METR este o firmă de testare terță parte care va efectua o revizuire cuprinzătoare a sistemelor Anthropic. Auditorii lor vor avea acces la cod intern, date și documentație pentru a evalua siguranța și conformitatea.

Acest audit va acoperi confidențialitatea datelor utilizatorilor? Da. Auditorii vor examina modul în care datele utilizatorilor sunt gestionate, stocate și protejate, asigurând că standardele de confidențialitate sunt respectate și că pot fi identificate scurgeri potențiale.

Ar putea duce la audituri obligatorii pentru toate laboratoarele AI? Posibil. Dacă reglementatorii constată că auditurile cu acces profund îmbunătățesc siguranța, ar putea impune evaluări similare altor companii, făcându-le o practică standard în industrie.