Anthropic și OpenAI se ceartă pe cine ar trebui să oprească modelele AI riscante

Care este responsabilitatea de a opri modelele AI?

Într-o dispută care atrage atenția industriei, două dintre cele mai mari laboratoare de inteligență artificială, Anthropic și OpenAI, se ceartă pe cine ar trebui să aibă puterea de a suspenda modelele avansate care prezintă riscuri serioase. Anthropic propune ca instanțele de judecată să poată suspenda un sistem periculos, în timp ce OpenAI susține că responsabilitatea trebuie să fie în mâinile dezvoltatorilor, care trebuie să implementeze și să utilizeze comutatoare de oprire eficiente.

Ambele companii sunt de acord că este nevoie de supraveghere mai strictă, dar drumurile pe care le propun diferă radical.

Propunerea Anthropic ar da puterea instanțelor de a suspenda modele atunci când riscurile devin critice. Compania susține că o autoritate juridică independentă este necesară pentru a preveni ca dezvoltatorii să fie prea apropiați de tehnologia pe care o au creat. OpenAI răspunde că dezvoltatorii sunt cei mai bine poziționați pentru a înțelege propriile sisteme și ar trebui să fie legal obligați să mențină comutatoare de oprire fiabile și să le folosească atunci când este necesar.

Judecători sau dezvoltatori? Cine ar trebui să aibă comutatorul de oprire?

Discuția reflectă o întrebare mai largă despre încrederea în industria AI.

Dacă dezvoltatorii controlează procesul de oprire, criticii se tem de conflictele de interese. Dacă judecătorii controlează, există îngrijorări legate de întârzierile legale în timpul unei crize. Ambele abordări vizează prevenirea eșecurilor catastrofale, dar pun povara pe părți diferite.

Dacă niciunul dintre mecanisme nu este adoptat, modelele riscante ar putea continua să funcționeze fără un drum clar spre suspendare. Aceasta creează o lacună în supraveghere care ar putea permite ca capacitățile periculoase să persiste. Părțile interesate din industrie urmăresc îndeaproape care propunere va câștiga sprijinul reglementărilor. Rezultatul va modela modul în care incidentele AI viitoare vor fi gestionate.

Ce se întâmplă dacă nimeni nu trage cablul de oprire?

De ce se ceartă Anthropic și OpenAI?

Diferența constă în cine ar trebui să aibă autoritatea de a opri un model riscant. Anthropic favorizează puterea judiciară externă, în timp ce OpenAI preferă responsabilitatea internă a dezvoltatorilor.

Ce este un „sistem AI de frontieră”?

Cine ar trebui să aibă puterea de a opri un model AI periculos?

Un sistem AI de frontieră este un model de ultimă generație cu capacități care împing limitele a ceea ce poate face AI. Aceste sisteme prezintă un risc mai mare din cauza puterii și complexității lor.

Care propunere este mai probabilă să fie adoptată?

Depinde de tendințele reglementărilor. Autoritatea judiciară ar se alinia cu modelele de supraveghere externe, în timp ce controalele dezvoltatorilor ar se alinia cu autorreglementarea industriei. Nicio propunere nu a fost adoptată formal încă.