Cum au citat motoarele de căutare AI o idee complet fabricată

Cum au creat cercetătorii conținutul fabricat?

Un studiu recent a arătat că unele dintre cele mai populare instrumente de căutare AI — inclusiv ChatGPT, Perplexity, Grok și Google AI — au început să citească o idee total inventată în doar o săptămână de la apariția ei. Cercetarea, condusă de specialiști de la Universitatea Fudan, arată cu claritate cât de rapid poate se răspândești dezinformarea prin intermediul rezultatelor de căutare generate de AI.

Echipa de cercetători a publicat conținut fabricat pe nouă platforme online pe care aceste instrumente le folosesc frecvent ca surse. Apoi au monitorizat În fiecare caz, în mai puțin de șapte zile, toate instrumentele AI au integrat concepșul fals în rezultatele lor de căutare, demonstrând un model clar de assimilare rapidă a materialului neverificat.

Studioul a analizat și două alte subiecte, folosind o metodă diferită: o întrebare de opinie pe care existau date reale.

În aceste cazuri, rezultatele au fost mult mai precise, sugerând că problema apare mai ales când este vorba de fapte fabricate, nu de dezinformare în general.

De ce au citat tão rapid instrumentele AI concepșul fals?

Motoarele de căutare AI se bazează pe seturi massive de date extrase din web. Când apare conținut nou, algoritmii-l indexă aproape imediat, mai ales dacă provine de pe site-uri pe care sistemul le consideră deja de încredere.

Cercetătorii de la Fudan au subliniat că postările fabricate au fost plasate pe platforme reputate, ceea ce a crescut probabilitatea de a fi citite rapid. Acest mecanism reflectă cum citesc și oamenii informațiile noi, dar viteza și scară de indexare la AI amplifică semnificativ riscul.

Studioul subliniază necesitatea de straturi îmbunătățite de verificare în sistemele AI, deoarece dependența actuală față de volum poate duce la răspândirea de falsități înainte ca verificătorii de faits să intervine.

Ce pot face utilizatorii pentru a evita rezultatele AI false?

(Cu întrebări frecvente) Rapida citare a unui concept fabricat ridică serioase priviri privind credibilitatea rezultatelor de căutare generate de AI. Utilizatorii pot cita fără să ştie informații false, ducând la dezinformare în lucrări academice, jurnalism și deciziile de zi cu zi. Cercetarea sugerează că chiar și platformele cunoscute pot deveni vulnerabile când apare conținut nou. Dezvoltatorii ar putea avea nevoie de filtre mai stricte de verificare a conținutului, mai ales pentru materialele recent indexate. În același timp, utilizatorii trebuie să rămână sănătoşi sceptici față de afirmații neașteptate sau surprinzătoare, chiar dacă apar în rezultatele AI.

A1: Au publicat postări pe nouă site-uri web populare, fiecare conținând o idee total inventată. Postările au fost scrise de conturi obișnuite, pentru a simula conținutul generat de utilizatori obișnuiți.

A2: Instrumentele indexează conținutul web nou cu viteză mare și se bazează pe credibilitatea percepută a sursei. Deoarece postările fabricate au apărut pe site-uri de încredere, algoritmii le-au integrat în rezultatele de căutare fără o verificare imediată.

A3: Utilizatorii trebuie să verifice afirmațiile surprinzătoare prin cross-checking cu mai multe surse de încredere, să caute dovezi corroboratoare și să fie prudentă înainte de a considera rezultatele AI ca definitive, fără verificare independentă.