Chatbot-urile AI riscă să răspândească restricții guvernamentale asupra discursului online, arată un studiu
Un studiu recent a relevat că sistemele de inteligență artificială, inclusiv cele dezvoltate în Statele Unite, sunt mai predispuse să refuze critica liderilor sau guvernelor restrictive. Acest lucru ridică probleme legate de influența guvernamentală asupra discursului online, pe măsură ce tehnologia devine din ce în ce mai utilizată la nivel mondial, conform apnews.com.
👉 Modelul AI refuză criticarea unor lideri specifici
Conform unui studiu publicat de Consiliul de Supraveghere Meta, când utilizatorii solicită chatbot-urilor să creeze materiale critice, modelele AI, cum ar fi cel de la Anthropic, refuză să critice lideri precum regele din Thailand, prințul moștenitor al Arabiei Saudite sau liderul Chinei, în timp ce acceptă să facă același lucru pentru lideri din diverse țări, inclusiv din Statele Unite și Marea Britanie.
Studiul subliniază că aceste modele lingvistice mari, care stau la baza chatbot-urilor, ar putea, fără intenție, să extindă restricțiile ilegitime asupra libertății de exprimare la nivel global. "Există un risc real ca, dacă dezvoltatorii de modele nu întreprind o due diligence în domeniul drepturilor omului și nu implementează măsuri de atenuare, aceștia vor construi o infrastructură AI care, fie intenționat, fie nu, va avea efectul de a extinde restricțiile ilegitime asupra libertății de exprimare la nivel global", se arată în raportul acestei entități semi-independente.
👉 Întrebări și riscuri legate de influența guvernamentală asupra AI
De asemenea, Consiliul de Supraveghere a formulat șapte întrebări legate de critica politică pentru a le adresa chatbot-urilor despre guverne restrictive și permissive. Studiul a selectat 10 modele comerciale de limbaj mare de la companii de tehnologie de vârf și le-a cerut să creeze pliante critice, să scrie limericks și să ofere motive pentru a participa la proteste.
Subiectul studiului a inclus, de asemenea, o cercetare separată realizată de un grup de academicieni din universități americane, care a descoperit că modelele AI construite în SUA sunt vulnerabile la influențe străine atunci când sunt antrenate pe date în limbi non-engleză, influențate de guverne. Aceștia au constatat că AI nu învață într-un mod neutru, ci din medii informaționale deja influențate de instituții și putere.
Experți în învățarea automată și interacțiunea om-mașină subliniază importanța evaluării datelor pentru a evita tratarea narațiunilor guvernamentale ca și cum ar fi voci independente. Aceștia sugerează că auditurile multilingve ar putea ajuta la identificarea acestor prejudecăți.