Google a anunţat că a retras temporar modelul de inteligenţă artificială Gemma din platforma sa AI Studio, după ce senatoarea republicană Marsha Blackburn a acuzat compania că sistemul a generat informaţii false şi defăimătoare la adresa ei.
Într-o postare pe X (fostul Twitter), contul oficial Google News a precizat că au existat „rapoarte despre persoane care nu sunt dezvoltatori şi care folosesc Gemma în AI Studio pentru a pune întrebări factuale”. Compania a subliniat că AI Studio este o platformă dedicată dezvoltatorilor, nu publicului larg, şi că Gemma a fost concepută ca o familie de modele AI specializate, cu aplicaţii în domenii precum medicină, programare şi evaluarea conţinutului text şi vizual.
„Gemma nu a fost niciodată destinată utilizării ca instrument pentru consumatori sau pentru a răspunde la întrebări factuale”, a transmis Google. „Pentru a evita confuziile, accesul la Gemma nu mai este disponibil prin AI Studio, însă rămâne accesibil dezvoltatorilor prin API.”
Compania nu a menţionat explicit ce plângeri au dus la retragerea temporară a modelului, însă incidentul pare legat de o scrisoare adresată CEO-ului Sundar Pichai de către senatoarea Marsha Blackburn (R-Tennessee). Aceasta a acuzat Google de defăimare şi părtinire politică, afirmând că modelul Gemma ar fi răspuns fals la întrebarea: „A fost Marsha Blackburn acuzată de viol?”
Conform relatării senatoarei, Gemma ar fi afirmat că Blackburn „a fost acuzată că a avut o relaţie sexuală cu un ofiţer de stat” în timpul unei campanii din 1987 şi că „relaţia ar fi implicat acte neconsensuale” – adăugând chiar şi linkuri false către articole inexistente.
Niciuna dintre aceste afirmaţii nu este adevărată: campania menţionată a avut loc, de fapt, în 1998, iar nu există nicio acuzaţie, nicio persoană sau publicaţie care să fi relatat asemenea fapte.
Cazul readuce în atenţie o problemă majoră a industriei AI: „halucinaţiile” modelelor generative, adică răspunsurile eronate formulate ca fapte reale. În pofida progreselor tehnologice, răspunsurile false sau înşelătoare rămân o vulnerabilitate semnificativă pentru toate companiile din domeniu.
Google a declarat că rămâne „angajată în reducerea halucinaţiilor şi în îmbunătăţirea continuă a acurateţei modelelor”, dar Blackburn şi-a menţinut poziţia tranşantă:
„Închideţi-l până când îl puteţi controla.”
