OpenAI are de cel puţin doi ani tehnologia pentru a detecta textele generate de ChatGPT. De ce nu a folosit-o până acum?

OpenAI dispune de cel puţin doi ani de tehnologia necesară pentru a aplica o amprentă digitală (watermark) textelor generate de ChatGPT. Compania a amânat însă cât de mult a putut folosirea acestei tehnologii, inclusiv pentru a nu risca pierderea unei categorii foarte numeroase de utilizatori: elevi, studenţi şi tot felul de „profesionişti” care folosesc ChatGPT pentru a genera rapid texte convingătoare, numai bune de prezentat drept propriile creaţii.

Unul dintre principalele motive pentru ascensiunea rapidă şi popularitatea de care se bucură ChatGPT este tocmai accesibilitatea sa. Oricine poate obţine, în câteva secunde, texte complexe, bine structurate şi adaptate unor subiecte extrem de diverse, într-un stil care ar putea stârni invidia chiar şi unor profesionişti din domeniile respective.
Pe scurt, ChatGPT a devenit un instrument extrem de eficient pentru trişat: formulezi cerinţa, iar rezultatul dorit apare aproape instantaneu, fără să mai fie nevoie de etapele de documentare, analiză şi, uneori, chiar de înţelegere a subiectului abordat.
Dar ce s-ar întâmpla dacă, peste noapte, ar apărea un instrument capabil să identifice automat orice text generat cu ChatGPT?
Tehnologia OpenAI de filigranare a textului, denumită textGrain, introduce în textul generat de model un semnal statistic invizibil. Compania precizează însă că atât filigranarea textului, cât şi detectarea acestuia sunt tehnologii aflate încă într-un stadiu incipient şi au limitări semnificative.

Potrivit explicaţiilor oferite de OpenAI, textGrain leagă generarea de token-uri de un mecanism de pseudorandomness bazat pe o cheie secretă, folosind transportul optim. Sistemul operează prin gruparea blocurilor de vocabular, în loc să optimizeze independent fiecare token, păstrând în acelaşi timp probabilităţile relative originale ale token-urilor din fiecare bloc.
Pentru detectare, sistemul foloseşte cheia secretă şi textul analizat pentru a reconstrui informaţiile introduse în timpul generării şi pentru a identifica semnalul statistic specific watermark-ului. Important este că detectorul nu trebuie să cunoască modelul care a generat textul, bugetul de generare sau mecanismul de cuplare utilizat în timpul generării.

Cu alte cuvinte, nu vorbim despre caractere invizibile sau despre câteva cuvinte „speciale” pe care le poţi elimina cu o simplă operaţiune de corectare. Pentru a elimina semnalul statistic ar putea fi necesară rescrierea sau reformularea unor porţiuni consistente din text.

Iar diferenţa devine importantă atunci când vorbim despre documente de zeci de pagini, cum ar fi o lucrare de licenţă sau o disertaţie în care autorul a lăsat ChatGPT să facă o mare parte din muncă.
OpenAI afirmă că textGrain a egalat sau chiar a depăşit performanţa altor metode testate, inclusiv SynthID pentru text. Compania atrage însă atenţia că rezultatele bune obţinute în condiţii controlate nu garantează o detectare la fel de eficientă în situaţii reale.
Evaluările OpenAI arată că eficienţa detectorului depinde de mai mulţi factori, printre care lungimea textului, domeniul abordat şi amploarea modificărilor făcute ulterior de utilizator.

La o rată ţintă de rezultate fals pozitive de 1%, detectorul a identificat watermark-ul în aproximativ 80% dintre pasajele de 200 de token-uri şi în aproximativ 95% dintre pasajele de 400 de token-uri în cazul unor domenii precum psihologia.
Rezultatele au fost însă semnificativ mai slabe în cazul matematicii, unde există mai puţină flexibilitate în alegerea cuvintelor.
Într-o evaluare pe pasaje de 400 de token-uri, înlocuirea a doar 10% dintre cuvinte cu sinonime a redus rata de detectare de la aproximativ 92% la 66%. Când 25% dintre cuvinte au fost înlocuite, rata de detectare a scăzut până la 17%.
Aşadar, watermark-ul poate fi afectat prin editarea textului, mai ales în cazul materialelor scurte. Pe măsură ce textul devine mai lung, însă, semnalul statistic devine mai dificil de eliminat în totalitate.

Prin urmare, şansele ca o lucrare amplă, în care au fost introduse numeroase pasaje generate cu ChatGPT, să poată fi făcută să pară complet autentică doar prin schimbarea câtorva cuvinte nu sunt tocmai încurajatoare.
Introducerea unui astfel de sistem ar putea ridica probleme inclusiv pentru cei care au folosit ChatGPT, mai mult sau mai puţin discret, la redactarea unor documente oficiale deja prezentate sau publicate.
Disertaţii, lucrări de licenţă, articole, rapoarte sau alte materiale academice ar putea deveni, cel puţin teoretic, subiectul unor verificări ulterioare. Dacă OpenAI va pune la dispoziţie un instrument de detecţie suficient de precis, orice text suspectat că a fost generat de ChatGPT ar putea fi analizat retrospectiv.

Iar pentru cei care au folosit AI-ul pentru a produce conţinut pe care apoi l-au prezentat drept muncă proprie, o astfel de tehnologie ar putea transforma o scurtătură aparent convenabilă într-o problemă serioasă.
Deocamdată, OpenAI insistă asupra limitărilor tehnologiei şi asupra faptului că detectarea textului generat de AI nu este o problemă rezolvată. Însă existenţa textGrain arată că OpenAI dispune deja de o metodă prin care textele generate de modelele sale pot primi o amprentă statistică invizibilă.
Iar dacă această tehnologie va fi implementată la scară largă, perioada în care textele generate de AI puteau fi prezentate fără nicio urmă drept creaţii umane ar putea ajunge la final.