Anthropic dezvoltă FlashProve, un sistem open-source care poate verifica de la ce AI provin răspunsurile

Anthropic lucrează la un sistem open-source care ar putea schimba modul în care este verificată autenticitatea rezultatelor generate de inteligența artificială. Proiectul, denumit FlashProve, utilizează metode criptografice pentru a demonstra că un anumit răspuns provine într-adevăr de la modelul AI declarat, fără să dezvăluie informații confidențiale despre funcționarea acestuia.

Tehnologia ar putea contribui la prevenirea unor practici înșelătoare, precum înlocuirea unui model performant cu unul mai ieftin, fără informarea clienților, sau prezentarea unor rezultate obținute cu un alt sistem AI decât cel anunțat. Informațiile despre proiect au fost prezentate de Anthropic pe 3 noiembrie 2026, fiind relatate și de publicația TechCrunch.

Compania a făcut publice o specificație tehnică și codul pentru mai multe componente ale sistemului. FlashProve se află însă încă în faza de dezvoltare, iar Anthropic nu a anunțat planuri concrete pentru integrarea sa în propriile servicii sau în produsele altor laboratoare de inteligență artificială.

Cum funcționează FlashProve și cum poate identifica un model AI

La baza proiectului se află conceptul de „inferență demonstrabilă” (provable inference). Acesta presupune generarea unei dovezi criptografice care să permită verificarea faptului că un anumit rezultat a fost produs de un model AI identificat în prealabil.

Principiul este asemănător semnăturilor digitale utilizate în comunicarea prin e-mail, care permit confirmarea identității expeditorului. În cazul FlashProve, mecanismul ar trebui să ofere o garanție tehnică privind proveniența răspunsurilor generate de inteligența artificială, inclusiv atunci când cineva încearcă să prezinte rezultatele unui model drept rezultate ale altuia.

Un aspect important este că sistemul urmărește să ofere protecție inclusiv împotriva unor eventuale practici incorecte din partea furnizorului modelului.

De exemplu, o companie ar putea înlocui în secret un model AI avansat cu unul mai ieftin și mai puțin performant, pentru a reduce costurile de operare, continuând să le ofere clienților impresia că utilizează sistemul inițial. Într-un scenariu invers, furnizorul ar putea folosi un model mai performant decât cel declarat pentru a obține rezultate mai bune în cadrul unor teste sau evaluări.

FlashProve ar putea permite identificarea unor astfel de substituiri prin verificarea criptografică a originii rezultatelor, cu condiția ca tehnologia să fie implementată și adoptată corespunzător.

De ce este important să știm ce model AI a generat un rezultat

Anthropic consideră că verificarea identității modelelor AI ar putea avea aplicații în numeroase domenii, nu doar în cadrul serviciilor oferite de marile laboratoare de inteligență artificială.

Sistemul ar putea fi util atunci când o companie sau un dezvoltator susține că a utilizat un anumit model pentru o activitate importantă și trebuie să demonstreze acest lucru.

Spre exemplu, o firmă de software ar putea declara că a verificat securitatea unei biblioteci de cod cu ajutorul unui model AI avansat, specializat în securitate cibernetică. Într-o altă situație, o companie ar putea susține că un plan de afaceri a fost analizat cu ajutorul unui model cu anumite capacități de raționament.

În lipsa unui mecanism independent de verificare, beneficiarii acestor servicii trebuie să se bazeze în principal pe declarațiile furnizorului. FlashProve ar putea schimba această situație, oferind o dovadă tehnică a identității modelului care a generat rezultatul.

O asemenea funcționalitate ar putea deveni deosebit de importantă în domeniile în care performanțele și caracteristicile modelului utilizat influențează încrederea acordată unei analize, unei recomandări sau unui produs software.

Amprente digitale care nu dezvăluie secretele modelelor AI

Pentru a permite verificarea rezultatelor, laboratoarele de inteligență artificială ar trebui să publice o amprentă digitală asociată fiecărui model lansat. Aceasta ar funcționa ca un identificator criptografic, utilizat ulterior pentru confirmarea provenienței rezultatelor generate.

Un element esențial al proiectului este protejarea proprietății intelectuale a dezvoltatorilor. Amprentele digitale sunt concepute astfel încât să nu dezvăluie ponderile modelului, adică valorile interne care determină modul în care acesta procesează informațiile și generează răspunsuri.

Aceste date reprezintă o componentă sensibilă a tehnologiei dezvoltate de companii precum Anthropic și OpenAI și nu sunt, în general, disponibile publicului.

Prin urmare, un laborator AI ar putea pune la dispoziție informațiile necesare verificării identității unui model fără să ofere acces la arhitectura sa internă sau la parametrii care îi definesc funcționarea. Acest lucru ar face posibilă utilizarea FlashProve inclusiv în cazul modelelor comerciale, ale căror componente interne sunt păstrate confidențiale.

Anthropic urmărește și limitarea resurselor necesare verificării. Sistemul este conceput astfel încât operațiunea criptografică să poată fi suficient de eficientă pentru a rula direct pe un dispozitiv local, fără să fie necesară o infrastructură hardware specializată.

FlashProve este disponibil pe GitHub, dar rămâne un proiect experimental

Odată cu prezentarea cercetării, Anthropic a publicat specificația tehnică a FlashProve și codul pentru mai multe dintre componentele sale. Materialele sunt disponibile pe GitHub sub o licență open-source, oferind cercetătorilor și dezvoltatorilor posibilitatea de a analiza mecanismele propuse, de a le testa și de a contribui la dezvoltarea proiectului.

Compania precizează însă că versiunea publicată reprezintă doar o etapă intermediară a cercetării. FlashProve nu este încă un produs finalizat și nici o tehnologie pregătită pentru implementare comercială.

Deocamdată, Anthropic nu a anunțat dacă intenționează să integreze sistemul în propriile servicii sau dacă alte laboratoare AI îl vor adopta.

Dacă va ajunge să fie implementat pe scară largă, FlashProve ar putea contribui la crearea unui mecanism de verificare independentă a identității modelelor de inteligență artificială, într-un moment în care diferențele de performanță dintre acestea devin tot mai importante pentru companii și utilizatori.