Studiu: chatboţii AI pot da diagnostice greşite în până la 80% din cazuri

Chatboţii bazaţi pe inteligenţă artificială, precum ChatGPT sau Gemini, pot oferi diagnostice medicale greşite într-un număr semnificativ de cazuri, arată un studiu recent citat de News.ro.

Potrivit cercetării, aceştia pot induce pacienţii în eroare în cel puţin 40% dintre situaţii, chiar şi atunci când primesc informaţii complete despre simptome şi analize.

Situaţia devine şi mai problematică atunci când datele sunt incomplete: rata erorilor depăşeşte 80% din cazuri.

Cum a fost realizat studiul

Studiul a fost realizat de Mass General Brigham din Massachusetts şi publicat în JAMA Network Open. Cercetătorii au testat modul în care chatboţii interpretează informaţii medicale furnizate treptat, inclusiv rezultate de laborator şi observaţii clinice.

În total, au fost analizate 21 de modele lingvistice dezvoltate de companii precum OpenAI, Anthropic, Google, xAI şi DeepSeek.

Rezultatele: erori frecvente chiar şi cu informaţii complete

Specialiştii au constatat că toate modelele testate au oferit diagnostice greşite în peste 80% dintre cazurile în care informaţiile despre pacient erau incomplete.

Chiar şi atunci când li s-au pus la dispoziţie toate datele necesare, performanţa nu a fost semnificativ mai bună: rata erorilor a rămas peste 40%.

De ce apar aceste greşeli

Concluzia cercetătorilor este că acurateţea chatboţilor depinde puternic de cantitatea şi calitatea informaţiilor primite, însă nici acest lucru nu garantează rezultate corecte.

Un motiv important este fenomenul numit „halucinaţie” în inteligenţa artificială — situaţia în care modelele generează răspunsuri plauzibile, dar incorecte sau inventate, atunci când nu au suficiente date sau nu pot identifica o soluţie clară.

Ce înseamnă pentru utilizatori

Rezultatele studiului subliniază că, deşi chatboţii AI pot fi utili pentru informare generală, ei nu ar trebui folosiţi ca instrumente de diagnostic medical.

Evaluarea corectă a simptomelor şi stabilirea unui diagnostic rămân responsabilitatea medicilor, care pot integra nu doar datele clinice, ci şi contextul complet al pacientului. (sursa stiripesurse.ro)