Gigantul tehnologic Google a decis să retragă o parte din rezumatele generate prin inteligență artificială (AI Overviews) referitoare la domeniul sănătății. Măsura a fost luată în urma unei investigații realizate de publicația The Guardian, care a scos la iveală faptul că utilizatorii erau expuși unor informații medicale eronate sau care induceau în eroare.

Deși Google susține că aceste sinteze bazate pe AI generativ sunt „utile” și „fiabile”, ancheta a demonstrat că anumite răspunsuri afișate prioritar în motorul de căutare furnizau date inexacte. Un caz considerat „periculos” de către specialiști a vizat interpretarea testelor pentru funcția hepatică, unde AI-ul a oferit cifre fără context, putând convinge pacienți cu afecțiuni grave ale ficatului că sunt, de fapt, sănătoși.

Jurnaliștii au observat că o căutare după termenul „care este intervalul normal pentru testele de sânge ale ficatului” genera o listă de valori care nu țineau cont de variabile esențiale precum vârsta, sexul, etnia sau naționalitatea utilizatorului. Experții avertizează că aceste discrepanțe pot determina pacienții să ignore necesitatea unor controale medicale de specialitate.

Ca reacție la aceste constatări, Google a eliminat funcția AI Overviews pentru interogările specifice legate de intervalele normale ale testelor hepatice. Totuși, un purtător de cuvânt al companiei a precizat: „Nu comentăm eliminările individuale din cadrul căutării. În cazurile în care AI Overviews omite anumite contexte, lucrăm pentru a aduce îmbunătățiri generale și, de asemenea, luăm măsuri în conformitate cu politicile noastre, acolo unde este cazul.”

Vanessa Hebditch, reprezentantă a organizației British Liver Trust, a salutat eliminarea acestor rezumate, dar și-a exprimat îngrijorarea cu privire la persistența problemei sub alte forme:

• Dacă întrebarea este formulată ușor diferit (de exemplu „interval de referință lft”), AI-ul poate afișa în continuare date înșelătoare.
• Interpretarea rezultatelor hepatice este complexă și nu se rezumă la compararea unor cifre.
• AI Overviews nu avertizează utilizatorii că pot avea rezultate aparent normale chiar și în prezența unei boli hepatice severe.

„Cea mai mare preocupare a noastră în legătură cu toate acestea este că se caută cu lupa un singur rezultat al căutării, iar Google poate pur și simplu să oprească AI Overviews pentru acel rezultat, dar nu abordează problema mai amplă a AI Overviews pentru sănătate”, a declarat Vanessa Hebditch.

De asemenea, Sue Farrington, președinta Patient Information Forum, a subliniat că acesta este doar un prim pas pentru menținerea încrederii în rezultatele Google, menționând că există încă numeroase exemple de informații medicale inexacte furnizate de inteligența artificială.

Investigația a arătat că rezumatele AI continuă să apară pentru subiecte sensibile precum cancerul sau sănătatea mintală, unele fiind catalogate de experți drept „foarte periculoase”. Google a apărat aceste rezultate, susținând că ele includ linkuri către surse de încredere și că o echipă internă de medici a evaluat conținutul, considerându-l validat de site-uri de înaltă calitate în multe situații.

Victor Tangermann, redactor-șef la Futurism, consideră că Google mai are mult de lucru pentru a preveni difuzarea dezinformărilor medicale. În același timp, Matt Southern a explicat în Search Engine Journal importanța acurateței, având în vedere că „AI Overviews apare deasupra rezultatelor clasate. Când subiectul este sănătatea, erorile au o pondere mai mare.”

Google, care controlează 91% din piața motoarelor de căutare, a reiterat că funcția AI Overviews este activată doar atunci când sistemul are o încredere ridicată în calitatea răspunsului generat.

Disclaimer: Informațiile prezentate în acest articol sunt preluate din surse publice iar la redactarea textului s-a utilizat inteligența artificială. În cazul în care sesizați erori sau neconcordanțe, vă rugăm să ne scrieți la [email protected]