O investigație recentă publicată de The Guardian avertizează asupra riscurilor majore la care sunt expuși utilizatorii motorului de căutare Google. Funcția „AI Overviews”, care generează automat rezumate în partea de sus a paginii, a oferit recomandări medicale eronate în situații extrem de sensibile.

Unul dintre cele mai grave cazuri semnalate de specialiști vizează pacienții diagnosticați cu cancer pancreatic. Sistemul de inteligență artificială a recomandat acestora să evite alimentele bogate în grăsimi, un sfat considerat de experți drept „extrem de periculos”. În realitate, o astfel de dietă poate scădea șansele de supraviețuire, deoarece pacienții au nevoie de un aport caloric ridicat pentru a face față tratamentelor agresive precum chimioterapia.

Conform datelor transmise de Mediafax, erorile nu se opresc aici. Rezumatele AI au furnizat informații greșite despre testele de funcție hepatică, fapt ce ar putea induce în eroare persoanele cu boli grave de ficat, determinându-le să creadă că sunt sănătoase. De asemenea, au fost identificate date incorecte despre simptomele unor afecțiuni psihice și despre testele pentru cancerul vaginal.

Organizațiile medicale avertizează că poziționarea acestor informații la începutul căutării le oferă o autoritate falsă. Utilizatorii tind să aibă încredere în aceste rezumate fără a mai verifica sursele secundare, ceea ce poate duce la amânarea controalelor medicale vitale.

În replică, reprezentanții Google au declarat că majoritatea rezumatelor AI sunt „utile și corecte” și că lucrează constant la optimizarea sistemului. Compania a precizat că, în momentele în care sunt raportate erori sau lipsă de context, se iau măsuri imediate pentru corectarea datelor, în special în domeniul sănătății.