Google elimină rezumatele cu informații greșite
Google a șters rezumatele pe teme de sănătate generate de inteligența artificială Gemini, după ce o investigație a publicației britanice The Guardian a scos la iveală informații riscante pentru utilizatori.
Informații eronate despre sănătate
Investigația a relevat că anumite răspunsuri oferite de AI conțin informații periculoase. De exemplu, într-o situație, AI-ul a fost întrebat despre intervalul normal pentru testele de sânge hepatice, dar a omis detalii esențiale precum sexul și vârsta pacientului. Această absență de context poate determina pacienții să considere rezultatele normale, chiar și atunci când nu sunt.
Acțiuni imediate ale Google
După publicarea investigației, Google a eliminat rapid răspunsurile problematice din paginile motorului său de căutare. Totuși, compania nu a oferit detalii despre măsurile de moderare a răspunsurilor AI, în special în domeniul sănătății.
Continuarea funcției AI Overviews
Funcția AI Overviews, care utilizează AI-ul pentru a rezuma informații și a genera răspunsuri în motorul de căutare, rămâne activă. Există temeri că ar putea exista și alte cazuri în care răspunsurile inteligenței artificiale sunt greșite, având potențialul de a influența negativ sănătatea utilizatorilor.
Concluzie
Eliminarea acestor rezumate de către Google subliniază necesitatea unei reglementări stricte în utilizarea inteligenței artificiale în domeniul sănătății, pentru a proteja utilizatorii de informații eronate care pot avea consecințe grave.
