Google pašalino dalį sveikatos temomis parengtų dirbtinio intelekto santraukų po ekspertų perspėjimų dėl rizikos vartotojams
Leidinyje Independent skelbiama, kad „Google“ pašalino kelias automatiškai sugeneruotas dirbtinio intelekto santraukas sveikatos tema po žurnalistinio tyrimo, atskleidusio, jog dalis jų buvo netikslios arba galėjo klaidinti vartotojus.
Anksčiau laikraštis The Guardian nustatė problemų naudojant AI Overviews funkciją – trumpas apžvalgas, kurias generatyvusis dirbtinis intelektas sukuria ir pateikia paieškos rezultatų viršuje. Kai kuriais atvejais šios santraukos buvo susijusios su medicininėmis temomis.
Vienu iš pavyzdžių, atsakydamas į klausimą „koks yra normalus kepenų kraujo tyrimų rodiklių diapazonas“, dirbtinis intelektas neatsižvelgė į svarbų kontekstą – paciento gyvenamąją šalį, lytį, amžių ar etninę priklausomybę. Ekspertai įspėjo, kad dėl to žmonės, turintys rimtų sveikatos sutrikimų, galėjo klaidingai manyti, jog jų tyrimų rezultatai yra normalūs, ir nesikreipti dėl medicininės pagalbos.
Po šio tyrimo publikavimo „Google“ pašalino AI santraukas, rodomas pagal užklausas „normalus kepenų tyrimų diapazonas“ ir „normalūs kepenų mėginių rodikliai“. Bendrovė pabrėžė, kad atnaujina rezultatus, kai nustato, jog santraukose trūksta reikalingo konteksto.
„Google“, kuriai tenka daugiau nei 90 % pasaulinės interneto paieškos rinkos, pranešė nekomentuojanti atskirų atvejų, kai turinys pašalinamas. Bendrovės atstovo teigimu, vidinį patikrinimą atliko klinicistų komanda, ir daugeliu atvejų informacija vis tiek atitiko duomenis, pateiktus autoritetingose medicinos svetainėse.
Labdaros organizacijos British Liver Trust komunikacijos ir politikos direktorė Vanessa Hebditch pasveikino „Google“ sprendimą, tačiau pabrėžė, kad rizika išlieka. Jos teigimu, jei vartotojas klausimą suformuluos kiek kitaip, paieškos sistema vis dar gali parodyti potencialiai klaidinančią AI santrauką.
Ji akcentavo, kad kepenų funkcijos tyrimų rezultatų interpretavimas yra sudėtingas procesas, kurio negalima supaprastinti iki paprasto skaičių palyginimo. „AI apžvalgos atskirus rodiklius paryškina, todėl skaitytojas gali nepastebėti, kad šios reikšmės apskritai nėra susijusios su jo tyrimų rezultatais“, – aiškino Hebditch.
The Guardian taip pat pranešė, kad AI santraukos ir toliau pateikiamos pagal panašias užklausas, pavyzdžiui, „LFT etaloninės reikšmės“ („reference values LFT“). „Google“ teigimu, bendrovė jau nagrinėja ir šiuos naujus pavyzdžius.
