Google ka hequr në mënyrë diskrete funksionin AI Overviews për disa kërkime që lidhen me analizat e mëlçisë, pasi një raport zbuloi se ky mjet po jepte këshilla të pasakta dhe potencialisht të rrezikshme mjekësore. AI Overviews janë krijuar për ta bërë kërkimin në Google më të shpejtë, duke ofruar një përmbledhje të shkurtër dhe të sigurt në krye të faqes, në vend të listës tradicionale të rezultateve. Megjithatë, pikërisht kjo siguri e shprehur ka ngritur shqetësime serioze në fushën e shëndetit.
Një hetim i fundit nga The Guardian tregoi se për pyetje të rëndësishme shëndetësore, AI ka dhënë informacion që ekspertët e kanë cilësuar si “alarmues” dhe “të rrezikshëm”. Një shembull konkret ishte paraqitja e intervaleve standarde për analizat e funksionit të mëlçisë pa sqaruar se këto vlera ndryshojnë ndjeshëm në varësi të moshës, gjinisë apo përkatësisë etnike. Një gabim i tillë mund të çojë persona me sëmundje serioze të mëlçisë të mendojnë se janë të shëndetshëm dhe të shmangin kujdesin mjekësor.
Si reagim, Google hoqi AI Overviews për disa terma specifikë kërkimi, si “cili është intervali normal i analizave të gjakut për mëlçinë”. Sipas kompanisë, këto veprime janë në përputhje me politikat e saj dhe përbëjnë “përmirësime të gjera” të sistemit. Megjithatë, kjo masë nuk është gjithëpërfshirëse.
Me ndryshime të vogla në formulimin e pyetjes, përdoruesit mund të marrin ende përmbledhje të gjeneruara nga AI me të njëjtat pasaktësi. Sipas British Liver Trust, terma alternativë si “lft reference range” vazhdojnë të shfaqin informacion të gabuar. Ky rast nxjerr në pah kufizimet e mbrojtjeve aktuale të AI Overviews.
