Umjetna inteligencija (AI) već sada bolje od čovjeka odabire organe donora za transplantaciju te bolje odgovara na neka pitanja o zdravlju pacijenata, ali ona donosi i rizike te ‘ozbiljne pogreške’, upozorila je Svjetska zdravstvena organizacija

 

Svjetska zdravstvena organizacija (WHO) sa sjedištem u Ženevi pozdravlja golemi potencijal umjetne inteligencije koja može biti jako korisna, no upozorava da uvođenje postupaka liječenja AI-ja u zdravstveni sustav nosi opasnost od ‘potpuno pogrešne’ informacije.

- Nužno je procijeniti opasnosti korištenja alata LLMs (generated large language model tools) kao što je ChatGPT jer oni mogu voditi do teških pogrešaka u zdravstvu i potkopati povjerenje u AI - priopćio je WHO.

UN-ova agencija za zdravlje oglasila se u vrijeme kada primjene umjetne inteligencije strelovitom brzinom stječu popularnost. Zabrinutost proistječe iz toga što se redovite norme opreza ne primjenjuju na LLMs.

Predlagači korištenja AI-a vjeruju da će se liječnici ubrzo koristiti sustavom AI chat da brže odgovore na pitanja pacijenata o njihovom zdravlju, a koristit će se AI-jem i u dijagnostici.

Međutim, dva chatbota, Microsofta te Googlea pokazala su da njihovi odgovori nisu potpuno pouzdani kad je riječ o činjenicama, a WHO je zabrinut baš zato što se ti odgovori čine pouzdanima.

- LLMs proizvodi odgovore koji se mogu činiti autoritativnima i vjerodostojnima krajnjem korisniku. Međutim, ti odgovori mogu biti potpuno netočni ili sadržati ozbiljne pogreške, posebno kad je riječ o odgovorima povezanima sa zdravljem - upozorava WHO.

Te informacije mogu dovesti u zabludu i proizvesti informaciju koja će se činiti jako vjerodostojnom, a koju javnost ne može razlučiti od pouzdane.

WHO stoga predlaže da se prije primjene AI-ja u zdravstvu struka pozabavi tim pitanjima te da izmjeri korist i štete prije nego što odobri njezino opsežno korištenje.

 

Hina

Objavljeno: 18.05.2023