Výstraha WHO
Referenčná spravodajská sieť informovala 20. januára, že podľa AFP 18. januára.
Svetová zdravotnícka organizácia varovala, že generatívna umelá inteligencia (AI) môže priniesť rušivé zmeny do lekárskej starostlivosti prostredníctvom rýchlej diagnostiky chorôb, ale jej unáhlenosť a nezaručené zavádzanie prináša aj nebezpečenstvo.
Podľa správ WHO v dokumente zverejnenom 18. dňa analyzovala nebezpečenstvá a výhody používania veľkých multimodálnych modelov (LMM) na lekárske ošetrenie. Tento druh generatívnej AI môže využívať rôzne údaje (text, obrázky a videá) na generovanie diagnostických výsledkov
založené na algoritmoch, ktoré nie sú obmedzené na dátové typy.
"Niektorí ľudia veria, že LMM bude napodobňovať ľudské myšlienky a správanie a riešiť niektoré ľudské problémy interaktívnym spôsobom." povedal Alan Labrick, vedúci oddelenia digitálneho a inovatívneho zdravotníctva WHO.
WHO verí, že LMM bude v budúcnosti široko používaný v lekárskej liečbe, vedeckom výskume a medikácii. Organizácia identifikovala päť oblastí, v ktorých by sa táto technológia mohla použiť: diagnostika, vedecký výskum a vývoj liekov, výučba medicíny a ošetrovateľstva, správa a overovanie symptómov.
Hoci má LMM veľký aplikačný potenciál, WHO uviedla, že táto technológia môže priniesť „nesprávne, nesprávne, skreslené alebo neúplné“ výsledky. "Keďže LMM sa čoraz viac používajú v zdravotníctve a medicíne, chyby, nesprávne použitie a osobná ujma sú nevyhnutné," poznamenala organizácia.
Dokument WHO predstavuje nové etické tendencie a problémy riadenia LMM a poskytuje 40 odporúčaní vládam, podnikom a pacientom, ako túto technológiu bezpečne používať.
WHO sa domnieva, že táto technológia by sa mala najskôr použiť v lekárskom sektore, aby bolo možné odhaliť a opraviť nedostatky. Jeremy Farrar, hlavný vedec Svetovej zdravotníckej organizácie, zdôraznil: "Generatívna AI môže zlepšiť lekársku starostlivosť, ale musí to byť vykonané s vývojármi, tvorcami pravidiel a používateľmi, ktorí si plne uvedomujú súvisiace riziká."
"Potrebujeme transparentné informácie a politiky týkajúce sa koncepcie, vývoja a využívania LMM, aby sme dosiahli čo najlepšie výsledky v zdravotníctve a prekonali pretrvávajúce nerovnosti v zdravotníctve," povedal Farrar.
WHO požaduje zavedenie určitých záruk, aby užívatelia poškodení LMM mohli dostať primeranú kompenzáciu a mať záchranné prostriedky.
Podľa správy sa AI používa vo verejnom zdravotníctve a klinickej medicíne, ale WHO sa domnieva, že v LMM existujú určité riziká a „spoločnosť, medicínske systémy a koncoví používatelia nemusia byť úplne pripravení sa s tým vysporiadať“.
WHO sa tiež domnieva, že LMM zvyčajne vyvíjajú a používajú technologickí giganti, čo môže vyvolať obavy a riziká v súvislosti s monopolom týchto spoločností na technológiu. WHO vyžaduje, aby sa výskum a vývoj LMM nespoliehal len na vedcov a inžinierov, ale aj na odborníkov z praxe a pacientov v oblasti medicíny.
Organizácia tiež varovala pred zraniteľnými miestami LMM v kybernetickej bezpečnosti, čo by mohlo ohroziť informácie týkajúce sa pacientov a dokonca aj spoľahlivosť lekárskej starostlivosti. Dospelo sa k záveru, že vlády by mali brať na zodpovednosť regulátorov za schvaľovanie LMM na lekárske použitie a vyžadovať vypočutie o ich používaní na posúdenie vplyvu technológie.
