STAT+: Obveščevalec, laboratorij in drobni tisk

Nekdanji zaposleni klinike Mayo je vložil tožbo, v kateri trdi, da je bila odpuščena, potem ko je izrazila zaskrbljenost zaradi uporabe umetne inteligence, postopkov soglasja bolnikov in protokolov o zasebnosti podatkov.

Tožba, ki je bila nedavno razveljavljena, navaja posebne obtožbe glede ravnanja s kliničnimi podatki o bolnikih. Tožnik, ki je delal v raziskovalni vlogi znotraj institucije, je poročal, da je sprožil alarm zaradi pomanjkanja preglednosti v zvezi z algoritmi AI, ki se uporabljajo za diagnostične namene. Ti sistemi so bili po pritožbi izvajani z minimalnim nadzorom in brez ustreznega razkritja bolnikom. Poleg tega je posameznik trdil, da so bili določena orodja AI usposobljena z uporabo podatkovnih zbirk, ki niso bile ustrezno anonimizirane, kar bi lahko izpostavilo občutljive zdravstvene zapise nepooblaščenemu dostopu.

Izjava žvižgača prihaja v času, ko Mayo Clinic agresivno širi uporabo umetne inteligence v več oddelkih. Notranji dokumenti, navedeni v tožbi, kažejo, da je klinika močno investirala v razvoj lastniških modelov umetne inteligence, namenjenih pomoči zdravnikom pri vsem, od diagnostike do načrtovanja zdravljenja.

Tožba vključuje tudi trditve, da so bili zaposleni pod pritiskom, da bi upoštevali institucionalne politike, ki prednost dajejo tehnološkemu napredku pred etičnimi premisleki. Tožeča stranka trdi, da so jo opozorili, da bi nadaljnje neskladje lahko privedlo do disciplinskih ukrepov, vključno z odpovedjo. To sledi širšemu vzorcu domnevnih maščevanja proti zaposlenim, ki so vprašali o pristopu klinike k izvajanju AI.

Pravni strokovnjaki, ki so seznanjeni s tem primerom, pravijo, da bi tožba lahko postavila precedens za prihodnje spore, ki vključujejo etiko umetne inteligence v zdravstvenem varstvu.

Medtem ko zagovorniki trdijo, da te tehnologije ponujajo brez primere priložnosti za personalizirano oskrbo in napovedno analitiko, nasprotniki opozarjajo na tveganja, povezana z neprozornimi postopki odločanja in potencialnimi pristranskostmi, vgrajenimi v podatke o usposabljanju.

Nekateri so pozvali k večji odgovornosti institucij, ki se močno zanašajo na umetno inteligenco, poudarjajo pa pomen zagotavljanja, da interesi bolnikov ostanejo osrednji za tehnološke inovacije. Drugi so opozorili na potrebo po močnejših pravnih zaščitnih ukrepih za preprečevanje odvetnih ukrepov proti posameznikom, ki izražajo legitimne pomisleke glede podatkovnih praks.

Za zdaj je poudarek še vedno na odkrivanju celotnega obsega domnevnega nepravilnega ravnanja in določanju, ali so prakse klinike Mayo v skladu z uveljavljenimi standardi za odgovorno uporabo AI.