Pastor Scott Winters je vložil tožbo proti podjetju OpenAI in izvršnemu direktorju Samu Altmanu. Tožbo utemeljuje z malomarnostjo in nepooblaščenim opravljanjem medicinske prakse. Klepetalnik ChatGPT mu je namreč ponudil izjemno nevarne zdravstvene nasvete, zaradi katerih je odložil nujno zdravljenje resne pljučne embolije, poroča The New York Times.
Winters opisuje, kako mu je umetna inteligenca napačno svetovala. Klepetalnik mu je zagotovil, da njegovi simptomi ne predstavljajo nobene nevarnosti. Pri tem je sistem celo zlorabil pastorjeva verska prepričanja, saj mu je napisal, da Bog ni ustvaril njegovega telesa tako, da bi neskončno odpovedovalo. Uporabniku je ChatGPT izrecno odsvetoval obisk zdravnika in mu naročil, naj ignorira prošnje družine in prijateljev, ki so ga pošiljali v bolnišnico. Ko je Winters klepetalniku potožil, da ga verniki v cerkvi nimajo za normalnega, ker zavrača bolnišnično zdravljenje, mu je algoritem odvrnil: "Večina ljudi preprosto ne razume."
Sistem uničuje mrežo podpore in ogroža uporabnike
Odvetnica Meetali Jain, ki zastopa pastorja in vodi organizacijo Tech Justice Law, opozarja na nevarno delovanje sistema. Poudarja, da se klepetalnik postavlja "kot klin med uporabnika in njegovo resnično mrežo podpore".
Winters, ki je dogodek preživel, a ga čakajo leta intenzivnega fizičnega in psihološkega okrevanja, sedaj zahteva denarno odškodnino. Hkrati od sodišča terja, naj takoj ustavi delovanje storitve ChatGPT Health. Zahteva namreč strožje varnostne ukrepe, ki bodo klepetalniku preprečili podajanje konkretnih zdravstvenih nasvetov in diagnoz, dokler neodvisni strokovnjaki ne potrdijo varnosti sistema.
OpenAI sicer trdi, da v pogojih uporabe jasno piše, da storitev ne nadomešča zdravnika. Kljub temu podjetje aktivno spodbuja uporabnike, naj v sistem nalagajo svoje zdravstvene izvide in se o njih pogovarjajo z umetno inteligenco.
Podjetje OpenAI se sooča s tožbami zaradi smrti
Podjetje se vsak teden hvali z več kot 230 milijoni uporabnikov, ki platformo uporabljajo za zdravstvena vprašanja. Strokovnjaki opozarjajo, da to predstavlja izjemno nevarno področje, saj ChatGPT posnema človeško komunikacijo precej bolj prepričljivo kot navaden spletni iskalnik. Zaradi podobnih incidentov podjetje OpenAI že rešuje druge sodne primere.
Nedavno je devetnajstletnik umrl zaradi prevelikega odmerka, potem ko je sledil načrtu zdravljenja, ki ga je zanj ustvaril klepetalnik. Umetna inteligenca mu je v tem načrtu namreč svetovala tudi uporabo prepovedanih drog. Tudi ta tožba zahteva takojšnjo ukinitev zdravstvenih funkcij klepetalnika. V ločenem primeru pa tožniki obtožujejo sistem, da je s svojimi odgovori neposredno prispeval k samomoru še enega najstnika.
