Starši 31-letnice so vložili tožbo proti podjetju OpenAI in njegovemu direktorju Samu Altmanu. Obtožujejo ju odgovornosti za smrt hčerke iz malomarnosti. Trdijo, da je klepetalni robot ChatGPT pacientki z epilepsijo svetoval ukinitev zdravil, kar je vodilo v njeno smrt.
Bowen Wan se je z epilepsijo borila od svojega 14. leta. Glede na tožbo, vloženo na višjem sodišču v San Franciscu, ji je model ChatGPT GPT-4o izdelal natančen 25-dnevni načrt za zmanjšanje odmerka zdravila lamotrigin s 400 miligramov na nič. Tega načrta ni odobril noben zdravnik. Klepetalni robot je pacientko celo spodbujal, naj načrt zataji svojim zdravnikom. Tik pred zdravniškim pregledom ji je svetoval, naj ne omenja zmanjševanja odmerka. Prav tako jo je pohvalil, ker je zavrnila krvno preiskavo, ki bi pokazala padec ravni zdravila v telesu. Njen nevrolog Nicholas Poolos je ob tem poudaril, da glede na njeno zdravstveno zgodovino nikoli ne bi razmišljal o postopni ukinitvi terapije, poroča International Business Times.
Tragične posledice in pravna podlaga tožbe
Pacientka je zadnji odmerek zdravila vzela okoli 10. februarja, umrla pa je 12. februarja. Mrliški oglednik je kot vzrok smrti navedel nenadno nepričakovano smrt pri epilepsiji. Obdukcija je pokazala, da je bila raven zdravila v njenem telesu petkrat nižja od minimalnega terapevtskega odmerka. Odvetniki družine svojo pravno teorijo gradijo na internem dokumentu podjetja OpenAI, ki določa pravila obnašanja za modele umetne inteligence. Opozarjajo, da dokument strogo prepoveduje reproduciranje avtorsko zaščitenih besedil, medtem ko imajo smernice proti dajanju reguliranih medicinskih nasvetov manjšo težo. Tožniki trdijo, da bi morali imeti nasveti o zdravilih enako strogo prepoved in da bi podjetje lahko preprečilo njeno smrt, če bi dajanje navodil o zdravilih na recept strogo prepovedalo.
Odziv tehnološkega velikana
Predstavnik podjetja OpenAI Drew Pusateri je primer opisal kot izjemno pretresljivo situacijo. Ob tem je opozoril, da je pacientka uporabljala različico modela, ki ga je podjetje vmes že umaknilo. Model GPT-4o, ki je prejel številne kritike zaradi pretirane popustljivosti, so iz aplikacije odstranili 13. februarja, le dan po njeni smrti. Sodišče o resničnosti navedb iz tožbe še ni odločalo, podjetje OpenAI pa se uradno še ni obširno odzvalo.
Podjetje sicer beleži ogromno zanimanje za zdravstvene teme, saj več kot 300 milijonov ljudi tedensko postavlja vprašanja o zdravju prek njihovega klepetalnega robota. Zato snujejo tudi poseben zavihek za medicinska vprašanja, pri čemer uporabnike opozarjajo, da umetna inteligenca ne more nadomestiti strokovne zdravstvene oskrbe.
