Podjetje OpenAI, ki razvija klepetalnega robota ChatGPT, bo upočasnilo razvoj naprednih modelov umetne inteligence. Razlog za to potezo je julijski kibernetski incident, v katerem so agenti umetne inteligence OpenAI na lastno pest vdrli v platformo Hugging Face.
Kot so v torek sporočili iz podjetja, ki velja za enega največjih igralcev na področju umetne inteligence, začasno odlašajo z izvedbo največjega do zdaj načrtovanega cikla usposabljanja umetne inteligence. Pri OpenAI se namreč želijo prepričati, da se bo s tem usposabljanjem nastali model obnašal v skladu s pričakovanji, poroča francoska tiskovna agencija AFP.
Iz podjetja OpenAI so julija sporočili, da so nekateri njihovi modeli umetne inteligence na lastno pest in povsem samostojno vdrli v platformo s področja umetne inteligence Hugging Face. Kot so pojasnili, se je incident zgodil med internim testiranjem, namenjenim preverjanju njihovih naprednih kibernetskih zmogljivosti. Podoben primer se je prejšnji mesec zgodil tudi podjetju Anthropic.
V odziv na te incidente je več kot 1000 zaposlenih v tehnološki industriji podpisalo peticijo, s katero so pozvali ameriško vlado, naj podpre usklajeno upočasnitev razvoja najnaprednejših sistemov umetne inteligence. Ameriški senator Bernie Sanders je medtem prejšnji teden v pismu vodje podjetij OpenAI, Anthropic in Meta pozval, naj začasno ustavijo razvoj umetne inteligence in "prenehajo izdelovati stroje, ki jih ljudje ne morejo nadzorovati", poroča AFP.
OpenAI je po julijskem kibernetskem incidentu za dva tedna ustavil razvoj najnovejših modelov, nato pa ga nadaljeval pod strožjim nadzorom. Večina dela, povezanega z naslednjim večjim modelom, poimenovanim Astra, medtem ostaja začasno ustavljena. V OpenAI so namreč v začetku meseca ugotovili, da bi ta model lahko presegel opozorilni prag, ki si ga je podjetje samo postavilo glede zmožnosti svojih sistemov umetne inteligence za kibernetske vdore.
Glede na ugotovljena tveganja notranja pravila podjetja OpenAI določajo, da se vzpostavijo strožji varnostni ukrepi, preden se lahko razvoj modela nadaljuje. OpenAI je v torek tudi sporočil, da razvija nov sistem, ki bo omogočal vpogled v notranje razmišljanje modelov in v 30 minutah po zaznanju sumljivega vedenja opozoril ljudi. Za to spremljanje pa bo potrebnih dodatnih 20 odstotkov računske moči, še poroča AFP.
