(INTERVJU) Jonah Lynch: So ljudje, ki umetno inteligenco dojemajo kot religijo

Vaša akademska pot je izjemno široka – od fizike, filozofije, teologije do umetnosti in umetne inteligence. Kako se je oblikovalo vaše zanimanje za povezovanje tako različnih področij?

"Filozofija je nekoč imela podpodročje, imenovano naravna filozofija, kar je danes to, kar imenujemo znanost. In tako sem vedno čutil, da to niso ločena področja. Na dodiplomskem študiju fizike sem imel veliko vprašanj o tem, kako deluje svet, zanimalo pa me je tudi, od kod svet prihaja in kam bo šel. A tipični odgovori fizike na ta vprašanja niso zadovoljujoči. Lahko namreč rečemo, da je bil neki začetek, vendar se nato neizogibno vprašamo, dobro, kaj pa je bilo pred začetkom, od kod je začetek prišel, kako se je sploh zgodil, za pomen stvari, dejanj, življenja ... V najstniških letih sem ta vprašanja zelo močno občutil. Vodila so me k temu, da sem začel raziskovati v vse smeri hkrati. Omenili ste tudi umetnost. Zame je lepota temeljna izkušnja. Brez nje ne morem živeti, je nekaj, kar po mojem mnenju prežema vse, kar počnem, kako doživljam svet, kako razmišljam o znanosti, filozofiji in drugih področjih."

Danes veliko govorimo o interdisciplinarnosti, a v praksi je redka ...

"To je nevarna stvar, kajti če si interdisciplinaren, na univerzi ne dobiš redne zaposlitve."

Kljub temu vi živite interdisciplinarnost na polno ...

"Zato pa nimam redne zaposlitve (smeh)." 

Kako umetna inteligenca pri vašem delu dopolnjuje humanistična izhodišča?

"Ko imam vprašanje, si želim govoriti z nekom, ki je usposobljen. Ko vprašanja postavimo strokovnjakom, hitro ugotovimo, da glede ključnih vprašanj obstaja množica različnih pogledov. Na začetku smo morda ideološki in se zavzamemo za eno stališče, sam pa sem sčasoma ugotovil, da je veliko bolj koristno, če skušam poglobljeno razumeti, kako razmišljajo in kaj mislijo drugi ljudje, drugi misleci. In umetna inteligenca obljublja, da bo kot nekakšen knjižničar, ki je prebral vse knjige. Nekdo, ki upošteva vse, kar so ljudje o temi, ki te zanima, kdaj povedali oziroma, natančneje, zapisali. Seveda to ne drži povsem - tisto, kar danes imenujemo umetna inteligenca, še ni sposobno zares obvladovati tolikšne množice različnih pogledov v vsej njihovi globini. Je pa boljše kot nič in precej boljše od enciklopedij, ki so bile prejšnja različica ideje, da govoriš z nekom, ki ve vse. Skratka - izjemno fascinantna se mi zdi zamisel, da lahko govoriš z nekom, ki je prebral vse knjige, saj lahko s tem pridobiš veliko širšo perspektivo o čemerkoli."

Trenutno delate na projektu InnovationLens, katerega cilj je razviti orodje, s katerim bodo znanstveniki zlahka prepoznali obetavne raziskovalne teme. Bodo raziskovalne ideje v prihodnosti izhajale iz strojev, ne iz ljudi?

"To se že dogaja. Projekt InnovationLens je pravzaprav usmerjen v generiranje hipotez. Včasih to že obstaja v praksi - znanstveniki že uporabljajo metode strojnega učenja za generiranje množice idej, ki človeku običajno niti ne bi prišle na misel. Eden klasičnih primerov tega je oblikovanje radijskih anten. Ljudje so iznašli že veliko različnih oblik anten, pred leti pa je neka raziskovalna skupina uporabila računalnik, ki mu je določila nekaj osnovnih omejitev, in nato pustila stroju, da skozi številne iteracije išče oblike anten, ki bi zadostile določenim pogojem. Nekatere rešitve, ki jih je predlagal računalnik, so bile zelo očitne, podobne obstoječim človeškim rešitvam, druge pa so bile izjemno nenavadne, popolnoma drugačne in zmogljivejše od katerekoli antene, ki so jo do takrat oblikovali ljudje. To je bil eden prvih dokazov, da lahko stroj, ki zna raziskovati tako imenovani prostor možnih rešitev, najde več rešitev za določen problem. Ljudje pogosto intuitivno zaznamo le majhen del prostora možnih rešitev, stroji pa nam lahko v določenih primerih pomagajo vstopiti v povsem drug del tega prostora in tako reševati probleme na načine, ki jih prej nismo poznali."

Kako se bo, po vašem mnenju, vloga raziskovalca spremenila v naslednjih desetih letih zaradi napredka umetne inteligence?

"To bo zelo odvisno od raziskovalnega področja. Obstajajo področja, kjer lahko umetna inteligenca že zdaj ponudi pomembne prispevke, in druga, ki so proti tovrstnim spremembam veliko bolj odporna. Ne zna pa stroj razviti visoke ravni intuicije, ko gre za povezovanje oddaljenih idej ali področij – in prav to je nekaj, kar ljudje še vedno počnemo bistveno bolje."

Pa vendar, kako bodo raziskovalci ohranili ustvarjalnost in kritično mišljenje v okolju, kjer vse več orodij UI pomaga pri pisanju znanstvenih člankov, pregledovanju literature in predlaganju eksperimentalnih pristopov?

"To je težko vprašanje. Mislim, da smo še čisto na začetku tega odkrivanja. Ko sem bil otrok, so kalkulatorji postali poceni in široko dostopni. V šoli sem se učil poštevanko, potem pa sem ugotovil, da lahko neka majhna naprava enostavno izračuna vse namesto mene. Nenadoma sem lahko domačo nalogo opravil veliko hitreje. Moral pa sem ugotoviti, kaj je pri pomnjenju matematičnih dejstev zares koristno in kaj ni ter kaj lahko brez težav prepustim napravi. Mislim, da znanstveniki danes doživljajo isto vprašanje, le na drugem področju."

Ampak to vprašanje je danes veliko kompleksnejše. 

"Seveda, imamo pa dandanes problem, da enostavno ni mogoče prebrati vseh člankov, ker jih je preveč. To preobremenjenost z informacijami občuti vsak. In rešitve, ki jih trenutno razvijamo - samodejno povzemanje, široko iskanje, ki ti omogoča, da odkriješ članke, ki jih sicer ne bi našel, - so odgovori na ta izziv. Obstajajo tudi specializirana orodja, kot so denimo Elicit, Litmaps, Connected Papers in druga, ki vsako na svoj način raziskovalcem pomaga pri soočanju s preobilico podatkov. Ta orodja so zelo koristna za raziskovalce, ki že imajo izostreno kritično mišljenje. Ključno vprašanje pa je, kaj bo z naslednjo generacijo – in tu nam lahko hitro spodleti. Danes bom na predavanju pokazal primere, kjer mi je jezikovni model ponudil popolnoma izmišljene odgovore. Jaz vem, da so napačni, ker poznam vsebino. Ampak če je ne poznaš že vnaprej, kako lahko potem sploh dostopaš do resnice? Na vaše vprašanje torej nimam kratkega in jasnega odgovora, dejstvo pa je, da ne moremo več obvladovati količine informacij brez pomoči strojev, hkrati pa strojem, ki jih imamo danes, ne moremo popolnoma zaupati. Zato moramo ostati kritični in uporabiti vsa orodja, ki smo jih razvijali skozi stoletja - filozofske metode, primerjave različnih pogledov, presojanje prioritet -, da bi znali usmerjati svoje razumevanje in iskanje resnice."  

Za kritično mišljenje pa je treba imeti veliko poglobljenega znanja, kajne? Bodo nove generacije, ki odraščajo s to tehnologijo, sploh lahko razvile ustrezno distanco do nje?

"Nekateri ja, veliko jih verjetno ne bo. Kvantitativno težko rečem, kako zelo se to razlikuje od preteklosti, ampak to je resno vprašanje. Te dni sem imel predavanje za študente, ki se na Univerzi v Mariboru pripravljajo na učiteljski poklic, in samo eden izmed približno šestdesetih je imel razumevanje, kako deluje velik jezikovni model, kako deluje klepetalnik - pa ne govorim o tehničnih podrobnostih, ampak o zelo splošnem znanju. Ključno je vsaj malo razumeti, kako stvar deluje, da lahko oceniš vrednost tega, kar ti model ponuja. Zdi se namreč, kot da je zavesten, kot da je inteligenten, toda ta videz je lahko zelo nevaren, če ne razumeš, kakšna je v resnici vrednost tega, kar govori."

Kako lahko akademske inštitucije zagotovijo, da bo uporaba umetne inteligence etična, transparentna in vključujoča – tako v raziskovanju kot pri študiju študentov, kjer lahko pride do nepoštenih praks?

"Tega ne morejo zagotoviti. V vsakem primeru je veliko ljudi lenih in tega ne moreš preprečiti z nekakšnim prisilnim nadzorom. A če si len, tudi ne boš daleč prišel. Lahko morda opraviš izpite, na videz uspešno, a če ti primanjkuje znanja, boš v resničnem življenju, kjer ni več učilnic in ocen, pogorel. Ko je ChatGPT izšel - mislim, da je bilo novembra 2022 -, sem ravno poučeval statistiko. Bližal se je izpit in razmišljal sem, kaj naj naredim. Po nekaj dneh sem se odločil, da bom študentom preprosto povedal, da ta tehnologija obstaja - večina je še ni poznala - in da jo lahko uporabijo na izpitu. Moja naloga pa je bila pripraviti tak izpit, ki bo kljub temu preveril njihovo razumevanje, tak, ki meri znanje, tudi če imajo dostop do tovrstnega orodja. Mislim, da je to trenutno najbolj uporaben pristop. Obstaja pa ena pomembna izjema, in to je pisanje. Pisanje je izjemno pomembno za oblikovanje uma. Če ne pišeš, ne razviješ razmišljanja. Če oceniš le končni pisni izdelek, lahko ta izdelek brez težav ustvari umetna inteligenca, študent pa se ne nauči ničesar. Če pa meriš sam proces pisanja, je zgodba povsem drugačna. In to se da - lahko imaš pisni izpit v predavalnici, ustni izpit, obstaja veliko načinov. Skratka, učne metode se morajo posodobiti, kadar se pojavijo nova orodja."

Kot ste že omenili, ste tudi umetnostni navdušenec, sodelovali ste z glasbeniki, drugimi umetniki ter režirali dokumentarne filme in muzejske razstave. V projektu, ki je bil predstavljen na Beneškem bienalu, ste slike enega od umetnikov na osnovi umetne inteligence prevedli v glasbo. Lahko pojasnite, kako to funkcionira in kakšen je bil rezultat?

"Ta projekt je še vedno v teku, ne bi pa rekel, da je bil popolnoma uspešen. Ideja je bila v mešanju čutov, torej izkušnje barv in zvokov. Nekatere raziskave trdijo, da so vsi dojenčki v nekem smislu sinestetični, saj doživljajo mešanje čutov - kot da bi zvok čutili kot dotik ali obratno. Tako je ta slikar, ki slika z barvami in določenimi gibi, želel preizkusiti, ali bi lahko to izkušnjo prenesli v glasbo. Napisal sem nekaj programov, da bi to izvedli, vendar je bil prvi rezultat neposlušljiv. Zvenelo je grozno, sploh ni bilo glasba. Rezultat smo nato dali skladatelju in pianistu, da sta ga predelala. Ampak za zdaj je to še vedno nekakšen demo posnetek, ne pa globoko umetniško delo."

Umetnost ni le produkt, temveč tudi proces, ki vključuje čustva, izkušnje, namero. Vprašanje je torej, ali lahko umetna inteligenca v tem procesu res enakovredno sodeluje.

"Odvisno. V tem našem primeru smo uporabili umetno inteligenco, ki se je razvila ob vseh pianističnih skladbah od baroka do zgodnjega 19. stoletja. Če ima umetna inteligenca 'v mislih' ves ta material, je to podobno, kot če bi jazzovski glasbenik jemal odlomke različnih skladb drugih skladateljev in jih združil v svojo skladbo. Slišite nekaj, kar vas spomni na nekaj drugega, to na nekaj tretjega in tako naprej. To je lahko zanimivo orodje in je eden od načinov, kako uporabljam jezikovne modele. V tem smislu lahko umetna inteligenca služi kot uporaben pripomoček. Seveda pa pri tem ne moremo govoriti o nobeni nameri. Jezikovni modeli preprosto napovedujejo naslednjo besedo, potem pa pogledajo te besede in napovedujejo naslednjo. To je vse, kar počnejo."

V knjižni uspešnici The Scent of Lemons ste pisali o tem, kako tehnologija vpliva na naše odnose. Ali nam tehnologija v zameno za vse svoje prednosti jemlje nekaj bistvenega?

"Citirate mojo knjigo. (Smeh) To je vprašanje, ki nima enoznačnega odgovora. Je vprašanje, ki si ga mora zastaviti vsak izmed nas, in tudi odgovor nanj se spreminja glede na okoliščine, naše cilje, želje, namene. Poleg tega tehnologija ni svetovni duh, rekel bi, da je nekaj, kar počnemo ljudje že od samih začetkov. Zdi se, da je to celo eden izmed temeljnih znakov človeškosti - da nikoli nismo zadovoljni, da nikoli ne rečemo: 'Zdaj pa imam dovolj.' Ko nismo imeli oblačil in ognja, smo si želeli oblačil in ognja. Potem smo si želeli kovine – ne le bakra, temveč jeklo. In nato še več. Tega ni nikoli konec. In v tem je tudi nekaj zelo lepega. Ko verske tradicije pravijo, da je človek ustvarjen po božji podobi, menim, da mislijo ravno to, da je v našem duhu nekaj brezmejnega. In tehnologija je eden izmed izrazov te brezmejnosti. Seveda pa vsakršna koncentracija moči pomeni tudi možnost, da majhna skupina nadzira veliko množico. Prav zato smo iznašli pisavo – da smo lahko gradili mesta in vodili ljudi v tisočih ali milijonih, ne le v desetinah. Ste vedeli, da je bila pisava sprva razvita za knjigovodstvo? Da si je nekdo zapisal, koliko ovac si dal templju. A potem smo ugotovili, da se pisava lahko uporablja še za marsikaj drugega, za dobre stvari. In mislim, da je tako pri vsaki tehnologiji: razlog, zaradi katerega nastane, še ni nujno celotna zgodba."

Pišete tudi o "tehnološkem postu". Kaj to pomeni v praksi in zakaj menite, da je potreben?

"To sem napisal pred desetimi leti. Danes bi poudaril drugo besedo – ne več 'postenje', ampak gibanje. Tako kot srce bije v sistoli in diastoli, kot pljuča izmenično širimo in stiskamo. Moj odnos do tehnologije se je spremenil. Ko sem pisal knjigo, sem bil bolj prestrašen. Čutil sem potrebo, da se odrežem od tehnologije. Danes pa čutim bolj potrebo po izmenjavi. Torej, da ni dobro, da živim le v visokotehnološkem svetu, ki mi sicer prinaša veliko dobrega. Hvaležen sem recimo za Twitter, tam sem se naučil neverjetno veliko stvari, ki jih ne bi mogel izvedeti nikjer drugje. In to mi je nekoliko spremenilo pogled. Včasih imam obdobja, ko ure in ure berem Twitter, drugič pa začutim, da potrebujem drugačno delo. Ko programiram, gradim aplikacije, včasih potrebujem ljudi in biti v javni areni, drugič pa se moram umakniti kot menih – in samo delati, brez stikov. Tako sem spoznal, da je bilo 'postenje' v resnici le nepopolna metafora."

Kaj se je spremenilo, da se tehnologije ne bojite več? 

"Pred desetimi leti sem veliko predaval v šolah, saj so me starši pogosto vabili, ker so se bali Facebooka, Instagrama, Tiktoka.  A opazil sem nekaj zanimivega - mnoge stvari, o katerih sem govoril, so mladi že vedeli iz lastnih izkušenj. Poznali so omejitve, prednosti in nevarnosti teh omrežij. Pomislil sem, da so torej 'boomerji' tisti, ki počasneje razumejo, naslednje generacije pa niso nujno v slabšem položaju. Tudi moja osebna izkušnja se je spremenila. Prej me je bilo strah izpostavljenosti na družbenih omrežjih. A sčasoma sem ugotovil, da to sicer ima svoje slabosti, toda ustvarjati javno je tudi zelo dobra stvar. Hitreje se učiš, če si dovolj ponižen, da rečeš: 'Tole sem naredil. Kaj menite?' In če ti potem vsi povedo, da je zanič - v redu, si se nekaj naučil. Zdaj mislim, da so družbena omrežja lahko nekaj čudovitega. Slabo pa je, da temeljijo na oglaševanju, saj to ustvarja spodbude, ki niso usklajene z našim dobrim. Mogoče bomo v neki utopični prihodnosti imeli razsvetljene voditelje, ki bodo ustvarili sistem, v katerem bodo spodbude usklajene z našo blaginjo. In veliko ljudi se v različnih smereh že trudi za to."

Imate vero, da se bo res lahko zgodilo?

"Ne bi rekel, da imam vero, rekel bi, da obstajajo sorodne duše, ljudje, ki si prizadevajo za nekaj takega, in upam, da jim uspe. In če jim ne uspe, v redu, pač poskusili so narediti nekaj dobrega. Bolje to kot pa sploh ne poskusiti."

Trenutno se sicer bolj zdi, da bomo šli v drugo smer, torej da bodo v tehnološki revoluciji zmagala velika podjetja, ki nimajo v mislih naše dobrobiti, pač pa svoj dobiček. 

"Se strinjam. Ampak menim, da nič ni vklesano v kamen. Stvari lahko spremenimo. V teoriji bi se lahko kot družba odločili ali odkrili, da je za vse boljše, če bi družbena omrežja obravnavali kot javno infrastrukturo, kot elektriko ali vodo, in ne kot monopol v rokah nekaj podjetij. To je ena od idej. Obstajajo pa tudi druge."

Kaj pa menite o paniki v zvezi z UI, torej o distopičnih scenarijih, kjer tehnologija prevzame nadzor nad človeštvom?

"Veliko bolj sem zaskrbljen zaradi ljudi, močnih skupin, ki monopolizirajo vire moči. To pomeni energijo, hrano, orožje, znanje. Čeprav je znanje zdaj skoraj popolnoma decentralizirano. Že 20 let govorimo o internetu stvari in distopičnih scenarijih, v katerih lahko nekdo prevzame nadzor nad vašim domom in vas zaklene ter ugasne luči. Nekdo bi vam lahko naredil kaj takega, a pokazalo se je, da je to izjemno redko in tudi precej težko narediti na način, da je škoda resna. Ne izključujem, da bi se v prihodnosti lahko zgodilo, da bodo vlade z uporabo tehnologije močno podaljšale svojo moč, torej omejile svobodo gibanja in dejavnosti. To niti ni nekaj novega. Če razmišljaš o življenju v smislu 'jaz proti vsem', so sile, ki te lahko porazijo, a če razmišljaš o sebi kot delu skupnosti, si je težko predstavljati popoln zlom, ker smo odvisni drug od drugega. Kakšen bi sploh bil cilj poskusa uničenja celotnega sistema? Veliko bolj koristno je, da nas pripravijo do tega, da sovražimo druge države, kot pa da zrušimo lastno družbo. Tehnike propagande so po mojem mnenju bolj usmerjene v to, da bi Američani sovražili Kitajce in podobno, in ne v rušenje naših tehnoloških sistemov."

Bolj sem mislila scenarij, da tehnologija prevzame nadzor sama od sebe.

"Ne verjamem, da bi bilo to mogoče v bližnji prihodnosti. Mislim, da gre tukaj za vprašanje obstoja duše. Če menite, da duša ne obstaja in da je nevralna mreža enaka možganom, se motite. Obstaja zelo malo analogij med nevralno mrežo in človeškimi možgani, vendar še pomembneje, nobenih dokazov ni, da bi nevralne mreže same ustvarjale svoje ukaze. Niso radovedne, so rezultat programiranja. Na svojem predavanju to pojasnim tako: Nevralne mreže, torej veliki jezikovni modeli, vzamejo veliko število različic in ustvarijo povzetek. Ljudje pa delamo nasprotno: vzamemo temo in ustvarimo različice. In to je v nekem smislu gibanje duha. O tem je mogoče še veliko povedati, ampak to je moj optimistični pogled na vprašanje, ki ste ga postavili."