+386 (0)5 330 1000
Umetna inteligenca ne more nadomestiti zdravstvenih poklicev
Antropolog dr. Dan Podjed je višji znanstveni sodelavec v Inštitutu za slovensko narodopisje ZRC SAZU in izredni profesor na Filozofski fakulteti Univerze v Ljubljani. Je raziskovalec, pisec in predavatelj. Ravno pravi človek, da smo z njim naredili intervju o izzivih sodobnega sveta. Spregovorila sva o družbenih omrežjih, o digitalizaciji, o umetni inteligenci in še čem. Pogovor bomo objavili v dveh delih. Priporočamo izjemno zanimivo branje.
V današnjem času so starši v nenehni dirki s svojimi otroci. Skušajo jim slediti, vedeti, kaj počnejo s telefoni, skušajo jim časovno omejiti uporabo telefonov, skušajo jim svetovati, kaj je še sprejemljivo …
To je večna oboroževalna tekma med starši in otroci. Otroci zmeraj najdejo pot in so ponavadi tehnološko bolj usposobljeni kot njihovi starši. Jaz se samo čudim svojim otrokom in se tudi veselim njihovih tehnoloških trikov in dosežkov. Hkrati pa skrbi to, da so vsebine na zaslonu tako zanimive in mikavne, da jim fizični svet res težko konkurira. Res je težko prepričat otroka, da gre na neko športno dejavnost, da gre na dvorišče, da se dobi s prijatelji. Zakaj bi sploh šel kamorkoli? Pa saj ima zaslon, kjer lahko počne vse to. Se udeležuje e-športov, e-prijateljuje, se šola na daljavo, vse je postalo e-. S tem, kako odklopit svoje otroke, se srečujemo mnogi starši. Vseskozi se nam postavlja tudi večno vprašanje, koliko jim dovoliti. Ne moreš jim ukiniti telefonov, sam pa istočasno čepeti na zaslonih. To tudi ni fer. Starši imamo namreč zelo pogosto telefone v svojih rokah. Zdi se mi, da moramo enostavno vzpostavit neko ravnotežje med digitalnim in analognim, med fizičnim in virtualnim.
Imel sem izkušnjo na vasi, ko so otroci sedeli za mizo in si sporočila pošiljali preko telefonov. Sploh se niso pogovarjali, pa so sedeli eden zraven drugega. Kako naj človek to razume?
Velikokrat kažemo s prstom na otroke, pa včasih starši nismo veliko boljši od njih. Pod večstanovanjsko hišo, v kateri živim, večkrat opazujem starše, ki sedijo na klopeh, uporabljajo svoje telefone ter istočasno nadzirajo svoje otroke na šolskem igrišču. Torej niso ne tu, ne tam. Nekje vmes so. Ne na drugi strani zaslona, ne z otrokom. Ali pa, ko gresta mož in žena na večerjo, ki jo drago plačata. Jo potem pofotkata, objavita na instagramu. Čakata na všečke, čakata na odzive. In je bolj pomembno to, kar se dogaja na zaslonu kot tisti trenutek, ko si z nekom skupaj, za katerega si si vzel čas. Namesto da bi se posvečali drug drugemu, se gledali v oči. Komuniciramo z nekimi tretjimi ljudmi po telefonu. Tako smo na nek način v nekih poligamnih odnosih oziroma se gremo spletno poliamorijo.
Nekateri ne morejo brez telefona niti pod tušem …
Telefoniranje pod tušem je tudi meni fascinantno. Po neki raziskavi se je 10 odstotkov ljudi že kdaj stuširalo s telefonom v roki in 12 odstotkov ljudi ima spolne odnose s telefonom v roki. Ok, razumem, da je treba takrat še kaj opravit: denimo naročit hrano na daljavo ali pa komu pisat ali pa si ogledat kakšne erotične vsebine. To si še lahko predstavljam. Težko pa razumem, zakaj se 10 odstotkov ljudi tušira s telefonom? To pa mi res ni jasno. Morda prav zaradi tega zdaj delajo vedno več vodotesnih telefonov.
Kopalnica je vabljiva za poslušanje glasbe preko telefona ali zvočnika tudi zaradi akustičnih ploščic. Marsikdo si rad zapoje pod tušem, ker lepo odmeva in sliši samega sebe. Kot da bi pel na mikrofon …
Jaz tudi včasih popolnoma padem v glasbo. Veliko poslušam zvočne knjige predvsem za to, da se zamotim pri opravljanju vsakdanjih del: to je čiščenje posode, sesanje, brisanje pajčevine. Jaz si takrat dam na glavo slušalke in delam ta opravila. Za našteta dela smo pred 50 leti mislili, da jih bodo opravljali roboti, mi bomo pa ta čas v miru brali knjige. A očitno še nismo tam. Slušalke mi torej predstavljajo neko podporo. Včasih mi je celo žal, ko čistim kopalnico in je že konec, saj je na vrsti neko zanimivo poglavje. Zdaj ravno poslušam knjigo o Elonu Musku. Je izjemno zanimiva. Tudi on se mi zdi izjemno zanimiv človek. Priznam mu marsikatere kvalitete. Je človek, ki si upa spreminjat svet. Mislim, da takšnih ljudi potrebujemo več. Mogoče je malo zataval v tem spreminjanju sveta, vendar je njegova zgodba vsekakor navdihujoča in fascinantna.
Živimo v času digitalnega fevdalizma in totalitarizma. Je naslednja stopnja digitalna preobrazba oziroma digitalna demokracija?
Digitalni fevdalizem je post kapitalizem, gre za novo obliko kapitalizma. V bistvu gre za predkapitalistični sistem, v katerem se zakonitosti trga sesujejo in samo še peščica velikašev obvladuje podatke, mi pa postajamo vse bolj tlačani tega sistema. Ko pridemo iz službe iz nekega kapitalističnega sistema, gremo naravnost v fevdalizem, ko začnemo tipkat po telefonu. To je tlaka. To je brezplačno delo, za katerega nismo plačani. Izključno tisti na drugi strani zaslona oziroma lastniki omrežij, do katerih dostopamo ali pa lastniki aplikacij, ki jih uporabljamo, s tem služijo. Pa ne samo z naročnino, ampak tudi s podatki, ki jih zbirajo in prodajajo. Kako sistem deluje, zelo dobro opiše Shoshana Zuboff v knjigi The Age of Surveillance Capitalism. Ona mu sicer ne pravi fevdalizem, ampak nadzorni kapitalizem. Izpostavi primer, da je sesalniku Rumbo (iRobotu), poskočila delnica za več kot 100 odstotkov v trenutku, ko so vanj vgradili kamero in radar. Zakaj? Rekli so, da je to boljše, ker naprava takoj vidi prah in ga posesa.
Dejansko pa gre za to, da vohuni po vašem stanovanju. Mimogrede pregleda, kaj imate in česa še nimate. Vse te podatke proda podjetjem, ki prodajajo pohištvo in potem dobite po nekem čudežu oglas za točno tisto omarico, ki vam še manjka v stanovanju. Tako funkcionira ta sistem, ko zastonj razdajamo svoje podatke. Zato mislim, da bi morali postaviti neko mejo med tem, kaj je naše in kaj je javno, kaj je tuje in kaj je moje. Mislim, da bi se to dalo narediti s pomočjo tehnologij kakršna je Block Chain. Lahko bi postali lastniki nekega podatka, ga priklicali nazaj, ga prodali, dali na trg. Na ta način bi na nek način ohranjali kapitalizem. Ampak ta hip pač zbira podatke zgolj ena stran, ena pa jih razdaja.
Digitalni totalitarizem pomeni, da majhna skupina ljudi obvladuje celotno družbo. Lep primer tega je Kitajska, ki se je leta 2016 odločila za razvoj sistema družbenega razvrščanja oziroma družbenih kreditov. Gre za obvladovanje ogromne skupnosti, več kot milijarde ljudi, s pomočjo digitalnih rešitev. Hkrati gre v tem sistemu za vzgojo pridnih državljanov. Torej, vsak vaš gib je nadzorovan, tako kot v Orwellovem romanu 1984. Če boste pridni, boste nagrajeni, boste imeli več ugodnosti v življenju. Če boste poredni, pa ne boste dobili niti vozovnice za prvi razred na vlaku. Verjamem, da obstaja še tretji sistem, ki mu lahko pogojno rečemo digitalna demokracija. Njeno bistvo ni v prilastku digitalna, ampak v demokraciji. Problem pri vseh teh treh sistemih, ki sem jih omenil, je to, da imajo na začetku to besedo digitalno.
Mislim, da obstaja tudi prihodnost, ki ni nujno samo digitalna. Prav zaradi tega zagovarjam to pravico do odklopa. Res mislim, da moramo to pravico ohranit. Da gremo na sprehod brez naprav, da se družimo brez naprav, da gremo na večerjo s partnerko, s partnerjem brez telefonov v roki. Da ni zadnja stvar, ki jo odložimo ob postelji, ko gremo spat, telefon. In da ni prva, ki jo zjutraj vzamemo v roke, ko se zbudimo. In da se zavestno odklapljamo. Zakaj? Ker se v tistem trenutku tudi bolj zavemo samih sebe in se zavemo, kaj pomeni biti človek. Zdaj smo postali že na pol kiborgi, ki navigirajo s pomočjo pametnih naprav, ki včasih ne morejo niti na stranišče brez pametnega telefona, ki uporabljajo tudi pametna stranišča.
Ta postajajo vse bolj aktualna, saj vam zmerijo in stehtajo vaše iztrebke ter podatke pošljejo na telefone. Mogoče še zavarovalnicam ali pa zdravnikom, da lahko oni pregledajo, kakšno je vaše zdravstveno stanje. Skratka, nimamo miru. Do leta 2025 bomo na tem planetu živeli s 75 milijardami pametnih naprav, bolj ali manj pametnih ljudi pa bo 8 milijard. Približno toliko kot zdaj. Bistveno več bo na svetu torej pametnih naprav kot pametnih ljudi. Zato mislim, da bi bilo najbolj pametno, da se tu in tam odklopimo in da začnemo razmišljat tudi o tem, ali je človek še kaj drugega kot pameten. Zakaj govorimo samo o pameti, pa o umetni inteligenci. Kje so pa izrazi kot so sočutje, solidarnost, skupnost. Zakaj pozabljamo na to, ko govorimo o naši prihodnosti?
V celotni človeški zgodovini so obveščevalne službe skušale nadzirati ljudi, a ljudje so zmeraj našli pot, da so živeli po svoje … Bodo ljudje prelisičili 'nadzornike' tudi v prihodnosti?
Nadzor je težko totalen. In tudi totalni nadzor se hitro obrne proti tistim, ki ga vzpostavijo. Do zdaj so v zgodovini še vsi totalitarni sistemi v nekem trenutku padli in propadli. Zanimivo je, da imajo vsi totalitarci in velikaši, ki se dvigujejo v nebo, isto idejo. Elon Musk, Jeff Bezos, Richard Branson – vsi bi se radi poslovili od zemlje, se izstrelili v orbito, šli na Mars, ker smo zemljo itak 'zasrali'. Iščemo nove planete, postati želimo multiplanetarna vrsta. Mogoče bi bilo boljše, če bi najprej pospravili ta planet.
So paranoični tisti ljudje, ki mislijo, da jih opazujejo preko kamere na telefonu?
Ni nujno, lahko pa je tudi to mogoče. Ne bom rekel, da vsakega spremlja obveščevalna služba. Priporočam pa vsakemu, da prebere dve knjigi o tej temi. Knjigo Edwarda Josepha Snowdena z naslovom Permament record, ki je prevedena tudi v slovenščino kot Trajna evidenca. In pa knjigo MindFuck, ki jo je napisal Christopher Wylie. Snowden razkrije delovanje NSA (National Security Agency) in obsedenost te institucije z zbiranjem podatkov o vsem. V knjigi Mindfuck pa žvižgač iz Cambridge Analytica razkrije, kaj se je dogajalo v tistem podjetju. Oni so zbirali podatke o milijonih ljudi iz ZDA in na ta način vplivali na njihove volilne odločitve s targetiranimi oglasi. Objavili so denimo, da ima Hillary Clinton sifilis, da ni sposobna za predsednico, ipd.
Še enkrat se bom vrnil k vašemu vprašanju, če nas na drugi strani telefona kdo gleda? Trenutno sploh ni glavni strah ljudi, da jih kdo gleda. Glavni strah ljudi je, da jih noben ne gleda. To je glavni strah. Mladi, ki objavijo svoj posodobljen selfie za profilno sliko, in ga potem nihče ne všečka. To je največja groza sodobnega časa. Ne to, da nas nekdo gleda, ampak da nas nihče ne vidi. Da smo izginili.
Ste morda optimist, ker so ljudje spet začeli uporabljati analogno. Vračajo se plošče, fotoaparati, knjige …
Čeprav sam rad provociram z različnimi temami, sem v svojem bistvu optimist. Mislim, da so ljudje boljši kot mislijo sami, da so. Res verjamem v človeka, verjamem v človečnost, v človeštvo. Verjamem, da bomo znali rešiti spore, ki se pojavljajo po svetu. Verjamem, da bomo znali shajati tudi s pametnimi tehnologijami. Predvsem pa si ne želim, da bi bila prihodnost optimistična, niti pesimistična, niti utopična, niti distopična. Želim si, da bi bila prihodnost našega življenja z napravami dolgočasna. Iskreno si želim, da film, ki ga ustvarjamo, ne bi bil niti terminator, niti matrica, niti kot film Ona, v katerem se glavni junak zaljubi v operacijski sistem.
Da bodo te naprave tako dolgočasne, da nam bodo dale mir, da nas ne bodo motile s potisnimi sporočili, da nam bodo omogočile, da živimo bolje in da delamo manj. Naši kamenodobni predniki so – tako je pokazal antropolog Marshall David Sahlins – delali od tri do pet ur dnevno. V tem časovnem okvirju so lovili, nabirali hrano, kuhali. Ves ostali čas pa so imeli na voljo za to, da so peli, plesali, slikali po stenah, se zabavali, sprehajali, pogovarjali, imeli romantične zveze in spolne odnose. Tudi spali so bistveno več kot mi. No in potem si včasih predstavljamo, kako so oni živeli bedno. Kako bedno pa živimo mi? Jaz si želim tehnologij, ki nam bodo dale mir in ki nam bodo omogočile čas, ki nam bodo dale tudi pravico, da smo samo ljudje.
Bo v prihodnosti človek nadvladal tehnologijo ali bo ona njega? Bo svetu zavladala umetna inteligenca?
Čedalje bolj gremo v smeri, da postajami mi podaljški orodij. Mi ne uporabljamo orodja, temveč orodja uporabljajo nas. Telefoni niso več naše orodje, temveč smo mi podaljšek njihovih zmogljivosti in nekaj, kar nas upravlja. Ali bo umetna inteligenca presegla človeka? Umetna inteligenca je zaenkrat še orodje.
Mehurček okoli umetne inteligence se je malo preveč napihnil, na kar so pokazali tudi finančni podatki oziroma stanje delnic pri podjetjih kot sta Microsoft in Google, ki so skočile v pol leta za približno 40 odstotkov. Torej v podjetjih, ki sta ogromno investirali v razvoj umetne inteligence. Zdaj delnice že padajo. Mehurček se je malo razpočil oziroma iz njega spušča zrak.
Umetna inteligenca sicer sploh ni nekaj novega. Umetna inteligenca, ki je poganjala program Deep Blue, je premagala šahovskega svetovnega prvaka Garija Kasparova leta 1997. In zaradi tega ni bilo konec šaha. Mislim, da zaradi umetne inteligence ne bo konec človeka. Celo nasprotno. Mislim, da bodo zaradi umetne inteligence človeška dela vredna še več. Človeške stvaritve, denimo umetniška dela, ki jih je ustvaril človek brez umetne inteligence, bodo bolj cenjena, ker bodo bolj redka. Takšna dela bodo morala imeti nek certifikat v stilu: made by human. Ali pa made by ime in priimek. Treba bo tudi dokazat, da si ta človek pri kreiranju umetniškega dela ni pomagal z umetno inteligenco, kar bo mogoče težko. Tudi športi niso izumrli zaradi robotov, kakršne razvija podjetje Boston Dynamics. Ti roboti skačejo, tečejo. Verjetno tečejo že bistveno hitreje kot teče človek.
A kako bi pa zgledale olimpijske igre, če bi tekmovali Usain Bolt in 5 robotov. Bile bi brezvezne. Kako bi denimo Luka Dončiča nadomestili z robotom? Saj je bistvo Dončiča to, da je človek in da pokaže, kaj zmore človek. Mislim, da ima človek še ogromno za pokazat. Verjamem pa Kasparovu, ki se je s tem problemom ukvarjal v svoji kasnejši karieri, in je prišel do ugotovitve, da je prihodnost morda v kombinaciji človeka in stroja na najrazličnejših področjih. Od umetnosti, znanosti, do politike. Je kombinacija, ki ji on pravi kentaver - človek in stroj, ali pa robocop za lažjo predstavo. Tista, ki je najbolj učinkovita. To seveda ne pomeni, da se mora človek fizično spojit s strojem. Dovolj je, če si pomagata.
Najboljši šahist, tako pravi Gasparov, ni niti človek niti stroj, temveč človek ali skupina ljudi z enim strojem ali pa z več stroji, ki sodelujejo med seboj. Zakaj? Ker se tu pokaže ta človeška izvirnost, nepredvidljivost, nepopolnost, ki je na nek način popolna. Človeške poteze v šahu so popolne ravno zaradi tega, ker so nepopolne. Ker človek ne more gledati toliko korakov naprej kot to lahko gleda stroj. Lahko pa naredi nekaj povsem odštekanega. To je tisto, kar je bistvo ustvarjalnosti. Da na nek način naredimo res nekaj norega. Nekaj, kar ni normalno. To pa človek ima. Prav zaradi tega še vedno zaupam v bogato prihodnost človeka. A iskreno upam, da bomo zaradi tehnologij, ki delajo na podlagi umetne inteligence, delali manj, ne pa več.
Ena stvar, ki nas je ugonobila, je bila elektronska pošta, čeprav smo mislili, da nam bo pomagala. Jaz se bojim vsak dan odpret svoj elektronski predal. Ker je to Avgijev hlev, ki ga je treba vsak dan skidat. Tam je na stotine sporočil. Se ne šalim. Na nekatere ne morem več odgovarjat. Naj nam tu pomaga umetna inteligenca. Naj odgovarja na elektronsko pošto namesto mene. Potem se bo zgodil ta zanimiv trenutek, ko se bo en program pogovarjal z drugim na daljavo. Midva pa bova lahko ta čas sedela in klepetala. Saj to je bistveno.
Bo morda umetna inteligenca prevzela pobudo v zdravstvu?
Zdravstveni poklici so poklici, ki jih umetna inteligenca ne more nadomestiti. Lahko bi nadomestila nekatere dejavnosti v zdravstvu, denimo analizo rentgenskih posnetkov. To si lahko predstavljam, da lahko umetna inteligenca izvede bolje kot človek. Ampak tega, da bi se umetna inteligenca dotaknila človeka na ta človeški način, to pa ne. Zato bodimo najprej ljudje. Bodimo čimbolj človeški pri stiku s pacienti, pri stiku z ljudmi v vsakdanjem življenju. Ker je to tisto, kar se bo vse bolj cenilo. Tudi v bolj digitalizirani prihodnosti. To je tisto uravnoteženje življenja med digitalnim in analognim. Poudariti ta del in ne samo poudarjat inteligenco, pametne naprave.
Pri uvajanju pametnih rešitev morajo imeti tudi zdravstvene ustanove v mislih, da ni vse, kar je digitalno, suho zlato. Včasih so nekatere rešitve, ki so analogne, bolj trajne, bolj trajnostne, bolj dolgoročne in celo bolj učinkovite kot pa digitalne. Ni vse, kar ima zaslon in tipkovnico, idealno. Digitalne rešitve je treba uporabit smiselno. Prihodnost ne bo niti samo digitalna, niti samo analogna. Ampak nekje vmes.
Bistvo družbenih omrežij je komunikacija. Kaj bi svetovali ljudem?
Zavedati se moramo tega, da nas omrežja določajo po načelu, da si tisto, kjer objavljaš. Če objavljaš na Twitterju, postaneš človek, ki tvita. Če objavljaš na Instagramu, je bolj pomembna podoba kot beseda. Če objavljaš na Facebooku, pa si verjetno starejši občan tako kot jaz. Oziroma nadpovprečno star državljan te države. Če si mlad, si na Tik Toku ali na BeReal, ki je novo omrežje. Ta spreminja mlade po svoje s tem z dvominutnim oknom priložnosti, med katerim morate objavit neko fotografijo. Pa če ste na stranišču ali pa na sprehodu. Ni važno kje, takrat je treba objavit. Pri otrocih je v zadnjem času zelo popularno zbiranje ogenjčkov na SnapChatu. To so prave drame. 400 dni zapored si pošiljajo te ogenjčke in delajo samo to. A mislim, da je treba naredit še kaj drugega kot si samo preko Snap Chata poslat ogenjčke, če hočeš imeti res dober ogenj v zvezi.
Drugo sporočilo je, da napravite premik od kvantitete h kvaliteti. Od desetin sporočil tisočih 'prijateljev' k sporočilom, ki imajo smisel in k ljudem, ki vam osmislijo življenje. Na to pogosto pozabljamo v tej inflaciji prijateljev, v poplavi sporočil. Pozabljamo, kaj je bistvo, kar je res pomembno.
Tretje sporočilo je, da si vzamete čas za odklop. Pa v miru razmislite o naslednjem sporočilu. Ni treba vsega takoj povedat. Ker sveta mogoče ne zanima to, kar vi ta hip počnete. Mogoče je to res neko brezvezno sporočilo. Če pa imate res nekaj zelo pomembnega, pa je seveda dobro, če to delite tudi po omrežju.
Mogoče je res pomemben še nasvet, da opcijo odgovori vsem (reply all), ki jo pogosto uporabljamo pri komuniciranju po elektronski pošti čim manjkrat uporabimo. Včasih je to komunikacijska atomska bomba. Zakaj? Ker se z enim odgovorom začne verižna reakcija in se eno sporočilo raztrešči na 30 novih. In potem vsako od teh 30 na spet 30 novih. S tem dobimo poplavo informiranja, ki ne služi nikomur. Vem, zakaj to delajo ljudje. Spet zaradi tega občutka, da so vsi seznanjeni z neko informacijo, da si zavarujemo svoj hrbet v stilu: saj smo vas obvestili, a ne? Kaj smo dejansko naredili na ta način? Ukradli čas ljudem. Če eno sporočilo beremo 5 minut in ga prebere 30 ljudi, smo z enim klikom zapravili 150 minut časa. Na ta način izgubljajo tudi podjetja in organizacije. Podobno je seveda z zasebnimi sporočili. Torej, previdno ravnajte s to opcijo.
Še zadnje sporočilo: bodite iskreni. Mislim, da smo lahko tudi na omrežjih iskreni, človeški. To je vsekakor nekaj, česar nam primanjkuje v množici sporočil in kvazi prijateljev, ki jih vse pogosteje ustvarja umetna inteligenca. Hkrati pa je zanimivo to, da je iskrenost tisto, kar je ljudem najbolj všeč. Na kar se najprej odzovejo. Mislim, da se postopoma končuje doba instagramizacije življenja. Teh nepristnih, polepšanih podob sporočil. Veš, da so ljudje filtrirani, fotošopani. Veš, da to niso oni. Pa vseeno objavljajo svojo podobo. Mislim, da je prav, da se pokažemo večkrat takšni kot smo, četudi imamo razpokane žilice po obrazu, pa tudi če smo slabe volje, pa tudi če nismo zmagovalci in kralji sveta. Pa kaj. Sicer to vodi v začaran krog družbenega narcisizma in v to, da imamo kolektivni manjvrednostni kompleks. Ker ne moremo konkurirat svojim bivšim sošolcem, pa znancem, sodelavcem, ki objavljajo po omrežjih in imajo prečudovito življenje. In so na plaži, s koktajlom v roki. Mi pa sedimo doma na kavču in gledamo njihovo podobo in se nam cedijo sline.