Blockchain, kripto valute, veliki brat in umetna inteligenca

Dr. Mark Pleško je fizik, specialist na področju jedrskih pospeševalnikov in podjetnik, čigar podjetje razvija kontrolne sisteme za pospeševalnike in jih prodaja po svetu. Je tudi član inženirske akademije, predsednik upravnega odbora Inštituta Jožef Stefan in še marsikaj, skratka eden naših najbolj pronicljivih in popularnih znanstvenikov.

Dr. Mark Pleško

Dr. Mark Pleško je zelo prijeten sogovornik, ki svoje misli in stališča izraža enostavno in vsem razumljivo. Tokrat v pogovoru posebej za Novi Podjetnik.

Zadnje čase smo na portalu Novi Podjetnik imeli velik obisk pri člankih o blockchainu in bitcoinu. Kaj si misliš o virtualnih valutah?

Marsikaj, a ker zadnje čase vsi govorijo o balonu, naj začnem s tem. Ja, verjetno tvorijo balon in bo slej ko prej počilo. So sicer različne teorije. Ene pravijo, da je tako malo prometa z virtualnimi valutami, da so še velike rezerve, preden bo balonček počil. Kajti ta virtualni denar bo imel vedno neko vrednost. Važno je, da obstaja neka skupina ljudi, ki se jim splača to uporabljati, vsaj denimo kriminalci, ali pa tisti, ki hoče kaj prikriti, prati denar, … pa seveda digitalni zanesenjaki, ki bodo še naprej s tem operirali. Ostali pa vidijo v tem neko priložnost in špekulirajo. Dodane vrednosti ni, le špekuliranje. Saj veš, če prileti na mesec 30-odstotni dobiček na vložek noter, potem se je težko umakniti. Spominja me na situacijo pred kakim desetletjem v Rusiji, kjer je bilo kakih 20 milijard dolarjev, ki so jih zaradi hude inflacije ljudje, saj veš, uporabljali na črnem trgu. Ko je prišla ven informacija, da bodo Američani zamenjali bankovec za 100 $ z nekim novim, bolj zaščitenim, je na črnem trgu takoj padla vrednost tem dolarjem za 10 %. Hočem reči, trgi zelo bazirajo na psihologiji, ne na dodani vrednosti.

Vlada, še posebno minister Koprivnikar in državni sekretar Slapnik močno spodbujata blockchain-revolucijo in ustanavljata pravo asociacijo zainteresiranih subjektov. Kaj meniš, ali je Slovenija sposobna imeti vodilno vlogo v 4.0 revoluciji?

Dr. Mark Pleško

Bom povedal s prispodobo: Slovenija je orehova lupinica v oceanu globalizacije. Kakor tam pihajo vetrovi in se gibljejo valovi, tako moramo mi to loviti. Slovenci smo premajhni, premalo kapitala imamo in kadrov, da bi lahko vplivali na svetovno dogajanje. Smo pa lahko tako pametni, da uvidimo, kam pes taco moli in zavohamo, kam piha veter, in se lahko zelo hitro prilagodimo. Zgodovinsko smo to naredili nekajkrat precej uspešno. Primer iz računalništva je bil, ko se je leta 1971 ali ’72 organizirala pomembna računalniška konferenca pri nas – organiziral jo je prof. Egon Zakrajšek – in Slovenija je bila takrat med vodilnimi razvojnimi okolji za IT v svetu. Če se vrnem na revolucijo 4.0 – nekatera naša podjetja so že globoko v tem, saj smo pretežno izvozno gospodarstvo, čeprav bodo po drugi strani nekateri še desetletja ostali pri tem, kar delajo danes.

Ali bo to povečalo razkorak med razvitimi in nerazvitimi?

Moram reči, da sem v zadnjih letih spremenil mnenje o nekaterih stvareh, pa ne vem, ali zato, ker sem star in žleht ali star in butast. Ampak – se mi zdi, da z leti postajajo bogataši še bolj bogati, kar je seveda krivično, po drugi strani pa se mi zdi, da se vsako leto nasmehne sreča nekaj 10 milijonom ljudi, ki zlezejo čez prag revščine, kar je dobro.

Zdaj smo vsi med sabo povezani; v zadnji afriški ali andski vasi imajo mobilce, če nič drugega ne. Globalizacija ima dva efekta. Družba je od pamtiveka strukturirana kot piramida, ki ima na vrhu maloštevilno elito. Z globalizacijo so se te nacionalne piramidice združile v eno veliko, in tisti ljudje na vrhu so svetlobna leta bolj bogati in vplivni, kot so bili pred leti. Vse to se bo le potenciralo, ostali bodo mali šerifi, ki bodo obvladovali državice, kot je naša, oni zgoraj pa še bogatejši. Hkrati pa se dogaja, da se krepi srednji razred. Zelo veliko produktov, tudi inovacij, ima komercialni smisel takrat, ko jih uporabljajo širše mase. Spomnim se – kot otrok v Minhnu – ko smo se otroci med sabo menili, kako imajo neki bogataši v avtih telefone, velike škatle, pa velike antene na strehi. Seveda, za nekaj posameznikov ne bi imelo smisla razvijati današnje mobilne telefonije. Današnji pametni telefoni so zmogljivejši kot so bili pred dvema desetletjema superračunalniki, in telefoni so v roki skoraj slehernega Zemljana. Tako, da se mi zdi, da je družba na razpotju. Lahko postane, kot npr. v srednjem veku, da bo nekaj bogatašev – plemičev na vrhu, ostalo pa bodo reveži, … čeprav raje mislim, da bodo sicer zelo bogati še bolj bogati, hkrati pa bo nastajal krepak srednji razred. Koliko smo pa sposobni potegnili ljudi iz spodnjega razreda v srednji razred, bo pokazala pa vsaka družba zase. To se sicer ne bo zgodilo samo od sebe, ampak mora družba stremeti za tem. Glede tega sem optimist.

Kako bi omejili vpliv spletnih velikanov? Kako globoko nas Veliki brat že kontrolira? Je to nevarnost za demokracijo?

Prvo vprašanje je, kaj je sploh demokracija – jaz je še nisem videl. Meni se zdi, da spominjamo na starorimsko zlato obdobje. Imeli so kralja, ga ukinili in naredili neke vrste demokracijo s senatom, potem pa spet uvedli cezarja. Tudi pri nas je podobno: to ni demokracija, ampak bolj facebook-kampanja, pa nekaj klikamo. Jaz nimam posebno dobrega mnenja o demokraciji. Kot je rekel Churchill: »Demokracija je najslabši sistem – razen seveda vseh ostalih.« En sistem vladanja potrebujemo, da ne bodo ves čas isti ljudje na oblasti, da krožijo… Saj veš, kako pravijo: oblast korumpira, toda absolutna oblast korumpira absolutno. Paziti moramo, da ne pride na oblast kak norec, kot sta bila Hitler ali Stalin.

So posamezniki, ki so zasnovali velike platforme, ki danes kontrolirajo svet. Ali lahko s postavljanjem filtrov in prioritet vplivajo na javno mnenje? Saj manipulirajo z nami …

Ja, ampak tako je bilo v vsej zgodovini. Imenuj mi eno obdobje, ko oblast ni manipulirala z državljani oziroma s podaniki!

Že, ampak človeštvo naj bi napredovalo, ne nazadovalo.

Evolucija se je bolj ali manj ustavila, ko smo postali poljedelci – kakih 10.000 let nazaj. Napredovala je birokracija in oblast. Taki pač smo. Vsaka nova tehnologija komuniciranja je pripeljala do svetovne ali zelo velike vojne. Recimo radio – izkoristila sta ga Hitler in Mussolini, da sta manipulirala z ljudmi. Tehnologija ustvari pogoje za manipulacijo in traja kar nekaj časa, da se ljudje na to navadijo in ne zaupajo več slepo. (Op. urednika: le 37 % ameriških uporabnikov družbenih omrežij verjame tam videnemu in zapisanemu, kar dvakrat toliko pa jih verjame tradicionalnim medijem.)

Pa se lahko posameznik kakorkoli izogne stalnemu nadzoru, kot ga daje pametni telefon, uporaba kartic itd.?

Veliki brat je že tukaj, mislim, da se ne moremo. Na mojem pametnem telefonu imam vse izklopljeno; data, GPS imam izklopljen, razen, kadar ga rabim. Zadnjič sem iskal en 3D printer, pa ko zdaj priklopim GPS, mi Veliki brat še kar ponuja printerje, ker ne ve, da sem ga že kupil … Kakorkoli: absolutni nadzor posameznika je že tukaj. Mnenja sem pa, da raje vidim, da moje podatke kontrolirata Google in Facebook, kakor pa država.

Kaj pa, če bosta to zlorabila?

Jaz bolj zaupam tem globalnim mastodontom kot državi. Interes firm je jasen: hočejo zaslužiti denar in nič drugega. To vsaj razumem. Države pa hočejo še kaj drugega, npr. kontrolirati ljudi, kar me bolj moti. Bojim se pa, da bo država to nekoč od firm zahtevala – dostop do podatkov – in tedaj ne bo kraja na zemlji, kjer bi se lahko skrili.

Saj od Yahooja je že …

…Saj saj, zato je šel Google iz Kitajske. Imam par kolegov, ki delajo v Googlu, in povedo, kako zelo pri Googlu pazijo na osebne podatke njihovih uporabnikov. Pa ne zato, ker bi bili prijazni, ampak jih zavezuje zakonodaja. Tudi pritisk civilne družbe lahko pomaga. Sicer pa z nami mastno služijo, kar je posledica globalizacije. Mimogrede, to ni nič novega: pred temi so bili npr. železniški baroni, kemična industrija kot DuPont, naftarji in podobni, dokler ni prišlo do tehnološkega preskoka in so povedli novi IT-dobičkarji. Vzorec je pa nekako vedno isti, mar ni? Ne nazadnje – obstaja tudi pozitivna konotacija tega družbenega nadzora: če ljudje vedo, da so nadzorovani, se obnašajo bolj družbeno sprejemljivo. Menda zdaj odvetniki v 70 % primerov uporabljajo kar FB za dokazno gradivo v ločitvenih postopkih. Lahko pa se to zlorablja z negativnimi kampanjami, ki lahko hitro uničijo človeka.

Si prepričan, da se socialni mediji ne bodo perfidno vključili v kreiranje politike ter ustvarjanje javnega mnenja, saj obvladujejo uporabnika in mu lahko s prilagojenimi algoritmi, ki ustrezajo njim samim ali izbrancem, ki so v njihovi lasti, podajajo natanko take informacije, kot želijo sami? Tako bi lahko oblikovali politiko neodvisno od strank, zakrinkano v demokracijo in še kaj hujšega …

Seveda se bodo, saj se že. Pa ne lastniki teh medijev, kot je Twitter ali Facebook, temveč ljudje, ki jih znajo dobro izkoristi. Ponovno vprašam: v čem je to drugače, kot je Cezar izkoristil cirkuške igre (pomisli na rek »kruha in iger«), kot je Hitler izkoristil radio in letalo in kasneje filme za propagando, in še bi lahko našteval. Sicer pa: ali si ljudje v resnici ne želijo tega? Zakaj pa uspevajo hollywoodski filmi, ki imajo načeloma vedno srečen konec in dobro (no, ameriško) zmaga. Zakaj so lepi ljudje statistično gledano bolj uspešni in zakaj se za vsak slučaj ženske šminkajo? Ali ni to manipulacija javnega mnenja? To je pač mehurček, kamor se radi spustimo, ker ne maramo grde realnosti.

Kakšno priložnost ali grožnjo predstavlja sedanji civilizaciji umetna inteligenca?

UI je lahko grožnja, lahko pa je blagoslov za človeštvo. Napovedovati je težko oziroma nemogoče. V prihodnosti so možni vsi scenariji … – celo to, da nas Korejci prej uničijo, preden se lahko zgodi kaj usodnega za človeštvo zaradi UI.

Bi se pridružil stališču, ki ga ima Elon Musk, ko opozarja na nevarnosti umetne inteligence?

Umetna inteligenca bo spremenila svet – takega, kot ga imamo, ne bo več. Kaj in kako bo, pa mi ni čisto jasno. Musk ima prav: če bi mi dali UI neko moč upravljanja, prisile, represije, bo UI ugotovila, da ljudi sploh ne potrebuje. Če nekoliko religiozno pogledamo v evolucijo, vidimo, da nova vrsta nastane na ramenih stare. Ljudje bomo ustvarili UI, ki bo hitrejša in pametnejša od nas. Bolj racionalna. In slej ko prej se bo vprašala, zakaj sploh potrebuje ljudi, kaj ti sploh počnejo tod okoli. Morda nas bo pustila pri miru. Morda nam bo prizanesla. Ljudje vidimo smisel življenja v tem, da ga živimo, UI pa ga še nima; morala ga bo ustvariti in ga zagovarjati. Zažirali se bomo v prostor, v rabo kovin, … ampak dokler ne bomo ustvarili umetnih živih bitij, si menda ne bomo tako zelo v napoto, lahko pa nam UI zelo pomaga. Ker nam ne bo treba več delati, bo to povzročilo hude družbene pretrese, ki jih bomo morali nekako obvladati.

A misliš, da bo treba prilagoditi tudi zakonodajo, kot je, na primer, prepoved kloniranja človeka?

Ja, to bi lahko bilo videti takole: rodi se ti otrok in zanj kupiš najboljšo genetsko verzijo, čez pet let se ti rodi drugi – medtem bo genetika napredovala in boš dobil še boljšo verzijo … Ali bomo potem ljudi ‘apgrejdali’? Karkoli napovedati … Vsakdo se lahko tu dela pametnega.

Kaj bi morale storiti svetovne vlade v zvezi z UI in zakonodajo?

Mislim, da bi morali začeti čim prej uvajati UI, jo spremljati in ugotoviti, kaj pomeni oz. prinaša. Bolje, kot da si zatiskamo oči pred novostmi, je – prav nasprotno – treba to uvajati, ugotoviti njene prednosti in slabosti in jo na podlagi izkušenj nadzorovati.

V zvezi z razmahom umetne inteligence (ko stroji prevzemajo človeška delovna mesta) je univerzalni dohodek kot nujno kategorijo, ki jo je potrebno čim prej uvesti za vzpostavitev stabilnosti, izpostavil podjetniški mag Richard Branson na nedavni konferenci na Finskem. Menda je to že uskladil s pomembnimi svetovnimi voditelji, Finska pa že poskusno uvaja univerzalni dohodek v višini 650 €. Branson meni, da bi ob izgubi številnih delovnih mest zaradi robotov to dalo trenutno nezaposlenim čustveno stabilnost in spodbudilo podjetništvo.

Finci UTD menda testirajo v eni občini ali enem okraju. In tako je tudi prav: vseh teh velikih družbenih sprememb ne moremo kar zavreči ali sprejeti – moramo najprej videti, kako delujejo, jih razumeti in potem s pametjo uporabiti. Poskusi v omejenem obsegu so zato zelo koristni … socialni eksperimenti? Zakaj pa ne. Mislim sicer, da je tudi UTD samo prehodna rešitev. Svet se bo zaradi avtomatizacije in UI tako spremenil, da kapitalizem v taki obliki kot ga poznamo, ne bo imel več smisla. Navsezadnje kapitalizem pomeni vlaganje kapitala, denarja. A če imam stroj, ki naredi vse, mi lahko naredi tudi druge stroje. In torej ne bom potreboval kapitala za veliko tovarno, ampak samo surovine in dovolj časa. In ker bo napredovalo tudi zdravstvo, pa genetika (in se bo mogoče celo ustavil ali vsaj podaljšal proces staranja), mogoče niti ne bo več imelo smisla varčevanje za penzijo … Ker kaj je obdobje penzije, če živiš ‘večno’?

Zelo zaskrbljen glede možnega človeku sovražnega razvoja umetne inteligence je tudi že omenjeni, preroški Elon Musk, lastnik Tesla Motors, ki javno poziva človeštvo, da se pravočasno obvaruje pred človeško apokalipso. In za to se zelo resno tudi bori; on in Sam Altman, predsednik Y combinator, sta skupaj vložila milijardo dolarjev v podjetje OpenAI, kjer nekaj sto mladih nadpovprečnežev želi ustvariti človeštvu varnejšo umetno inteligenco.

O Musku sva že govorila. Lahko ima prav, lahko nima, vsekakor pa nikoli ne škodi biti previden. Ampak kdo zagotavlja, da ne bo ravno njegova firma OpenAI razvila kako smrtonosno obliko AI, ki ji bo po nesreči ušla iz laboratorija? Komu sploh lahko še zaupamo? No, ravno od te dileme profitirajo populisti.

Sklepna misel?

Ne bom rekel, da bo svet postal tak, kot ga napoveduje Elon Musk, pa tudi ne, kot ga nekateri optimistično slikajo. Prav je, da se zavedamo potencialne grožnje in razmišljamo o mehanizmih, da se grožnja ne bo uresničila.

V. K.