Oletame, et sa oled maaväline olend, vaatad maakera ja püüad ennustada, milline on see 10 000 aasta pärast. Laias laastus on sul kaks varianti. Kui vaadata ainult looduslikke protsesse, mis on Maal domineerinud viimased kaks miljardit aastat, paned oma ennustuses ilmselt täiesti mööda. Bioloogiline evolutsioon maailma tulevikus sisuliselt enam rolli ei mängi. Kui aga keskendud tehnoloogilisele arengule, siis ükskõik, kas arvestad bioloogia sinna sisse või ei, saad ilmselt palju täpsema tulemuse. Tehnoloogiline areng domineerib praegu maailma tuleviku üle peaaegu täielikult. Muidugi on veel mõned huvitavad kohad, kus evolutsiooni ja tehnoloogia vahel toimub mingi kähmlus, näiteks antibiootikumidele resistentsete bakterite puhul. Aga üldiselt võib öelda, et evolutsioon tegi suure vea, kui lõi inimese.

Evolutsiooni evolutsioon

Inimene on esimene arenenud organism Maal, kes sai aru, et ta on arendamisel. Sellest aru saades saime luua geenitehnoloogia. Rääkisin ühe tegelasega Pekingi genoomiinstituudist, kes ütles, et nad püüavad korreleerida inimeste genoomi nende intelligentsiga, et saada aru, milline geneetiline materjal teeb inimese intelligentseks. Inimene suudab seega genoome vaadates näha reeglipära, mida evolutsioon peab pimesi kompama. Inimesed on olnud evolutsioonist tugevamad optimeerijad. Oleme palju kiiremini asju looma õppinud. Seejuures looma asju, milleks evolutsioon pole olnud suuteline. Evolutsioon on küll teinud mehhaanilisi relvi, aga tulirelvad, aatompommi ja raadio on teinud inimesed. Me oleme keskkonna muutmises kiiremad ja võimekamad. Väga võimalik, et astume ise tehisintellekti arendades evolutsiooni jalajälgedes. Oleme praegu samasuguses olukorras: võime luua midagi, mis on meist endist võimekam ja kiirem.

Ma ei mõtle sellega, et tehnoloogiat peaks kartma. Kartmisest ei ole mingit kasu. Pigem tuleb olla teadlik laiemast pildist, sellest, mis on uute tehnoloogiate efekt ja mis on nende kõrvalefekt. Ja hoolitseda selle eest, et kui efekt on mõeldud olema positiivne, siis ei oleks kõrvalefekt negatiivne ja suurem. Tulevik on juba definitsiooni kohaselt ebaselge. Meil on lõplik hulk vaatlusi selle kohta, mis oli minevik ning hoopis suurem hulk võimalusi, mis võib olla tulevik. Tuleb vaadata neid variante, kus asjad ei pruugi hästi minna ja välja mõelda, kas praegu annaks teha midagi, et kõik läheks ikkagi hästi. Ehk siis pumbata tõenäosust negatiivsetest stsenaariumidest positiivsetesse.

Tuleks mõelda ka sellele, milliseid tehnoloogiaid ja mis järjekorras luua. Palju mõistlikum oleks luua kaitseotstarbelisi, mitte ründeotstarbelisi tehnoloogiaid. Käisin hiljuti Dubais World Economic Forumi kokkusaamisel, kus pakuti välja mõte, et autonoomsed relvad tuleks keelustada. Nende n-ö iseliikuvate relvade põhiline puudus ei ole sugugi see, et need käivad ringi ja tapavad inimesi, vaid et need tekitavad ebaterve konkurentsiolukorra. Sellise olukorra, kus tehisintellekti arendajate ressurss läheb selle peale, kes lööb eelmised üle ja mõtleb välja relva, mis tapab kõige kiiremini kõige rohkem inimesi, või teised sõjariistad üle kavaldab. Praegu on väga populaarsed sõjalised droonid, Hiina on vist juba teatanud, et arendab välja nendevastast süsteemi. Ühel hetkel liigub kogu tehisintellekti arendus selles suunas, kuidas on parem sõda pidada. Kui kogu tähelepanu on sõjatehnikal, ei saa sealt tulla midagi head.

On vaja tekitada olukord, kus tehnoloogiaarendajad mõtlevad ise positiivse ja negatiivse peale. Kõige esimene X-riski organisatsioon, mida ma toetama hakkasin, Machine Intelligence Research Institute (enne Singularity Institute) tegeleb just taolise olukorra saavutamisega. Ilmselt ei mõtle ükski tehisintellekti arendaja probleemidele, mis võivad tema loominguga kaasneda. Nemad püüdsid ühelt poolt teha teavitustööd ja teisalt arendada sellist tehisintellekti, mis kindlasti maailma ei hävita. Tõenäoliselt on lihtsam ehitada tehisintellekti, mis maailma hävitab, kui sellist, mis ei hävita. Kuna aga meie oleme sellele mõelnud, on meie kohustus kasutada oma lisateadmisi ja ehitada tehisintellekt, mis ei hävita maailma.

Positiivne vastutus

Selleks, et ehitada tehisintellekt, mis maailma õhku ei lennuta, on vaja lahendada kaks suurt probleemi. Juba esimesse versiooni tuleb sisestada õiged väärtused, see, millist maailma me tulevikus tahame näha. Teiseks tuleb garanteerida, et kui see tehisintellekt ehitab järgmise ja see järgmise, ei läheks meie tahtmised jadas kaotsi. Pärast instituudi strateegiamuutust keskenduvad nad matemaatilisele uurimistööle, mis on seotud otsustusvõime ja reflektiivsete süsteemidega. Kuna teist suurt probleemi saab matemaatiliselt üsna hästi formaliseerida, on nad nüüd tegelenud pigem sellega.

Näidisorganisatsioon eksistentsiaalse riski ökosüsteemist, mida ma ka toetada üritan, on Centre for the Study of Existential Risk. Kogu süsteem proovib ette mõelda tehnoloogiate peale, mis võivad olla potentsiaalselt inimkonda hävitavad, ja välja mõelda, kuidas nende negatiivset mõju vähendada ja positiivset suurendada. Hea, kui teadlastel ja arendajatel oleks kõrval organisatsioonide võrgustik, kes juhib tähelepanu sellele, et maailm oleks ohutum, mitte ohtlikum.

Tehisintellekti arendaja Hugo de Garis ennustas raamatus «The Artilect War» suurt massihüsteeriat. Ennustatakse suurt sõda, mille keskmes on küsimus, mida teha inimliigiga. Ma olen rääkinud mitmete kirjanike ja ajakirjanikega, kes tahavad rõhutada ideed, et tehisintellektiga peab olema ettevaatlik. Mina aga ei ole kindel, äkki selline lähenemine hoopis hirmutab inimesi liiga palju. Ärevil inimesed, kes ise midagi muuta ei saa, teeks maailma hoopis ohtlikumaks, mitte paremaks. Mul ei ole selle vastu midagi, et kõneleda tehnoloogiast tavainimestele positiivselt, ma teen seda ka ise ja selles ei ole midagi halba. Oluline on jõuda inimesteni, kes seda teadust ja tarkvara ise teevad ja nemad mõtlema panna. Tekitada neis positiivne vastutus. Suur samm selles suunas on viimastel aastatel ka toimunud.

Eksistentsiaalsete riskide teema on maailmas jõudnud uuele tasandile. Kui mina sellest teemast esimest korda kuulsin, oli üldine suhtumine, et hullud hipid Californias ajavad mingit jama. Praeguseks on idee arendusega liitunud tõsised akadeemilised keskused, kelle kohta on väga raske öelda «hullud maailmalõpukuulutajad». Siit edasi on vaja kaasata rohkem tehnoloogiaarendajaid ja teadlasi, kes ise uusi tehnoloogiaid arendavad ja teadust teevad. Panna nad mõtlema, ise panustama ja võtta võimalikult vähemaks motivatsiooni maailmale n-ö näidata, et voh, kui ohtliku asja ma teha suudan. Näiteks USA teatas juba, et lõpetab «gain of function» uuringute rahastamise – see on kindlasti positiivne uudis. Kui saavutada ka näiteks autonoomse relvastuse keelustamine, mõjutab see loodetavasti õiges suunas ka teadusrühmade motivatsiooni.

Tuleb mõelda tulevikule

Minu jaoks on tulevikule mõtlemine oluline kolmel põhjusel. Esiteks on mul lapsed. Nemad näevad tulevikku suurema tõenäosusega kui mina. Teiseks ei ole ma üldse kindel, millal ma suren – umbes 5% inimestest, kes on sündinud, ei ole veel surnud. Kõik liigid maailmas ei suregi. Võib-olla on nullist erinev tõenäosus, et ma näen ka kaugemat tulevikku. Kolmas põhjus on üsna filosoofiline. Kas väärtustad maailma kui tervikut või ainult seda, kuidas maailm sulle tundub? Sellele dilemmale on üles ehitatud näiteks kultusfilm «Matrix». Mina valiksin ka punase tableti, sest isegi siis, kui minu subjektiivses maailmas on kõik hästi, huvitab mind ikkagi see, mis maailmas toimub ka pärast mind.

Ma loodan, et konsensus tehnoloogiaarendajate ja nende vahel, kes tahavad, et arendustel ei oleks suuri kõrvalmõjusid, saavutatakse lähitulevikus. Tundub, et maailm liigub õiges suunas. Aga kas edasi läheb lihtsamaks või on vaja veel kõvasti vaeva näha, seda ma ei tea. Tehnoloogiavaldkonnas paelub mind peale tehisintellekti veel krüptovaluuta. Seda mitte valuutaaspekti, vaid süsteemi pärast. Bitcoin tõi maailmale mehhanismi, mis võimaldab olla ühel meelel selles, kui palju on osalejatel virtuaalsetel kontodel raha. Järgmised Bitcoini-sarnased süsteemid (nt ethereum.org) rakendavad sarnast konsensusmehhanismi üldistele lepingutele osaliste vahel. Viimasel ajal olen mõelnud, kas neid tehnoloogiaid oleks võimalik rakendada ka selleks, et suurendada inimeste võimet üksteist usaldada.

Millesse investeerida?

Olen üks osanikke erainvesteerimisfirmas Ambient Sound Investments. Partneritel on seal nii erinevad maailmavaated, et meie investeeringute ühisnimetaja on väga väike. Aga isiklikult jagan ma enda investeeringud kolme rühma.

Ma investeerin inimestesse, keda ma tunnen. Selle mõttega, et teha soodsaid investeeringuid nii, et ma ei kulutaks uurimiseks liiga palju aega. Kui ma tean firmast kedagi, keda usaldan või on seal juba ees investor, keda ma tean, siis suudan kiiresti hinnata ettevõtte väärtust. Ma olen investeerinud ka näiteks Skype’iga seotud olnud inimeste uutesse firmadesse. Eesti mõistes on see ka ettevõtjate toetamine, kes ise tahavad teha start-up-firmasid.

Teine kategooria on strateegilised investeeringud. Ma olen investeerinud tehisintellektifirmadesse, meditsiinifirmadesse, millel on kokkupuutepunkt näiteks Metamediga. See annab mulle piltlikult võimaluse minna tehisintellekti loojate kööki ja seal inimestega rääkida.

Kolmandasse rühma kuuluvad lihtsalt väga vinged asjad. Sealt ei pruugi midagi suurt tulla, aga minu meelest on need lihtsalt ägedad. See aitab mul olla kursis huvitavate asjadega, mis maailmas toimuvad. Millegipärast kipub suurem osa selliseid ettevõtteid olema Californias. Näiteks Tlon ehitab süsteemi Urbit – nad arendavad uut internetti. Nad ehitavad arvutiteaduse seisukohalt palju tugevamale vundamendile küllalt uue programmeerimiskeele, teevad uue operatsioonisüsteemi ja arvutivõrgu, mis on interneti ekvivalent. Minu jaoks on see poolenisti äriline ja poolenisti kunstiprojekt. Teine firma, Mill Computing, ehitab aga uutmoodi protsessorit. Nende arvates on selle vahel, kuhu on protsessorite areng ajaloolistel põhjustel jõudnud, ja milliseid protsessoreid maailmal tegelikult vaja on, suur vahe.

Ka stipendium, mille ma jaanuaris TÜ teaduskooli õpilastele tegin, on otsapidi seotud ägeda ettevõtmisega. Singulaarsuse instituut, mida ma toetasin, muutis oma nime ja tegevuse konkreetsemaks. Osa sealsetest endistest töötajatest lõid keskuse ratsionaalsuse uurimiseks ja kasutamiseks (Center for Applied Rationality). Nad korraldavad kursusi, et inimesed oleksid ratsionaalsemad, suudaksid paremini enda sisse vaadata ja eesmärke püstitada. See on tõeliselt lahe seltskond ja nad toetuvad tugevalt moodsale teadusele. Näiteks on neil teaduslikult põhjendatud meetodid, kuidas oma harjumusi kujundada ja neid endasse n-ö programmeerida. Tegin teaduskooli stipendiumi, et seda organisatsiooni toetada, osaliselt on see ka sotsiaalne eksperiment. Mis juhtub, kui 100 noort eestlast nende kursusele saata? Anname selle võimaluse esialgu viiel aastal, iga kord 20 inimesele ja vaatame, mis edasi saab. 100 ratsionaalsuse vallas koolitatud eestlast võiks olla Eesti suurust arvestades võrdväärne umbes 50 000 ameeriklasega Ameerikas. Võib-olla muutub meie riigis sellest midagi paremaks.

*Artikkel on kokku pandud intervjuu põhjal.