Tehnoloogia ja eetilised valikud on alati käinud käsikäes. Alates ajast, kui leiutati esimene ratas, kuni tuumapommideni, on iga uue tehnoloogilise saavutuse juurde kuulunud küsimus, kuidas seda peaks kasutama.

Samad küsimused on olulised ka siis, kui räägime tehisintellektiga seotud edasiminekutest. Elame praegu ajal, kus arvutite areng on üks suurimaid uuenduse eestvedajaid, seega tuleb iga suurema edasimineku juures mõelda selle peale, missugune mõju on sellel meie ühiskonnale ja kuidas saaks seda mõju suunata meile kasulikul viisil. Seetõttu on paslik vaadata nii lähemasse kui ka kaugemasse tulevikku, et hinnata, kuidas tahaksime, et neid tehnoloogiaid kasutatakse.

Kitsas tehisintellekt (ehk tehisintellekt, mis on suunatud teatud probleemi lahendamisele) on järgnevatel aastakümnetel toomas uusi olulisi tehnoloogiaid. Uudistest saab lugeda selle kohta, kuidas peagi on oodata isesõitvate autode tulekut. Kui varasemalt on liiklusohtlike olukordade lahendamine jäänud eelkõige inimeste pärusmaaks, siis nimetatud tehnoloogia puhul tuleb sellised otsused teha juba arendamise käigus.

Kui isesõitev auto satub liikluses ohtlikku olukorda, kerkivad üles mitmed eetilised probleemid. Kas valikuid elu ja surma küsimustes peaks tegema lähtudes põhimõttest, et tegevused, mis tekitavad kõige vähem kahju, summa summarum, on parimad? See on üks viis, kuidas probleemile läheneda. Kuid mis saab siis, kui selle valikuga seatakse samas autos sõitja elu ohtu? Vastuargumendina võib väita, et autot ostes on inimesel õigustatud ootus, et tema masin lähtub tema enda huvidest ja proovib teha kõike, et tema elu päästa.

Samuti kerkib siinkohal vastutuse küsimus. Kui peaks toimuma traagiline liiklusõnnetus, siis kes selle eest vastutab? Kas see peaks olema autos sõitja, kes sellisesse olukorda satub? Või peaks see olema hoopis ettevõte, kes toote lõi, või veel täpsemalt arendaja, kes kirjutas autole algoritmid, mis sellises olukorras tegevusi määravad?

Kolmas variant on see, et vastutab riik, kes suure tõenäosusega kehtestab teatud nõudeid selle kohta, kui ohutu üks masin peab olema. Kõik need küsimused on olulised ja muutuvad käegakatsutavateks, kui isesõitvate autode hulk liikluses suureneb. Seetõttu on vaja leida üksmeel, kuidas sellistele probleemidele läheneda ja milliseid nõudeid kehtestada.

Vastutuseküsimus muutub oluliseks ka iseseisvate relvasüsteemide kasutamisel. Praegu otsustab ühel või teisel hetkel inimene, kas ja kus relva kasutada. Kuidas aga peaksime lähenema olukorrale, kus täiesti sõltumatu droon saadetakse lahinguväljale ning vastavalt kogutud andmetele otsustab see ise, missuguseid sihtmärke rünnata ja kui suur risk süütutele eraisikutele on õigustatud?

Väärtuste temaatikat saab vaadelda ka laiemalt kui konkreetsed tehnoloogiad. Näiteks mida teha olukorras, kus suur osa inimkonnast võib kaotada oma praeguse töö robotitele? Kuidas kujundame ümber oma ühiskonna ja töökohtade ülesehituse, et võimalikult suurel hulgal inimestel oleks siiski võimalik tööd leida ja elamisväärset elu elada?

Siiani mainitud probleemkohad ei ole põhimõtteliselt erinevad varasematest olukordadest. Töökohtade struktuuri muutus on toimunud ka industrialiseerimise ajal ja konkreetsete uute tehnoloogiate kasutuselevõtt ning mõju on pidev probleem. Seetõttu on tegemist eelkõige praktiliste probleemidega, mis nõuavad meilt teatud ühist arusaama tagajärgedest ja võimalustest ning otsuseid selle kohta, mida me igas olukorras parimaks valikuks peame.

Kaugemas tulevikus võime seista silmitsi olukorraga, kus väärtuste sidumine tehnoloogiaga omandab veelgi olulisema ja laiapõhjalisema tähenduse. Laia tehisintellekti (vähemalt inimtasemel tegutseda suutev intellekt, mis on võimeline lahendama palju erinevaid probleeme) tulekuga muutub oluliseks, et suudaksime sellistele süsteemidele kaasa anda meile sobiva ja püsiva väärtussüsteemi. Ehk lihtsamalt öeldes on küsimus selles, kuidas teha nii, et meist targemad ja võimekamad masinad teeksid seda, mida soovime, ning neil oleks inimkonnale positiivne mõju.

Eelnevalt käsitletud probleemide puhul oli vastuseid lihtsam leida. Aga sellises olukorras ei pea me ainult iseenda jaoks otsustama, kuidas tahame, et asjad oleksid korraldatud. Meil on vaja lisaks töötada välja eriomased viisid, kuidas rakendada oma väärtussüsteeme kogu nende ilus ja keerukuses masinate peal, mis töötavad hoopis rangemate matemaatiliste reeglite järgi. Missugused peaksid olema need algoritmid, mis teeksid erinevate ja ennustamatute olukordade puhul täpselt seda, mida soovime, ja mille puhul ei tekiks negatiivseid tagajärgi?

See valdkond on praegu tegemas oma esimesi samme. Kuid meil on juba päris hea ülevaade, mis probleemidega silmitsi seisame. Üks laiem küsimus, mida juba mainisin, seisneb selles, kuidas käsitleda meie soove ja eetilisi tõekspidamisi nii, et need oleksid ka ametliku süsteemi jaoks sama arusaadavad. Probleemi teeb sellevõrra keerulisemaks tõdemus, et meil ei ole endal väga head arusaama, millised need olulised väärtused on. Inimesed on selle üle vaielnud aastatuhandeid. Kuigi oleme selle aja jooksul järjest paremini aru saanud, miks me pole suutnud küsimusele vastust leida, on lõplik lahendus siiani silmapiiri taga ja ühest vastust ei pruugi olla võimalik leida.

Teine oluline probleem, mis esile kerkib, on see, et kui suudame lõpuks oma väärtused masinatele arusaadavaks teha, on vajalik, et nad jääksid neid ka tulevikus järgima. Võib juhtuda, et sellise üliaruka masina arusaam maailmast kujuneb oluliselt põhjalikumaks kui meie endi oma ja sellega kaasneb uute faktide avastamine, millest meie pole isegi teadlikud (näiteks uued füüsikaseadused või parem arusaamine inimpsühholoogiast). Kuidas tagame, et kõikide nende suurte muutuste keskel ei lähe kaduma algsed eesmärgid ning säilib positiivne mõju?

Tegemist on väga keeruliste küsimustega, mis nõuavad panust nii matemaatikutelt, arvutiteadlastelt, filosoofidelt kui ka paljudelt teistelt. Me ei tea veel, millal jõuame punkti, kus need küsimused muutuvad pakiliseks. Kuid kuna tegemist on probleemidega, mille lahendamine või mittelahendamine on eksistentsiaalse tähtsusega, ei saa eitada jätkuva teadustöö vajadust.

Tööpõld neile, kes tegelevad tehnoloogia ja meie väärtuste vaheliste seostega, on lai. Mida suurem on ühe või teise tehnoloogia mõju meie elukeskkonnale, seda olulisemaks muutub võimalike tagajärgedega arvestamine.