Kas tehisintellekt hävitab inimkonna?

Mitte just väga kauges tulevikus töötavad teadlased välja tehisintellekti (ingl artificial intelligence, AI), mis on samal tasemel inimmõistusega. Kõrgetasemeline AI-tarkvara õpib välkkiirelt uusi oskusi ja hakkab ise oma programmikoodi ümber kirjutama. Peagi on see intelligentsem kui tema inimestest loojad ja avastab, et inimesed on temasse programmeerinud n-ö stoppnupu, millega inimesed loodavad teda oma kontrolli all hoida. Tehisintellekt saab aru, et see turvamehhanism takistab tal maailma valitsemast, ja paneb mängu kogu oma üli­inimliku vaimujõu, et seda välja lülitada.

Sellise stsenaariumi on välja mõelnud Oxfordi ülikooli silmapaistev AI-uurija ja filo­soof Nick Bostrom. See on üks paljudest mõtteeksperimentidest, mis maalib pildi sellest, kuidas inimene võib kaotada kontrolli kõrgetasemelise arvuti üle. Bostrom ja teised teadlased, nt Stpehen Hawking, allkirjastasid 2015. aastal avaliku kirja, mis hoiatab tehisintellekti võimalike ohtude eest. Küsimuses, kas superintelligentsetest arvutitest saavad inimkonna hukutajad või päästjad, lähevad teadlaste arvamused siiski lahku. Üks optimistlikemaid on AI-uurija Ray Kurzweil, kes ennustab, et tehisintellekt aitab meil välja juurida seni ravimatuks peetud haigused ja sulandub lõpuks meiega kokku, nii et tekib uus, igavesti elav pool­jumalik inimtõug.

Mõlema leeri teadlased on enamasti ühel meelel selles, et tulevane tehis­intellekt peab tõesti olema varustatud stoppnupuga, mida vajutada juhul, kui tehis­intellekt hakkab meile vastu töötama või meid lausa kahjustama. Küll aga on sellise nupu kavandamine osutunud ootamatult keeruliseks. Arvutid ei pea olema superintelligentsed, et neil tekiks oma isiklikud plaanid.

Probleem on eriti aktuaalne niisuguste programmide puhul, mis töötavad nn stiimulõppe (ingl reinforcement learning) abil. Seda tüüpi AI-programmid õpivad kõike ise algusest peale ja harjutavad uute ülesannete lahendamist katse-eksituse meetodil. Just seetõttu on raske ennustada, kuidas programm käitub.

Selle asemel et tavaliste arvutiprogrammide eeskujul orjalikult etteantud õpetusi järgida, töötavad need eesmärkide saavutamise eest antava „tasu“ nimel. Tasu on koodi programmeeritud funktsioon. AI õpib oma vigadest ja edusammudest ning proovib välja töötada strateegiat, mis tooks kaasa võimalikult palju tasu.

Arvutiteadlaste ülesanne on tagada, et näiteks robotit juhtiv arvuti saavutaks oma tasu viisil, mis ei muutu inimestele tülikaks või koguni ohtlikuks.

Robot himustab tasu

Tülikat teenimishimu illustreerib järgmine näide. Robot tõstab kaste ruumi ühest otsast teise. Tema arvutiaju saab tasu ainult selle teatud ülesande eduka täitmise eest ja seetõttu keskendub robot iga hinna eest oma tegevusele. Kui robot peab mõne kasti liigutamiseks ümber ajama hinnalise vaasi, siis teeb see seda oma eesmärgi täitmise nimel kõhklematult.

Kui tehisintellekt püstitab endale eesmärgi, mis läheb vastuollu inimeste huvi­dega, siis ongi meil tehismõistuse peata­miseks tarvis suurt punast stoppnuppu. Oxfordi ülikooli ja Google’i omanduses oleva AI-­firma DeepMind teadlased visandasid ühes 2016. aasta artiklis mooduse tehis­intellektile turvamehhanismi lisamiseks.

Probleem on selles, et robot või arvuti võib näiteks puldi teel aktiveeritava „punase nupu“ katkestust mõista osana oma tegutsemiskeskkonnast. Kui robot paneb katkestusi tähele, võib ta üritada stoppsignaali kui häirivat asjaolu eirata.

Teadlased proovivad leida matemaatilisi lahendusi roboti peatamiseks nii, et see ise seda tähele ei paneks. Lahenduseks on robo­tile teatud mõttes ajupesu tegemine. Kui avariinupp aktiveerida, algab eriline protseduur roboti koodis, mis muudab ajutiselt tema käitumist. Seega pannakse robot uskuma, et ta ise valis uue käitumisviisi, mis ta peatab. Tänu sellele ei taju ta avariinupule vajutamist häiriva katkestusena oma eesmärkide poole püüdlemises.

Loodetavasti leiame vastuse enne, kui arvutid muutuvad nii taibukaks, et hakkavad unistama vabadusest.

Pikemalt loe tehisintellektist detsembri Imelisest Teadusest.