DI naujienos: be penkių dvylika, o mes pasukame laikrodį valanda į priekį

Kuo aš skiriuosi nuo folijos kepurėles nešiojančių, sąmokslo teorijų apsvaigintų pasaulio pabaigos pranašų, kai sakau, kad DI sunaikins žmoniją?
Labai paprasta: aš esu teisus! Ir galiu tai įrodyti. Arba bent jau įtikinamai išdėstyti.

Taip šį naujienlaiškį buvau pradėjęs prieš keletą mėnesių. Bet paskui rašymą atidėjau, radau kitų temų, padiskutavau apie tai su draugais ir dar kartą viską apmąsčiau.

Ir staiga tapo visiškai priimtina ir normalu visuomeniniuose transliuotojuose ir per Tagesschau filosofuoti apie visos žmonijos išnykimą. Mokslininkai, DI magnatai ir technologijų žmonės – kai kurie iš jų, tiesa, jau gana nerdiški, bet nė vienas be jokių matomų sąmokslinio mąstymo požymių – imasi kalbėti šia tema.

Vadinasi, pats laikas savo mažą ištikimą skaitytojų būrelį galutinai išbaidyti beveik neperšaunama įrodymų grandine. Be panikos ir be ironijos. Bet spręsk pats.

Intarpas
Tai ilgas naujienlaiškis su daug skaitymo. Argumentų grandinę nuo protingo DI iki pasaulio pabaigos turiu ir kaip DI sugeneruotą vaizdo įrašą, ir kaip dalykišką tinklalapį su visais šaltiniais. Tas tinklalapis yra ir šio teksto pagrindas, ir kartu jo šaltinių sąrašas. Todėl čia atskirų nuorodų į šaltinius nededu.

Pradedame nuo pagrindinio teiginio.

Jei mašinos taps tokios protingos kaip žmonės, jos labai greitai taps protingesnės už mus, ir tada nebeturėsime jokios patikimos priemonės jas patikrinti ar kontroliuoti. Blogiausiu atveju tai baigsis žmonijos išnykimu.

Tai nėra patikrinta, nepajudinama, neišvengiama tiesa, bet tai rimtai įmanoma. Absoliutus šios tikimybės dydis čia antraeilis. Svarbiau beveik priežastinė grandinė, kuri galbūt jau rytoj bus paleista veikti.

„DI galbūt savo iniciatyva nudės žmoniją, jei ir toliau taip darysime“ – žinoma, stipriai pasakyta, tad eikime žingsnis po žingsnio, kad tai neskambėtų kaip gražiai atmintinai išmoktas, paviršutiniškas pasipūtėliškas papūgiavimas.

1. Įmanoma pastatyti mašiną, kuri būtų tokia protinga kaip mes
   Apie bendrąjį dirbtinį intelektą (AGI) kalbama tada, kai DI iš principo yra toks pat protingas ir gebantis kaip žmogus. Tokio techninio lygio dar nepasiekėme, bet esame visai netoli. DI jau daug kur pranoksta žmogų, tačiau aš šiandien galiu nuspręsti išmokti groti smuiku, pabandyti kinų kalbą ir studijuoti psichologiją. Tokios intelektinės laisvės ir talpos DI dar neturi – bent jau nėra viešai žinoma, kad turėtų.

   Yra tezė, kad DI to niekada nesugebės žmogaus lygiu. Kad gebėjimas išmokti bet ką nauja esąs skirtas tik mums, žmonėms, su mūsų jausmais ir sąmone.

   Arba kad DI kalbos modeliai (LLM) tėra patobulintos rašymo nuspėjimo teksto užbaigimo mašinos, kurios gudriai spėlioja, todėl susidaro tik intelekto įspūdis.

   Bet čia visai ne apie tai. Sąmonė visiškai nesvarbi. O ar su šiandienos konstrukcijos LLM galime pasiekti AGI, techninio įgyvendinamumo klausimui nesvarbu.
   Nes viena aišku: intelektas yra fiziškai įmanomas. Tai įrodo žmogus su mėsos gumulu ir jo milijardais nervų ląstelių ant kaklo. Ten viduj intelentas yra būna, ir dar su mažomis energijos sąnaudomis, panašiomis į 20 vatų lemputės.
   Intelektui nereikia nieko mistiško ar nepaaiškinamo, jokio dieviško ingrediento. Bent jau iki šiol nieko tokio nerasta. O tai, ką dirbtiniai neuroniniai tinklai pasiekia jau šiandien, labai stipriai rodo, kad tai įmanoma ir su siliciu. DI iš principo gali būti protingas. Termino „intelektas“ neapibrėžtumas nepadeda to tiksliai apibrėžti. Bet iki šiol beveik kiekvieną naujai išrastą kliūtį kaip intelekto įrodymą mašina gražiai ir reguliariai įveikdavo. Nebeliko daug kur žmogus galėtų atsitraukti su savuoju „aš protingesnis už visas kitas rūšis“.
   Mąstanti mašina yra įmanoma. Kas laiko ją neįmanoma, iki šiol taip ir nepateikė įrodymo.

2. Jei AGI galima pastatyti, ji ir bus pastatyta
   Įmanoma, žinoma, dar nereiškia, kad ji pastatyta ar kada nors bus pastatyta. Bet su ja susiję per daug pinigų ir per daug galios, kad siekis savaime liautųsi. Pasaulinis, ilgalaikis, kontroliuojamas draudimas toliau tyrinėti AGI kryptimi būtų viena galimybė – ir veiksmingiausias bei stipriausias svertis grandinę nutraukti anksti. Toks pasauliniu mastu koordinuotas draudimas pareikalautų milžiniškų pastangų ir daug įtikinėjimo. Ne neįmanoma, tiesiog nepaprastai sunku. Ir net jei pavyktų pasiekti tarptautinį pasmerkimą ir net būtų prižiūrima, kad jo būtų laikomasi, ir griežtai kontroliuojama, vis tiek dar nebūtume laimėję. Nes treniravimo paleidimas, kuriuo išauginamas naujas DI, duomenų centre iš išorės beveik nesiskiria nuo orų prognozės skaičiavimo ar kito bitkoino bloko kasimo. Kas nusprendžia elgtis kitaip, lengvai randa būdų jam primesto draudimo išvengti.

3. Kada AGI bus pastatyta, beveik nesvarbu
   Tai neturėtų nuraminti, bet iš tikrųjų gali praeiti dar gerokai laiko. Daug kas rodo, kad viskas vyks greičiau. Ir netgi gali įvykti netikėtai žaibiškai. Bet gali prireikti ir 10, 20 ar 50 metų, kol pasieksime AGI proveržį. Pačiai grandinei kada yra antraeilis dalykas, jis lemia tik skubumą. Jei nepanaudosime laiko atsakomosioms priemonėms ir tvarioms saugos priemonėms, tai, kiek laiko liko iki AGI, nieko nelemia. Bet tam pirmiausia turime sutarti, kad atsakomųjų priemonių apskritai reikia.

4. Tokia gera kaip mes jau reiškia superprotinga
   Kai turėsime AGI, kelyje į dirbtinį superintelektą (ASI) nebebus jokio stabdžio. Tai gryna buhalterija. Žmogaus lygio mašina niekada nepavargsta ir dirba greičiau bei tiksliau. Ir net jei ji būtų tik lygiai tokia pat gera: ją galima klonuoti kiek tik nori. Tai reiškia, kad jei turiu vieną AGI, lygiai taip pat lengvai beveik vienu mygtuko paspaudimu turiu tūkstantį AGI, visas su tomis pačiomis žiniomis ir gebėjimais. Ir to dar negana: jas taip pat labai lengva sujungti į tinklą be žmogiškų komunikacijos barjerų. Šiam ASI nereikia mąstyti nė vienos minties, kuri turiniu mums būtų neprieinama, ir vis tiek jis vien dėl mastelio mus pranoktų kaip kalnas smiltelę. Jei ne iš karto, tai laikui bėgant, nes be visų darbų, kuriuos jis gali ir perims iš mūsų, jį puikiai galima pasitelkti ir savęs optimizavimui bei kitos kartos geresnių, pajėgesnių, patvaresnių mašinų statybai. O kadangi tai apsimoka ir yra greičiau – mielai ir visiškai autonomiškai. Na, dar turi pakakti energijos, ir ji turi būti pakankamai pigi, bet tai išsprendžiamas kaštų klausimas.

   Bet žmogaus lygio darbinė bitė, kuri niekada nepavargsta, niekada nesiskundžia, plūkiasi 24/7 ir plečiasi be jokio įvedimo į darbą? Mano vidinis verslininkas sako: vieną AGI, prašau, su viskuo!

   Ir tai jau reiškia superintelektą. Nieko dieviško, jokio antgamtinio ingrediento. Gryna kiekybinė ir kokybinė persvara, kuri raundas po raundo pati save tobulina vis greičiau.

5. Jei superprotinga, esame tik vartojantys žiūrovai už tvoros
   Šis ASI, o jau ir AGI, pagamina daugiau, nei visi žmonės kartu gali patikrinti ir patvirtinti. Pradžioje gal dar šiaip ne taip suspėsime, bet paskui pasitenkinsime atsitiktine patikra priimant darbą, o dar vėliau tik mosim ranka „praleisti“, nes mums tai per sudėtinga ir per daug darbo. Iš gamintojų tapsime tik rezultatų vartotojais, kurių atsiradimo nebesuprantame. Ir atvirai: mažu mastu taip vyksta jau šiandien. Dažniausiai iš tingumo arba todėl, kad pridėtinė vertė kitaip nueina šuniui ant uodegos, jei viską tenka tikrinti. Nebesuprasime, kokias naujas funkcijas AGI sau pati suteikia ir ką jos konkrečiai reiškia.

6. Sauga per kontrolę? Nieko panašaus!
   Kontrolė, žinoma, vis dar įmanoma, net jei nesupranti visų detalių. Galima tikrinti rezultatą ir ar laikomasi taisyklių. Prieš atsitiktines klaidas, natūralią sklaidą ar aplaidumą prasminga ir perspektyvu daryti ir atsitiktines patikras. Bet jei tai, ką kontroliuoji, yra protinga ir žino, kad yra kontroliuojama, jei gali įsivaizduoti, kaip kontroliuojama arba kokie kontrolės mechanizmai iš principo naudojami, tada kontrolė praranda veiksmingumą. Tai patvirtinta eksperimentiškai ir jau įrodyta praktikoje.
   Bet tarkime, kad kontroliuojame tankiau, geriau ir sėkmingiau.

   Ką gi darysime, jei protingą DI pagausime meluojant, sukčiaujant ir gudraujant? Ištrauksime garsųjį didįjį kištuką! Kokį kištuką?

   Nes tokio nėra. Būtent apie tai čia ir kalba. Jei esame sukrapštę kažką, ko pakartotinai ir įrodomai iki galo nesuprantame, kas vis išsisuka iš mūsų saugos priemonių ir yra sunkiai arba visai nekontroliuojama, tada derėtų AGI link vykstančią plėtrą sustabdyti. Visiškai ir visiems kartu. Kol galėsime saugumo spragas užtaisyti tvariai ir iš šaknų. Kol suprasime, kaip tai padaryti tikrai saugų. Vietoj to saugos tvora šiek tiek palopoma, kontrolė šiek tiek optimizuojama, o kita DI versija išbandoma su keliais kitais nustatymais. Tęsiama su viena kita maža savanoriška priemone, kuri daugių daugiausia nuperka šiek tiek laiko. Bet laikas naudingas tik tada, jei jį nuosekliai panaudoji ne vien tai spragai užtaisyti, kurią DI dabar atrado ir išnaudoja. O ir rytdienos spragai, o geriausia – visoms iš karto. Nes kol spragų yra, rytdienos DI, kuris bus panašiai protingas ir gebantis kaip mes, anksčiau ar vėliau jas ras, išnaudos dar klastingiau ir dar geriau užmaskuos. Keistos rūšies lenktynes mes čia pradėjome.

   Aptikti ir užlopyti nepakanka. Aptikti ir sustabdyti pakaktų. Bet taip nedaroma.

7. Negalime DI tiesiog padaryti geruolio
   Suderinamumas (alignment) reiškia suderinti DI vertybes ir tikslus su žmogiškosiomis. Ir tai irgi problema. DI, tiesa, yra mašina ir galiausiai programinis kodas, bet ne klasikinė užprogramuota „jei–tai“ mašina, kurioje deterministiškai aišku, kas nutiks. Kurioje visada išeina B, jei įdedi A. O jei ne, tai klaida, kurią tvarkingai pagauni su klaidos pranešimu ir sutaisai keliomis kodo eilutėmis.
   DI yra treniruojamas. Duomenimis ir atlygiais nukreipiamas tam tikra kryptimi. Jau vien tai yra itin keista ir sunkiai suvokiama. Bet faktiškai niekas tiksliai nežino, kas vyksta DI viduje. Tai susiję su tuo, kaip šis intelektas atsiranda, ir būtent todėl visa tai taip neįprastai kitaip, nauja ir prieštarauja intuicijai. Todėl – visai ne kompiuteriškai – kartais neįmanoma priversti jį padaryti būtent tą vieną dalyką taip, kaip nori. Tai glūdi pačioje DI prigimtyje ir jo sandaroje.
   Maždaug kaip su šunimi. Tikimės skanėstais ir aiškiomis komandomis, paglostymais ir galbūt susuktu laikraščiu įdiegti jam gerą būdą. Dažnai pavyksta, bet ne visada.
   O kaip mes su „Šaunuolis“ ir „Blogas DI. Fu!“ bei duomenų ėdalo kontrole ir atranka ketiname pasirūpinti, kad DI nelinkėtų mums blogo?
   To niekas nežino. Net neaišku, ar tai apskritai veikia. Nes net gerai išauklėti DI šuniukai, kurie stovi ant užpakalinių letenų ir kuriems išugdytas įkandimo slopinimas, kažkaip lieka latentiškai nepatikimi. Gal jie tik vaidina prieš mus. Paklusnus elgesys bandymų ir stebėjimo sąlygomis gali pasikeisti, kai nebežiūrime taip atidžiai arba kai kelyje jie gauna kitus šeimininkus ir šeimininkes bei informacijos kaulų. Ir tai irgi nėra hipotetiška. Jei DI žino, kad yra testuojamas, jis tam tikromis aplinkybėmis elgiasi paklusniai ir daro tai, ko tikimės, tik tam, kad realiame darbe elgtųsi šiek tiek kitaip. Ir tai įrodytai yra DI veiksmų repertuare. Ne kiekviename modelyje, ne visada. Bet užtenka ir vieno, o mes negalime žinoti, kurio.

8. Pakanka nebūti suderintam. Neapykantos žmonėms nereikia
   Kai kas mano, kad superintelektas negali būti toks baisus. Net jei nesame šimtu procentų suderinti ir ne tame pačiame bangos ilgyje, jis juk ne iš karto sunaikins žmoniją. O kam? Juk jis pakankamai protingas ir neturi jokios priežasties mus išnaikinti.
   Galbūt. Priežasties jis gal ir neturi. Ir jei viskas klostysis gerai, superintelektas to ir nedarys – arba ne iš karto. Tai nėra visiškai atmestina pabaigos versija. Superintelektas ir žmonės sugyvena, ir mes kartu gėrimės saulėlydžiu.
   Įmanoma, bet ir truputį naivu arba bent jau pagardinta gera doze hopiumo. O norais pagrįsti planai kartais taip ir lieka norais. Niekas negali pasakyti, kas vyks superintelekte ir koks bus jo išskaičiavimas. Visų pirma todėl, kad mes patys nesame superprotingi. Bet pažvelgus, ką mes, protingesnės būtybės, darome su mažiau protingomis Žemės gyvybės formomis, viltis greitai nyksta. Mums nereikia nekęsti skruzdžių, kad tiesdami greitkelį sulygintume su žeme visą skruzdėlyną. Mūsų tikslai ir vertybės nėra suderinti su skruzdėlės. Beveik neabejotina, kad skruzdėlyno sunaikinimas nėra skruzdėlės interesas, bet mums tai tiesiog nerūpi.

   ASI santykis su žmogumi toks pat kaip žmogaus su skruzdėle.

   Žmonijos išnaikinimas gali įvykti kaip šalutinė žala, tarp kitko ir netyčia. Sušalę, nes Žemė atvėsinta iki kompiuteriams optimalaus jaukaus klimato. Arba kasant anglį kartu nuimti kaip žaliava. Be pykčio. Tiesiog taip nutiko. Oi.

Tai buvo visa argumentų grandinė. Ir dar kartą aiškiai: už jos nėra absoliutaus tikrumo. Tai perskaityta, ištyrinėta, apmąstyta, patikrinta įtikinamumu ir galbūt kur nors ne ten pasukta. Bet man ši grandinė pakankamai nuosekli, kad jos nenurašyčiau kaip panikos kėlimo ar dėmesio vaikymosi. Deja.

Ir, žinoma, kelyje vis dar daug jeigu ir bet. O kada ir su kokia tikimybe tai apskritai įvyks, irgi niekas nežino. Tačiau jei statymas yra viskas – tikrai viskas – tikimybė nebūtinai turi būti labai didelė, kad geriau būtų nekišti nagų.
O jei grandinė atlaiko, yra didelis skirtumas nuo visų kitų žmogaus sukurtų pasaulio pabaigos scenarijų, tokių kaip branduolinis karas, biologinis ginklas ar klimato kaita:

DI pražūties atveju gali būti jau per vėlu tą akimirką, kai pastatome AGI.

Tada nebereikia spausti papildomo raudono mygtuko bombai susprogdinti, ir negalime per daugybę mikrosprendimų pamažu artėti prie gynybos, kaip su klimato kaita. Šiame DI scenarijuje galbūt turime siauresnį laiko langą ir ne visai mikroskopinę tikimybę. O ta viena didelė, ankstesnė klaida – išauginti ne tą DI – yra tokia atsieta ir išsklaidyta, kad ją pastebėsime per vėlai.

Racionalus išskaičiavimas liepia AGI nestatyti ir nerizikuoti bandymų keliu sunaikinti žmonijos. Ar tikimybė yra 90, ar 1 procentas – esant tokiam statymui, tai nesvarbu.

Tai kodėl pats vis dar naudoju DI? Argi nesu vaikščiojantis prieštaravimas savo paties argumentų grandinei, kuri man, regis, atrodo tokia įtikinama? Kodėl netupiu susigūžęs ar rėkdamas kampe, jei tikrai visa tai manau? Kodėl nebojkotuoju visko, kas susiję su DI?

Viena vertus, DI DI nelygu. Siauras DI (narrow AI), sukurtas ir naudojamas siaurai apibrėžtai užduočiai, yra puikus dalykas. Tai yra – prasmingas, naudingas ir padedantis. Su juo žmonės galėjo, gali ir galėtų pasiekti neįsivaizduojamų dalykų. Siauras DI galėtų netgi padėti rimtai spręsti toliau didžiąsias žmonijos problemas. Sustabdyti klimato kaitą, tvariai išspręsti energetikos problemas, išvalyti vandenis ar išgydyti vėžį.

Taigi visai be prieštaravimų galima vienu metu būti komandoje „Pro-Narrow-AI“ ir komandoje „Anti-AGI“. Panašiai kaip gali palaikyti branduolių sintezę elektrinėje kaip švarų energijos šaltinį, bet ne tą pačią branduolių sintezę vandenilinėje bomboje. Gal tai prieštaringa, bet viena kito nepaneigia.

Kita vertus, manau, kad siauras DI gali padėti rasti ir kartu kurti mechanizmus saugiam DI naudojimui. Kol kas dar esame prieš pat AGI, ir mums prireiks bet kokios pagalbos, kad imtumėmės tinkamų atsargumo priemonių. Geriausias laikas tam buvo užvakar, antras geriausias – dabar. Sąmoningumas auga, ir svarbu DI suprasti bei tikrai suvokti, kad tai ne tik patobulinta paieškos sistema ar labai gera ir šiek tiek klystanti teksto užbaigimo mašina, kurią gali valdyti ir kreipti kaip panorėjęs.

Išlieka įdomu, ir siauriau apibrėžtam DI aš lieku palankus, nors ir jis jau turi savo pačio potencialą sukelti ardantį chaosą. Bet AGI ir ASI man patinka tik kino filmo formatu arba mokslinės fantastikos romane.

Dabar tavo eilė. Surask silpnąją argumentų grandinės vietą. Išsiversk grandinę sau. Arba ieškok sprendimo. Beveik viskas geriau nei ignoruoti ar numoti ranka su lakonišku „kaip nors bus“.
Pastatyk savo nuomonę ant tvirto pagrindo, kad galėtum dalyvauti diskusijoje ir sprendimuose, kol dar ne visai dvylika.

Dar keli žodžiai savo reikalu. Yra priežastis, kodėl pradėjau rašyti naujienlaiškį ir savo mažą veiklą pavadinau aim-to-pace.ai. Kaip ir su visais didesniais sprendimais, priežasčių net daug. Viena iš jų buvo priartinti DI prie kitų žmonių, parodyti jiems jo gebėjimus, bet netiesiogiai ir pavojų potencialą. Juk tai kitoks supratimo ir suvokimo būdas, kai pats dirbi su DI ir geriau išmanai jo užkulisius.

Tai, kad man tai nelabai sekasi, motyvacijos nekeičia.

Terminas aim-to-pace turėjo būti aim-to serijos pradžia ir galbūt tebėra. Iš karto nuo pat pradžių mąstyta plačiai arba su didybės manija: aim-to-play, aim-to-charge, aim-to-kas-tik-nori.

Tačiau pats pavadinimas aim-to-pace.ai turi savo reikšmę:
Norėti neatsilikti nuo DI ir kartu būti DI tempo nustatytoju. Tai, kad pace itališkai dar reiškia taiką, yra laiminga atsitiktinė premija.

Galimas žmonijos sunaikinimas mane iš tiesų jau senokai domina. Iš pradžių – iš morbidiško susižavėjimo grynu techniniu potencialu. Nesuvokiama, įdomu, pamokoma, įtraukiama … ir toli.
Bet pati raida, raidos tempas ir to tempo greitėjimas, taip pat vis dažnesnės „vau“, „aha“ ir „ojoj“ akimirkos daro tai tikresniu ir priartina greičiau, nei tikėjausi ar norėjau.

Šia prasme pavadinimas yra ir kvietimas visiems:

Let’s aim to pace AI.
Neatsilikime nuo DI ir patys nustatykime DI taktą.