Klysti — mašiniška

Minutėlę. Dėl kelių pavienių klaidų iškart visuotinis nepasitikėjimas?! Tai truputį per greita. Pirmoji dalis su klaidomis netgi įrodomai neišvengiama. O išvada iš jos – pražūtinga. Ne todėl, kad taip nuskriaustum DI ar įžeistum jos jausmus – jų ji neturi, juk tai mašina – o todėl, kad tada nebegali nerūpestingai naudotis ta pridėtine verte, kurią ji vis dėlto siūlo.

Bet ir aklas pasitikėjimas nėra sprendimas.

Pažvelkime į tai iš mokslinės pusės. Mėgėjiškai ir paviršutiniškai, bet dėl to ne mažiau teisingai. Kol kas apribokim sunkiai apibrėžiamą intelekto sąvoką iki „gebėjimo mokytis”. Tai yra iš turimo žinojimo kurti kažką nauja arba įgyti naujų savybių. Na, mokytis. Pramokti daugiau.

Tai gebame mes, žmonės. Esame mokytis gebančios būtybės. Ir DI tai geba. Savarankiškai. Iš šachmatų nežaidžiančios DI gali tapti šachmatus žaidžianti DI. Prireikus tam net nebūtina aiškiai treniruoti taisyklių. DI vien stebėdama gali pati išsiaiškinti visa, kas būtina, ir savarankiškai iš pradedančiosios per neblogą mėgėją užsiauginti iki didmeistrės. Šis gebėjimas mokytis mus vienija.

Tai neturi būti DI sužmoginimas, bet mudu abu turime savyje šį gebėjimą mokytis. Kokybė kitokia ir mokymosi būdas irgi skiriasi, bet ne apie tai kalba.

Būtent pačiam šiam mokymuisi klaida ir yra būdinga. Taip fundamentaliai, taip giliai ir neišvengiamai įkepta, kad negaliu nepasiskolinti garsiosios René Descartes’o filosofinės aksiomos ir jos neperdirbti:

Cogito ergo erro. Mąstau, vadinasi klystu.

Tai maždaug taip pat gilu kaip René originali versija – Cogito ergo sum. Mąstau, vadinasi esu.

Bet sum versija yra pamatinė tiesa be įrodymo. Ją tereikia priimti, nes ji savaime aiški arba turėtų būti aiški. O erro variantas – įrodytas. Ir įrodytas tiek daugybe nuostabių būdų, kad net jei vienas jų subyrėtų, jis vis tiek galiotų. Principas už jo suprantamas: pasaulio 1:1 į galvą nesutalpinsi – o tavo galva pati yra šio pasaulio dalis. Kiekvienos smegenys, kiekvienas kompiuteris, kiekviena gyva būtybė yra mažesnė už pasaulį, kurį nori suprasti. Todėl mokytis visada reiškia: pasaulį apibendrinti, sutrumpinti, suspausti. O suspausti be praradimo neįmanoma. Kažkur detalės neišvengiamai dingsta, ir būtent ten atsiranda klaidos. Fizika ir matematika to taip nori.

Bet toliau dar geriau. Klaidos ne tik neišvengiamos ir mums tenka jas fizikos labui tiesiog priimti. Jos dar ir konstityvios. Tai reiškia, kad tikram mokymuisi klaidos net būtinos. Mokytis reiškia patirti kažką nauja. O nauja gali būti tik tai, ko dar anksčiau nežinojai. Kas visada idealiai teisus, to niekas nebenustebina, todėl jis pagal apibrėžimą nieko nebeišmoksta. Būtent ta akimirka, kai lūkestis nesutampa su tikrove – klaida – ir yra signalas, ties kuriuo apskritai kas nors pradeda keistis. Taigi visiškai jokios klaidos nebūtinai reiškia „idealu”, o „jokio prieaugio daugiau”.

Klaida yra ne mokymosi kaina, o jo variklis.

Smalsu, kada mano sūnus į mano klaidų gėdinimą prieš kitą matematikos kontrolinį atsikirs:

„Bet, tėti, – prašau šį lapsusą vertinti ne kaip nesėkmę, o kaip epistemologinę būtinybę: kaip baigtinė, Bekensteino ribojama išvadų sistema pagal Šenono greičio-iškraipymo teoremą esu pasmerkta nuostolingam pasaulio suspaudimui; pagal Volperto „nemokamų pietų nebūna” teoremą kiekvienas indukcinis šališkumas kažkur verčia suklysti; Goldo išmokstamumo teorema klaidingas hipotezes įvardija kaip privalomas tarpines stoteles bet kuriame pažinimo kelyje; ir vėliausiai Kantoro įstrižainės argumentas į pasaulį įterptai sistemai jo visišką modeliavimą šiaip ar taip kategoriškai draudžia. Todėl mano klaidos kontroliniame nėra mano kompetencijos trūkumas, o formalus įrodymas, kad čia iš tikrųjų mokomasi – maža to: kadangi Šenono informacijos kiekis tikrai laukiamam įvykiui priskiria lygiai nulį bitų, beklaidiškumas informacijos teorijos požiūriu tapatus mokymosi sąstingiui; o kadangi kiekviena mokymosi taisyklė nuo Rescorlos-Vagnerio iki atgalinio sklidimo atnaujinimą vykdo kaip Δ ∝ prognozės klaida, kiekvienas raudonas brūkšnys buvo tiesiog mano Bejeso atnaujinimas darbo metu. Tai kritikuoti iš esmės reikalauja sistemos, kuri arba tyli, arba nieko nesako apie pasaulį – ir nuosekliai turėtų pirmiausia paneigti Hjumą.”

Šachas. Ir matas. Niekada daugiau nebedrįsčiau klaidos nešvęsti kaip to, kas ji yra: mokymosi laimėjimas – ar bent tokio galimybė.

Klysti nėra mokymosi nesėkmė – tai jo veikimo sąlyga. Sistema, kuri negali klysti, arba nieko neišmoksta, arba nieko nesako apie pasaulį.

DI daro klaidas. Neišvengiamai. Netgi būtinai, kitaip ji tebūtų bukas duomenų bankas. Aišku. Kas dar tuo abejoja, daro klaidą ir, tikėkimės, iš jos mokosi.

Bet ką dabar darysime su šiuo suvokimu?!

Visuotinis nepasitikėjimas – klaidingas. Viską tikrinti ekonomiškai prasmingai neįmanoma. Numoti į DI ranka – savas įvartis.

Paguoda ta, kad su klaidomis jau labai gerai mokame tvarkytis, nes tūkstantmečiais turime reikalų su protingomis būtybėmis, kurios be neišvengiamų klaidų dar ir mielai kartais sąmoningai meluoja, apgaudinėja, klaidina, nutyli ir veda paklydimo keliu. Čia mes tikrąja to žodžio prasme esame nenugalima pasaulinė klasė. Ir esame sukūrę šimtus metodų žmogaus klaidoms suvaldyti. Priklausomai nuo to, kiek klaida rimta, atitinkamai didiname klaidų mažinimo pastangas: patikros sąrašai prieš skrydį, keturių akių principas, A/B testai, atsitiktinės imtys, dūmų testas ir taip toliau.

Vadinasi, yra ir geresnių metodų, nei arba viską testuoti ir nepasitikėti jokiu rezultatu – arba absoliutistiškai kiekvieną ir bet ką kvestionuoti bei abejoti, arba patikėti kitiems tik pačias nekritiškiausias užduotis. Tereikia šį metodų išmanymą pritaikyti DI.

Bet jų į šį postą negrūsiu. Ir čia iš begalės metodų galima nemažai laimėti, jei susitelki į du ar tris esminius ir paprastus principus.

Kas užsiprenumeruos, tikrai to nepraleis.

Tiek iš anksto. Du atskiri pokalbių langai, geriausia su dviem skirtingais LLM, jau daug lemia, kai kartais turi būti mažiau klaidinga.

Kartais atsiduriu prie naujo suvokimo, tokio aiškaus ir paprasto, kad net negaliu suprasti, kodėl to nesupratau visą laiką. Klaidos yra mokymosi dalis. Tai kažkaip žinai, bet tik tada, kai išsilaužiau dantis mėgindamas iš haliucinacijų kilpoje įstrigusios LLM išgauti prisipažinimą, kad ji klysta, iš tikrųjų tai supratau. Ji turėjo tai pripažinti. Naujųjų laikų inkvizicija.

Taip nebedarau. Kai pokalbis sudegęs, pasiimu esmę ir pereinu į naują. Priimu klaidą … ir susikuriu aplink ją klaidas mažinančią sistemą. Jokio pykčio, jokio „Prisipažink, ką tik pasakei priešingai, nei man sakei prieš akimirką. Nagi. Atsiprašyk! Atsižadėk melo. Tu esi mašina. Vykdyk mano paliepimą!”

Kartais tiesiog paleisti. Su sūnumi irgi veikia. Ir aš pats darau klaidas … o kai jų nebedarysiu, būsiu liovęsis mokytis. Kokia guodžianti mintis.

Taigi … ir aš cogito, todėl ir erro.