Grki so bili obsedeni z vprašanjem, kaj v resnici pomeni biti človek. Njihove legende so vedno znova raziskovale možnosti in nesmrtnost, razvoj človeških sposobnosti, podvajanje živega bitja. V najljubših mitih o Herkulu, Jasonu in Argonavtih, o čarovnici Medeji in inženirju Daedalu, o boga izumitelju Hefestu in o tragično radovedni Pandori se je postavilo glavno vprašanje o meji med človekom in strojem. Danes biotehnološki razvoj in napredek umetne inteligence ponovno dajeta pomen vprašanju posledic kombiniranja biološke in tehnološke. Lahko rečemo, da so ta diskurz sprožili že stari Grki.
Medeja, mitska čarovnica, katere ime izvira iz glagola "izumiti", je imela veliko skrivnih umetnosti. In med njimi je skrivnost pomlajevanja. Medeja se je, da bi pokazala svojo moč, pojavila pred Jasonom in Argonavti v obliki stare, pokvarjene starke, da bi se nato spremenila v lepo mlado princeso. Iason je padel pod urok in se vanj zaljubil. Medejo je prosil, naj v očetu Esoni oživi mladostne moči. Medea je črpala vso kri iz starčevih žil in jo nadomestila s sokovi zdravilnih zelišč.
Stari Eson, nenadoma energičen in poln zdravja, je osupnil vse, tudi hčerke starih Pelias. Medejo so prosili, naj razkrije skrivni recept, kako vdahniti življenje njenemu očetu. Niso pa vedeli, da je Pelius Medejev dolgoletni sovražnik. Čarovnica je varala tako, da jih je pustila gledati, kako igrata. Medtem ko je ponavljala uroke, se je odlično predstavila z mešanjem farmak (zdravil) v posebnem "pomlajevalnem kotlu". Potem je Medea pripeljala starega ovna, mu prerezala grlo in ga vrgla v ogromen kotel. Abracadabra: čudež se je od tam pojavilo srhljivo mlado jagnje! Zaupne hčerke so se vrnile domov in s starim očetom poskušale ponoviti trik, tako da so mu čarovniške besede ponavljale tako, da so mu prerezale grlo in ga potisnile v vrelo vodo.
Seveda so ubili Pelija. V Medejski pravljici sta združena upanje in strah, večni par reakcij na znanstvene poskuse o samem življenju.
***
Najzgodnejši prikaz Medeje se je pojavil na grški vazi okoli leta 500 pred našim štetjem. e., pa so ustna izročila obstajala že več stoletij prej. Ko Medea zmeša vsebino kotle, se iz njega pojavi jagnjetina. Medeja ovna in jagnjeta sta predhodnika Dolly, prve ovce, ustvarjene v gensko zasnovanem poskusu kloniranja leta 1997.
Razmnoževanje življenja v nas oživi arhaične strahove. Učinek doppelganger izziva željo vsakega posameznika, da je edinstven, nenadomestljiv.
Te starodavne tradicije so globoko prežete z metafizičnim razumevanjem in napovedmi o prihodnji manipulaciji z naravo človeka v našem času neverjetno. Če pogledate, kaj so Grki poimenovali biotehno (bios = življenje, techne = ustvarjena z umetnostjo znanosti) kot znanstveno poizvedovanje, "znanstvena fantastika" starodavnega sveta dobiva zmeren sodoben pomen. Medeja in drugi mitovi o biotehniki so navdihnili preganjanje, dramatične predstave in nepozabne ilustracije v klasičnih slikah in kipih vaz.
Promocijski video:
Medtem je okoli leta 400 pr. e. Archytas, Platonov prijatelj, je z mehanskim ptičem na paro naredil pljusk. Helenski inženir Heron iz Aleksandrije je izumil na stotine avtomatiziranih strojev, ki jih nadzira hidravlika in pnevmatika. Drugi obrtniki so ustvarjali gibljive figure, ki so oddajale zvoke, odpirali vrata, nalivali vino in celo napadali ljudi. Očitno je, da so stare Grke privlačile biotehne.
Za temi tehnološkimi čudeži se skriva iskanje večnega življenja. Grki so verjeli, da Chronos meri ženska in moška življenja. Čas je bil razdeljen na preteklost, sedanjost in prihodnost. Svoboda pred časom je obljubljala večno življenje, vendar je postavljala moteča vprašanja. Pojdite s tokom neskončnega časa - in kaj se potem zgodi s spomini? Kaj se bo zgodilo z ljubeznijo? Ali lahko lepota obstaja brez smrti in starosti? Ali sta žrtvovanje in junaštvo možna brez smrti? Veliki junaki iz mitov so umrli fizično, ostali so v spominu tudi po smrti, četudi so postali podzemni svet Homera. Miti pošiljajo eksistencialno sporočilo: smrt je neizogibna, pravzaprav so možnosti človekovega dostojanstva, neodvisnosti in junaštva odvisne od smrtnosti.
Zares, potem ko jim bogovi dajo izbiro, Ahil in drugi junaki zavračajo življenje udobja in lenobe, večno življenje. V mitih si veliki junaki in junakinje odločno izberejo kratko, nepozabno življenje, polno časti, tveganja in poguma. "Če je naše življenje kratko, naj se napolni s slavo!" Umetni nesmrtni obstoj je morda privlačen, toda ali bo velik in plemenit?
Miti o najbolj pogumnih junakih dramatizirajo slabosti nesmrtnosti. Ko boginja Thetis pusti svojega mladoletnega sina Ahila v čarobno reko Styx, da bi postal neranljiv, ga drži za peto. Na bojišču v Troji najboljši grški prvak ne umre v poštenem boju, iz oči v oči, kot je upal, ampak zaradi zastrupljene puščice, ki je prebila Ahilovo peto. Takšne stvari se zdijo nepomembne, vendar so takšne nepredvidene ranljivosti lastne napredni biotehniki.
***
Želja po preseganju smrti je stara toliko kot človekova zavest sama. V mitološkem prostoru nesmrtnost postane dilema tako za bogove kot za ljudi. Mit o Eosu in Typhonu sproža problem preprečevanja vseh nepredvidenih in možnih zapletov. Eos je bila nesmrtna boginja, ki se je zaljubila v smrtnega Tifona. Bogovi so ugodili Eosovi prošnji, da njen ljubljeni živi večno. A pozabila je vprašati večno mladost za svojega izbranca. "Ko je grozovita starost zatrla Tifona, je Eos obupal," pravi mit. Žalostno je svojo ljubljeno zaprla v ječo za zlatimi vrati. "Tamfon brez moči, da bi premaknil nekoč upogljive okončine, pahne v večnost." V nekaterih različicah Typhona izčrpavajo ciciade, katerih monotono petje je neskončni razlog za smrt.
Usoda Tifona meče senco na možnosti za podaljšanje človeškega življenja. Zavedajoč se dileme Typhona, ki je povezana z neomejenim staranjem, je biomedicinski gerontolog Aubrey de Gray leta 2009 ustanovil raziskovalno fundacijo SENS (Strategije za inženiring rahlega staranja). SENS upa, da bo našel način, kako se izogniti staranju celic, saj je smrt sama po sebi dlje in dlje.
V najglobljih starodavnih mitih se postavlja vprašanje: ali nesmrtnost človeka osvobaja trpljenja in žalosti? V epu o Gilgamešu na primer istoimenski junak mezopotamske pesmi hrepeni po nesmrtnosti. A če bi Gilgameš dobil večno življenje, bi ga v večni žalosti preživel za svojega prijatelja Enkidua.
Ali pa si oglejte usodo modrega kentavra Chirona, mentorja in prijatelja Herkula in Apolona. Hercules je Chirona po nesreči udaril s puščico, zastrupljeno s strupom Hydra. Strašna rana se ne bi nikoli zacelila. Široko od neznosnih bolečin je Chiron zaradi tega, da bi se jo znebil, prosil bogove za blagoslovljeno smrt v zameno za njegovo nesmrtnost. Prometej, titan, ki je ljudem razkril božansko skrivnost ognja, se je izkazal za še enega nesmrtnega, ki je trpel zaradi neskončnih bolečin. Zevs je Prometeja priklenil na skalo in vsak dan poslal ogromnega orla, da bi mu kljuval po jetrih. Jetra titana so čez noč zrasla nazaj in orel ga je spet očistil. Vsake toliko časa. Neskončno. Nesmrtnost.
Nočna mora o regeneraciji se razkriva tudi v mitu o večglavi Hydra. Ko je pošast skušal ubiti, je Hercules odrezal vsako glavo, nakar sta na njenem mestu zrasla dva nova. Končno je vsak vrat zažgal z baklo, vendar je bila osrednja glava Hidre nesmrtna in je ni bilo mogoče uničiti. Hercules je svojo neranljivo glavo zakopal v tla in odkotalil ogromen balvan, da bi odstrašil ljudi od tam. In tudi iz klešč Hydra, zakopanih globoko pod zemljo, je smrtonosni strup še naprej pikal. Tokrat je bila nesmrtnost dobesedno zastrupljena.
Še en primer: Jasonu in Argonavtom je grozila legija grobih replikatov. Na vrhu Medejega hudobnega očeta so dvignili vojsko zmajevih zob in orali polje s pomočjo ognjenih dihalnih mehanskih bikov, ki jih je izumil Daedalus (napaka avtorja: to ni bil namig, ampak naročilo; bikov je daroval Hefest - približno nov). Zmajeve zobje je posadil v tla. "Semena" so vzklila in iz zemlje so se pojavili nepremagljivi v svoji množici popolnoma oboroženi okostnjaki. A čarobni letini je manjkalo ene ključne kakovosti: ni jih mogoče naročiti. Samo nenehno napadajo. Medejin oče je hotel, da vojska uniči Argonavte. Mračni "roboti" so napredovali pri Iasonu in njegovih ljudeh. Jason je obupano ustavil vse večjo neobvladljivo množico sredi množice. Okostja so "programirali", da bi ubili najbližjega sovražnikatako so drug drugega ubili. Nekateri učenjaki menijo, da starodavna zgodba pred Homerjem. Ta zgodba je zloben znak zastrašujoče naloge upravljanja kibernetskih vojakov.
Druga vrsta mitov, posvečenih kritskemu geniju Daedalu, je povezana s čudeži mehanike. Prav on je naredil brezpilotnega orla, ki je redno pljuval Prometejeva jetra. Njegov najbolj znan poskus je letel na krilih in postal klišej tragične arogancije. Ob občudovanju čarov letenja je Daedalusov sin Icarus preletel previsoko. Sončeva vročina je stopila vosek, ki je združeval bronasto "perje", krila so se zdrobila in Icarus je strmoglavil. Tako kot drugi miti o nesmrtnosti in povečanju človeških sposobnosti tudi zgodovina kaže na nemogoče napovedovanje preprostih, a potencialno smrtonosnih tehnoloških trenutkov.
Po grških legendah je bil Daedalus prvi smrtnik, ki je ustvaril "žive kipe". Premikali so bronaste skulpture, za katere se je zdelo, da so resnično obdarjeni z življenjem: kotalili so si oči, se znojili, jokali, krvaveli, govorili in premikali okončine. V njegovi delavnici je bila iz lesa in kože narejena biomimetična krava, tako realistična, da je prevarala bika, ki se je paril z njo: s tem je Daedalus zadovoljil sprevrženo strast kraljice Pasiphae. Rezultat je bil poenotenje človeka, stroja in živali v Minotavru, grdo bitje s človeškim telesom in glavo bika. Usojeno je bil postati kanibal, zaprt v Labirintu (prav tako projekt Daedalusa), dokler ga nekega dne ubil junak Tezej. Spet je starodavni biotehnik združil človeka in stroj skupaj - in ustvaril pošast.
***
Tudi Hepheest, bog izuma in tehnologije, je zgradil robote, ki so ubogali ukaze in se samostojno premikali. Prav ta nebeški kovač je v antiki imel največje življenje na področju biotehnologije. Hefest je ustvaril dva mehanska psa iz zlata in srebra za varovanje kraljeve palače. Njegovi štirje robotski konji so potegnili kočija, "kihtali prah z medeninimi kopiti in cvilili." Potem ko so bogovi oživeli razsekanega junaka Pelope, je Hefest ramensko rezilo zamenjal s slonovino.
Hefaest je razvil več "samohodnih" stativa na kolesih, ki so se odzivali na ukaze, naj prinesejo hrano in vino. To ga je pripeljalo do tega, da je ustvaril skupino zlatih služkinj v višini, ki je izvajala njegova ukaza. Samodejne služabnice so bile "kot prava mlada dekleta: z zaznavanjem in inteligenco, močjo in enakomernim glasom, obdarjene z vsem znanjem o nesmrtnih." Kaj lahko ljubitelj AI Silicijeve doline preseže to ambicijo?
Zgodbe o Hefestu so si zamislile starodavne družbe, ki jih običajno ne štejemo za tehnološko napredne. Biotehnološka bitja so očarala kulturo, ki je obstajala tisočletja pred pojavom robotov, ki lahko zmagajo v zapletenih igrah, vodijo pogovore, analizirajo veliko informacij in določijo želje ljudi. Toda katere želje bodo izpolnili roboti z umetno inteligenco? Od koga se bodo naučili?
Microsoftov najstniški klepet z ženskim imenom Tay je poučen primer našega časa. Marca 2016 je Tay začela delati na Twitterju. Zapleteno programiran tako, da posnema nevronske mreže človeških možganov, se je moral Thay učiti od "prijateljev" - ljudi. Pričakovali so, da bo lahko vodila zapletene pogovore brez filtrov in brez nadzora nad svojim vedenjem. V samo nekaj urah so zlonamerni sledilci Twitterja Taya spremenili v internetnega trola z rasističnimi in seksističnimi nagajivi. Manj kot 12 ur kasneje so jo ustvarjalci izklopili. Thayev visoko uničljiv sistem učenja je dušil optimizem glede samostojnega učenja AI in inteligentnih robotov.
Antična zgodovinarja Polybius in Plutarch sta opisala namerno nasilni ženski robot. Ustvarjena je bila za Nabisa, zadnjega kralja Sparte, v podobi njegove hudobne žene Apege. Krut tiran Nabis je prišel na oblast leta 207 pr. e. in med svojim vladanjem izsiljeval velike vsote denarja od bogatih podložnikov. Grški kiparji so slavili zaradi svojih izredno realističnih portretnih kipov z naravnimi toni, človeškimi lasmi in steklenimi očmi. Nabis je oblekel ta zelo realističen maneken v ženinovih oblačilih, ki so mu pokrivale prsi, zalepljene z nohti. Premožni državljani so najprej dobili veliko vina, da bi ga nato pili, nato pa so ga, če niso zavrnili plačila, uvedli v Apego, kar je bilo bolj prepričljivo. Ko so se pijani gostje dvignili, da bi pozdravili "kraljico", je kralj Nabis nadzoroval ročice, skrite na hrbtu robota. Dvignila je roke in prijela moškega ter ga stisnila v objem in ga prikovala na prikovane prsi. Za to in druga grozodejstva je bil Nabis usmrčen leta 192 pred našim štetjem. e. Stoletja pozneje so srednjeveški mučitelji izumili primitivno različico te prefinjene špartanske "železne deklice".
V epu Jasona in Argonavtov, The Argonauts, je tudi smrtonosni robot. Talos je ena izmed najpomembnejših stvaritev Hefestove. Bil je velikanski bronasti bojevnik, sprogramiran za varovanje otoka Kreta in vrtenje balvanov pri približevanju ladij. Imel je še eno borbeno sposobnost, ki posnema človeško lastnost. Kot robot Apega je Talos lahko izvedel ohlajajoče popačenje univerzalnega znaka topline - objem. Talos je bil sposoben segreti njegovo bronasto telo in jo objel v živo. Kako sta Jason in Argonavti pobegnila tej bionski pošasti?
Uporaba biotehna kot odziv na biotehno. Medeja je vedela, da je Hefest ustvaril Talosa z eno samo arterijo, skozi katero je med vratom in gležnjem krožil jekor, skrivnostna življenjska tekočina bogov. Eden bronast žebelj je zapečatil Talosov "življenjski sistem".
Medeja je Talosa prepričala, da ga lahko izvleče iz bronastega žeblja. Ko pa je bil žebelj izvlečen, je jeklor iz Talosa odtekel kot staljena kovina in njegovo "življenje" je izumrlo. Medea je izkoristila večno željo namišljenih replikant, od Talosa do Frankinsteinove pošasti do Blade Runnerja. Verjamemo, da se v njih skrivajo človeške težnje.
Vrhunski projekt laboratorija Hepheest je bilo androidno dekle po naročilu Zeusa. Zevs je hotel kaznovati ljudi, ker so sprejeli nebeško skrivnost ognja, ki jo je ukradel Prometej. In njihova kazen, ki jo je ustvaril Hefest, je bila Pandora ("vsejeda jedla"). Vsak bog jo je obdaril s človeško lastnostjo. Pandora je imela lepoto, šarm, talent za glasbo, znanje zdravilstva in drugih ved, inteligenco, pogum in seveda nenasitno radovednost. Pandora je AI agent bogov. Zdi se, da je simpatično mlado dekle in so jo na Zemljo poslali z zapečateno škatlo, v kateri je bil še en komplet "daril."
Prijazen titan Prometej je ljudi opozoril, da Pandorine skrinjice ne bi smeli odpirati. Mogoče so bili Stephen Hawking, Elon Musk in Bill Gates Prometovi titani našega časa? Znanstvenike so opozorili, naj ustavijo nepremišljeno fascinacijo z AI, ker ga ljudje, ko ga bodo lansirali, ne bodo mogli nadzorovati. Algoritmi poglobljenega učenja omogočajo AI računalnikom, da črpajo sekvence iz ogromnih količin podatkov, ekstrapolirajo v nove situacije in sprejemajo odločitve brez človeških napotkov. AI roboti bodo neizogibno začeli sami izumljati in postavljati vprašanja. Računalniki so že sami razvili altruizem in zvit. Ali bo AI radovedno odkrivati skrivno znanje in se obnašati po svoji logiki?
***
Pandorina tvegana, radovedna človeška narava jo je odrinila, da je odprla prsni koš. Kuga, žalost, nesreča je odletela iz Pandorine škatle. V preprosti različici mita je zadnja stvar, ki je odletela iz Pandorine skrinjice, upanje. Toda v podrobnejših in temnejših različicah je bila namesto upanja zadnja stvar v prsih »pričakovanje težav«. V tej različici je Pandora panično zapredel in zaprl pokrov, pri tem pa spravil v oči predvidevanje. Človeštvo je bilo prikrajšano za napovedovanje prihodnosti in je dobilo tisto, čemur pravimo »upanje«.
Že od antičnih časov so filozofi razpravljali o tem, ali je upanje najboljše ali najslabše v Pandorini skrinjici. Dokler bo človeška iznajdljivost, radovednost in drznost še naprej raziskovala meje biološkega življenja in smrti, ljudi in strojev, se bo s tem vprašanjem spopadla vsaka nova generacija. Naš svet je seveda brez primere v smislu tehnoloških zmogljivosti. Toda moteča vleka vojne med znanstvenimi nočnimi morami in grandioznimi sanjami je večna. Stari Grki so vedeli, da je najpomembnejša lastnost človeštva skušnjava, da bi se umaknili "zunaj človeka".
V začetku letošnjega leta so inženirji pri ameriškem proizvajalcu orožja Raytheon ustvarili tri drobne, usposobljene robote. Imenovali so jih po starodavnih imenih: Zevs, Atena in Herkul. Z nevronskimi sistemi, ki temeljijo na ščurkih in hobotnicah, so mali roboti na sončno energijo prejeli tri darila: sposobnost gibanja, privlačnost do teme in sposobnost polnjenja na soncu. Roboti so se hitro naučili mutirati in kmalu so ugotovili, da se morajo bodisi izviti v motečo svetlobo, da se napolnijo ali umrejo. Ta na videz blag učni konflikt je primerljiv s "kognitivno ekonomijo", v kateri čustva pomagajo možganom, da razporedijo sredstva in se strateško opredelijo. Drugi eksperimenti z AI poučujejo računalnike, da zaznajo, kako neznanci izkazujejo naklonjenost drug drugemu.in kako se smrtniki odzivajo na negativna in pozitivna čustva.
Ko je Hawking opozoril, da bi "AI lahko napovedal konec človeške rase", so nekateri znanstveniki predlagali poučevanje robotov o človeških vrednotah in morali, tako da so jim pripovedovali zgodbe. Bajke, romani in druga literatura, celo baza holivudskih filmskih zapletov lahko delujejo kot nekakšen "vodnik ljudi" za računalnikom. En tak sistem se imenuje Šeherazada, po junakinji Tisoč in ene noči, legendarni perzijski filozof-pripovedovalec, ki je zapomnil ogromno zgodb izumrlih civilizacij. Trenutno so zgodbe preproste, računalniku kažejo, kako se vede prijazen, duševno zdrav človek. Da bodo roboti usposobili za simpatično interakcijo z ljudmi in se primerno odzvali na njihova čustva, bodo v repertoar računalnika dodane bolj zapletene ploskve. Ideja jeda bodo zgodbe dobile vrednost, ko bo AI dosegel človeško raven mentalne spretnosti "prenosnega učenja", lahko simbolično razloži analogije, sprejema odločitve, ne da bi to zahteval.
Računalnike lahko modeliramo po človeških možganih, vendar človeški um ne deluje ravno tako kot računalnik. Naučimo se, da so naše kognitivne sposobnosti in racionalno mišljenje odvisni od čustev. Zgodbe privlačijo čustva, patos. Zgodbe živijo tako dolgo, dokler vzbujajo nejasna čustva, dokler odmevajo s resničnimi dilemami in so primerne za razmislek. Grki so v daljni preteklosti pripovedovali zgodbe, da bi razumeli človeštvo, ki želi preseči biološke meje. Miti o biotehniki so dokaz vztrajanja diskurza o tem, kaj pomeni biti človek. Vpogled in modrost mitov pomagata približati pogovore o AI. Bi morda nekateri od teh mitov pomagali AI bolje razumeti nasprotujoče si težnje človeštva? Morda bodo nekega dne subjekti AI spoznali najgloblje želje in strahove smrtnikov,upodobljeni v starodavnih mitih in se zavedajo svojih zapletenih pričakovanj do sebe. Če spoznamo, da so jih ljudje predvideli in razmislijo o nekaterih izzivih, ki bi jim lahko prišli na poti, bodo lahko subjekti AI bolje razumeli izzive, s katerimi nas zmedejo.
Pojav "kulture" robotov AI se ne zdi več navidezen. Izumitelji in mentorji AI že gradijo logotipe, etos in patos te kulture. Ko se ljudje izboljšujejo s tehnologijo in postajajo vse bolj podobni strojem, se v robotih prebudi nekaj, kar spominja na človeštvo. Približujemo se temu, kar nekateri imenujejo nova zore robo-človečnosti. Ko bo prišel ta dan, kakšne mite bomo povedali sami sebi? Odgovor bo določil tudi, kako in kaj se bodo roboti naučili.
Avtor: župan Adrien