Pametni telefoni, roboti in računalniki nam olajšajo življenje, a morda v procesu kaj izgubimo? Novinar ene od publikacij se je z ameriškim pisateljem Nicholasom Carrjem pogovarjal o nevarnostih in celo grožnjah prekomerne avtomatizacije.
Splošno je prepričanje, da avtomatizacija vsega in vseh izboljša kakovost našega življenja. Računalniki nam pomagajo doseči vrhunsko zmogljivost. Programske aplikacije omogočajo hitrejše in lažje opravilo. Roboti prevzamejo mučno in naporno delo. Nenehni tok inovacij iz Silicijeve doline le še krepi prepričanje ljudi, da nove tehnologije izboljšujejo življenje.
Vendar obstaja še eno mnenje. Pisatelj Nicholas Carr je postulate sodobnega digitalnega sveta podvrgel nepristranski analizi. Njegov esej "Ali nas Google naredi neumnega?", Objavljen v reviji Atlantic leta 2008, je še vedno kontroverzen, prav tako njegova knjižna uspešnica The Shallows iz leta 2010.
Carr vidijo privrženci teorije, da bo tehnologija rešila naš svet kot enega njihovih najmočnejših nasprotnikov. In tisti, ki skrbijo za posledice tehnološkega napredka za človeštvo, ga spoštujejo zaradi uravnoteženega sklepanja.
Zdaj Carr zanima novo vprašanje: ali se moramo bati, da postopoma na nas ne bo težkih nalog? Bo naše življenje postalo preveč učinkovito zaradi novih tehnologij?
Pred časom se je novinar (T. C.) s pisateljem srečal, da bi spregovoril o svoji novi knjigi Steklena kletka: Avtomatizacija in nas in kaj ga je naredilo, da je napisal.
1. Razkrivanje glavnega mita o novih tehnologijah
Promocijski video:
"Včasih smo mislili, da sta učinkovitost in udobje privzeto dobra. Ta pristop je precej naiven."
Tom Chatfield: Če prav razumem, v Stekleni kletki poskušate razbiti mit, da je poenostavitev našega življenja s tehnološkim napredkom nujno pozitiven pojav.
Nicholas Carr: Na osebni in institucionalni ravni smo navajeni razmišljati, da sta učinkovitost in udobje privzeto dobra, njihovo maksimiranje pa je gotovo vreden cilj. Zdi se mi, da je ta pristop k tehnologiji v vseh oblikah, zlasti v obliki računalniške avtomatizacije, precej naiven. To velja tudi za naše lastne želje in resnično življenje v sodobnem svetu.
Ali bodo računalniki kdaj nadomestili človeka?
T. Ch.: In vendar se večina pristašev tehnološkega napredka drži utilitarističnega stališča, po katerem so največje napake, ki jih delamo, zaradi zanemarjanja učinkovitosti in logike, pravzaprav pa sami ne vemo, kaj je za nas dobro. Naloga tehnološkega napredka je torej z njihovega stališča ugotoviti pomanjkljivosti človekovega razmišljanja in nato ustvariti sisteme, ki bi te pomanjkljivosti nadomestili. Ali je to mnenje napačno?
N. K.: Po eni strani številne novosti v razvoju računalniške tehnologije in razvoju avtomatiziranih sistemov nimajo nobene zveze z obsežno trditvijo, da so ljudje v primerjavi z računalniki zelo nepopolni. Da, računalnik je mogoče programirati tako, da za določene operacije izvaja nedoločen čas z dosledno kakovostjo. In res je, da človek tega ni sposoben.
Toda nekateri gredo še dlje in trdijo, da so ljudje preveč nepopolni, da bi bilo treba njihovo vlogo čim bolj omejiti, za vse osnovne naloge pa bi morali odgovarjati računalniki. Ne gre samo za to, da bi skušali nadoknaditi človekove pomanjkljivosti - ideja je, da bi človeški dejavnik v celoti odstranili, zaradi česar bo naše življenje postalo veliko boljše.
TC: Zdi se, da to ni najboljša ideja. Ali obstaja optimalna raven avtomatizacije?
N. K.: Po mojem mnenju vprašanje ni, ali moramo avtomatizirati to ali tisto zapleteno nalogo. Vprašanje je, kako uporabljamo avtomatizacijo, kako natančno uporabljamo računalnike za dopolnitev človekovega znanja in veščin, nadomestimo pomanjkljivosti v človekovem razmišljanju in vedenju, pa tudi, da bi ljudi spodbudili, da kar najbolje izkoristijo svoje izkušnje, da dosežejo nove višine.
Preveliko zanašanje na programsko opremo nas lahko spremeni v opazovalce računalniških monitorjev in upravljavce procesov. Računalniki lahko igrajo zelo pomembno vlogo, saj smo samo ljudje - lahko postanemo plen predsodkov ali zamudimo pomembne informacije. Toda nevarnost je, da je vse naše funkcije predajanje računalnikom preveč enostavno, kar bi bilo po mojem mnenju napačna odločitev.
2. Ali morate resnično življenje približati scenariju video igre?
"Računalniške igre imamo radi ravno zato, ker jih ni enostavno igrati."
TC: Z veseljem sem ugotovil, da v svoji knjigi navajate video igrice kot primer interakcije v sistemu "človek-stroj", v katerem je bistvo premagati težave, ne pa se jim izogibati. Najbolj priljubljene igre so vrsta dela, ki igralcu daje občutek zadovoljstva. Lahko se samo pritožujemo, da delo, ki ga moramo mnogi opraviti vsak dan, zahteva veliko manj spretnosti in nam prinese veliko manj užitka.
N. K.: Video igre so zelo zanimive, saj njihov koncept nasprotuje splošno sprejetim načelom razvoja programske opreme. Namen računalniških iger sploh ni, da uporabnika olajšajo nevšečnosti. Nasprotno, igralca spodbudijo k dodatnemu naporu in maksimirajo uporabo možganov. Uživamo v video igrah ravno zato, ker nas izzivajo z vse večjimi izzivi. Nenehno se znajdemo v težkih situacijah - vendar ne v situacijah, ki povzročajo obup. Premagovanje vsake nove ravni samo usodi naše sposobnosti.
Ta postopek je zelo podoben temu, kako človek v resničnem življenju pridobi življenjske izkušnje. Kot vemo, se mora človek za razvoj sposobnosti vedno znova spopadati z resnimi ovirami in jih premagovati občasno, pri tem pa uporabiti vse svoje znanje in spretnosti. Postopoma človek doseže novo raven, po kateri se poveča težavnost ovir.
Mislim, da imajo ljudje radi video igre iz istega razloga, ker dobijo zadovoljstvo, če pridobijo nove izkušnje in premagujejo ovire. Rešitev težke naloge, v kateri se pridobivajo nova znanja, potrebna za premagovanje novih, še bolj zapletenih težav, človeku nudi veliko veselja.
Eden glavnih pomislekov, ki jih izražam v knjigi, je, da je naš odnos do napredka povezan z željo, da bi se čim bolj izognili reševanju težkih težav. Zdi se mi, da to stališče nasprotuje samemu konceptu zadovoljstva z življenjem in samouresničevanja.
3. Ali bodo računalniki odpravili potrebo po ljudeh?
"Ljudje preprosto ne morejo biti v koraku z računalniki, ko trgujejo s finančnimi instrumenti."
TC: V nasprotju z video igrami v resničnem svetu trdo delo ni nujno nagrajeno. Resnični svet je nepošten in neuravnotežen. Morda je najbolj moteč trend tu, da interesi posameznika (psihološko, osebno in celo v smislu preživetja) vse bolj prenehajo sovpadati s podjetniškimi in vladnimi predstavami o uporabnosti. Se bojite, da bodo računalniki končno nadomestili človeka?
N. K.: Ko sem zbiral gradivo za knjigo, me je zelo prestrašil članek (citati, iz katerih citiram v besedilu), ki ga je napisal strokovnjak za vojaško strategijo. Po njegovem mnenju glede na naraščajoči obseg uporabe računalniških tehnologij na bojišču človeku v vojaških zadevah zelo kmalu preprosto ni prostora. Hitrost odločanja se je toliko povečala, da ljudje preprosto ne morejo biti v koraku z računalnikom. Neizogibno gremo k popolnoma avtomatizirani vojni: brezpilotna letala se bodo sama odločila, kdaj bodo izstrelila rakete na cilje, robotski vojaki na terenu pa bodo sami odločali, kdaj bodo streljali.
Po mojem mnenju to stanje opažamo ne le v vojaških zadevah, ampak tudi na številnih drugih področjih - na primer v svetu financ. Ljudje preprosto ne držijo računalnika, na primer pri trgovanju s finančnimi instrumenti.
Kaj nas čaka? Morda ne bomo samo izgubili sposobnosti, ki nas razlikuje od računalnikov za kritično oceno lastnih dejanj - morda bomo takšne sisteme izvajali premišljeno, saj verjamemo, da je glavna stvar hitrost odločanja. In potem, če bomo prepričani, da smo se zmotili, bomo ugotovili, da povratka ni. Zelo pogosto se izkaže, da je nemogoče vključiti človeka v sistem, ki je bil prvotno zgrajen na računalniški tehnologiji.
TC: Zgrožen sem bil tudi, ko sem v knjigi prebral odlomek o avtomatiziranem vojskovanju. Občutek sem imel, da procesa, ki nas bo pripeljal do popolnoma avtonomnih bojnih sistemov, ni mogoče ustaviti. Del moje grozljivosti izvira iz spominov na finančno krizo iz leta 2008, ki je praktično zbrisala trilijone dolarjev. Vsaj zdaj so ljudje bolj odgovorni glede svojih financ. Če pa se to zgodi v vojaški sferi, ne bodo uničeni dolarji, temveč človeška življenja.
Poleg tega se mi zdi, da obstaja misel, ki se nanaša na vašo prejšnjo knjigo "Prazno": današnji ljudje v biološkem smislu niso zelo različni od naših prednikov, ki so živeli pred stotimi leti, vendar živimo v povsem novem svetu. posledice določenih dejanj že dolgo presegajo hitrost, na katero smo navajeni. Enako velja za nove izume - sami se v obliki informacij in algoritmov ter njihovih posledic širijo z osupljivo hitrostjo.
Prihodnost brez ljudi?
N. K.: Bistvo ni le v tem, da se nove tehnologije, zlasti tehnologije na področju programske opreme, danes lahko posnemajo in distribuirajo zelo hitro. Bistvo je, da se vsi ti procesi odvijajo v konkurenčnem okolju. Ne glede na to, ali govorimo o oboroževalni tekmi ali poslovni konkurenci, takoj ko eden od tekmecev pridobi kratkoročno prednost na račun določene tehnologije, takoj začnejo uvajati to tehnologijo, kadar koli je to mogoče - ker nihče ne želi ostati v prikrajšanju.
Mislim, da je v tej situaciji preveč enostavno izgubiti iz vida, da smo v bistvu živali. Ljudje so tisočletja prehodili evolucijsko pot, da bi lahko živeli in preživeli. Vloga človeštva, pa tudi naši občutki zadovoljstva in samouresničevanja so tesno povezani z našo izkušnjo življenja v svetu, ki določa naš običajni tempo.
Zato, ko človeka nasprotujemo hitremu in natančnemu računalniku z vsemi njegovimi fizičnimi prednostmi in slabostmi, obstaja želja, da bi se celo življenje prepustili računalnikom. Pozabljamo pa, da nas bo popolna predaja računalniku pripeljala do življenja, v katerem bo malo prostora za samouresničitev.
4. Kako avtomatiziramo svet?
"Lahko pametno inovirate, a z lahkoto storite."
TC: Mislim, da moramo biti kritični do novih tehnologij, vendar me skrbi, da bodo ljudje nepotrebne težave in antitehnično "pristnost" spremenili v fetiš. Obstaja tako sodobna miselna šola, ki hvali trdo fizično delo in zatrjuje, da mora biti vse, kar počnemo, umetniško in pristno. Po mojem mnenju takšno stališče zaničuje snobizam in ne upošteva ogromnega števila pozitivnih dosežkov, ki jih je s seboj prinesla demokratizacija tehnološkega napredka.
N. K.: Se popolnoma strinjam s tabo. V intervjuju so me vprašali, kako bi moj previden odnos do napredka pomagal ljudem, ki delajo v težkih pogojih v mesnopredelovalnih obratih. Odgovoril sem, da bo seveda vedno mesto za avtomatizacijo proizvodnje, kjer je treba izboljšati delovne pogoje ljudi. Samo, da lahko pametno inovirate ali pa to storite brez razmišljanja; lahko najdemo način, kako upoštevati vrednost človeške izkušnje in pomen samouresničevanja, ali pa lahko preprosto vzbudimo zmožnosti računalnikov. Prava izbira ni enostavna. Če to nalogo dojemamo izključno črno-belo - ali se slepo zavzemamo za trdo, naporno fizično delo v kakršnih koli situacijah ali, nasprotno, smisel življenja vidimo v sobarstvu - to ne bo pomagalo vzroku.
Ljudje nenehno ustvarjajo in uporabljajo orodja. Od nekdaj moramo sprejemati odločitve, povezane z delitvijo dela, z delitvijo količine dela med človekom in orodjem, ki ga ima na razpolago. In zdi se mi, da neverjetna učinkovitost računalnikov pri opravljanju širokega spektra nalog samo otežuje postopek sprejemanja takšnih odločitev.
5. Kaj nas čaka?
"Prizadevati si moramo, da nam računalniki obogatijo življenjsko izkušnjo in nas ne spremenijo v pasivne opazovalce zaslonov monitorjev."
T. Ch.: Torej kam gre človeštvo?
NK: Naravoslovni zgodovinar Thomas Hughes, ki je umrl lani, je predlagal koncept tehnološkega zagona. Verjel je, da se tehnologije, vpete v družbene strukture in procese, začnejo razvijati same, vlečejo družbo. Povsem mogoče je, da je bila naša usmeritev že določena in da bomo nadaljevali po današnji poti, ne da bi postavljali vprašanja o tem, ali se premikamo v pravo smer. V resnici ne vem, kaj se bo zgodilo. Največ, kar lahko storim, je, da po najboljših močeh poskušam razložiti ta res težka vprašanja.
Upam, da bomo kot posamezniki in kot člani družbe lahko ohranili določeno raven razumevanja tega, kar se nam dogaja, pa tudi določeno raven radovednosti in bomo sprejemali odločitve na podlagi naših dolgoročnih interesov in ne na običajnih konceptih praktičnosti, hitrosti, natančnosti. in učinkovitost.
Zdi se mi, da si moramo prizadevati, da računalniki obogatijo našo življenjsko izkušnjo in nam odprejo nove možnosti, ne pa da nas spremenijo v pasivne opazovalce zaslonov monitorjev. Še vedno mislim, da če bomo z novimi tehnologijami dosegli več, bodo lahko naredili tisto, kar so v zgodovini človeštva storile tehnologije in orodja - da bodo okoli nas ustvarile bolj zanimiv svet in nam pomagale, da postanemo boljši. Navsezadnje je vse odvisno od nas samih.
Tom Chatfield