Poglavje iz knjige, ki jo je izdal Politehniški muzej
Človek in robot - kje je meja med njima in kakšne nevarnosti prinaša naša bližina? Na podlagi osebnih izkušenj, številnih intervjujev in podatkov iz najnovejših raziskav, najuglednejši znanstvenik na tem področju David Mindell ponuja zakulisni pogled na najbolj inovativne aplikacije robotike. Indicaror. Ru objavlja poglavje iz svoje knjige Vzpon strojev je preklican! Miti o robotizaciji “.
Človeško upravlja - oddaljeno - avtonomno
Globoko ponoči, visoko nad Atlantskim oceanom v velikem odprtem prostoru med Brazilijo in Afriko, je bil v slabem vremenu ujet redni potniški letalski prevoznik. Zamrznjeni led je zamašil majhne cevi v nosu letala, ki so določile njegovo hitrost in podatke prenašale v računalnike, ki upravljajo letalo. Računalniki bi lahko še naprej leteli brez teh informacij, vendar program, vgrajen v njih, ni omogočal take prilagoditve. Samodejni sistem "fly-by-wire" je popustil in ugasnil, prenašal nadzor na ljudi - pilote, ki so sedeli v pilotski kabini: 32-letni Pierre-Cedric Bonin in 37-letni David Robert. Bonin in Robert, oba sproščena in nekoliko utrujena, sta bila presenečena, ko sta nenadoma odkrila, da bosta morala ob slabih vremenskih razmerah in celo ponoči ročno letati ogromno letalnico. In v ugodnejših razmerah bi bila težka naloga, s katero se piloti v zadnjem času ne srečujejo. Poveljnik posadke, 58-letni Marc Dubois, v tistem trenutku ni letel z letalom, ampak je počival v kabini. Piloti so morali porabiti dragocen čas, da so ga poklicali v pilotsko kabino. Kljub dejstvu, da je bilo letalo, ko so bili računalniki izključeni, letalo na ravni ravni ravni, piloti ni bilo težko razumeti manjših parametrov zraka. Eden od njih je potegnil krmilni ročaj k sebi, drugi pa ga je potisnil naprej. Letalski potnik je približno eno minuto nadaljeval z ravnilom, nato pa začel padati. Piloti so morali porabiti dragocen čas, da so ga poklicali v pilotsko kabino. Kljub dejstvu, da je bilo letalo, ko so bili računalniki izključeni, letalo na ravni ravni vodoravni leti, so piloti težko razumeli manjše parametre zraka. Eden od njih je potegnil krmilni ročaj k sebi, drugi pa ga je potisnil naprej. Letalski potnik je približno eno minuto nadaljeval z ravnilom, nato pa začel padati. Piloti so morali porabiti dragocen čas, da so ga poklicali v pilotsko kabino. Kljub dejstvu, da je bilo letalo, ko so bili računalniki izključeni, letalo na ravni ravni ravni, piloti ni bilo težko razumeti manjših parametrov zraka. Eden od njih je potegnil krmilni ročaj k sebi, drugi pa ga je potisnil naprej. Letalski potnik je približno eno minuto nadaljeval z ravnilom, nato pa začel padati.in nato začel padati.in nato začel padati.
1. junija 2009 je Air France Flight 447 spiralo v ocean, pri čemer je umrlo več kot 200 potnikov in posadke. Izginil je v valovih skoraj brez sledu. V svetovnem medsebojno povezanem sistemu mednarodnih letalskih družb je nepredstavljivo, da bi letalo preprosto izginilo. Organizirano je bilo obsežno usklajeno iskanje. Le nekaj dni kasneje so na oceanskem dnu našli sledi letala. Kljub temu, da bi našli večji del razbitin letalnice in črne škatle, zahvaljujoč kateri bi bilo mogoče ugotoviti vzrok tragedije, je potreboval iskanje po ogromnem ozemlju oceanskega dna, ki se je premikalo brezupno počasi. Več kot dve leti pozneje, na globini 3,2 km, skoraj na sami točki, kjer je letalnica padla v oceansko površino,avtonomno podvodno vozilo, imenovano Remus 6000, je tiho drselo po temi pod pošastnim pritiskom vodnega stolpca. Premik malo hitreje kot pešec je robot v obliki torpeda ohranil konstantno višino približno 60 m nad dnom. V tem položaju je njegov zvočni optični bralnik prejel najjasnejše slike. Zvočni signal je prehodil približno 800 m v vse smeri, robot je prek vrnjenih signalov zbiral gigabajte informacij.robot je prek vrnjenih signalov zbiral gigabajte informacij.robot je prek vrnjenih signalov zbiral gigabajte informacij.
Površina je bila gorata, zato se je oceansko dno močno dvignilo. Kljub svoji umetni inteligenci je robot občasno udaril po površini, najpogosteje brez posledic. Trije od teh robotov so skladno delovali v tandemu: dva sta iskala pod vodo, tretji je bil na krovu ladje. Takšna "pit stop" je trajala tri ure, med katerimi so ljudje, ki strežejo robota, prepisali informacije, napolnili baterije in postavili nove načrte iskanja. Na ladji je ekipa dvanajstih inženirjev iz oceanografskega raziskovalnega inštituta Woods Hole, ki jo je vodil Mike Purcell, ki je vodil oblikovanje in razvoj iskalnih vozil, delala dvanajst urnih izmenah. Naloženi so bili kot vsaka ekipa mehanikov formule 1.
Ko se je naprava dvignila na površje, so inženirji potrebovali približno 45 minut, da so podatke, ki so jih zbrali, prenesli v računalnik, nato še pol ure, da so jo obdelali, da bi jo bilo mogoče hitro videti na monitorju. Francoski in nemški preiskovalci in predstavniki letalske družbe Air France so pokukali čez ramena. Njihova dejanja so bila videti premišljena in preudarna, toda napetost je visela v zraku: deleži so bili previsoki v smislu nacionalnega ponosa Francozov in po ugledu proizvajalca Airbus ter glede varnosti vseh letalskih potovanj.
Promocijski video:
Več prejšnjih odprav je bilo neuspešnih. V Franciji, Braziliji in po svetu so družine žrtev čakale na novice. Dešifriranje informacij iz akustičnega skenerja zahteva natančno analizo, ki je ni mogoče popolnoma zaupati računalniku. Purcell in njegovi inženirji so se opirali na dolgoletne izkušnje. Na svojih monitorjih so preučevali skalnati spodnji kilometer za kilometrom. To rutinsko delo je trajalo pet dni, dokler se njegova monotonost ni prekinila: na zaslonu se je pojavilo kopičenje naplavin, nato pa so se znanstveniki podali na območje katastrofe - prejeli so močan signal iz umetnih predmetov v oceanski puščavi. Vsaj tako so domnevali, a še vedno ne bi mogli zagotovo reči. Inženirji so vozila programirali tako, da so se vrnili na območje nesreče in se skozi njega premikali naprej in nazaj. Tokrat so se morali roboti približati dovolj blizu, da so kamere ob svetlobi stranskih luči fotografirale na višini približno 9 m nad dnom. Ko so vozila prinesla slike na površje, so inženirji in preiskovalci videli območje nesreče in prejeli odgovor: našli so razbitine letala, ki je postalo grob za stotine ljudi. Kmalu se je na kraj tragedije vrnila druga ekipa z drugačno vrsto robota - podvodnim vozilom na daljinsko upravljanje. Kmalu se je na kraj tragedije vrnila druga ekipa z drugačno vrsto robota - podvodnim vozilom na daljinsko upravljanje. Kmalu se je na kraj tragedije vrnila druga ekipa z drugačno vrsto robota - podvodnim vozilom na daljinsko upravljanje.
To je bila težka naprava, posebej zasnovana za delo v globini. Z ladjo je bil povezan s kablom. Z zemljevidi, ustvarjenimi z uspešnim iskanjem, je ROV lociral črne škatle - diktafon in diktafon letala - in jih dvignil na površje. Zapisi o zadnjih minutah obsojenih pilotov so bili odstranjeni iz globin oceana in zdaj so preiskovalci lahko ponovno ustvarili usodne okoliščine, ki so privedle do zmede na avtomatizirani letalski liniji. Nato se je podvodno vozilo lotilo žalostne misije - priklicati posmrtne ostanke mrtvih.
Strmoglavljenje letala Air France 447 in operacija iskanja njegovih razbitin povezujeta sodobno avtomatizacijo in robotiko v dveh ekstremnih okoljih: na robu stratosfere in v morskih globinah. Letalo je padlo v ocean zaradi napak pri človekovi interakciji z avtomatiziranimi sistemi. Nato so njene drobce odkrili ljudje, ki uporabljajo daljinsko vodene in avtonomne robote.
Čeprav besedi "avtomatizirano" in "avtonomno" (v njunih najpogostejših pomenih) pomenita, da takšni sistemi delujejo neodvisno, v obeh primerih odpoved ali uspeh ni bil posledica strojev in ljudi, ki delujejo ločeno, temveč zaradi kombiniranega delovanja strojev. in ljudi. Človeški piloti so se borili za življenje letala, ki je bilo avtomatizirano za večjo varnost in zanesljivost; številne medsebojno povezane ladje, sateliti in prosto plavajoče boje so pomagale najti kraj nesreče; inženirji so obdelali informacije, prejete od robotov, in nanje ukrepali.
Avtomatizirana in avtonomna vozila so se nenehno vračala svojim ustvarjalcem - ljudem - za informacije, energijo in smer. Tragedija Air France Flight 447 je jasno povedala, da s stalnim prilagajanjem in spreminjanjem svojega okolja na novo spreminjamo sebe. Kako bi lahko piloti postali tako zasvojeni z računalniki, da so na morje spustili odlično delujoče letalo? Kakšna je vloga ljudi na področjih, kot so prevoz in prevoz, raziskave in vojaške dejavnosti, ko se zdi, da vse več nalog primarnega pomena opravljajo stroji? Skrajni pogled je, da so ljudje blizu, da bodo "izginili iz uporabe", da roboti "dobesedno potrebujejo eno posodobitev programske opreme", da postanejo popolnoma neodvisni, kot je pred kratkim napisal ameriški Scienti fi. Ta pogled nam poveda roboti napredujejo - vedno bolj jih srečujemo v znanem okolju. Zaskrbljenost zaradi neznanih in dvomljivih zmožnosti umetne inteligence izhaja iz prepričanja, da smo na vrhuncu "superinteligence." Naš svet je na robu sprememb, pravzaprav se že spreminja pod vplivom robotov in avtomatizacije.
Kar naenkrat se pojavijo novi projekti, ki utelešajo stare sanje o pametnih strojih, ki nam pomagajo pri opravljanju poklicnih nalog, olajšajo fizično delo in rutinske naloge v vsakdanjem življenju. Roboti, ki obstajajo in delujejo v neposredni bližini ljudi na fizični, kognitivni in čustveni ravni, postajajo vse obsežnejša in obetavnejša raziskovalna tema. Avtonomija - sanje, da se bodo roboti nekega dne obnašali kot popolnoma neodvisne entitete - ostaja vir navdiha, inovacij in strahu. Navdušenje povzroča resnost poskusa; natančne oblike teh tehnologij še zdaleč niso popolne, še manj gotovo pa so njihove družbene, psihološke in kognitivne posledice.
Kako nas bodo spremenili naši roboti? V kakšni podobi in podobi jih bomo naredili? Kaj bo ostalo od naših tradicionalnih področij delovanja - znanstvenik, pravnik, zdravnik, vojak, vodja in celo voznik in hišnik -, ko bodo te naloge opravljali stroji? Kako bomo živeli in delali? Ne rabimo špekulirati: večinoma je ta prihodnost že prišla danes, če ne že v vsakdanjem življenju, pa v ekstremnih razmerah, kjer že desetletja uporabljamo robote in avtomatizacijo. Človek ne more obstajati sam v zgornjih plasteh atmosfere, v globinah oceana, v vesolju. Zaradi potrebe po napotitvi ljudi v ta nevarna stanja sta bila na teh območjih ustvarjena in izvedena robotika in avtomatizacija prej kot na drugih področjih dejavnosti, ki so nam bolj znana.
V ekstremnih okoljih se odnos med ljudmi in roboti preizkuša na trdnosti. Najbolj inovativen razvoj se pojavlja v takšnem okolju. Tu imajo inženirji najširšo svobodo eksperimentiranja. Kljub fizični izolaciji so se tu najprej začeli kazati kognitivni in družbeni učinki različnih naprav. S človekovimi življenji, drago opremo in kritičnimi misijami je treba avtonomijo vedno omejiti z vidiki varnosti in zanesljivosti. V takšnih razmerah se nečimrnost in vsakdanje zadeve začasno umaknejo v ozadje in iz okoliške teme najdemo fragmentarne, srhljive alegorije človeškega življenja v tehnološkem svetu. Družbeni in tehnološki procesi v pilotski kabini letala ali v notranjosti globokomorskega vozila se bistveno ne razlikujejo od podobnih procesov v tovarni, pisarni ali avtomobilu. Toda v ekstremnih pogojih se zdijo bolj eksplicitni in jih je zato lažje razumeti.
Vsak polet letala je zgodba, tako kot vsake oceanografske odprave, vesoljski polet ali vojaška operacija. Skozi te zgodbe o določenih ljudeh in strojih lahko zberemo podatke o subtilni dinamiki. V ekstremnih razmerah dobimo predstavo o naši bližnji prihodnosti, ko se lahko takšne tehnologije uvedejo na področjih človeške dejavnosti, kot so cestni promet, zdravstvena oskrba, izobraževanje itd. Naprave, ki jih oseba upravlja, na daljavo ali avtonomno, odpirajo kakovostno nove možnosti za interakcijo ljudi in strojev, nove oblike prisotnosti in nove izkušnje, hkrati pa opozarjamo na nevarnosti, etične vidike in nezaželene posledice življenja okoli pametnih strojev. Vidimo prihodnost, kjer bosta človeška prisotnost in znanje postajala pomembnejša,kot kdajkoli prej, vendar na nek način nenavaden in neznan. In ti avtomobili so prav čudoviti.
Nisem edina oseba, ki sem že vse življenje občudovala letala, vesoljske ladje in podmornice. Pravzaprav so junake zgodb, ki jih bom povedal spodaj, vodila ne le iskanje praktičnih koristi - vodila jih je tudi strast do novih tehnologij. Ni naključje, da so takšne zgodbe pogosto opisane v znanstvenofantastičnih delih o ljudeh in strojih. Zgodbe ljudi in strojev, ki medsebojno vplivajo na meji svojih možnosti, navdušujejo, presenečajo in prebujajo upanje o tem, kdo lahko postanemo. To navdušenje se včasih odraža v naivni veri v perspektivo tehnologije. Toda postopoma nas takšno zanimanje pripelje do glavnih filozofskih in humanističnih vprašanj:kdo smo mi? Kako smo povezani s svojim delom in med seboj? Kako naše stvaritve širijo naše izkušnje? Kako lahko živimo v tem spreminjajočem se svetu? Ta vprašanja se pojavijo sama, ko se začnete pogovarjati z ljudmi, ki ustvarjajo in nadzirajo robote in stroje. Z vami želim deliti informacije, ki sem jih iz prve roke prejel iz poglobljenih intervjujev, in rezultate najnovejših raziskav Massachusetts Institute of Technology in drugih organizacij, ki med letalskimi letali (civilnimi in vojaškimi) testirajo robotiko in avtomatizacijo v ekstremnih razmerah v oceanskih globinah. in v vesolju. To ni namišljena prihodnost, ampak to, kar se dogaja danes: videli bomo, kako ljudje nadzorujejo robote in prejemajo informacije prek avtonomnih naprav, analizirali bomo, kako te interakcije vplivajo na njihovo delo oz.življenjske izkušnje, spretnosti in sposobnosti.
Naša zgodba se začne tam, kjer sem tudi sam začel - v globinah oceana. Pred petindvajsetimi leti, ko sem bil inženir, ki je razvijal vgrajene računalnike in orodja za globokomorske robote, sem presenečen ugotovil, da ta tehnika na nepredvidljive načine spreminja oceanografijo, znanstvene metode in celo samo naravo poklica oceanografa. To razumevanje me je pripeljalo do dveh vzporednih karier. Kot znanstvenik sem preučeval interakcije med ljudmi in stroji, od oklepnih ladij med ameriško državljansko vojno do računalnikov in programske opreme, ki je pomagala astronomom Apollo pristati na Luni.
Kot inženir sem podatke, pridobljene s to raziskavo, integriral v sodobne projekte - razvil sem robote in naprave za uporabo v tesni interakciji s človekom. V nekaterih zgodbah se pojavljam kot udeleženec, v drugih - kot opazovalec, v drugih pa v obeh teh podobah hkrati. Z leti nabiranja izkušenj, iskanja in pogovorov z ljudmi sem se prepričal, da si moramo premisliti o robotih. Tudi jezik, v katerem govorimo o njih, je vzeti iz znanstvene fantastike 20. stoletja in nima nobene zveze s tehničnimi dosežki našega časa. Na primer, daljinsko vodena letala se imenujejo brezpilotna letala, kot da so brezsmiselni avtomati, ko jih v resnici strogo nadzorujejo ljudje.
Roboti so pogosto predstavljeni (in prodani) kot popolnoma avtonomni posredniki, toda tudi današnja omejena avtonomija pogosto obstaja le v človeški domišljiji. Roboti, ki jih uporabljamo tako široko in raznoliko, komajda ogrožajo avtomate - vgrajeni so v socialna in tehnična omrežja tako kot mi. Spodaj si bomo ogledali veliko primerov, kako sodelujemo s svojimi stroji. Vse gre za kombinacije. Čas je, da razmislimo, katere funkcije pravzaprav opravljajo sodobni roboti, da bi lažje razumeli naš odnos s temi pogosto presenetljivo spretnimi stvaritvami človeških rok. Ponujam vam empirično ugotovitev, podprto z raziskavami: ne glede na to, kaj roboti počnejo v laboratoriju, v resnici, kjer so ogrožena človeška življenja in resnični viriprizadevamo si omejiti njihovo samostojnost na veliko število potrebnih odobritev in priložnosti za človeško posredovanje.
Ne trdim, da so stroji pametni in ne pravim, da nekega dne morda niso dovolj pametni. Raje menim, da taki stroji niso izolirani od ljudi. Naštejmo tri mite 20. stoletja, povezane z robotiko in avtomatizacijo. Prvi mit je linearni napredek - ideja, da se bo tehnologija preusmerila od neposrednega človeškega nadzora do daljinskega upravljanja in nato k popolnoma avtonomnim robotom. Besede filozofa Petra Singerja, ki neprestano govori v obrambo avtonomnih sistemov, ujamejo bistvo tega mita. Piše, da "sposobnost ljudi, da ohranijo nadzor nad dogajanjem, izniči tako tiste, ki so na čelu, kot tudi neposredno s tehnologijo, zato bodo ljudje kmalu izključeni iz nadzorne zanke." A razloga za domnevo nida bo evolucija sledila tej poti, da bo "tehnologija sama", kot piše Singer, pripeljala do nečesa podobnega. Pravzaprav obstajajo dokazi, da ljudje postopoma prihajajo v globlji stik s svojimi stroji.
Nenehno ugotavljamo, da se ljudje, ki jih daljinsko nadzorujejo in avtonomna vozila razvijajo vzporedno, vplivajo drug na drugega. Na primer, brezpilotna letalska vozila ne bi mogla leteti v državnem zračnem prostoru ZDA brez ustreznih sprememb osebnih vozil. Ali če vzamemo drug primer: novi napredek robotike na področju vzdrževanja vesoljskih plovil se odraža v delu astronavtov s vesoljskim teleskopom Hubble. Najbolj napredne (in zapletene) tehnologije niso tiste, ki delujejo ločeno od ljudi, ampak tiste, ki so najgloblje vpete v družbeni sistem in hitreje reagirajo na dogajanje v njem. Drugi je mit o zamenjavi, ideja, da bodo stroji postopoma začeli prevzeti vse naloge, ki jih opravljajo ljudje. Ta mit je različica dvajsetega stoletja, čemur pravim pojav železni konj.
Na začetku so si ljudje predstavljali, da bodo železnice izničile potrebo po konjih, vendar so se vlaki izkazali za zelo nepomembne konje. Železnice so prišle na svoje mesto, ko so se ljudje naučili početi povsem nove stvari z njihovo pomočjo. Raziskovalci človeških dejavnikov in kognitivni znanstveniki trdijo, da avtomati le redko »mehanizirajo« človeške naloge. Namesto tega nalogo otežujejo, pogosto s povečanjem delovne obremenitve (ali s prerazporeditvijo). Daljinsko vodena letala ne opravljajo enakih nalog kot zrakoplov s posadko; prevzamejo nove funkcije. Oddaljeno nadzorovani roboti na Marsu ne ponavljajo dela geologov na terenu;oni in ljudje, ki sodelujejo z njimi, se učijo izvajati terenske raziskave v novem okolju z uporabo oddaljenih mehanizmov.
Končno imamo še tretji mit - mit o popolni samostojnosti, utopični ideji, da lahko roboti danes ali v prihodnosti delujejo popolnoma neodvisno. Ja, avtomati seveda lahko prevzamejo nekatere naloge, ki jih je prej opravljal človek, in so resnično sposobni samostojno delovati za določen čas kot odziv na spremembe v okolju. Toda stroji, ki niso odvisni od človekove usmeritve, so neuporabni stroji. Samo kamen je lahko resnično samostojen (toda tudi kamen je bil ustvarjen in postavljen na svoje mesto zahvaljujoč okolju). Avtomatizacija spremeni stopnjo človekove vpletenosti v stroj, vendar ne odpravlja potrebe po njem v celoti. V katerem koli sistemu, tudi na videz avtonomnem sistemu, lahko vedno najdemo vmesnik, s pomočjo katerega lahko človek nadzoruje svoje delo,preberite informacije in zahvaljujoč temu postanejo koristne. Citiram eno najnovejših poročil znanstvenega sveta ameriškega ministrstva za obrambo: "Ni popolnoma avtonomnih sistemov, tako kot ni popolnoma avtonomnih vojakov, mornarjev, letalcev ali marincev."
Če razmišljamo v smislu 21. stoletja in spreminjamo svoje poglede na robotiko, avtomatizacijo in zlasti novejšo idejo o avtonomiji, moramo razumeti, kako človeški nameni, načrti in predpostavke spreminjajo bistvo stroja, ki ga ustvarjajo. Vsak operater, ki nadzoruje svojo napravo, sodeluje z oblikovalci in programerji, katerih prisotnost v stroju je nepreklicna - tudi v obliki strukturnih elementov ali vrstic kode, ustvarjenih pred mnogimi leti. Vgrajeni računalniki Air France Flight 447 bi lahko še naprej leteli z letalom z omejenimi podatki o hitrosti, vendar so jih ljudje programirali, da bi jim to preprečili. Tudi če programska oprema izvaja ukrepe, ki jih ni mogoče predvideti, se obnaša v okviru shem in omejitev, ki so jih postavili njeni ustvarjalci. To,kako se je sistem razvil, kdo ga in za kakšne namene določa njegove zmožnosti in načine interakcije z ljudmi, ki ga uporabljajo. Moj cilj je, da se oddaljujem od teh mitov in razumem koncept avtonomije v kontekstu 21. stoletja.
Skozi zgodbe, ki sledijo, nameravam preoblikovati javni diskurz in ustvariti konceptni zemljevid za novo dobo. Za izdelavo takega zemljevida, ki bo v tej knjigi govoril o napravah in robotih, bom deloval s koncepti človeškega upravljanja, oddaljenega in avtonomnega. Prva je analogna ne vedno primerni besedi „posadka“, zato bo v nekaterih primerih „nadzorovano“pomenilo „pod nadzorom osebe v vozilu“. To so seveda stare in znane vrste naprav, kot so ladje, letala, vlaki in avtomobili - stroji, s katerimi ljudje potujejo. Običajno se sistemi, ki jih nadzoruje človek, sploh ne štejejo za robote, čeprav vse bolj spominjajo na robote s človekom v notranjosti. Remote, skrajšana oblika vozila na daljavo, preprosto nakaže, kje je upravljavec v razmerju do vozila. Tudi ko kognitivna naloga nadzora nad oddaljenim sistemom skoraj popolnoma sovpada s tisto, ki jo neposredno izvaja fizično prisoten operater, imata prisotnost ali odsotnost operaterja in s tem povezana tveganja velik kulturni pomen.
Najbolj presenetljiv primer je oddaljeno bojevanje na tisoče kilometrov od vojnega območja. To je izkušnja, povsem drugačna od nalog navadnega vojaka. Človeška prisotnost se kot kognitivni pojav prepleta s socialnim vidikom. Avtomatizacija je tudi ideja dvajsetega stoletja in še vedno odraža mehanično stališče, da stroji korak za korakom sledijo vnaprej določenim postopkom. Izraz "avtomatizirano" se običajno uporablja za opis računalnikov na letalih, čeprav vključujejo sodobne in zapletene algoritme. Avtonomija je danes bolj modna beseda in ena izmed glavnih raziskovalnih prioritet vse manjšega ameriškega ministrstva za obrambo. Nekateri raziskovalci jasno ločijo avtonomijo in avtomatizacijo, vendar po mojem mnenju oz.razlika med samostojnostjo je le v širši stopnji neodvisnega odločanja kot v preprostih povratnih informacijah; Poleg tega koncept "avtonomije" zajema in združuje številne ideje, izposojene iz teorije umetne inteligence in drugih strok. In seveda ideja o samostojnosti posameznikov in skupin postane vzrok za nenehne polemike v politiki, filozofiji, medicini in sociologiji. To ne sme presenetiti, saj si tehniki za opisovanje svojih strojev pogosto izposodijo socialne vede.ideja o avtonomnosti posameznikov in skupin postane vzrok za nenehne polemike v politiki, filozofiji, medicini in sociologiji. To ne sme presenetiti, saj si tehniki za opisovanje svojih strojev pogosto izposodijo socialne vede.ideja o avtonomnosti posameznikov in skupin postane vzrok za nenehne polemike v politiki, filozofiji, medicini in sociologiji. To ne sme presenetiti, saj si tehniki za opisovanje svojih strojev pogosto izposodijo socialne vede.
Tudi v oblikovalskem poslu lahko izraz "avtonomija" ima več različnih pomenov. Avtonomija v zasnovi vesoljskih plovil je sestavljena iz obdelave podatkov na krovu, ki so potrebni za delovanje vesoljskega plovila (naj bo to krožna avtomatska postaja ali mobilni robot), ločeno od nalog, kot je načrtovanje misij. Na tehnološkem inštitutu v Massachusettsu, kjer predavam, vsebina tečajev avtonomnega inženiringa pokriva predvsem "načrtovanje poti" - kako priti od ene točke do druge, porabiti dovolj časa in ne da bi se vdrli v karkoli. V drugih sistemih je avtonomija analogna inteligenci, zmožnosti odločanja, ki bi jo človek sprejel v določenih situacijah, ali zmožnosti delovanja v pogojihki jih ustvarjalci naprave niso pričakovali ali predvideli.
Avtonomna potopna motorja se imenujejo zato, ker delujejo sama in nasprotujejo daljinsko vodenim vozilom, ki so na plovilo povezana z dolgimi kabli. Kljub temu inženirji, ki ustvarjajo takšne avtonomne podmornice, pravijo, da so njihova vozila polavtomatska, saj le redko delujejo brez kakršnega koli stika z upravljavcem. Izraz "avtonomen" pomeni večjo svobodo delovanja. Opisuje način delovanja aparata, kar je potencialno nestanoviten dejavnik. Nedavna raziskava predlaga izraz "povečana avtonomija": avtorji na ta način poudarjajo relativno naravo avtonomije in navajajo, da bo "popolna" avtonomija, torej stroji, ki od človeka ne potrebujejo informacij, vedno dosegljiva.
V tej knjigi bo delujoča definicija avtonomije: sredstvo, ki ga človek razvija, preoblikovanje informacij iz okolja v ciljne načrte in ukrepe. Besedilo je pomembno in daje polemiki drugačen okus. Toda na njih se ne bi smeli zadržati. Pogosto se bom zanašal na jezik (ki je včasih lahko netočen), ki ga uporabljajo ljudje, s katerimi delam. Bistvo te knjige ni v definicijah, temveč v opisih resničnega dela - kako ljudje uporabljajo te sisteme v resničnem svetu, pridobivajo nove izkušnje, raziskujejo ali celo bijejo in ubijajo. Kaj se v resnici dogaja? Če ste pozorni na življenjsko izkušnjo oblikovalcev in tistih, ki uporabljajo robote, potem lahko postane vse jasno. Na primerbeseda "drone" skriva prirojeno človeško naravo robotov in njihove negativne strani pripisuje abstraktnim idejam, kot sta "tehnologija" ali "avtonomija". Ko preučujemo delovanje operaterjev Predator, izvemo, da se z avtomatskimi napravami ne borijo - ljudje še vedno izumljajo, programirajo in nadzorujejo stroje.
Dolgo se razpravlja o etiki in politikah oddaljenega atentata z brezpilotnimi letali z daljinskimi operaterji ali o tajnosti takšnih naprav, ki delujejo v notranjem zračnem prostoru ZDA. Toda te razprave se nanašajo na naravo, kraj in čas človeških odločitev, ne z avtonomnimi stroji. Posledično vprašanje ni v kontrastu osebnih in brezpilotnih vozil in ne v nasprotovanju avtonomnih vozil avtonomnim. Glavna vprašanja te knjige so: "Kje so ljudje?", "Kdo so ti ljudje?", "Kaj počnejo?", "Kdaj to počnejo?" Kje so ljudje? (Na ladji … v zraku … v avtomobilih … ali v pisarni?) Manipulacije operaterja Predator so podobne dejanjem pilota letala - on spremlja stanje na krovu sistemov, zaznava informacije,odloča in sprejme določene korake. Toda njegovo telo je na drugem mestu, morda nekaj tisoč kilometrov od rezultatov svojega dela. Ta razlika je pomembna. Naloge so različne. Tveganja so različna, prav tako tudi razmerje moči.
Človeški um je sposoben potovati v druge kraje, druge države, na druge planete. Znanje, pridobljeno z umom in čutili, se razlikuje od znanja, pridobljenega skozi telo (kjer ješ, spiš, komuniciraš, pokvariš). Odločimo se, kateri od dveh poti pridobivanja znanja slediti, odvisno od konkretne situacije, in to ima posledice za tiste, ki so vključeni v postopek. Kdo so ti ljudje? (Piloti … inženirji … znanstveniki … nekvalificirani delavci … managerji?) Spremenite tehniko, nato pa se bosta spremenili tako naloga kot bistvo specialista, ki dela na njej. Pravzaprav boste spremenili celoten kontingent ljudi, ki so sposobni upravljati sistem. Dolga leta študija in usposabljanja so potrebna, da postane pilot, ta poklic pa je na vrhu kadrovske hierarhije. Ali daljinsko vodenje letala zahteva enake spretnosti in lastnosti? Iz katerih družbenih razredov se lahko zaposli delovna sila?
Povečanje avtomatizacije komercialnih zrakoplovov ustreza širitvi pilotske demografije tako v industrializiranih državah kot po svetu. Je raziskovalec nekdo, ki potuje v nevarnih razmerah, ali nekdo, ki sedi doma pred računalnikom? Da bi lahko postal oceanograf, moraš uživati v življenju na krovu? Lahko raziskujete Mars, ko ste v invalidskem vozičku? Kakšni so ti novi piloti, raziskovalci in znanstveniki, ki delajo z oddaljenim dostopom? Kaj počnejo? (Fly … nadzor … informacije o procesih … komuniciranje?) Fizični napor se spremeni v obdelavo vizualnih informacij in nato v kognitivno nalogo. To, kar je včasih zahtevalo moč, zahteva pozornost, potrpljenje in hitro reakcijo. Ali pilot drži roke neposredno na krmilnih ročicah,kdaj leti letalo? Ali vpišete ključne ukaze v avtopilot ali računalnik leta, da programirate pot letala? Kakšna je vloga človekove ocene situacije? Kakšna je vloga inženirja, ki je programiral računalnik na vozilu, ali letalskega tehnika, ki ga je nastavil?
Kdaj to storijo? (V realnem času … z nekaj zamude … vnaprej, leta ali meseci pred misijo?) Polet navadnega zrakoplova poteka v realnem času: človek takoj reagira na dogodke, ki se zgodijo, njegova dejanja pa imajo takojšen učinek. V scenariju vesoljskega letenja je naprava morda na Marsu (ali se približuje oddaljenemu asteroidu), v tem primeru pa bo trajalo 20 minut, da naprava prejme ukaz, in 20 minut, da operater vidi, da se je nekaj zgodilo. Lahko pa rečemo, da plovilo pristaja "v samodejnem načinu", ko v resnici razumemo, da pristaja pod nadzorom programerjev, ki so nekaj mesecev ali let pred pristankom pustili navodila (čeprav bomo morda morali prilagoditi sam koncept "nadzor"). Nadzor nad samodejnim sistemom lahko spominja na interakcijo z duhom. Ta preprosta vprašanja opozarjajo na prerazporeditev in preusmeritev.
Nove oblike človekove prisotnosti in dejavnosti niso nepomembne in niso enakovredne starim - kulturna identiteta pilota, ki tvega svoje življenje, ki leti čez bojno polje, se razlikuje od osebe, ki vozilo upravlja na daljavo od zemeljske postaje. Toda te spremembe so tudi nepričakovane - oddaljeni operater se lahko počuti bolj prisoten na bojišču kot pilot, ki leti visoko nad njim. Znanstvene informacije o Luni so lahko enake ali celo bolj popolne, če jih zbira daljinsko vodeno vozilo in ne oseba, ki je pristala neposredno na planetu. Toda kulturna izkušnja raziskovanja lune je v tem primeru povsem drugačna. Zamenjajmo staromodne predstave z bogatimi - animiranimi slikami, kako ljudje dejansko ustvarjajo in nadzirajo robote in avtomatske sisteme v resničnem svetu. Spodnje zgodbe so znanstvene in tehnične ter humanistične.
Videli bomo, da človeški, oddaljeni in avtonomni stroji omogočajo gibanje in preusmeritev človekove prisotnosti in delovanja v času in prostoru. Bistvo te knjige sega v naslednje: ni pomembno nasprotovanje človeško nadzorovanih in avtonomnih sistemov, temveč vprašanja - "Kje so ljudje?", "Kdo so ti ljudje?", "Kaj počnejo in kdaj?" Zadnje, najtežje vprašanje bo: "Kako se človeška percepcija spreminja?", "In zakaj je to pomembno?"