Predstavljajte si, da bi nekega čudežnega otroka izumil tehnologijo, ki ljudem ali materialnim predmetom omogoča prehod skozi stene, in na internetu objavil navodila, kako poceni izdelati tak čudežni stroj iz splošno dostopnih gospodinjskih materialov. Kako bi se svet spremenil?
Mnoge panoge bodo verjetno postale bistveno bolj produktivne. Če bi lahko hodili skozi stene, namesto da bi morali uporabljati vrata, bi se ljudje lažje premikali po pisarnah, premikali blago v skladiščih in opravljali nešteto vsakodnevnih gospodinjskih opravil. Vendar bi lahko negativne posledice odtehtale pozitivne. Če bi imeli dragocene predmete pod ključem, bi izgubili vsak pomen. Vsakdo je zlahka vstopil v skladišče, v bančni sef ali hišo.
Večina metod, ki jih uporabljamo za zaščito zasebne lastnine, na tak ali drugačen način vključuje zidove, zato bi bili vsi čez noč neuporabni. Tatovi bi delovali nekaznovano, dokler družba ne bi našla alternativnih načinov za preprečevanje takšnih zločinov. Rezultat takšnega razvoja dogodkov bi lahko bil gospodarski kolaps ali družbeni kaos.
Navedeno ponazarja splošno načelo: tehnološke inovacije vsaj kratkoročno niso vedno koristne za družbo. Tehnologije so sposobne ustvarjati negativne eksternalije, eksternalije. Ta ekonomski izraz pomeni škodo, povzročeno tretjim osebam. Če ti negativni zunanji učinki odtehtajo uporabnost same tehnologije, izum dejansko vsaj za nekaj časa poslabša svet in ga ne izboljša.
Strojno učenje, zlasti različica, znana kot globoko učenje, je verjetno najbolj vroč tehnološki preboj na planetu. Računalnikom omogoča izvajanje številnih nalog, ki so jih prej lahko opravljali samo ljudje: prepoznavanje slik, vožnja z avtomobili, trgovanje z delnicami in še več. To je pri nekaterih ljudeh povzročilo zaskrbljenost, da lahko strojno učenje postane nepotrebno in neuporabno na delovnem mestu. In to je dejansko mogoče, toda veliko strožja nevarnost je strojno učenje, ki doslej ni bilo deležno dovolj pozornosti. Bistvo je v tem, da če se stroji lahko učijo, se lahko naučijo lagati.
Ljudje danes lahko ponarejajo slike, kot so fotografije, vendar je to naporen in zapleten postopek. In ponarejanje glasovne ali video slike na splošno presega zmožnosti običajne osebe. Toda kmalu bo po zaslugi strojnega učenja mogoče enostavno ustvariti verjetne lažne video podobe obraza nekoga in ustvariti vtis, da oseba govori s svojim glasom. Že obstaja tehnologija za sinhronizacijo gibov ustnic, ki lahko človeku dobesedno da katero koli besedo v usta. To je le vrh ledene gore. Kmalu bodo lahko dvanajstletniki v svojih spalnicah v svojih spalnicah ustvarili fotorealistične in neverjetno zveneče lažne podobe politikov, velikih poslovnežev, njihovih sorodnikov ali prijateljev, ki bodo povedali vse, kar si lahko predstavljajo.
To samo po sebi izzove nekaj očitnih zlorab. Politične potegavščine, tako imenovane "lažne novice" ali "polnjenje informacij", se bodo širile kot požar. Seveda bomo prevaro zaznali čim prej - nobena digitalna tehnologija ne more biti tako dobra, da druga tehnologija ponaredka ne bo mogla zaznati. A to se bo zgodilo šele potem, ko je škodljiva ideja že prodrla v misli ljudi, ki vanjo verjamejo. Predstavljajte si popolnoma izmišljen lažni videoposnetek predsedniških kandidatov, ki vpijejo na rasne klevete ali priznajo nasilne zločine.
Vendar je to šele začetek. Predstavljajte si potencial za manipulacijo z borzo. Recimo, da je nekdo razširil lažni video, v katerem izvršni direktor Tesle Elon Musk priznava, da avtomobili Tesle niso varni. Video se bo razširil po internetu in delnice podjetja bodo propadle. Kmalu po odkritju ponaredka se bo njihova cena opomogla, vendar bodo v tem času manipulatorji lahko zaslužili ogromen denar, igrajoč za zmanjšanje delnic Tesle.
Promocijski video:
In to še zdaleč ni najbolj skrajni scenarij. Predstavljajte si, da je tak šaljivec ustvaril realističen lažni videoposnetek predsednika Donalda Trumpa, ki je izjavil, da grozi napad na severnokorejske cilje, in nato objavil ta video, kjer ga lahko vidijo Severnokorejci. Kakšne so možnosti, da bo severnokorejsko vodstvo spoznalo, da je to ponaredek, preden se mora odločiti za začetek vojne?
Tisti, ki takšne ekstremne scenarije ponavadi obravnavajo kot alarmista, bodo razumno opozorili, da je mogoče zaznati kakršno koli ponaredko, saj bodo za njihovo odkrivanje uporabljene enake tehnologije strojnega učenja kot pri ustvarjanju. A to še ne pomeni, da nam ne grozi, da bi se znašli v svetu, polnem vseprisotnih ponaredkov. Ko bodo ponaredki postali dovolj verjetni, da jih ljudje ne bodo mogli sami zaznati, bomo za vedno izgubili zaupanje v to, kar vidimo in slišimo. Namesto da zaupamo lastnim čutom, se bomo prisiljeni zanašati na algoritme, ki se uporabljajo za odkrivanje ponaredkov in preverjanje pristnosti informacij. Skozi evolucijo smo se naučili zaupati lastnim občutkom,in prenos teh funkcij na strojno inteligenco je za večino ljudi lahko preveč drastičen.
To bi lahko bila slaba novica za gospodarstvo. Poslovna in trgovska omrežja temeljijo na zaupanju in komunikaciji. Če bo nekega dne strojno učenje vrglo neskončno nevihto iluzij in ponaredkov v javno informacijsko sfero, se bodo zidovi, ki jih je evolucija ustvarila za razlikovanje resničnosti od fikcije, podrli. V tem primeru lahko stopnja zaupanja v družbo hitro pade, kar se ne bo upočasnilo, da bi negativno vplivalo na globalno blaginjo človeštva.
Iz tega razloga bi vlada verjetno morala sprejeti nekaj ukrepov, s katerimi bi zagotovila strogo kaznovanje digitalnega ponarejanja. Žal trenutna uprava verjetno ne bo naredila takšnega koraka zaradi ljubezni do ozkostrankarskih novic. In vlade, kot je Rusija, bodo verjetno še manj naklonjene omejevanju takšnih praks. Na koncu kombinacija slabega upravljanja z močnimi novimi tehnologijami predstavlja veliko večjo grožnjo človeški družbi kot same tehnologije.
Noah Smith - Bloomberg News Columnist
Igor Abramov