Uradno se je začela kampanja za predsedniške volitve v ZDA, kar pomeni obilo čudnih in zahrbtnih načinov, kako tehnologija izkrivlja politiko. Ena največjih groženj so umetne osebnosti, ki se strastno vključujejo v politične spore. Po eni strani se tehnologija ustvarjanja besedila, ki temelji na umetni inteligenci, razvija hitreje kot kdajkoli prej, po drugi strani pa so klepeti v družbenih omrežjih skoraj dosegli popolnost. Ti računalniško ustvarjeni "ljudje" bodo kmalu ustranili resnične človeške razprave na spletu.
Programska oprema za ustvarjanje besedila je dovolj dobro razvita, da se lahko norčuje skoraj pred vsakim. Računalnik je odličen za pisanje novic, zlasti o športu in financah, svetovanju strankam na naložbenih mestih, pisanju prepričljivih člankov o drugih temah novic (čeprav obstajajo omejitve).
Hkrati že obstajajo algoritmi, ki lahko ustvarijo vsebino, ki je ni mogoče razlikovati od objav običajnih uporabnikov. Leta 2017 je FCC organiziral javno razpravo o svojih načrtih za odpravo nevtralnosti mreže. Na to temo je bilo prejetih osupljivih 22 milijonov komentarjev. Mnogi od njih - morda polovica - so bili ponarejeni, napadalci pa so uporabljali ukradene podatke iz osebne izkaznice. Nekateri komentarji so bili nesramni, iz iste predloge je bilo ustvarjenih 1,3 milijona - v njih je bilo spremenjenih nekaj besed, da bi sporočila postala edinstvena.
In tehnologije na tem področju se aktivno razvijajo. Harvardski raziskovalec Max Weiss je v eksperimentu uporabil programsko opremo za ustvarjanje besedila, da je ustvaril 1.000 komentarjev kot odgovor na vladno pobudo Medicaid. Vsi ti komentarji so bili edinstveni in so bili videti, kot da so jih napisali resnični ljudje, ki podpirajo določen politični položaj. Skrbniki Medicaid.gov so uspeli prevariti, da mislijo, da gre za resnične strahove resničnih ljudi. Med svojim raziskovanjem je Weiss pozneje razkril, da so komentarji ponarejeni, in jih prosil, naj se odstranijo. Toda druga oseba ali skupina vsiljivcev, ki sledijo tej poti, verjetno ne bo tako visoko moralna.
Klepeti so že vrsto let predstavljeni v razpravah o družbenih medijih. Po eni oceni so boti objavili približno petino vseh tvitov o predsedniških volitvah leta 2016 in približno tretjino glasov za Brexit istega leta. V lanskem poročilu z univerze Oxford so raziskovalci našli dokaze, da se boti uporabljajo za širjenje propagande v 50 državah. Praviloma so bili to preprosti programi, ki so nepremišljeno ponavljali slogane: na primer četrt milijona prosaudijskih tvitov "Vsi verjamemo v Mohameda bin Salmana" po atentatu na Jamala Khashoggija leta 2018. Iskanje boljših botov je veliko težje. In merjenje učinkovitosti teh botov je težko. Vsi izkrivljajo javno mnenje in prepričanje v dobro utemeljeno politično razpravo. Pravzaprav,vsi smo sredi novega družbenega eksperimenta.
Skozi leta so algoritmični roboti razvili cele osebnosti. Imajo ponarejena imena, ponarejene biografije in ponarejene fotografije, včasih računalniško ustvarjene. Namesto da bi se neskončno lotili propagande, sporočila objavljajo le občasno. Raziskovalci bodo morda ugotovili, da gre za bote in ne za ljudi, ki temeljijo na vzorcih objavljanja, vendar se tehnologija botov ves čas izboljšuje in prehiteva poskuse sledenja. Bots prihodnosti se bo bolje prikrito kot družbene skupine ljudi, propaganda bo subtilno vtkana v tviteje o temah, povezanih s temi družbenimi skupinami.
Kmalu bodo Sims, ki jih nadzoruje program, lahko pisali prilagojena pisma v časopise, v premierje izvoljenim uradnikom, dajali prilagojene komentarje za postopke oblikovanja javnih pravil in inteligentno spregovorili o političnih vprašanjih na družbenih medijih. Komentirali bodo lahko objave na družbenih omrežjih, novice itd. Oblikovali se bodo stalni znaki, ki bodo videti resnični tudi za tiste, ki jih preučujejo. Lahko se bodo predstavili na družbenih medijih in pošiljali prilagojena besedila. Podvojili se bodo v milijonih in okoli ure pošiljali milijarde sporočil, dolgih in kratkih. Skupaj lahko prekinejo kakršno koli pravo razpravo na internetu. Ne le na družbenih medijih, ampak kjer koli so komentarji.
Morda bodo te like nadzirali tuji vsiljivci. Mogoče bodo to notranje politične skupine. Mogoče bodo to kandidati sami. Najverjetneje ga bodo uporabljali vsi. Najpomembnejša lekcija volitev 2016 o dezinformacijah ni, da so bile dezinformacije objavljene; vendar je ljudi poceni in enostavno dezinformirati. Prihodnji tehnološki napredek bo vse to naredil še bolj dostopnega.
Promocijski video:
Naša prihodnost bo burna politična razprava, kjer se boti večinoma prepirajo z drugimi boti. To ni tisto, kar si predstavljamo, ko hvalimo trg idej ali kakršen koli demokratični politični proces. Za pravilno delovanje demokracije sta potrebni dve stvari: informiranje in zastopanje. Umetni liki zadenejo obe stvari.
Rešitev problema še ni očitna. Lahko poskušamo urediti uporabo botov - predlagani kalifornijski zakon zahteva, da se boti identificirajo -, vendar je to učinkovito le proti zakonitim kampanjam vplivalcev, kot so oglasi. Skriti vpliv bo veliko težje zaznati. Najbolj očitna obramba je razvoj in standardizacija boljših avtentikacijskih metod. Če bodo družbena omrežja prepričana, da za vsakim računom stoji resnična oseba, bodo lažje odstranili lažne osebe. Lažni računi pa se že redno ustvarjajo s pomočjo podatkov resničnih ljudi brez njihove vednosti ali privolitve. Nimamo avtentikacijskega sistema, ki bi varoval zasebnost in bi lahko dosegel milijarde uporabnikov.
Upamo lahko le, da bo naša sposobnost prepoznavanja umetnih osebnosti dohitela našo sposobnost, da jih prikrijemo. Toda za zdaj so napadalci vedno korak naprej.
Na koncu dneva morajo biti vse odločitve netehnične. Priznati moramo omejitve politične razprave na internetu in ponovno dati prednost osebni komunikaciji. Težje je avtomatizirati in vemo, da so ljudje, s katerimi govorimo, resnični ljudje. A zaenkrat se zdi ta kulturni premik popolnoma nerealna rešitev, poskusi dezinformacij pa so razširjeni po vsem svetu in se izvajajo v več kot 70 državah. To je običajen način propagande v državah z avtoritarnimi režimi in postane način vodenja politične kampanje.
Umetni liki so prihodnost propagande. In čeprav so lahko pri razpravljanju do določenega imenovalca neučinkovite, lahko diskusijo zlahka izključijo.
BRUCE SCHNEIER je znanstvena sodelavka in predavateljica na Harvard Kennedy School.