Stephen Hawking nadaljuje "križarski pohod" proti umetni inteligenci (AI).
Med zelo pričakovano kampanjo Ask Me Everything on Reddit je zapisal, da je treba delati na razvoju varnostnega protokola AI zdaj, ne pa v daljni prihodnosti.
"Naš cilj ne bi smel biti ustvarjanje abstraktne umetne inteligence, temveč ustvarjanje koristne inteligence," bo zapisal znani fizik. „Dejane bodo desetletja, kako to storiti, zato začnimo raziskovati to vprašanje zdaj, ne zvečer pred prvo napredni AI”.
Hawking je slavo uporabljal za podporo varnostnemu gibanju AI od leta 2014, ko je z drugimi raziskovalci napisal uvodnik, ki je opozarjal na eksistenčno grožnjo, ki jo napredni stroji predstavljajo za človeštvo.
Drugim pomembnim tehnološkim osebnostim, Elon Musk in Steve Wozniak, sta se pridružila Hawking. Pred tem so vsi trije podpisali odprto pismo, v katerem pozivajo k prepovedi avtonomnega orožja ali bojnih robotov.
Pričakovanja, da bo človeštvo kmalu ustvarilo umetno inteligenco, obstajajo že od 50. let in se še niso opravičila. Vendar večina znanstvenikov AI verjame, da se bodo v tem stoletju pojavili stroji, ki so po inteligenci enaki človeku.
Foto: ANDREW COWIE / AFP
Promocijski video:
Hawking opozarja, da prikaz umetne inteligence v znanstvenofantastičnih filmih izkrivlja resnično nevarnost strojev. Filmi, kot je Terminator, prikazujejo demonske robote morilce, ki želijo uničiti človeštvo iz razlogov, ki jih resnična umetna inteligenca ni imela. Prav tako olajšajo ublažitev potencialnih tveganj AI (kot ne gradnja kiborgov).
Resnična grožnja AI ni, da je hudoben, ampak da je zelo sposoben. Umetna superinteligenca zelo dobro opravlja svoje naloge.
Če se njegove naloge ne ujemajo z našimi, bomo imeli težave, - je zapisal Hawking, - mravlje težko sovražite, če pa ste odgovorni za projekt zelene energije in je treba poplaviti območje, kjer se nahaja mravljišče, mravlje nimajo sreče. Ne dovolimo, da se človeštvo znajde v položaju teh mravelj."
Nick Bostrom, filozof AI, fantazira o scenarijih konca sveta, ko program začne delovati v napačni smeri. Na primer, umetna inteligenca je zadolžena za razvoj načrta za varstvo okolja, za reševanje problema v okolju pa se odloči uničiti človeštvo.
Elon Musk je že namenil 10 milijonov dolarjev za varnostne raziskave AI, da bi preprečil, da bi se v Terminatorju pojavila uničujoča umetna inteligenca, kot je Skynet. Toda Hawking želi, da ljudje spremenijo svoje splošno dojemanje AI.
"Prosim povejte svojim učencem, naj razmišljajo ne le o tem, kako ustvariti AI, ampak tudi, kako zagotoviti, da se bo uporabljal v koristne namene," je Hawking povedal inštruktorju, ki predava o umetni inteligenci. bodisi najboljši ali najslabši dogodek v človeški zgodovini. Zato je pomembno, da gre vse tako, kot mora."
