Slavni britanski fizik Stephen Hawking je v članku, ki ga je navdihnil znanstvenofantastični film "Transcendenca" v glavni vlogi Johnnyja Deppa, dejal, da je podcenjevanje grožnje umetne inteligence lahko največja napaka v človeški zgodovini.
V članku, ki sta ga napisala profesor s računalništva znanosti Stuart Russell s kalifornijske univerze v Berkeleyju ter profesorja fizike Max Tegmark in Frank Wilczek z MIT, Hawking opozarja na nekaj napredka na področju umetne inteligence, če opazi samovozeče avtomobile, Siriin glasni asistent in superračunalnik. zmagovalca moškega v kvizu Jeopardy TV.
"Vsi ti dosežki bledijo ob ozadju tistega, kar nas čaka v prihodnjih desetletjih. Uspešno ustvarjanje umetne inteligence bo največji dogodek v človeški zgodovini. Na žalost se lahko izkaže, da je zadnji, če se ne naučimo izogibati tveganjem, "Hawking citira britanski časnik The Independent.
Profesorji pišejo, da se v prihodnosti lahko zgodi, da nihče in nič ne more ustaviti strojev z nečloveško inteligenco pred samo izpopolnjevanjem. In to bo sprožilo proces tako imenovane tehnološke posebnosti, kar pomeni izjemno hiter tehnološki razvoj. V filmu z Deppovim sodelovanjem se v tem smislu uporablja beseda "transcendenca".
Predstavljajte si, da takšna tehnologija presega ljudi in usmerja finančne trge, znanstvene raziskave, ljudi in razvoj orožja, ki ga presega naše razumevanje. Če je kratkoročni učinek umetne inteligence odvisen od tega, kdo jo obvladuje, potem je dolgoročni učinek odvisen od tega, ali ga sploh lahko nadzorujemo.
Težko je reči, kakšne posledice lahko ima umetna inteligenca na človeka. Hawking verjame, da je malo resnih raziskav, ki bi se posvečale tem vprašanjem zunaj takšnih neprofitnih organizacij, kot so Cambridge Center za preučevanje eksistencialnih tveganj, Inštitut za prihodnost človeštva in raziskovalni inštituti za strojno inteligenco in prihodnje življenje.
Po njegovem bi se moral vsak izmed nas vprašati, kaj lahko storimo zdaj, da se izognemo najslabšemu scenariju prihodnosti.