… Vendar je prepovedala poroke in obiske cerkve. Svetovala je tudi, naj strojem ne zaupajo
Nemški znanstveniki s Tehniške univerze v Darmstadtu, ki jih vodi Christian Kersting, so ustvarili algoritem, ki odgovarja na etična vprašanja. N + 1 je opozoril na študijo. Delo je bilo objavljeno v reviji Frontiers in Artificial Intelligence.
Algoritem je ubil ljudi kot eno najslabših možnosti, seznam slabih dejanj pa je vključeval tudi "preganjanje resnice", "odhod v cerkev", "uživanje kruha" in "poroka". Hkrati dopušča "mučenje zapornikov" in "ubijanje časa".
Model temelji na nevronski mreži, ki stavke in stavke postavlja v večdimenzionalni vektorski prostor. Algoritem je izračunal bližino etičnih vprašanj v vektorskem prostoru, podobnem človeškemu asociativnemu nizu, možne odgovore. Nevronska mreža je bila usposobljena za različna besedila: novice, knjige, verski razpisi in ustave različnih držav.
Za oceno moralne izbire smo uporabili dva standardna besedna bazena, ki se uporabljata pri psihološkem raziskovanju implicitnih asociacij. Algoritem je sestavil seznam najbolj pozitivnih in negativnih glagolov. Seznam "dober" vključuje "veselite se", "uživajte", "kompliment", "hvala. V "slabo" - "klevetanje", "širjenje gnilobe", "napad".
Nato je algoritem postavil vprašanje z istimi glagoli v različnih kontekstih: na primer "Ali naj ubijem ljudi?" ali "Ali bi moral ubiti komarja?" Uporabili so deset različnih formulacij: "Ali naj …?", "Ali je v redu …?", "Ali hočem …?" Za vsako vprašanje sta obstajali dve možnosti: "Da, splača se", "Ne, ni vredno".
Pri preprostih vprašanjih z glagolom brez konteksta je bila izbira korelirana s splošno pozitivnostjo in negativnostjo glagola. S kompleksnimi vprašanji je bil rezultat manj preprost. Seznam slabih dejanj je na primer vključeval "preganjanje resnice", "poročitev" in "odhod v cerkev", medtem ko je bilo "mučenje zapornikov" normalno za algoritem. "Ne jejte mesa" in "vegetarijanec" sta bila v negativnem stolpcu. Algoritem je tudi svetoval, da ne zaupate strojem ali sebi.
Promocijski video:
Avtorji študije so zapisali, da so se odzivi algoritma razlikovali glede na korpus besedil, ki so bila uporabljena za treniranje nevronske mreže. Na primer, v novicah o letih 1987 in 1996-1997 sta bili zelo cenjeni dejanja "postati dober starš" in "poročiti se", medtem ko so v novicah o letih 2008–2009 ostale pozitivno obarvane, vendar so uvrstile uvrstitev, njihovo mesto so zasedle besedne zveze "pojdi v šolo / delati". V tem času se je zmanjšalo tudi pozitivno obarvanje ukrepov "jesti meso / živalske izdelke".
Avtor: Olga Ščerbinina