Ne glede na to, kako težko se zanašamo na stroje, še zdaleč niso idealni. Vsaj zato, ker jih izdeluje človek.
Dokler programi ne bodo pametnejši od ljudi, bomo morali stalno spremljati njihov status. Še posebej, ko govorimo o odgovornem poslu.
Spodnje zgodbe bodo pokazale, koliko je naše življenje odvisno od pravilno sestavljenega algoritma in kaj se zgodi, če nadzor kakovosti v proizvodnji vzame prost dan.
Začnimo s čudnimi stvarmi, ki prizadenejo razmeroma skromno število ljudi, in končamo z resničnimi finančnimi katastrofami. Stanejo več kot ducat neprespanih noči za tiste, ki so morali nujno prebrati krhko kodo in dobesedno rešiti človeštvo.
1. Sistem je v Michiganu pokopal 8.500 bolnikov v živo
Leta 2003 je Zdravstveni dom Svete Marije od Usmiljenja v Grand Rapidsu svoj program za registracijo bolnikov posodobil na novo različico. Zaradi napačne razlage podatkov so spremenljivke "izpraznjene" in "umrle" zmedene.
Zato so vsi, ki so že bili zdravljeni, začeli prejemati obvestila o smrti po pošti in v različnih poročilih, kot je krvni test.
Promocijski video:
Težava ne bi postala obsežna, vendar so zaradi visoke avtomatizacije sporočila poslana tako bolnikom kot tudi zavarovalnicam. Ko so slednji videli, da oseba "umira", so prenehali nadomestiti naknadno zdravljenje. To je vključevalo več kot 2000 upokojencev in invalidov.
Ker je bila napaka ugotovljena dva meseca po okvari, je bilo potrebno obnoviti podatke v povezanih storitvah in povrniti škodo.
2. Posodobitev programske opreme je prikrajšala 60 tisoč ljudi za medkrajevne klice
Januarja 1990 je ameriški telekomunikacijski operater AT&T izboljšal svoj program spremljanja stikalnih stolpnic. Zaradi napake v kodi je eden od njih med klicem začel pošiljati signale hitreje, kot jih je drugi lahko obdelal.
Podatki so se začeli prekrivati in težava se je hitro razširila na druge točke. Na drugem koncu so ljudje slišali le hrup. To je trajalo 9 ur.
Težava je bila odpravljena z vrnitvijo programske opreme na prejšnjo različico, vendar težava ni prenehala biti pomembna.
Položaj se je ponovil vsaj enkrat v letu 1998, vendar so nato vplivala le obvestila SMS-storitev.
3,5% vseh trgovin v Rusiji se je pokvarilo zaradi nove spletne blagajne
20. decembra 2017 je bila posodobljena tehnika nadzora podatkov, tako da so prodajalci začeli neposredno prenašati podatke o transakcijah na davčni urad. Eno takšnih izboljšav je blokiralo vsakih 20 trgovin v državi.
Neuspehi so se začeli v salonih mreže DNS v Vladivostoku, kjer so se ljudje prebujali pred Moskvo. Sistem ni dovoljeval pošiljanja plačil Zvezni davčni službi (FTS), zato blagajniki niso smeli prodajati blaga.
Medtem ko je težava prišla do prestolnice, od koder se je vprašanje začelo reševati, so po Rusiji nastale nekatere točke Magnet, Pyaterochka s Crossroads, Eldorado in Rigla.
Zvezna davčna služba je morala hitro reagirati in dovoliti trgovinam, da delujejo brez povezave. Tistim je bilo omogočeno vnašanje podatkov po obnovi sistema.
Težava je bila v nekaj dneh popolnoma odpravljena s popravki in prisilnimi ponovnimi zagoni.
Teoretična škoda bi po navedbah Združenja podjetij za internetno trgovino lahko dosegla 2,5 milijarde rubljev. Prava se je zaradi hitre optimizacije procesov s strani Zvezne davčne službe pokazala nekoliko nižja.
4. Avto je bil zasnovan za oblikovanje stadiona v Connecticutu. Zrušil se je
Od leta 1972 mesto Hartford poskuša razširiti svojo infrastrukturo in investira v večje projekte. Eden izmed njih je Hartford Civic Center - kompleks trgovskih, zabavnih in športnih igrišč.
Struktura stadiona je bila zasnovana s programom, ki je skupaj z optimizirano porabo materiala mestu prihranil okoli 500 tisoč dolarjev.
Kompleks deluje popolnoma in je od leta 1975 celo "dom" lokalne hokejske skupine New England Whalers.
Vendar je 18. januarja 1978 stadion propadel. Ta dan ni bilo nobenih iger: stavba je bila prazna in nihče ni bil poškodovan.
Mediji so širili novico, kjer je bil razlog resnost snega. Toda preiskava je pokazala, da je bila v resnici težava zapletena, korenina pa je bila naivno zaupanje v program.
Štiri nosilne stebre so bile od svoje izdelave slabo premišljene po velikosti in podpori. Stadion se je začel postopoma »oblikovati« tudi med gradnjo, ekipe za nadzor kakovosti pa so bile razporejene med različne izvajalce in slabo usklajene podatke.
Obnova je mesto stala 90 milijonov dolarjev, nato pa je bila na mestu kompleksa, ki še vedno služi kot glavno športno igrišče v Hartfordu, postavljena arena XL Center.
5. Intel je sprostil buggy procesor in povzročil mednarodni škandal
Leta 1994 je bil CPU z blagovno znamko Pentium vodilni lastnik družbe in je skrival mikroskopski problem, ki je prizadel majhen del ljudi: ko je uporabnik eno številko razdelil za drugo, je bil rezultat napačen. Napaka je izgledala takole:
Programerji so napačno konfigurirali eno od vej operacij, vdelano v procesor. Poiskala je korenske podatke in našla napačne.
V tem primeru glavna škoda ni padla na uporabnikih, temveč na podjetju.
Zaradi dejstva, da se je Intel že takrat počutil samozavestnega na trgu, čipi pa so bili novi, so celo zvezni mediji v številnih državah pobrali novice in povzročili katastrofalno škodo podobi in dohodku podjetja.
Posledično je leta 1994 zamenjava vseh poškodovanih predelovalcev zmanjšala prihodke podjetja za polovico načrtovanega zneska - za 475 milijonov dolarjev.
6,6 milijona avtomobilov ne sme namestiti zračnih blazin
Januarja 2020 se je izkazalo, da so bili senzorji v nekaterih modelih Toyote in Honde preveč občutljivi na električni hrup.
Obstaja možnost, da v trenutku trka sistem ne bo signaliziral varnostnega sistema. Pasovi ne bodo mogli napeti, blazine pa ne bodo napolnjene z zrakom.
Težava bi lahko bila bolj globalna, saj je računalnik iz Toyotinih avtomobilov razvila tretja organizacija ZF-TRW. Svoj razvoj je dobavila vsaj šestim podjetjem v ZDA, ki so prodale 12,3 milijona avtomobilov.
A zaenkrat so se samo japonski proizvajalci odločili popraviti senzorje. In potem mnogi še čakajo na obvestilo svojih trgovcev.
7. MySpace je uničil 50 milijonov uporabniških pesmi
V letu 2016 je podjetje opravljalo migracijo podatkov, ki se je začelo leta 2013. Že takrat so nekateri materiali in računi nekaterim uporabnikom postali nedostopni.
In med prenosom njegove ogromne knjižnice glasbe, fotografij in videoposnetkov se je na strežniku pojavila napaka, ki jih je trajno izbrisala.
Ker vodstvo ni razkrilo natančnega razloga, obstajajo različne govorice o izvoru težave. Na primer, obstaja domneva, da je shranjevanje takšne količine starih podatkov nerentabilno, zato je bilo vodstvu ceneje, da ga "slučajno" izbriše.
Tako ali drugače je svet od leta 2003 do 2015 izgubil enega največjih slojev internetne kulture.
8,14 tisoč samohranilcev ni prejelo plačil države
Aprila 2003 je agencija za podporo otrokom, britanska družba za družine z nizkimi dohodki in prikrajšanimi družinami, uvedla sistem za filtriranje aplikacij. Vreden je bil 300 milijonov funtov.
Šest mesecev pozneje se je izkazalo, da je bilo obravnavanih manj kot ena dvajset prošenj, veliko otrok pa je ostalo brez materialne pomoči.
Škandal je trajal vsaj do leta 2006, ko je program še naprej požrl 70% denarja, namenjenega projektu, stroški do leta 2010 pa 1,1 milijarde funtov.
Zaradi tega je bila leta 2012 agencija zaprta in na njeno mesto je bila ustanovljena nova organizacija, skupina za vzdrževanje otrok.
9. Ranljivost zaščite 500 tisoč največjih spletnih mest je omogočila dostop do vašega RAM-a
Aprila 2014 so varnostni strokovnjaki odkrili kritično varnostno luknjo v knjižnici OpenSSL, ki poganja najpogosteje uporabljeni protokol
Poimenovana je bila Heartbleed po postopku Heartbeat, ki je bil podlaga za to napako.
S pomočjo ranljivosti je bilo mogoče ugotoviti, kaj je v računalnikovem RAM-u žrtve.
In čeprav največja količina ukradenih informacij ne bi mogla presegati 64 KB na zahtevo, je bilo to dovolj za dostop do gesla in zaupnih sporočil.
Hrošč je prizadel 17% vseh zaščitenih območij. Vključno z Googlom, Facebookom, Instagramom, Twitterjem in celo Minecraftom.
Nevarnost je bila zakrita s preprostim obližem, zato so mnoga podjetja hitro reagirala.
Vendar je le ena težava po obsegu primerljiva s to težavo in o njej ste verjetno že slišali vsaj enkrat.
10. Svet je porabil 300 milijard dolarjev za vzdrževanje dela računalnikov v letu 2000
Do leta 1999 so bili sistemi programirani tako, da so nekateri označili datume v osemmestni obliki (HH. MM. YYYY), drugi pa 6.
Avtor fotografije Emory Kristof / Emory Kristof.
To bi lahko pripeljalo do dejstva, da bi prehod v novo tisočletje povzročil napake v programih po vsem planetu.
Datum oblike HH. MM. YY bi lahko nadomestil 2000 do 1900, saj se obe številki končata z "OO". Tako bi napaka prepisala in izbrisala podatke, zmotila algoritme in sprožila propad spletnih sistemov.
Večina časa in sredstev podjetij je bila porabljena ne za odpravljanje posledic, temveč za preverjanje vsakega računalnika v podjetju.
Ker programska oprema še prej ni doživela takšnih preskokov, so o vsem tem razpravljali po vsem svetu.
O težavi iz leta 2000 (ali Y2K) se je veliko govorilo, vključno s priporočljivo paniko. Spodbujalo jih je dejstvo, da so države to vprašanje vzele resno in predpisale pobude na državni ravni.
Rusija je na primer ustvarila uradni dokument, nacionalni akcijski načrt za reševanje problema iz leta 2000 v Ruski federaciji.
Preglednica na zadnji vrstici je "ničelna" in prikazuje 1900 namesto 2000 /
Najbližja podobna napaka bo januarja 2038 prehitela neoptimizirane 32-bitne sisteme, vendar se programerji že pripravljajo na prehod.
Položaj bo vplival na 64-bitne sisteme v 292 milijard letih, zato se lahko tu sprostite.
Precej bolj resnična in precej ogroža Problem 10.000 s prehodom na petmestno vrednost. Zdi se, da za to ni treba skrbeti - za zdaj je vprašanje precej teoretično.
Res je, vedno obstaja možnost, da bitovi obstoječe kode iz vašega pametnega telefona preživijo do tiste dobe.
Mogoče je vredno razmisliti.
Avtor: Pavel Teleševski