Kabinet užasa

Uspon mašina i osvajanje moći od strane veštačke inteligencije. Svijet potpunog nadzora i društvene kontrole. Nuklearni rat i degeneracija civilizacije. Mnoge mračne vizije budućnosti, naslikane prije mnogo godina, trebale su se dogoditi danas. U međuvremenu, gledamo unazad i čini se da nikada nisu postojali. Jesi li siguran?

Postoji prilično stereotipni repertoar popularnih distopijska proročanstva (o crnoj viziji budućnosti). Pored onih najčešćih koji se odnose na uništavanje prirodnog okruženja i resursa, uvriježeno je mišljenje da su nove tehnologije štetne za međuljudsku komunikaciju, odnose i društvo.

Virtuelni prostor će varljivo zameniti stvarno učešće u svetu. Drugi distopijski pogledi na tehnološki razvoj gledaju kao na način povećanja društvene nejednakosti, koncentrišući moć i bogatstvo u rukama uskih grupa. Visoki zahtjevi moderne tehnologije koncentrišu znanja i vještine u uskim krugovima privilegiranih pojedinaca, povećavaju nadzor nad ljudima i uništavaju privatnost.

Prema mnogim futuristima, veća produktivnost i povećani vidljivi izbor mogu naštetiti kvalitetu života osobe, uzrokovati stres, ugroziti poslove, čineći nas sve materijalističnijim prema svijetu.

Jedan od poznatih tehnoloških "distopijaša", James Gleick, daje naizgled trivijalan primjer daljinskog upravljača za TV kao klasičnog izuma koji ne rješava nijedan značajan problem, stvarajući mnoge nove. Gleick, citirajući istoričara tehnologije Edward Tenner, piše da mogućnost i lakoća promjene kanala pomoću daljinskog prvenstveno služi da sve više odvlači pažnju gledatelja.

Umjesto zadovoljstva, ljudi su sve nezadovoljniji kanalima koje gledaju. Umjesto zadovoljenja potreba, javlja se osjećaj beskrajnog razočaranja.

Hoće li nas mašine zadržati na rezervacijama?

Hoćemo li moći kontrolisati ovu stvar koja je neizbježna i koja će se uskoro pojaviti? Preko vještačke inteligencije? Ako to mora biti slučaj, kao što mnoge distopijske vizije proklamuju, onda ne. (1).

Teško je kontrolisati nešto što je višestruko jače od nas. kako se broj zadataka povećava. Pre dvadeset godina niko ne bi verovao da će moći da čitaju emocije u nečijem glasu i licu mnogo tačnije nego što to možemo mi sami. U međuvremenu, trenutno obučeni algoritmi su već sposobni za to, analizirajući izraze lica, tembar i način na koji govorimo.

Kompjuteri crtaju slike, komponuju muziku, a jedan je čak pobedio na takmičenju poezije u Japanu. Dugo su pobjeđivali ljude u šahu, učeći igru ​​od nule. Isto važi i za mnogo složeniju igru ​​Go.

poštuje zakone sve bržeg ubrzanja. Ono što je umjetna inteligencija postigla - uz ljudsku pomoć - u posljednjih nekoliko decenija udvostručit će se u narednih nekoliko godina, možda samo mjeseci, a onda će za to trebati samo sedmice, dani, sekunde...

Kako se nedavno pokazalo, algoritmi koji se koriste u pametnim telefonima ili na aerodromima za analizu fotografija sa sveprisutnih kamera sposobni su ne samo da prepoznaju nekoga u različitim kadrovima, već i identificiraju izuzetno intimne psihološke karakteristike. Reći da je ovo veliki rizik za privatnost je potcijenjeno. Ne radi se o jednostavnom nadzoru, praćenju svakog koraka, već o informacijama koje nastaju kao rezultat samog izgleda osobe, o njegovim skrivenim željama i ličnim preferencijama. 

Algoritmi to mogu naučiti relativno brzo analizirajući stotine hiljada slučajeva, što je daleko više nego što čak i najpronicljivija osoba može vidjeti u životu. Naoružani tako bogatim iskustvom, sposobni su da skeniraju osobu preciznije od čak i najiskusnijeg psihologa, analitičara govora tijela i gestova.

Dakle, prava zastrašujuća distopija nije to što kompjuteri igraju šah ili Go protiv nas, već to što mogu vidjeti našu dušu dublje od bilo koga drugog od nas samih, punu zabrana i blokada u prepoznavanju tih ili drugih sklonosti.

Elon Musk vjeruje da kako AI sistemi počinju da uče i razmišljaju u sve većim razmjerima, "inteligencija" se možda negdje razvija duboko u web slojevima, neprimećeno od nas.

Prema američkoj studiji objavljenoj 2016. godine, umjetna inteligencija ima 45 posto šanse da nadmaši ljude u svim zadacima u narednih 50 godina. Prognostičari kažu da da, AI će rešiti problem raka, unaprediti i ubrzati ekonomiju, obezbediti zabavu, poboljšati kvalitet i dužinu života, obrazovati nas da ne možemo da živimo bez nje, ali je moguće da jednog dana, bez mržnja, samo na osnovu logičke računice, jednostavno nas uklanja. To možda nije moguće fizički, jer u svakom sistemu vrijedi akumulirati, arhivirati i pohraniti resurse koji bi „možda jednog dana dobro došli“. Da, ovo je resurs koji možemo postati za AI. Zaštićeni ljudski rezervati?

Optimisti se tješe činjenicom da uvijek postoji mogućnost da se izvuče utikač iz utičnice. Međutim, nije sve tako jednostavno. Ljudski život je već postao toliko ovisan o kompjuterima da bi radikalan korak protiv njih bio katastrofalan za nas.

Na kraju krajeva, sve više stvaramo sisteme donošenja odluka zasnovane na AI, dajući im pravo da pilotiraju avionima, određuju kamatne stope, upravljaju elektranama - znamo da će algoritmi to učiniti mnogo bolje od nas. U isto vrijeme, ne razumijemo u potpunosti kako se donose ove digitalne odluke.

Postoje strahovi da bi ih superinteligentni komandni sistemi poput Reduce Congestion mogli dovesti do zaključka da je jedini efikasan način da se posao obavi... smanjenje populacije za trećinu ili čak polovinu.

Da, vrijedi dati mašini najvažniju instrukciju poput „Prvo, spasi ljudski život!“ Međutim, ko zna hoće li digitalna logika onda dovesti do zatočeništva čovječanstva ili do štale, gdje ćemo možda biti sigurni, ali svakako ne slobodni.

Sajber kriminal kao usluga

U prošlosti su se distopije i slike postapokaliptičnog svijeta u književnosti i filmu obično nalazile u postnuklearnom ratu. Danas se čini da nuklearno uništenje nije neophodno za katastrofu i uništenje svijeta kakvog poznajemo, iako ne na način na koji ga zamišljamo. , malo je vjerovatno da će uništiti svijet kao u "Terminatoru", gdje je u kombinaciji s nuklearnim uništenjem. Da je to učinila, ne bi bila superinteligencija, već primitivna sila. Uostalom, čak ni čovječanstvo još nije shvatilo globalni scenario destruktivnog nuklearnog sukoba.

Prava mašinska apokalipsa može biti mnogo manje impresivna.

Sajber ratovanje, napadi virusa, hakovanje sistema i ransomware, ransomware (2) paralizira i uništava naš svijet efikasno kao bombe. Ako se njihov razmjer proširi, možemo ući u fazu sveobuhvatnog totalnog rata, u kojem ćemo postati žrtve i taoci mašina, iako one nisu dužne djelovati autonomno, a moguće je da će ljudi i dalje stajati iza svega.

Prošlog ljeta, američka Agencija za sigurnost kibernetičkog prostora i infrastrukture (CISA) nazvala je ransomware napade "najistaknutijom prijetnjom cyber sigurnosti".

CISA tvrdi da mnoge aktivnosti u kojima cyber kriminalac presreće i šifrira podatke osobe ili organizacije, a zatim iznuđuje otkupninu za to, nikada nisu prijavljene jer žrtva plaća sajber kriminalce i ne želi da objavi probleme sa njihovim nesigurnim sistemima. Na mikro nivou, sajber kriminalci često ciljaju starije odrasle osobe koje imaju problema s razlikovanjem iskrenog i nepoštenog sadržaja na mreži. Oni to rade koristeći zlonamjerni softver ugrađen u prilog e-pošte ili iskačući prozor na zaraženoj web stranici. Istovremeno se povećavaju napadi na velike korporacije, bolnice, vladine agencije i vlade.

Potonji su bili posebno na meti zbog osjetljivih podataka koje su posjedovali i potencijala za visoke isplate otkupnine.

Neke informacije, kao što su zdravstvene informacije, mnogo su vrednije za vlasnika od drugih i mogu doneti više novca kriminalcima. Lopovi mogu presresti ili staviti u karantin velike blokove kliničkih podataka važnih za brigu o pacijentima, kao što su rezultati testova ili informacije o lijekovima. Kada su životi u pitanju, u bolnici nema prostora za pregovore. Jedna američka bolnica je trajno zatvorena prošlog novembra nakon terorističkog napada u avgustu.

Vjerovatno će se vremenom samo pogoršavati. Godine 2017., Ministarstvo domovinske sigurnosti SAD-a objavilo je da bi sajber napadi mogli ciljati kritičnu infrastrukturu kao što su vodovodna preduzeća. A alati potrebni za izvođenje takvih akcija sve su dostupniji manjim operaterima, kojima prodaju ransomware komplete kao što su softver Cerber i Petya i naplaćuju naknadu za otkup nakon uspješnih napada. Zasnovano na sajber kriminalu kao usluzi.

Opasan poremećaj u genomu

Jedna od popularnih tema distopije je genetika, manipulacija DNK i uzgoj ljudi - osim toga, "programirani" na pravi način (od strane vlasti, korporacija, vojske).

Moderno oličenje ovih strepnji je metod popularizacije CRISPR uređivanje gena (3). Mehanizmi koje sadrži su prvenstveno zabrinjavajući. forsiranje željenih funkcija u narednim generacijama i njihov potencijal se proširio na cjelokupnu populaciju. Jedan od pronalazača ove tehnike, Jennifer Doudna, čak je nedavno pozvao na moratorij na takve tehnike uređivanja zametnih linija zbog potencijalno katastrofalnih posljedica.

Podsjetimo, prije nekoliko mjeseci jedan kineski naučnik On je Jiankui bio naširoko kritiziran zbog uređivanja gena ljudskih embrija kako bi ih imunizirao protiv virusa AIDS-a. Razlog je bio taj što su se promjene koje je napravio mogle prenositi s generacije na generaciju s nepredvidivim posljedicama.

Posebno zabrinjavaju takozvani d (gensko prepisivanje, genski pogon), tj. mehanizam genetskog inženjeringa, koji se sastoji u kodiranju sistema za uređivanje u DNK date osobe CRISPR/CAS9 genom sa podešavanjem za uređivanje ove varijante neželjenog gena. Zahvaljujući tome, potomci automatski (bez učešća genetičara) prepisuju neželjenu varijantu gena sa željenom.

Međutim, neželjenu varijantu gena potomstvo može primiti kao "poklon" od nemodificiranog drugog roditelja. Dakle, genski pogon vam omogućava da se razbijete Mendelovski zakoni nasljeđivanjašto ukazuje da polovinu dominantnih gena nasljeđuju potomci od jednog roditelja. Ukratko, to će na kraju dovesti do toga da se dotična varijanta gena proširi na cijelu populaciju.

Biolog na Univerzitetu Stanford Christina Smolke, još na panelu o genetskom inženjeringu 2016. godine, upozorio je da bi ovaj mehanizam mogao imati štetne i, u ekstremnim slučajevima, užasne posljedice. Genski nagon ima sposobnost da mutira kako prolazi kroz generacije i uzrokuje genetske poremećaje kao što su hemofilija ili hemofilija.

Kao što čitamo u članku objavljenom u časopisu Nature Reviews od strane istraživača sa Kalifornijskog univerziteta, Riverside, čak i ako pogon funkcionira kako je dizajniran u jednoj populaciji organizma, ista nasljedna osobina može biti štetna ako se nekako unese u drugu populaciju. isti pogled.

Postoji i opasnost da naučnici kreiraju genske pogone iza zatvorenih vrata i bez recenzije kolega. Ako je neko namjerno ili nenamjerno u ljudski genom unio štetni genski pogon, poput onog koji uništava našu otpornost na gripu, to bi moglo značiti i kraj vrste homo sapiens...

Nadzorni kapitalizam

Verzija distopije koju su bivši pisci naučne fantastike teško mogli zamisliti je stvarnost interneta, a posebno društvenih medija, sa svim njegovim široko opisanim razgranatima koje uništavaju privatnost, odnose i psihološki integritet ljudi.

Ovaj svijet obojen je samo novijim umjetničkim izvedbama, poput onoga što smo mogli vidjeti u TV seriji Crno ogledalo, u epizodi "The Dive" iz 2016. (4). Shoshana Zuboff, ekonomista sa Harvarda, ovu stvarnost naziva potpuno zavisnom od društvenog samopotvrđivanja i potpuno „deprivatizovanom“. nadzorni kapitalizam (), a ujedno i krunsko dostignuće Gugla i Facebooka.

4. Scena iz “Crnog ogledala” - epizoda “Ronjenje”

Prema Zuboffu, Google je prvi izumitelj. Osim toga, stalno proširuje svoje aktivnosti nadzora, na primjer kroz naizgled nevine projekte „pametnog grada“. Primjer je projekt "Najinovativniji distrikt na svijetu" Sidewalk Labsa, podružnice Google-a. pristanište u Torontu.

Google planira svake minute prikupljati podatke o životu stanovnika uz obalu, njihovom kretanju, pa čak i njihovom disanju pomoću sveprisutnih senzora za praćenje.

Također je teško odabrati internetsku distopiju koja ne dolazi u obzir na Facebooku. Kapitalizam nadzora je možda izmislio Google, ali ga je Facebook podigao na potpuno novi nivo. To je učinjeno putem društvenih i emocionalnih virusnih mehanizama i nemilosrdnog ciljanja čak i onih koji ne koriste Zuckerbergovu platformu.

Čuvani AI, uronjen u virtuelnu stvarnost, živi sa UBI

Prema mnogim futuristima, budućnost svijeta i tehnologije označava pet akronima - AI, AR, VR, BC i UBI.

Čitaoci MT-a vjerovatno dobro znaju šta su i od čega se sastoje prva tri. Poznato se takođe ispostavlja kao četvrto, "Sunce", kada shvatimo o čemu govorimo. A peti? UBD je skraćenica od koncepta koji znači "univerzalni osnovni dohodak" (5). Ovo je državna beneficija koja se postulira s vremena na vrijeme i koja će biti pružena svakoj osobi oslobođenoj posla kako se druge tehnologije, posebno AI, budu razvijale.

5. Univerzalni osnovni dohodak - UBI

Švicarska je čak prošle godine iznijela tu ideju na referendum, ali su je njeni građani odbili iz straha da bi uvođenje garantovanog prihoda zemlju preplavilo imigrantima. UBI također predstavlja niz drugih opasnosti, uključujući rizik od perpetuiranja postojećih društvenih nejednakosti.

Svaka od tehnoloških revolucija iza akronima (vidi također:) - ako se šire i razvijaju u očekivanom smjeru - nosi ogromne posljedice za čovječanstvo i naš svijet, uključujući, naravno, ogromnu dozu distopije. Na primjer, vjeruje se da bi to moglo zamijeniti četverogodišnje izborne cikluse i dovesti do referenduma o bezbroj pitanja.

Virtuelna stvarnost je, zauzvrat, sposobna da „isključi“ deo čovečanstva iz stvarnog sveta. To se, na primjer, dogodilo sa Korejkom Chan Ji Sun, koja se nakon smrti kćerke 2016. od neizlječive bolesti od tada susreće sa svojim avatarom u VR-u. Virtuelni prostor također stvara nove vrste problema, ili zapravo prenosi sve stare poznate probleme u “novi” svijet ili čak mnoge druge svjetove. To donekle već vidimo na društvenim mrežama, gdje se dešava da premalo lajkova na objavama dovede do depresije i samoubistva.

Proročke priče manje-više

Uostalom, istorija distopijskih vizija takođe uči oprezu u formulisanju predviđanja.

6. Naslovnica “Ostrva u mreži”

Hvaljeno naučno-fantastično remek djelo Ridleyja Scotta"Android Hunter» Od 1982. Može se raspravljati o ispunjenju ili neispunjenosti mnogih specifičnih elemenata, ali je neosporno da najvažnije proročanstvo o postojanju u naše vrijeme inteligentnih, humanoidnih androida, po mnogo čemu superiornih od ljudi, još nije postalo stvarnost.

Bili bismo voljni dozvoliti još mnogo proročkih pogodaka.”neuromanti"odnosno romane William Gibson od 1984. godine, koji je popularizirao koncept "sajber prostora".

Međutim, u toj deceniji pojavila se nešto manje poznata knjiga (kod nas skoro u potpunosti, jer nije prevedena na poljski), koja je mnogo tačnije predvidela današnje vreme. Govorim o romanu"Ostrva na webu«(6) Bruce Sterling iz 1988, postavljen 2023. Predstavlja svijet uronjen u nešto slično Internetu poznatom kao "web". Kontrolišu ga velike međunarodne korporacije. “Ostrva mreže” su poznata po svojoj kontroli, nadzoru i monopolizaciji navodno besplatnog interneta.

Također je zanimljivo predvidjeti vojne operacije koje se izvode korištenjem bespilotnih letjelica (dronova) protiv onlajn pirata/terorista. Operateri udaljeni hiljadama milja sa sigurnim desktop računarima - kako to znamo? Knjiga nije o beskonačnom sukobu sa islamskim terorizmom, već o borbi protiv sila koje se suprotstavljaju globalizaciji. Svijet Islands in the Net također je ispunjen potrošačkim uređajima koji uvelike liče na pametne satove i pametne sportske cipele.

Postoji još jedna knjiga iz 80-ih koja, iako neki od događaja izgledaju fantastičnije, dobro ilustruje naše moderne distopijske strahove. Ovo "Georadarski softver", Istorija Rudiego Rucker, koji se održava 2020. Svijet, stanje u društvu i njegovi sukobi izgledaju nevjerovatno slični onome s čime se danas suočavamo. Postoje i roboti poznati kao boperi koji su postali samosvjesni i pobjegli u gradove na Mjesecu. Ovaj element se još nije materijalizovao, ali pobuna mašina postaje stalni refren crnih prognoza.

Vizije našeg vremena u knjigama su takođe zapanjujuće tačne na mnogo načina. Octavia Butler, posebno uParabole o sijaču"(1993.). Priča počinje 2024. godine u Los Angelesu i odvija se u Kaliforniji koju su poharale poplave, oluje i suše uzrokovane klimatskim promjenama. Porodice srednje i radničke klase sastaju se u zatvorenim zajednicama, pokušavajući pobjeći od vanjskog svijeta putem droga koje izazivaju ovisnost i kompleta za virtuelnu stvarnost. Pojavljuju se nove religije i teorije zavere. Karavan izbjeglica kreće na sjever kako bi izbjegao ekološki i društveni kolaps. Na vlast dolazi predsjednik koji koristi slogan kampanje "Učinimo Ameriku ponovo velikom" (ovo je slogan Donalda Trumpa)...

Batlerova druga knjiga,Parabola o talentima“, govori kako pripadnici novog vjerskog kulta napuštaju Zemlju na svemirskom brodu kako bi kolonizirali Alpha Centauri.

***

Koja je pouka iz ovog opsežnog pregleda predviđanja i vizija napravljenih prije nekoliko decenija koje utiču na naš svakodnevni život?

Možda je poenta u tome da se distopije dešavaju često, ali najčešće samo djelomično.