Kabinet grozljivk

Vzpon strojev in prevzem oblasti s strani umetne inteligence. Svet popolnega nadzora in družbenega nadzora. Jedrska vojna in degeneracija civilizacije. Številne temne vizije prihodnosti, narisane pred mnogimi leti, bi se morale zgoditi danes. Medtem se ozremo nazaj in zdi se, da jih ni bilo. Ali si prepričan?

Obstaja precej stereotipen repertoar popularnosti distopijske prerokbe (o črni viziji prihodnosti). Poleg najpogostejših, povezanih z uničevanjem naravnega okolja in virov, je razširjeno prepričanje, da najnovejše tehnologije škodujejo medosebni komunikaciji, odnosim in družbi.

Virtualni prostor bo varljivo nadomestil resnično sodelovanje v svetu. Drugi distopični pogledi vidijo tehnološki razvoj kot način povečevanja družbene neenakosti, koncentracijo moči in bogastva v rokah majhnih skupin. Visoke zahteve sodobne tehnologije koncentrirajo znanje in veščine v ozke kroge privilegiranih posameznikov, povečujejo nadzor ljudi in uničujejo zasebnost.

Po mnenju mnogih futuristov lahko večja produktivnost in večja vidna izbira škodita kakovosti človeškega življenja, saj povzročata stres, ogrožata delovna mesta in nas delata vse bolj materialistični glede sveta.

Eden od znanih tehnoloških "distopijev", James Gleick, podaja na videz trivialen primer TV daljinskega upravljalnika kot klasičnega izuma, ki ne rešuje niti enega pomembnega problema, povzroča pa veliko novih. Gleicka, ki citira tehničnega zgodovinarja Edward Tenner, piše, da zmožnost in enostavnost preklapljanja kanalov s pomočjo daljinskega upravljalnika služi predvsem temu, da gledalca vedno bolj odvrača.

Namesto zadovoljstva so ljudje vse bolj nezadovoljni s kanali, ki jih gledajo. Namesto izpolnjevanja potreb obstaja občutek neskončnega razočaranja.

Nas bodo avtomobili obdržali na rezervacijah?

Bomo lahko nadzorovali to stvar, ki je neizogibna in verjetno kmalu pride? Zaradi umetne inteligence? Če je tako, kot oznanjajo številne distopične vizije, potem ne. (1).

Težko je obvladovati nekaj, kar je večkrat močnejše od nas. s povečanjem števila nalog. Pred dvajsetimi leti nihče ne bi verjel, da lahko veliko natančneje preberejo čustva v človekovem glasu in obrazu, kot zmoremo sami. Medtem so trenutno izurjeni algoritmi to že sposobni narediti, analizirajo izraze obraza, tembre in naš način govora.

Računalniki rišejo slike, sestavljajo glasbo in eden od njih je celo zmagal na pesniškem natečaju na Japonskem. Že dolgo so premagali ljudi v šahu, se naučili igre iz nič. Enako velja za veliko bolj zapleteno igro Go.

spoštuje zakone vedno hitrejšega pospeševanja. Kar je umetna inteligenca dosegla – s pomočjo ljudi – v zadnjih desetletjih, se bo v naslednjih nekaj letih, morda le mesecih, podvojilo, potem pa bo trajalo le tedne, dneve, sekunde ...

Kot se je pred kratkim izkazalo, algoritmi, ki se uporabljajo v pametnih telefonih ali na letališčih za analizo fotografij iz vseprisotnih kamer, ne morejo le prepoznati nekoga v različnih okvirih, temveč tudi določiti izključno intimne psihološke značilnosti. Reči, da je to veliko tveganje za zasebnost, je kot ne reči ničesar. Ne gre za preprost nadzor, opazovanje vsakega koraka, ampak za informacije, ki nastanejo kot posledica samega videza osebe, o njegovih skritih željah in osebnih preferencah. 

Algoritmi se lahko tega relativno hitro naučijo z analizo na stotine tisoč primerov, kar je veliko več, kot lahko vidi tudi najbolj bistroumna oseba v življenju. Oboroženi s tako bogatimi izkušnjami so sposobni skenirati osebo natančneje kot celo najbolj izkušeni psiholog, analitik govorice telesa in kretenj.

Prava srhljiva distopija torej ni v tem, da računalniki igrajo šah ali gredo proti nam, ampak da lahko vidijo našo dušo globlje kot kdorkoli drug kot mi sami, polno prepovedi in blokad pri prepoznavanju teh ali drugačnih nagnjenj.

Elon Musk verjame, da se lahko, ko se sistemi umetne inteligence začnejo učiti in sklepati v vedno večjem obsegu, nekje razvije "inteligenca". globoko v spletnih plasteh, za nas neopazno.

Glede na ameriško študijo, objavljeno leta 2016, ima umetna inteligenca v naslednjih 45 letih 50-odstotno možnost, da bo pri vseh nalogah presegla ljudi. Napovedovalci pravijo, da bo umetna inteligenca rešila problem raka, izboljšala in pospešila gospodarstvo, poskrbela za zabavo, izboljšala kakovost in trajanje življenja, nas izobraževala, da brez nje ne bomo mogli živeti, vendar je možno, da nekega dne brez sovraštvo, samo na podlagi logične računice nas pač odstrani. Morda fizično ne bo delovalo, saj je v vsakem sistemu vredno varčevati, arhivirati in shranjevati vire, ki "mordajo nekoč prav". Da, to je vir, ki smo ga lahko za AI. Zaščitena delovna sila?

Optimisti se tolažijo z dejstvom, da vedno obstaja možnost, da izvlečete vtič iz vtičnice. Vendar pa ni vse tako preprosto. Človeško življenje je že postalo tako odvisno od računalnikov, da bi bil radikalen korak proti njim za nas katastrofa.

Konec koncev vse bolj ustvarjamo sisteme odločanja, ki temeljijo na umetni inteligenci, jim dajemo pravico do letenja letal, določanja obrestnih mer, vodenja elektrarn – vemo, da bodo algoritmi to naredili veliko bolje kot mi. Hkrati pa ne razumemo popolnoma, kako se sprejemajo te digitalne odločitve.

Obstaja bojazen, da bi jih superinteligentni ukazni sistemi, kot je "Zmanjšaj zastoje", lahko pripeljali do zaključka, da je edini učinkovit način za dokončanje dela ... zmanjšanje prebivalstva za tretjino ali celo polovico.

Da, vredno je dati stroju najpomembnejše navodilo, kot je "Najprej reši človeško življenje!". A kdo ve, ali bo potem digitalna logika pripeljala do zapora človeštva ali pod skedenj, kjer smo morda varni, vsekakor pa ne svobodni.

Kibernetski kriminal kot storitev

V preteklosti so bile distopije in podobe postapokaliptičnega sveta v literaturi in filmu običajno postavljene v postnuklearno dobo. Danes se jedrska anihilacija ne zdi nujna za katastrofo in uničenje sveta, kot ga poznamo, čeprav ne takšnega, kot si ga predstavljamo. , je malo verjetno, da bo uničil svet kot v "Terminatorju", kjer je bil kombiniran z jedrskim uničenjem. Če bi, ne bi bila superinteligenca, ampak primitivna sila. Navsezadnje tudi človeštvo še ni uresničilo globalnega scenarija uničujočega jedrskega spopada.

Prava strojna apokalipsa je lahko veliko manj impresivna.

Kibernetsko vojskovanje, virusni napadi, vdiranje v sistem in izsiljevalska programska oprema, ransomware (2) ohromijo in uničijo naš svet nič manj učinkovito kot bombe. Če se njihov obseg razširi, lahko vstopimo v fazo vsesplošne vojne, v kateri bomo postali žrtve in talci strojev, čeprav od njih ni treba delovati avtonomno in je možno, da bodo za vsem še vedno ljudje.

Lansko poletje je ameriška agencija za kibernetsko varnost in infrastrukturno varnost (CISA) napade z odkupno programsko opremo označila za "najbolj vidno grožnjo kibernetski varnosti".

CISA trdi, da o številnih dejavnostih, pri katerih kibernetski kriminalec prestreže in šifrira podatke osebe ali organizacije ter nato izsiljuje odkupnino, nikoli ne poroča, ker žrtev plača kibernetskim kriminalcem in noče objaviti težav z njihovimi nevarnimi sistemi. Kibernetski kriminalci na mikro ravni pogosto ciljajo na starejše ljudi, ki imajo težave z razlikovanjem med pošteno in nepošteno vsebino na internetu. To storijo z zlonamerno programsko opremo, ki je vdelana v prilogo e-pošte ali pojavno okno na okuženem spletnem mestu. Hkrati se povečujejo napadi na velike korporacije, bolnišnice, vladne agencije in vlade.

Slednje so bile še posebej tarče zaradi občutljivih podatkov, ki so jih imeli, in zmožnosti plačila velikih odkupnin.

Nekatere informacije, kot so zdravstveni podatki, so za lastnika veliko bolj dragocene kot druge in lahko kriminalcem prinesejo več denarja. Tatovi lahko prestrežejo ali dajo v karanteno velike bloke kliničnih podatkov, pomembnih za oskrbo pacientov, kot so rezultati testov ali informacije o zdravilih. Ko je življenje ogroženo, v bolnišnici ni prostora za pogajanja. Ena od ameriških bolnišnic je bila novembra lani po avgustovskem terorističnem napadu dokončno zaprta.

Verjetno se bo sčasoma le poslabšalo. Leta 2017 je ameriško ministrstvo za domovinsko varnost objavilo, da bi lahko kibernetski napadi ciljali na kritično infrastrukturo, kot so vodovodi. Orodja, potrebna za izvajanje takšnih dejanj, so vse bolj na voljo manjšim operaterjem, ki jim prodajajo pakete odkupovalne programske opreme, kot sta programska oprema Cerber in Petya, in po uspešnih napadih zaračunavajo odkupnino. Na podlagi kibernetskega kriminala kot storitve.

Nevarna motnja v genomu

Ena izmed priljubljenih tem distopije je genetika, manipulacija z DNK in vzreja ljudi – poleg tega »programiranih« na pravi način (oblasti, korporacije, vojska).

Sodobno utelešenje teh tesnob je metoda popularizacije Urejanje genov CRISPR (3). Zaskrbljujoči so predvsem mehanizmi, ki jih vsebuje. vsiljevanje želenih funkcij v naslednjih generacijah in njihov potencial se je razširil na celotno populacijo. Eden od izumiteljev te tehnike, Jennifer Doudna, je celo pred kratkim pozval k moratoriju na takšne tehnike urejanja "zarodne linije" zaradi potencialno katastrofalnih posledic.

Spomnimo se, da je pred nekaj meseci kitajski znanstvenik On Jiankui je bil široko kritiziran zaradi urejanja genov človeških zarodkov, da bi jih imunizirali proti virusu aidsa. Razlog je bil v tem, da so se njegove spremembe lahko prenašale iz roda v rod z nepredvidljivimi posledicami.

Posebej zaskrbljujoči so tako imenovani d (gensko prepisovanje, genski pogon), t.j. gensko spremenjen mehanizem, ki kodira sistem za urejanje v DNK določenega posameznika CRISPR/CAS9 genom z nastavitvijo za urejanje te različice nezaželenega gena. Zaradi tega potomci samodejno (brez sodelovanja genetikov) nezaželeno gensko varianto prepišejo z želeno.

Neželeno gensko varianto pa lahko potomci prejmejo "kot darilo" od nespremenjenega drugega starša. Torej prekinimo genski pogon Mendelski zakoni dednostiki pravijo, da gre polovica dominantnih genov na potomce enega od staršev. Skratka, to bo sčasoma vodilo do širjenja zadevne genske variante na celotno populacijo.

Biolog na univerzi Stanford Christina Smolke, nazaj na panelu o genskem inženiringu leta 2016, je opozoril, da bi ta mehanizem lahko imel škodljive in v skrajnih primerih grozljive posledice. Genski pogon lahko mutira, ko gre skozi generacije, in povzroči genetske motnje, kot sta hemofilija ali hemofilija.

Kot smo prebrali v članku, ki so ga v reviji Nature Reviews objavili raziskovalci na kalifornijski univerzi Riverside, je lahko ista dedna lastnost, četudi se nekako vnese v drugo populacijo, škodljiva, tudi če nagon deluje tako, kot je predvideno v eni populaciji organizma. . enak videz.

Obstaja tudi nevarnost, da znanstveniki ustvarjajo genske pogone za zaprtimi vrati in brez strokovnega pregleda. Če nekdo namerno ali nenamerno vnese v človeški genom škodljiv genski pogon, na primer tisti, ki uniči našo odpornost proti gripi, bi to lahko pomenilo celo konec vrste homo sapiens ...

Nadzorni kapitalizem

Različica distopije, ki bi si jo nekdanji pisci znanstvene fantastike težko predstavljali, je resničnost interneta, zlasti družbenih medijev, z vsemi njegovimi široko opisanimi posledicami, ki uničujejo zasebnost, odnose in psihološko integriteto ljudi.

Ta svet je naslikan le v novejših umetniških predstavah, kakršno smo lahko videli v seriji Black Mirror v epizodi "The Diving" iz leta 2016 (4). Šoshana Zuboff, ekonomist s Harvarda, to realnost imenuje povsem odvisno od družbene samopotrditve in popolnoma »deprivatizirano«. nadzorni kapitalizem (), obenem pa tudi krona dela Googla in Facebooka.

4. Prizor iz "Black Mirror" - epizoda "Potapljanje"

Kot pravi Zuboff, je Google prvi izumitelj. Poleg tega nenehno širi svoje nadzorne dejavnosti, na primer z navidez nedolžnimi projekti pametnih mest. Primer je projekt najbolj inovativne soseske na svetu, ki ga izvaja Sidewalk Labs, Googlova podružnica. pomol v Torontu.

Google namerava zbrati vse najmanjše podatke o življenju prebivalcev na obali, njihovem gibanju in celo dihanju s pomočjo vseprisotnih nadzornih senzorjev.

Prav tako je težko izbrati internetno distopijo, ki na Facebooku ne pride v poštev. Nadzorni kapitalizem je morda izumil Google, vendar ga je Facebook popeljal na povsem novo raven. To je bilo storjeno z družbenimi in čustvenimi virusnimi mehanizmi ter neusmiljenim preganjanjem tudi tistih, ki niso uporabniki platforme Zuckerberg.

Zaščitena umetna inteligenca, potopljena v virtualno resničnost, živi z UBI

Po mnenju mnogih futuristov prihodnost sveta in tehnologije označuje pet okrajšav - AI, AR, VR, BC in UBI.

Bralci »MT« verjetno dobro vedo, kaj so in iz česa sestavljajo prve tri. Znano se izkaže tudi za četrto, "BC", ko razumemo, za kaj gre. In peti? UBD je okrajšava za koncept, kar pomeni "univerzalni temeljni dohodek » (5). To je javna korist, ki se občasno domneva, da bo deležna vsaka oseba, ki bo izpuščena z dela, ko se bodo razvijale druge tehnologije, zlasti umetna inteligenca.

5. Univerzalni osnovni dohodek – UTD

Švica je idejo lani celo dala na referendum, a so jo državljani zavrnili, saj so se bali, da bi uvedba zajamčenega dohodka povzročila poplavo priseljencev. UTD prinaša s seboj tudi številne druge nevarnosti, vključno s tveganjem ohranjanja obstoječih družbenih neenakosti.

Vsaka tehnološka revolucija za akronimom (glej tudi:) ima – če se širi in razvija v pričakovani smeri – ogromne posledice za človeštvo in naš svet, vključno seveda z ogromno dozo distopije. Na primer, domneva se, da bi lahko nadomestil štiriletne volilne cikle in vodil do referendumov o neštetih vprašanjih.

Virtualna resničnost pa je sposobna "izključiti" del človeštva iz resničnega sveta. Kot se je na primer zgodilo s Korejko Jang Ji Sung, ki je po smrti hčerke leta 2016 zaradi neozdravljive bolezni od takrat spoznala svoj avatar v VR. Virtualni prostor ustvarja tudi nove vrste problemov oziroma vse stare znane probleme dejansko prenaša v »novi« svet ali celo v številne druge svetove. Do neke mere lahko to opazimo že na družbenih omrežjih, kjer se zgodi, da premalo všečkov ob objavah vodi v depresijo in samomor.

Preroške zgodbe bolj ali manj

Navsezadnje tudi zgodovina ustvarjanja distopijskih vizij uči previdnosti pri oblikovanju napovedi.

6. Naslovnica "Otoki v omrežju"

Lani je bila posneta znamenita znanstvenofantastična mojstrovina Ridleyja Scottaandroid lovec»Od leta 1982. O izpolnitvi ali ne izpolnitvi številnih specifičnih elementov je mogoče razpravljati, vendar je nesporno, da najpomembnejša prerokba o obstoju v našem času inteligentnih, humanoidnih androidov, v marsičem boljših od ljudi, še ni postala resničnost.

Pripravljeni bi bili tolerirati še veliko preroških zadetkov."Nevromanti»torej romani William Gibson od leta 1984, ki je populariziral koncept "kibernetskega prostora".

Vendar se je v tistem desetletju pojavila nekoliko manj znana knjiga (pri nas skoraj v celoti, ker ni bila prevedena v poljščino), ki je veliko natančneje napovedala današnji čas. Govorim o romantikiOtoki na spletu"(6) Bruce Sterling od leta 1988, postavljeno leta 2023. Predstavlja svet, potopljen v nekaj podobnega internetu, znanega kot "splet". Nadzirajo ga velike mednarodne korporacije. "Otoki na spletu" so znani po zagotavljanju nadzora, nadzora in monopolizacije domnevno brezplačnega interneta.

Zanimivo je tudi predvideti vojaške operacije, ki se izvajajo z uporabo brezpilotnih letal (dronov) proti spletnim piratom/teroristom. Operaterji na tisoče kilometrov stran z varnimi namiznimi računalniki – kako to vemo? Knjiga ne govori o neskončnem spopadu z islamskim terorizmom, ampak o boju proti silam, ki nasprotujejo globalizaciji. Svet otokov v omrežju je poln tudi potrošniških naprav, ki so zelo podobne pametnim uram in pametnim športnim čevljem.

Obstaja še ena knjiga iz 80-ih, ki kljub temu, da se nekateri dogodki zdijo bolj fantastični, dobro ilustrira naše sodobne distopične strahove. ta "Georadarska programska oprema«, Zgodovina Rudy Rookerpostavljeno leta 2020. Svet, stanje v družbi in njeni konflikti se zdijo neverjetno podobni temu, s čimer imamo opravka danes. Obstajajo tudi roboti, znani kot bopperji, ki so pridobili samozavedanje in pobegnili v mesta na Luni. Ta element se še ni uresničil, a upor strojev postaja stalni refren črnih napovedi.

Tudi vizije našega časa v knjigah so v mnogih pogledih osupljivo točne. Octavia Butler, zlasti vPrispodobe o sejalcu» (1993). Akcija se začne leta 2024 v Los Angelesu in se odvija v Kaliforniji, ki so jo opustošile poplave, neurja in suše, ki jih povzročajo podnebne spremembe. Družine srednjega in delavskega razreda se srečujejo v zaprtih skupnostih, ko poskušajo pobegniti od zunanjega sveta z drogami, ki povzročajo odvisnost, in kompleti za virtualno resničnost. Pojavljajo se nove religije in teorije zarote. Begunska karavana gre proti severu, da bi se izognila ekološkemu in družbenemu kolapsu. Na oblast pride predsednik, ki uporablja slogan kampanje "Naredimo Ameriko ponovno veliko" (to je slogan Donalda Trumpa) ...

Butlerjeva druga knjiga, "Prispodoba o talentihpripoveduje, kako pripadniki novega verskega kulta zapustijo Zemljo v vesoljski ladji, da bi kolonizirali Alpha Centauri.

***

Kaj je nauk te obsežne raziskave napovedi in vizij, narejenih pred nekaj desetletji, o našem vsakdanjem življenju?

Verjetno je dejstvo, da se distopije pojavljajo pogosto, a največkrat le delno.