Cabinet vun Horrors

Opstig vun de Maschinnen an d'Kraaft vun der Kënschtlecher Intelligenz. Eng Welt vun totaler Iwwerwaachung a sozialer Kontroll. Nuklear Krich an d'Degeneratioun vun der Zivilisatioun. Vill donkel Zukunftsvisiounen, déi viru ville Joer gezeechent goufen, sollten haut geschéien. An mëttlerweil kucke mer zeréck an et schéngt, datt se net do waren. Bass du secher?

Et gëtt e zimlech stereotypesche Repertoire vu populäre dystopesch Prophezeiungen (iwwer déi schwaarz Visioun vun der Zukunft). Zousätzlech zu den heefegste verbonne mat der Zerstéierung vum natierlechen Ëmfeld a Ressourcen, gëtt et allgemeng ugeholl datt déi lescht Technologien déi interpersonal Kommunikatioun, Bezéiungen a Gesellschaft beschiedegen.

Virtuelle Raum wäert täuschend real Participatioun an der Welt ersetzen. Aner dystopesch Usiichten gesinn d'technologesch Entwécklung als e Wee fir d'sozial Ongläichheet ze erhéijen, d'Muecht a Räichtum an den Hänn vu klenge Gruppen ze konzentréieren. Déi héich Ufuerderunge vun der moderner Technologie konzentréieren Wëssen a Kompetenzen an schmuele Kreesser vu privilegiéierten Individuen, erhéijen d'Iwwerwaachung vu Leit an zerstéieren d'Privatsphär.

Laut ville Futuristen, méi héich Produktivitéit a méi sichtbar Wiel kënnen d'Qualitéit vum mënschleche Liewen schueden andeems se Stress verursaachen, Aarbechtsplazen a Gefor bréngen an eis ëmmer méi materialistesch iwwer d'Welt maachen.

Ee vun de berühmten technologeschen "Dystopien", James Gleck, gëtt e scheinbar trivial Beispill vun enger Fernseh-Fernsteuerung als klassesch Erfindung, déi net een eenzege wesentleche Problem léist, wat vill nei entsteet. Gleick, zitéiert en techneschen Historiker Edward Tenner, schreift datt d'Méiglechkeet an d'Einfachheet vum Kanal ze wiesselen mat der Fernsteierung haaptsächlech déngt fir de Betrachter ëmmer méi ze distractéieren.

Amplaz vun Zefriddenheet sinn d'Leit ëmmer méi onzefridden mat de Kanäl déi se kucken. Amplaz d'Bedierfnesser ze treffen, gëtt et e Gefill vun endlos Enttäuschung.

Wäerten d'Autoen eis op Reservatiounen halen?

Wäerte mir dës Saach kontrolléieren déi inévitabel ass a wahrscheinlech geschwënn kënnt? Iwwer kënschtlech Intelligenz? Wann dat de Fall ass, wéi vill dystopesch Visiounen proklaméieren, dann nee. (1).

Et ass schwéier eppes ze kontrolléieren wat vill Mol méi staark ass wéi eis. mat enger Erhéijung vun der Zuel vun Aufgaben. Virun XNUMX Joer hätt kee gegleeft datt en Emotiounen an der Stëmm vun enger Persoun liest a vill méi präzis wéi mir selwer kënnen. Mëttlerweil sinn déi aktuell trainéiert Algorithmen scho fäeg dëst ze maachen, Gesiichtsausdréck, Timbre an d'Art a Weis wéi mir schwätzen ze analyséieren.

Computeren molen Biller, komponéieren Musek, an ee vun hinnen huet souguer e Poesie Concours a Japan gewonnen. Si hunn d'Leit scho laang am Schach geschloen, d'Spill vun Null geléiert. Dat selwecht gëllt fir dat vill méi komplex Spill Go.

et hält de Gesetzer vun ëmmer méi séier Beschleunegung. Wat AI erreecht huet - mat der Hëllef vu Mënschen - an de leschte Joerzéngte wäert sech an den nächste Joren verduebelen, vläicht just Méint, an dann dauert et nëmme Wochen, Deeg, Sekonnen ...

Wéi et viru kuerzem erausgestallt gouf, kënnen d'Algorithmen, déi op Smartphones oder op Fluchhafen benotzt gi fir Fotoen vun ubiquitäre Kameraen ze analyséieren, net nëmmen een a verschiddene Frames erkennen, awer och exklusiv intim psychologesch Feature bestëmmen. Ze soen datt dëst e grousse Privatsphärrisiko ass wéi näischt ze soen. Dëst ass net iwwer einfach Iwwerwaachung, all Schrëtt kucken, awer iwwer Informatioun déi entstinn als Resultat vun der Erscheinung vun enger Persoun, iwwer seng verstoppte Wënsch a perséinlech Virléiften. 

Algorithmen kënnen dëst relativ séier léieren andeems Dir Honnerte vun Dausende vu Fäll analyséiert, wat vill méi ass wéi och déi schlau Persoun an enger Liewensdauer gesinn. Bewaffnet mat esou engem Räichtum vun Erfahrung, si fäeg eng Persoun méi präziist ze scannen wéi souguer den erfuerene Psycholog, Kierpersprooch a Geste Analyst.

Also déi richteg erschreckend Dystopie ass net datt Computere Schach spillen oder géint eis goen, mee datt se eis Séil méi déif gesinn wéi all aner wéi eis selwer, voller Verbueter a Spär fir déi oder aner Neigungen z'erkennen.

Elon Musk mengt datt wann AI Systemer ufänken ze léieren an op eng ëmmer méi grouss Skala ze léieren, "Intelligenz" iergendwou entwéckelen kann déif an Web Schichten, onmerkbar fir eis.

Laut enger amerikanescher Etude, déi am 2016 publizéiert gouf, an den nächsten 45 Joer huet kënschtlech Intelligenz eng 50 Prozent Chance fir d'Mënschen an all Aufgaben ze iwwertreffen. Forecasters soen datt jo, AI wäert de Problem vu Kriibs léisen, d'Wirtschaft verbesseren an beschleunegen, Ënnerhalung ubidden, d'Qualitéit an d'Dauer vum Liewen verbesseren, eis educéieren sou datt mir net ouni et liewen kënnen, awer et ass méiglech datt enges Daags ouni Haass, nëmme fir baséiert op logesch Berechnung, et läscht eis just. Vläicht physesch wäert et net funktionnéieren, well an all System ass et derwäert Ressourcen ze späicheren, ze archivéieren an ze späicheren, déi "emol enges Daags praktesch kommen." Jo, dëst ass d'Ressource déi mir fir AI kënne sinn. Geschützt Personal?

Optimisten tréischten sech mat der Tatsaach, datt et ëmmer d'Méiglechkeet ass, de Stecker aus der Socket ze zéien. Allerdéngs ass alles net sou einfach. Schonn ass d'Mënscheliewen esou ofhängeg vun Computeren ginn, datt e radikale Schrëtt géint si fir eis eng Katastroph wier.

Ëmmerhin kreéiere mir ëmmer méi AI-baséiert Entscheedungssystemer, déi hinnen d'Recht ginn Fligeren ze fléien, Zënsen festleeën, Kraaftwierker lafen - mir wëssen datt Algorithmen et vill besser maachen wéi eis. Zur selwechter Zäit verstinn mir net ganz wéi dës digital Entscheedunge getraff ginn.

Et ginn Ängscht datt super-intelligent Kommandosystemer wéi "Reduce Congestion" hinnen dozou féieren kënnen ze schléissen datt deen eenzegen effektive Wee fir d'Aarbecht ze maachen ass ... d'Bevëlkerung ëm en Drëttel oder souguer d'Halschent ze reduzéieren.

Jo, et ass derwäert der Maschinn déi wichtegst Instruktioun ze ginn wéi "Fir d'éischt e Mënscheliewen retten!". Wéi och ëmmer, wie weess, ob dann d'digital Logik zu de Prisong vun der Mënschheet oder ënner der Scheier féiert, wou mir sécher kënne sinn, awer sécher net fräi.

Cyberkriminalitéit als Service

Fréier waren Dystopien a Biller vun der post-apokalyptescher Welt an der Literatur a Kino normalerweis an der post-nuklearer Ära. Haut schéngt d'Nuklear Annihilatioun net néideg fir d'Katastroph an d'Zerstéierung vun der Welt wéi mir se kennen, obwuel net wéi mir et virstellen. , et ass onwahrscheinlech d'Welt ze zerstéieren wéi am "Terminator", wou et mat nuklearer Zerstéierung kombinéiert gouf. Wann hatt dat gemaach huet, wier si keng Superintelligenz, mee eng primitiv Kraaft. Iwwerhaapt, och d'Mënschheet huet nach net de globale Szenario vun engem zerstéierende nuklear Konflikt realiséiert.

Eng richteg Maschinn Apokalypse kann vill manner beandrockend ginn.

Cyber ​​​​Krich, Virusattacken, System Hacking a Ransomware, Ransomware (2) paralyséieren an zerstéieren eis Welt net manner effektiv wéi Bommen. Wann hir Skala erweidert, kënne mir an eng Phas vum ganzen totalen Krich kommen, an deem mir Affer a Geiselen vu Maschinnen ginn, obwuel se net verlaangt sinn autonom ze handelen, an et ass méiglech datt d'Leit nach ëmmer hannert alles stinn.

De leschte Summer huet d'US Cyber ​​​​and Infrastructure Security Agency (CISA) Ransomware Attacken "déi sichtbarst Cybersecurity Bedrohung" genannt.

D'CISA behaapt datt vill Aktivitéiten, wou en Cyberkriminell d'Donnéeën vun enger Persoun oder Organisatioun verschlësselt an dann e Léisegeld erpresst, ni gemellt ginn, well d'Affer d'Cyberkrimineller bezilt an net gewëllt ass Problemer mat hiren onséchere Systemer ze publizéieren. Op Mikroniveau zielen Cyberkrimineller dacks op eeler Leit, déi Schwieregkeeten hunn tëscht éierlechen an onéierlechen Inhalt am Internet z'ënnerscheeden. Si maachen dat mat Malware, déi an engem E-Mail-Uschloss agebonne sinn oder e Pop-up op enger infizéierter Websäit. Zur selwechter Zäit sinn d'Attacke op grouss Konzerner, Spideeler, Regierungsbehörden a Regierungen erop.

Déi lescht ware besonnesch gezielt wéinst de sensiblen Donnéeën, déi se hunn an d'Fäegkeet fir grouss Léisegeld ze bezuelen.

E puer Informatioun, wéi Gesondheetsinformatioun, ass vill méi wäertvoll fir de Besëtzer wéi anerer a kënne Krimineller méi Sue maachen. Déif kënne grouss Blocke vu klineschen Donnéeën, déi wichteg fir d'Patienteversuergung sinn, offangen oder am Quarantän stellen, sou wéi Testresultater oder Drogeninformatioun. Wann d'Liewen um Spill ass, gëtt et kee Verhandlungsraum am Spidol. Ee vun den amerikanesche Spideeler gouf am November d'lescht Joer nom Terrorattack am August permanent zougemaach.

Et gëtt wuel nëmme méi schlëmm mat der Zäit. Am Joer 2017 huet den US Department of Homeland Security ugekënnegt datt Cyberattacke kritesch Infrastrukture wéi Waasserversuergung zielen kënnen. An d'Tools, déi néideg sinn fir esou Aktiounen auszeféieren, sinn ëmmer méi verfügbar fir méi kleng Betreiber, un deenen se Ransomware-Bündelen wéi Cerber a Petya Software verkafen an no erfollegräichen Attacken eng Léisegeld bezuelen. Baséiert op Cyberkriminalitéit als Service.

Geféierlech Stéierungen am Genom

Ee vun de populäre Themen vun der Dystopie ass Genetik, DNA Manipulatioun an Zucht vu Leit - zousätzlech "programméiert" op déi richteg Manéier (Autoritéiten, Firmen, Militär).

Déi modern Ausféierung vun dësen Ängscht ass eng Method fir Populariséierung CRISPR Gen Editing (3). D'Mechanismen déi et enthält si virun allem Suergen. forcéiere gewënschte Funktiounen a spéider Generatiounen an hir Potenzial verbreet op déi ganz Bevëlkerung. Ee vun den Erfinder vun dëser Technik, Jennifer Doudna, och viru kuerzem e Moratorium op esou "Keimlinn" Redaktiounstechniken opgeruff wéinst potenziell katastrofale Konsequenzen.

Erënneren, datt virun e puer Méint e chinesesche Wëssenschaftler Op Jiankui gouf vill kritiséiert fir d'Gene vu mënschlechen Embryonen z'änneren fir se géint den AIDS Virus ze immuniséieren. De Grond war datt d'Ännerungen déi hien gemaach huet vu Generatioun zu Generatioun mat onberechenbaren Konsequenzen iwwerdroe kënne ginn.

Besonnesch Suerge sinn déi sougenannt d (Gen-Rewriting, Gene Drive), d.h. e genetesch manipuléierte Mechanismus deen e Redaktiounssystem an der DNA vun engem bestëmmten Individuum codéiert CRISPR/CAS9 Genom mat der Astellung fir dës Variant vum ongewollte Gen z'änneren. Dofir iwwerschreiwe d'Nokommen automatesch (ouni d'Participatioun vun Genetiker) déi ongewollt Genvariant mat der gewënschter.

Wéi och ëmmer, eng ongewollt Genvariant kann vun Nofolger "als Geschenk" vun engem onverännerten aneren Elterendeel kritt ginn. Also Gene Drive loosst eis briechen Mendelian Gesetzer vun Ierfschaftdéi soen datt d'Halschent vun den dominante Genen un d'Nofolger vun engem Elterendeel geet. Kuerz gesot, dëst féiert schlussendlech zur Verbreedung vun der betreffender Genvariant un d'ganz Populatioun.

Biolog an der Stanford University Christina Smolke, zréck an engem Panel iwwer Gentechnik am Joer 2016, gewarnt datt dëse Mechanismus schiedlech an an extremen Fäll schrecklech Konsequenzen hätt. De Gendrive ass fäeg ze mutéieren wéi et duerch d'Generatioune passéiert a genetesch Stéierunge wéi Hämophilie oder Hämophilie verursaachen.

Wéi mir an engem Artikel gelies hunn, publizéiert an Naturreviews vu Fuerscher vun der University of California, Riverside, och wann e Fuert wéi virgesinn an enger Populatioun vun engem Organismus funktionnéiert, kann déiselwecht Ierfeigenschaft schiedlech sinn wann et iergendwéi an eng aner Populatioun agefouert gëtt. . déi selwecht kucken.

Et besteet och eng Gefor datt d'Wëssenschaftler Gendrive hannert zouenen Dieren an ouni Peer review kreéieren. Wann iergendeen bewosst oder onbewosst e schiedleche Gen-Drive an de mënschleche Genom agefouert, sou wéi een deen eis Resistenz géint Gripp zerstéiert, kéint et souguer d'Enn vun der Homo sapiens Spezies bedeiten ...

Iwwerwaachungskapitalismus

Eng Versioun vun Dystopie, déi fréier Science Fiction Schrëftsteller sech kaum virstelle konnten, ass d'Realitéit vum Internet, a besonnesch de soziale Medien, mat all senge wäit beschriwwenen Auswierkungen, déi d'Privatsphär, d'Bezéiungen an d'psychologesch Integritéit vun de Leit zerstéieren.

Dës Welt gëtt nëmmen a méi nei Konschtopféierunge gemoolt, sou wéi dat wat mir an der Black Mirror Serie an der 2016 Episod "The Diving" konnte gesinn (4). Shoshana Zuboff, en Harvard Economist, nennt dës Realitéit komplett ofhängeg vun der sozialer Selbstbestätegung a komplett "deprivatiséiert". Iwwerwaachungskapitalismus (), a gläichzäiteg d'Krounaarbecht vu Google a Facebook.

4. Szen aus "Black Mirror" - Episod "Diving"

Laut Zuboff ass Google den éischten Erfinder. Donieft erweidert se permanent seng Iwwerwaachungsaktivitéiten, zum Beispill duerch anscheinend onschëlleg "Smart City" Projeten. E Beispill ass de World's Most Innovative Neighborhood Projet vum Sidewalk Labs, enger Google Duechtergesellschaft. jetty zu Toronto.

Google plangt all déi klengst Donnéeën iwwer d'Liewen vun den Awunner vun der Waasserfront, hir Bewegung a souguer Atmung mat der Hëllef vun ubiquitären Iwwerwaachungssensoren ze sammelen.

Et ass och schwéier eng Internet-Dystopie ze wielen déi op Facebook aus der Fro ass. Iwwerwaachungskapitalismus ass vläicht vu Google erfonnt ginn, awer et war Facebook deen et op e ganz neien Niveau bruecht huet. Dëst gouf gemaach duerch sozial an emotional viral Mechanismen an onroueg Verfollegung vu souguer déi, déi net Benotzer vun der Zuckerberg Plattform sinn.

Bewaacht AI, ënnerdaach an virtuell Realitéit, liewen mat UBI

Laut ville Futuristen ass d'Zukunft vun der Welt an der Technologie duerch fënnef Ofkierzungen bezeechent - AI, AR, VR, BC an UBI.

D'Lieser vun "MT" wësse wuel gutt wat se sinn a wat déi éischt dräi bestinn. De Bekannte stellt sech och als véiert eraus, "BC", wa mir verstoen ëm wat et geet. An de fënneften? UBD ass eng Ofkierzung vum Konzept, dat heescht "universell Grondakommes » (5). Dëst ass en ëffentleche Benefice, postuléiert vun Zäit zu Zäit, deen un all Persoun gëtt, déi vun der Aarbecht befreit gëtt wéi aner Technologien entwéckelen, besonnesch AI.

5. Universal Basis Akommes - UBI

D'Schwäiz huet d'Iddi d'lescht Joer souguer op e Referendum bruecht, awer hir Bierger hunn se refuséiert, aus Angscht datt d'Aféierung vun engem garantéierten Akommes zu enger Iwwerschwemmung vun Immigranten géif féieren. D'UBI bréngt och eng Rei aner Gefore mat sech, dorënner de Risiko fir existent sozial Ongläichheeten z'erhalen.

Jiddereng vun den technologesche Revolutiounen hannert der Akronym (kuckt och:) - wann et sech an déi erwaart Richtung verbreet an sech entwéckelt - huet enorm Konsequenze fir d'Mënschheet an eis Welt, dorënner natierlech eng enorm Dosis Dystopie. Zum Beispill gëtt ugeholl datt et véier-Joer Wahlzyklen ersetzt an zu Referendumen iwwer eng Onmass Themen féiert.

Virtuell Realitéit, am Tour, ass fäeg en Deel vun der Mënschheet aus der realer Welt auszeschléissen. Wéi et geschitt ass, zum Beispill, mam Koreanesche Jang Ji Sung, deen nom Doud vun hirer Duechter am Joer 2016 vun enger onheelbarer Krankheet zënter hirem Avatar am VR begéint huet. De virtuelle Raum schaaft och nei Zorte vu Probleemer, oder iwwerdréit tatsächlech all déi al bekannte Problemer op déi "nei" Welt, oder souguer op vill aner Welten. Zu engem gewësse Mooss gesi mer dat schonn an de sozialen Netzwierker, wou et geschitt, datt ze wéineg Likes op Posts zu Depressiounen a Suizid féieren.

Prophetesch Märecher méi oder manner

No all, léiert d'Geschicht vun der Schafung vun dystopesche Visiounen och Vorsicht bei der Formuléierung vun Prognosen.

6. Cover vun "Inselen am Netz"

D'lescht Joer gefilmt gouf dem Ridley Scott säi berühmte Sci-Fi MeeschterstéckAndroid Hunter» Zënter 1982. Et ass méiglech d'Erfëllung oder net vu ville spezifeschen Elementer ze diskutéieren, awer et ass onbestridden datt déi wichtegst Profezeiung iwwer d'Existenz an eiser Zäit vun intelligenten, humanoiden Androiden, op vill Manéiere méi héich wéi de Mënsch, nach net eng Realitéit ginn ass.

Mir wiere prett fir vill méi prophetesch Hits ze toleréieren.Neuromancer »d.h. Romaner William Gibson zënter 1984, déi d'Konzept vun "Cyberspace" populariséiert.

Allerdéngs ass an deem Joerzéngt e bësse manner bekannt Buch erauskomm (bal komplett an eisem Land, well et net op polnesch iwwersat gouf), dat d'Zäit vun haut vill méi genee virausgesot huet. Ech schwätzen iwwer RomanceInselen um Web"(6) Bruce Sterling zënter 1988, gesat an 2023. Et stellt eng Welt vir, déi an eppes ähnlech wéi den Internet ënnerdaucht ass, bekannt als de "Web". Et gëtt vu groussen internationale Firmen kontrolléiert. "Inselen am Netz" sinn bemierkenswäert, datt se Kontroll, Iwwerwaachung a Monopoliséierung vum angeblech gratis Internet ubidden.

Et ass och interessant fir Kampfoperatioune virauszesoen, déi mat onbemannte Loftfaart (Dronen) géint Online Piraten/Terroristen duerchgefouert ginn. Operateuren Dausende vu Meilen ewech mat sécheren Desktops - wéi wësse mir dat? D’Buch geet net ëm den endlosen Konflikt mam islameschen Terrorismus, mee ëm de Kampf géint d’Kräften, déi géint d’Globaliséierung sinn. D'Welt vun Inselen am Netz ass och mat Konsumentengeräter gefüllt déi vill ausgesinn wéi Smartwatches a Smart Sportsschong.

Et gëtt en anert Buch aus den 80er, dat, obwuel e puer vun den Eventer méi fantastesch schéngen, eng gutt Aarbecht mécht fir eis modern dystopesch Ängscht ze illustréieren. Dëst "Georadar Software", Geschicht Rudy Rooker2020 gesat. D'Welt, den Zoustand vun der Gesellschaft a seng Konflikter schéngen onheemlech ähnlech wéi dat mat deem mir haut ze dinn hunn. Et ginn och Roboter bekannt als Bopper, déi Selbstbewosstsinn gewonnen hunn an an d'Stied um Mound geflücht sinn. Dëst Element ass nach net materialiséiert, awer d'Revolt vun de Maschinnen gëtt e konstante Refrain vu schwaarze Prognosen.

D'Visioune vun eiser Zäit an de Bicher sinn och op vill Manéier opfälleg korrekt. Octavia Butler, besonnesch anGläichnes vum Séier» (1993). D'Aktioun fänkt am Joer 2024 zu Los Angeles un a fënnt a Kalifornien statt, zerstéiert duerch Iwwerschwemmungen, Stuerm an Dréchenten duerch de Klimawandel. Mëttel- an Aarbechterklassfamilljen treffen sech an zoue Gemeinschaften, wéi se probéieren d'Äussewelt mat Suchtfaktoren a virtuell Realitéit Kits ze flüchten. Nei Reliounen a Verschwörungstheorien entstinn. D'Flüchtlingscaravane geet am Norde fir ökologeschen a sozialen Zesummebroch ze vermeiden. E President kënnt un d'Muecht, deen de Kampagneslogan "Make America Great Again" benotzt (dëst ass de Slogan vum Donald Trump) ...

Dem Butler säin zweet Buch, "Parabel vun den Talentererzielt wéi Membere vun engem neie reliéise Kult d'Äerd an engem Raumschëff verloossen fir den Alpha Centauri ze koloniséieren.

***

Wat ass d'Lektioun vun dëser ëmfangräicher Ëmfro vu Prognosen a Visiounen, déi virun e puer Joerzéngte gemaach goufen iwwer eist Alldag?

Wahrscheinlech ass de Fakt datt Dystopien dacks geschéien, awer meeschtens nëmmen deelweis.