Válka s hmyzem

Luis Cordeiro-Rodrigues a Ricardo Tavares najít dobré úmysly vedoucí špatným směrem.

Pod XR476: Přihlášení pomocí rozpoznání tváře.

Pod XR476: Záznam hlasu.

Jak jsme mohli skončit takhle? Nevím... Ani si nejsem jistý, proč to nahrávám... Možná kvůli špatnému svědomí. Nemám naději na pomoc. Myslím, že nám nikdo nemůže pomoci... A zasloužíme si to, co máme. Sakra, možná si to zasloužím víc než kdokoli jiný... Pokud tuto nahrávku obdrží jiná civilizace, doufám, že se poučíte z chyb našeho druhu. Jsem tak naštvaný na svého šéfa. Nemůžu uvěřit, že by se ke mně takhle choval. Tvrdě pro něj pracuji a on se mi odvděčuje. Odejdu z této práce a najdu si něco lepšího.

Co se stalo? Začalo to, když politické napětí v první polovině jednadvacátého století vyvolalo globální jadernou válku mezi Východem a Západem, Severem a Jihem. Země zůstala zdevastovaná. Byl jsem tak naštvaný, když jsem viděl, co udělal. Nemohl jsem uvěřit, že by něco takového udělal.

Po Velké jaderné válce OSN zakázala lidstvu rozmístit válečné zbraně. Místo toho byla taková rozhodnutí odkázána na AI. Samozřejmě byly: my lidé máme příliš mnoho…. A ... chamtivost ... příliš mnoho špatnost v nás, abychom o takových věcech rozhodli! Zvláště mě . Sakra! Proto jsme v této situaci – protože můj hlad napsat dokonalý kód!

Vedl jsem tým odpovědný za programování stroje, který by zaznamenával morální preference světa a pak je používal k programování, aby mohl činit dobrá morální rozhodnutí o válkách. Chtěli jsme vytvořit umělý morální kortex odvozující svá rozhodnutí z názorů občanů světa prostřednictvím strojového učení. Dokážete si to představit? Byla by to demokracie v celé své kráse. U aut jsme zatím zkoušeli jen umělé rozhodování. Bylo to poprvé, co jsme to zkusili se zbraněmi. Tohle byla výzva, kterou jsem opravdu chtěl přijmout.

Nazval jsem své dítě ‚Spravedlnost‘. Spravedlnost jsme umístili online, abychom shromáždili morální názory všech občanů světa na válku. Občané museli odpovědět na sto válečných dilemat kliknutím na preferované výsledky ze sady možností. Naprogramoval jsem Spravedlnost tak, aby dělala to, pro co lidé hlasovali – čímž jsem vytvořila to, co jsem považovala za bezvadný kód, který překonává egocentrický rozum a individuální morální předsudky. Systém také běžně skenoval vědecké práce relevantní pro morální soudy na velkém měřítku, učil se z jejich výsledků a statistik a poté je začleňoval do svých výpočtů.

War with the Insectoids od Camerona Graye 2021
Navštivte prosím ParableVisions.com a Facebook.com/CameronGrayTheArtist

Výsledky válečného testu se lišily podle kultury a demografie. Nicméně, kolektivně, poté, co byly všechny informace nahrány, se zdálo, že preferovaným morálním pohledem je utilitarismus. Spravedlnost tedy nakonec povolila použití zbraní pouze v případě, že vypočítaný hlavní užitek nebo celkový přínos války byl vyšší než žádná válka. A jediný způsob, jak deaktivovat jeho kontrolu nad zbraněmi, bylo nechat určeného uživatele projít samovygenerovaným testem určeným Justice.

Mysleli jsme si, že Justice je perfektní a byli jsme na to opravdu hrdí. Lidé po celém světě mě a můj tým za úspěch chválili. Spravedlnost skutečně fungovala velmi dobře a zabránila válkám po celém světě po mnoho let. Naše lidské nutkání k agresi bylo potlačeno. Moje dítě bylo digitálním Mesiášem! Nicméně…

Vše se však změnilo v den, kdy Zemi napadli Insektoidi.

Insektoidi jsou hmyzem podobný druh z planety Kepler 442b, obíhající kolem hvězdy Kepler 442, asi 370 parseků od Země. Jsou to vysoce inteligentní stvoření lidské velikosti se supersvětelnými loděmi, které cestují deformováním časoprostorového kontinua. Mají zbraně schopné využít energii kvantových fluktuací vakua. A přišli nás vyhubit a kolonizovat Zemi!

Spravedlnost vypočítala užitečnost a výsledkem bylo, že hlavní užitečnost lidí, kteří nebyli vyhlazeni hmyzem, byla 1,8361058104... ale hlavní užitečnost vyhlazení lidstva byla něco v řádu 10x10 (15krát)! Počítalo se s tím, že by nás insektoidi měli vyhubit! Nikdy bych nepředpokládal, že zničení lidstva může být tím nejetičtějším činem, který má spravedlnost provést. Justice ale dospěla k závěru, že vymírání lidí bylo oprávněnou humanitární akcí. Moje dítě odsoudilo vlastního otce k smrti.

Jak by to mohlo být?

Jakmile se nám podařilo převést výpočty Justice, ukázalo se, že Justice zjistila, že Insektoidi zachraňují pozemský hmyz před genocidou způsobenou lidmi… a na každého člověka připadá asi 1,4 miliardy hmyzu! Lidstvo už znečistilo vzduch a vodu, přeurbanizovalo životní prostředí, všudypřítomně používalo toxické pesticidy a mělo za sebou jadernou válku. Celkově bychom již zabil 40 % hmyzu na Zemi. Justice vypočítala, že pokud nás nezastaví, hmyz to udělá naprosto zmizí za méně než sto let. Způsobili jsme hmyzí apokalypsu.

To není vše. Smrt téměř poloviny hmyzích obyvatel planety již narušila rovnováhu ekosystému planety a zabila tisíce živočišných druhů. Mnoho ryb, plazů, ptáků a obojživelníků, kteří jedli hmyz, nakonec zemřelo hlady. Smrt hmyzu zastavila i opylování flóry. Tímto způsobem jsme již zabili 83 % druhů na Zemi. Justice předpověděla, že za 50–100 let zabijeme zbytek a přitom zabijeme sami sebe.

Ještě horší: nezničili bychom jen všechny druhy na naší planetě. Justice vypočítala, že jakmile začneme systematicky vyvážet naši destruktivitu a odpadky za Sluneční soustavu, v nových lodích Helical Engine – pohybujících se výrazně blízkou rychlosti světla – skončíme znečištěním všech životaschopných exoplanet v patnácti až dvaceti světlech. let, než nás mohlo něco zastavit. Ve skutečnosti už lodě začaly dosahovat Proximy Centauri b – a jejich posádky již začaly ničit jakoukoli šanci, že tato planeta bude mít čistou atmosféru schopnou udržet život.

Bohužel nemáme přístup k našim zbraním. Nemůžeme se zachránit před hmyzem! Přiměli jsme miliardy lidí, aby hlasovali konkrétními způsoby v testu, aby se pokusili zastavit spravedlnost. Test jsem si předělal sám. Ale spravedlnost nás všechny zklamala! Jak si může spočítat, že na Zemi není žádný člověk, který by byl dostatečně morální, aby překonal jeho rozhodnutí?

My… ach … já zapomněli, že stroje nestačí...

Pokud je tu někdo, kdo dostane tuto zprávu... já... jen doufám, že neuděláte stejné chyby jako my na Zemi.

Pod XR476: Přidejte přílohy: Environmentální degradace; Velká jaderná válka; Spravedlnost; Insektoidy.

Pod XR476: Normalizujte jazyk podle univerzálních matematických zákonů.

Pod XR476: Nastavte trajektorii. Planety Vlk 1061b, Vlk 1061c, Vlk 1061d, souhvězdí Ophiuchus.

Pod XR476: Odeslat.

Luis Cordeiro-Rodrigues je docentem na katedře filozofie, Yuelu Academy, Hunan University. Ricardo Tavares má bakalářský titul z filozofie.

• Výzkum Cordeiro-Rodriguese pro tento příběh byl financován Fundamentálním výzkumným fondem univerzity Hunan pro centrální univerzity, číslo fondu 531118010426. Také by rád poděkoval Dr Wheelerovi a Dr. Gráciovi za jejich komentáře.