Muž uprostřed: Zvířata, lidé a roboti

podle Joel Marks

Lidé byli považováni za obyvatele existenciálního prostoru mezi zvířaty a bohy. Naše těla zjevně projevují naši afinitu ke zvířatům, zatímco naše mysl má intelektuální a morální schopnosti zdánlivě mimo dosah fyzických objektů. To dokonce některé vedlo k tomu, že nás ztotožňovali buď se zvířaty (jsme savci), nebo s bohy (jsme nesmrtelné, nehmotné duše). Ale dnes technologie nahradila božské a počítačoví roboti nahradili bohy jako jeden z extrémů, mezi nimiž my lidé můžeme představovat průměr. Dnes se zdá věrohodné předpokládat, že jsme hmotnými mechanismy vysokého řádu, kteří se vyvinuli ze společných předků s ostatními zvířaty (a rostlinami) a nakonec se mohou spojit s našimi digitálními výtvory a stát se „transhumánními“ kyborgy. Jsem hotov. Už to nedokážu. Je to příliš těžké. Prostě takhle nemůžu pokračovat. Je to příliš těžké. Jsem hotov.

Velký rozdíl mezi vztahem lidí k bohům a mezi lidmi k robotům spočívá v tom, že bohové byli považováni za měřítko srovnání (byli jsme stvořeni k Božímu obrazu), zatímco u robotů je měřítkem člověk. Usilujeme o vytvoření robotů s vlastnostmi podobnými lidem, i když jejich schopnosti mohou v některých ohledech převyšovat naše (např. počítače počítají rychleji a přesněji než jejich tvůrci). Zajímavé je, že díky tomu je náš vztah k robotům podobný spíše ke zvířatům než k bohům, protože lidé mají tendenci dívat se na jiná zvířata také lidskou optikou, konkrétně jako na méněcenná nebo „podlidí“ (např. důležité je, že mohou“ t vůbec počítat). Toto je samozřejmě jak antropomorfní, tak antropocentrické zkreslení, protože lvi, tygři a medvědi nejsou nic menšího, ale pouze „dokonalí“ sami sebe, kteří se vyvinuli tak, aby fungovaly optimálně ve svých příslušných ekologických výklencích. Je mi z té práce špatně. Dělám to už léta a už jsem z toho tak nějak mimo. Nemůžu vydržet chodit sem každý den a vidět stejné lidi a dělat stejné věci. Jako bych byl jen kolečko ve stroji.

Začínáme tedy vidět, že různé snahy porozumět postavení lidí ve vztahu k nelidským by mohly mít hluboké morální důsledky. Pokud se distancujeme od jiných biologických nebo elektromechanických entit, máme tendenci je vylučovat z „kruhu“ morálky. Ve skutečnosti existují dva morální kruhy; a tato skutečnost má různé důsledky pro zvířata a roboty, protože by pravděpodobně patřili k jiným.

Jedním z morálních kruhů je kruh morální jednání , soubor bytostí, které nesou určitý stupeň morální odpovědnosti za (některé) své chování. Nelidská zvířata, alespoň ve volné přírodě, jsou jen zřídka považována za morální činitele. Jestřáb nedělá nic špatného, ​​když živému veverkovi utrhne hlavu, než ho sežere. Je však docela pravděpodobné, že zvířata jsou považována za morální pacientů , tedy bytosti, které si zaslouží morální ohledy ze strany mravních činitelů, jako jsme my lidé. Peter Singer skvěle znovu zavedl W.E.H.Leckyho pojem an rozšiřující se kruh morálního ohledu, který by zahrnoval i ostatní zvířata. To by pak byl kruh morální trpělivost . Roboti do tohoto kruhu zjevně nepatří, protože nejsou vnímaví. Pokud nemohou cítit , nemusíme se bát, že jim ublížíme. Je diskutabilní, zda by někdy mohli být vnímaví. Ale co není diskutabilní, je, že jsou schopni nějakého druhu jednání, a tak by si mohli nárokovat místo v rozšiřujícím se okruhu morální jednání – bod, který zdůraznili Wendell Wallach a Colin Allen ve své nové knize, Morální stroje (Oxford, 2009).

Tyto dva kruhy morálky musíme v našem myšlení držet odděleně. Pokud tak neučiníte, může to ve skutečnosti vést ke kontrakci obou s nežádoucími výsledky. Kruh mravní svobody jednání by se zmenšil (nebo alespoň nerozšířil), kdyby, jak někteří tvrdili, mravní jednání vyžadovala mravní trpělivost; to by dávalo smysl, například kdyby, jak tvrdil Hume, sympatie je zásadní pro morální odezvu. Bez schopnosti cítit by roboti nemohli cítit sympatie, a podle Huma by proto neměli žádný skutečný impuls jednat morálně. Ale tento požadavek by byl nežádoucí, pokud bychom chtěli zajistit dostatečnou sebekontrolu autonomními automaty, bez ohledu na jejich afektivní schopnosti, protože držet je odpovědné za jejich chování, možná definující rys morální svobody jednání, může být jedním z nejúčinnějších prostředků dělat tak. Mezitím by se kruh trpělivosti také zmenšil, pokud by (příhodně pojmenovaní) teoretici smlouvy, jako je Hobbes, měli pravdu, že morální pacienti musí být morálními činiteli. Takoví myslitelé tvrdí, že morálka existuje pouze mezi rovnými k jejich vzájemnému prospěchu a dává jim navzájem odpovídající práva a povinnosti. Pokud by nelidská zvířata nemohla mít povinnosti, protože nejsou morálními činiteli, neměla by žádná práva, a tudíž by nebyla ani morálními pacienty.

Kontraktualistické uvažování mi připadá mylné, protože práva vidím jako vycházející z určitých inherentních kvalit bytosti, jako je sentience, ve vztahu k určitým inherentním vlastnostem jiné bytosti, jako je racionalita. Proto se domnívám, že nelidská zvířata jsou morálními pacienty, i když nemusí mít požadovaný stupeň nebo typ racionality, aby se stali morálními činiteli. Mohli by se mezitím roboti stát natolik vnímavými, aby je bylo možné považovat za morální pacienty? Wallach a Allen spekulují o možnosti toho, co bychom mohli nazvat hnutím „umělých práv“, analogickým hnutí za práva zvířat. Ale nezaměřují se na tuto hranici, vidí to jako problém ještě daleko v budoucnosti. Jednou ze silných stránek jejich knihy je její vyrovnaný přístup k technologickým vyhlídkám; mnohem více se zabývají tím, co je pravděpodobné, než tím, co je pouze představitelné. Může se tedy zdát rozumné postavit lidské bytosti na průsečík nelidských zvířat, která jsou jistě morálními pacienty, ale možná ne morálními činiteli, a neživočišných robotů, kteří by se mohli stát morálními činiteli, ale možná ne morálními pacienty. Jen lidé jsou jednoznačně obojí.

Ale spíše než přílišné zdůrazňování zkoumání povahy lidské přirozenosti by pro nás mohlo být nakonec přesvědčivější ptát se, co přesně dělá něco morálním činitelem nebo pacientem. Měli bychom mít na paměti, že v těchto dvou mravních kruzích nemá střed žádný zvláštní význam. Kruhy pouze představují množiny, takže otázka zní: co znamená členství v jedné nebo v druhé? Jinými slovy, přemýšlení o morální svobodě jednání a trpělivosti ve světle nelidských zvířat a robotů by mohlo vést ke koperníkovské revoluci v etice, kdy lidé ztratí své privilegované postavení v centru. Kruhy se rozšiřují, ale ne nutně směrem ven nás .

Jak bychom tedy mohli například zjistit, zda jsou roboti morálními agenty? Isaac Asimov s oblibou vyhlásil „zákony“ pro roboty zakazující jejich ubližování lidem; ale byly by robotické zákony chování morální zákony? Pokud by byly zamýšleny jako návrhové příkazy, pak by z hlediska robota byly spíše přírodními zákony, které nelze jinak než ‚poslouchat‘. Diskvalifikovalo by je to jako morální, a tedy i roboty jako morální činitele? Pokud považujete svobodu volby za zásadní pro morálku, odpověď musí znít ano. Ale v konfrontaci s plně naprogramovaným robotem, který se neochvějně choval jako dokonale morální lidská bytost, nemohli bychom vypadat jednoduše předpojatí (nebo ‚humanisté‘), abychom mu upírali status morální agentury? Tady stojím: Nemohu dělat nic jiného, ​​není zjevně třeba odmítat jako skutečně morální postoj.

Můžeme se také zeptat Asimova: Jak relevantní pro morálku jsou robotické zákony, které řídí jejich chování vůči lidé ? Nebylo by první otázkou, jak by se roboti k sobě navzájem vztahovali? Samotná myšlenka pozorování nebo testování robota na morální jednání by mohla být zkreslená, pokud bychom toto kritérium omezili na jeho zacházení s lidmi. To by se za stejných okolností týkalo i jestřába a veverky. Možná bychom měli skutečně zkoumat interakci jestřába s jinými jestřáby, abychom zjistili, zda přece jen projevuje morální svobodu jednání.

Pak bychom mohli dále uvažovat, zda by to mohlo být stupně morální svobody jednání namísto pouze členství všeho nebo ničeho v množině mravních činitelů. A jedním z měřítek stupně by mohlo být přesně to, jak velké členství existuje v kruhu morální trpělivosti. Stávají se lidé morálnějšími do té míry, do jaké dáváme morální ohled na roboty a jestřáby?

Takové otázky se jen množí. Hledání odpovědí by pravděpodobně vyžadovalo jak empirické zkoumání, tak teoretické vysvětlení, protože jsme revidovali samotný náš pojem morálky ve světle pečlivějších a rozsáhlejších pozorování a vzniku nových entit. Empirická část by byla komplikována etickými úvahami předpokládanými kvůli zvířatům a robotům, a to nejen o tom, jak nebo zda bychom je měli testovat nebo dokonce pozorovat, ale také o tom, zda bychom měli zavádět nové typy, jako jsou stroje, které by mohly zažít bolest. Existuje tedy mnoho dobrých důvodů pro spolupráci mezi etology, robotiky a etiky – ach můj!

Joel Marks je emeritním profesorem filozofie na University of New Haven ve West Haven, Connecticut. Jeho web je moralmoments.com .