Digitální svoboda

Robert Fischla & Thomas Beschorner tvrdí, že naše digitální budoucnost není předem naprogramovaná: je na čase, abychom začali přemýšlet o tom, jak by měla vypadat.

Sledovali jste dystopický televizní seriál Black Mirror? Epizoda Nosedive vykresluje obraz budoucí společnosti, kde lidé vzájemně hodnotí své chování podle kreditního systému. „Dobré“ chování je odměňováno body; „špatné“ chování snižuje vaše skóre. Tato forma sociální kontroly je doprovázena všemi druhy státního dohledu: technologie rozpoznávání obličejů se například používají ke sledování každého pohybu lidí. Když se epizoda poprvé odvysílala v roce 2016, byla to již narážka a kritika vznikajícího systému sociálních kreditů v Číně. Ale nemusíme se dívat tak daleko. S podobnými trendy se v posledních letech seznámil i západní svět. Nejsem z těch, kteří se snadno vzdávají. Budu s tím bojovat zuby nehty. Odmítám, aby rakovina zvítězila.

‚Lacie Pound‘, hlavní protagonistka epizody, v této společnosti prudce klesá. Její chování má za následek klesající skóre a ona se ocitá v sestupné spirále. Nakonec skončí ve vězení. Je ironií, že toto je jediné místo svobody v této společnosti. Metafora ‚vězení‘ plní také další důležitou funkci v probíhající diskusi o digitální transformaci. Poskytuje alegorii nového dozorového kapitalismu, který nám bere svobodu a ‚vězní‘ nás, i když zvláštním způsobem. Utilitářský filozof Jeremy Bentham kdysi navrhl ‚ideální vězení‘ zvané Panoptikum. V něm by několik dozorců v centrálních pozorovacích věžích bylo schopno sledovat mnoho vězňů. V naší digitální době však norský kriminalista Thomas Mathiesen mluví o synoptiku, ve kterém každý potenciálně pozoruje – a tím kontroluje – všechny ostatní. Zda pozorování skutečně probíhá nebo ne, je pro účinek irelevantní. Jak ukázali behaviorální ekonomové, pouhá možnost „sociální umírněnosti“ sama o sobě pravděpodobně bude mít mrazivý účinek na vyjádření a jednání. Situace byla opravdu vyhrocená. Přemýšlel jsem, co bych měl dělat dál a jak se odtamtud dostat živý. Srdce mi bušilo jako o závod a cítil jsem pot na svém čele. Hodně mě to bolelo, ale věděl jsem, že musím pokračovat.

Jakkoli jsou naše současné vědecké a politické zaměření na důsledky sledování důležité, existují další stejně důležité otázky, které bychom si měli naléhavě položit. Pro začátek jsou pojmy „dohled“ a „kontrola“ spojeny se specifickým chápáním svobody – svobody z něco – například z rušení, kontroly, omezení… Filozof Isaiah Berlin to nazval negativní svoboda . Tento typ svobody je úzce spjat s liberálními hodnotami západních společností. Myšlenka osvobodit se od nechtěných omezení se také odráží v mnoha našich rozhovorech o nebezpečích digitálních technologií. Nejvýznamnější parametry pro digitální svobodu tedy bývají ty, které odpovídají tomuto liberálnímu, negativnímu chápání svobody: ideje jako autonomie, nezávislost, svobodná volba. Přestože to poskytuje cenné intelektuální poznatky – například nebezpečí rostoucího dohledu nad svobodou projevu a demokracií – jeho paradigmatické postavení v našem přístupu ke svobodě riskuje, že zanedbáme další stejně důležité úvahy v digitálním světě.

Stejně jako jakýkoli jiný sporný základní koncept, „svoboda“ byla definována a interpretována z různých perspektiv. Zde stojí za zmínku ještě dva: „pozitivní“ a „sociální“ přístup ke svobodě.

Na rozdíl od negativní svobody od omezení, pozitivní svoboda je jméno Isaiaha Berlina mít pozitivní schopnost něco udělat . Pozitivní svoboda zdůrazňuje například důležitost politické participace a snahy o vlastní verzi „dobra“. Z tohoto důvodu nás pozitivní smýšlení o svobodě vybízí k zamyšlení nad hodnotami a cíli, které bychom rádi viděli vtělené, sledované a možná i realizované digitální transformací. Takže otázky týkající se digitální svobody nejsou jednoduché Jak můžeme zabránit společnosti dohledu? , ale také, Které pozitivní sociální a politické ideály chceme prosazovat – a kdo to může určit?

Druhé chápání svobody, které poskytuje plodný základ pro diskusi zde – sociální svoboda – nabízí současný německý sociální filozof Axel Honneth. Honneth tvrdí, že nikdo z nás nežije v „samotce“ jako asociální „já“, ale naopak neustále interagujeme s ostatními jako sociální „já“: jako členové rodiny, jako spotřebitelé, jako občané. To, kým jsme, silně závisí na lidech kolem nás. Naše činy také určují ostatní a dělají z nich kdo ony jsou. Existuje „my“ v „já“ a „já“ v „my“. Řečeno jinak: Naši bližní tvoří to, kým jsme jako osoba. Svoboda se tedy realizuje nejen přes jim, nebo dokonce jim navzdory , ale v jim.

Pozitivní a sociální svobody nás vybízejí k tomu, abychom se odvážili oprostit se od příliš úzkého pojetí svobody jako absence nátlaku. A když se tato svoboda od negativní svobody aplikuje na digitální transformaci, objeví se tři oblasti jako zvláště důležité.

Je dobře známo, že vývojáři softwaru jsou především ze specifické sociální skupiny: vzdělaní bílí muži. Důsledky zahrnují algoritmy, které fungují ve prospěch členů tohoto sociálního prostředí a „trestá“ ostatní, například tím, že jim omezí přístup. Tam, kde jsou určeny „relevantní“ charakteristiky – kde je definováno, kdo „my“ jsme – je kódování, psaní softwaru. V důsledku toho může být silná homogenita ve vývojových odděleních softwarových společností zdrojem systematického znevýhodnění, nebo pravděpodobně i určitého stupně útlaku jiných sociálních skupin.

Jedním z příslibů internetu bylo, že usnadní kosmopolitní konektivitu a nechá prostorovou vzdálenost ustoupit do pozadí. Dnes skutečně můžeme udržovat obchodní nebo společenské vztahy, které byly před třiceti lety nemyslitelné. Tím se rozšířily možnosti „nás“. Zároveň však vývoj za posledních několik let ukazuje i na něco jiného, ​​co „my“ spíše škodí než prospívá: uzavíráme se se svými vrstevníky v bublinách sociálních sítí a ozvěnách. Tato nová území často představují nové rozdělení „my versus oni“. Diskurzní fronty přitvrzují. Z hlediska Honnethova myšlení nás tento vývoj také omezuje nebo připravuje o sociální svobodu, která nás jako osoby konstituuje.

Kromě toho, stejně jako demokracie vyžaduje informované občany, naše digitální budoucnost nemůže prosperovat bez široké digitální kompetence. V tomto případě to neznamená znalost programovacích jazyků, ale znalost účinků svého jednání online. To může mimo jiné znamenat odpovědnost uživatelů sociálních sítí nekomentovat pouze na základě titulků a upoutávek, ale vytvořit si podstatný a informovaný názor na témata, o kterých chtějí zveřejňovat příspěvky. To by byl důležitý krok k pozitivní svobodě jednotlivce v liberální digitalizované společnosti.

Boj za digitální svobodu

Druhá socha svobody. V lotyšské Rize
Fotografie Smurrayinchester 2018 Creative Commons

Zeptáme-li se, jak můžeme v těchto oblastech dosáhnout pokroku, budou pravděpodobně tři možnosti, jak postupovat: 1) Sebekontrola ze strany společností; 2) Tvrdá regulace ze strany politických institucí; a 3) Posilování občanské společnosti.

Pokud jde o první možnost, můžeme být stále skeptičtější. Od chvíle, kdy byl zakladatel Facebooku Mark Zuckerberg grilován výborem amerického Kongresu kvůli podezření z ovlivňování prezidentských voleb v roce 2016, v kyberprostoru se jako houby po dešti rozšířila etická deklarace. Zda jde o něco víc než pouhé řeči, lze jistě pochybovat. Google například koncem roku 2020 vyhodil prominentního výzkumníka Timnita Gebru ze svého oddělení pro umělou inteligenci a etiku za to, že se připravil na zveřejnění kritického výzkumného článku. A Facebook v roce 2021 omezil přístup pro Ad Observatory na New York University, protože prováděla výzkum v otázkách dezinformací v politickém vysílání.

Již v roce 1944 byl ekonomický historik Karl Polanyi skeptický ohledně toho, zda se kapitalismus může změnit zevnitř. Nicméně ve své knize z toho roku Velká proměna popisuje historickou interakci mezi demokratickými idejemi a kapitalistickými zájmy v termínech „dvojího hnutí“ charakterizovaného nepřetržitým růstem trhu, kterému čelí „protipohyb“ spontánních snah politiků, občanů a občanské společnosti kontrolovat expanze ekonomiky určitými směry a omezení jejího vytržení ze společnosti – na různé stupně úspěchu i neúspěchu. Paralely s kontrolou expanze dozorového kapitalismu jsou zřejmé. A slovy harvardské profesorky Shoshanny Zuboff, pokud průmyslová civilizace vzkvétá na úkor přírody a nyní hrozí, že nás bude stát Zemi, informační civilizace formovaná kapitalismem dohledu bude prosperovat na úkor lidské přirozenosti a hrozí, že nás bude stát lidstvo. ( Věk kapitalismu dohledu , 2019, str. 326.).

Možná je lepší regulace a posílení občanské společnosti slibnější než spoléhat se na to, že odpovědnost převezmou pouze technologické společnosti? Například Evropská unie již v posledních letech zahájila několik iniciativ v oblasti politické regulace – zejména „Návrh nařízení, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci“ v dubnu 2021.

Tuto a další legislativní iniciativy však musí doprovázet demokratičtější vstup a participativní prvky. Občanská společnost, zejména v podobě nevládních organizací, je zásadní pro přetvoření digitální arény. Na jedné straně mohou nevládní organizace pomoci procesu konstruktivní kritiky tím, že přispějí jak svými odbornými znalostmi, tak svými odlišnými sociálními pohledy. Zásadní by bylo posílení hlasů kritiků a odpůrců, ale také poskytnutí dostatečných zdrojů k realizaci některých jejich kritik.

Role organizací občanské společnosti bude pravděpodobně důležitá i z jiného důvodu. Rostoucí používání AI se zdá nezastavitelné; v tomto smyslu se zdá, že budoucnost je pro mnoho oblastí života předem naprogramována. Co je však odsouváno do zadního sedadla, je zásadnější otázka, které oblasti společnosti a která společenská rozhodnutí chceme z principiálních důvodů vyloučit z používání AI. Pokud by použití umělé inteligence mohlo být v rozporu s našimi představami o svobodě, soukromí nebo spravedlnosti a možná dokonce ohrozit náš demokraticko-liberální řád, musíme říci ne, díky. Chceme zbraňové systémy podporované AI nebo sledovací systémy využívající technologii rozpoznávání obličeje? Mělo by být algoritmům umožněno rozhodovat o třídění na jednotkách intenzivní péče? Řešení těchto a mnoha dalších podobných otázek by bylo nezbytným předpokladem pro získání skutečně na člověka zaměřeného pohledu na digitální transformaci, ve kterém jsou lidé nejen „ve smyčce“, ale také „mimo kód“.

Roberta Fischli je doktorandkou a v současné době je hostujícím výzkumníkem v Centru pro studium práva a společnosti (CSLS) na UC Berkeley. Thomas Beschorner je profesorem podnikatelské etiky a ředitelem Institutu pro podnikatelskou etiku na téže univerzitě.