Za Stanislavem Lemem

O MORÁLCE HOMEOSTATŮ
Nastal čas zavést do okruhu našich kybernetických úvah problematiku morálky. Ve skutečnosti je situace opačná: problémy etiky do kybernetiky nezavádíme my, to ona při svém růstu zasahuje svými důsledky všechno, co považujeme za morálku, tzn. systém kritérií, hodnotících jednání způsobem, z hlediska čistě věcného, svévolným. Morálka je stejně svévolná jako matematika, obě se totiž odvozují logickými úvahami z přijatých axiomů. Lze prohlásit za jeden z geometrických axiomů, že bodem, ležícím mimo přímku, se dá vést jediná rovnoběžka. Lze tento axiom zavrhnout a pak získáme neeukleidovské geometrie. Je důležité, abychom si uvědomili, kdy postupujeme předem dohodnutým způsobem jako při volbě geometrických axiomů, poněvadž tato volba, tato dohoda záleží na nás. Lze prohlásit za jeden z morálních axiomů, že děti, které se narodí zmrzačené, je třeba zabíjet. Získáme z historie známou „tarpejskou" morálku, jejíž urputné diskutování a definitivní zavržení vyvolala v naší době aféra thalidomidu. Často se říká, že existují nadhistorické morální příkazy. Z tohoto hlediska „tarpejská morálka", i v nejmírnější formě (projevující se např. používáním euthanasie vůči lidem trpících mukami nevyléčitelných nemocí) je nemorální, je zločinem, zlem. V podstatě tu jde o hodnocení jednoho morálního systému z pozic jiného systému. Samozřejmě vybíráme ten druhý, „netarpejský" systém, když si však uvědomíme, že vznikl v průběhu společenského vývoje člověka a nebyl zjeven, je třeba uznat fakt historického praktikování odlišných systémů. To, že se hlásaná morálka rozchází s morálkou praktikovanou, problém komplikuje, nás to však vůbec nezajímá, protože se omezujeme pouze na reálnou činnost a pomíjíme její nepochybně možnou kamufláž čili prostě dezinformaci. Ten, kdo dezinformuje, hlásá slovy jinou morálku než činy. Samotná potřeba dezinformace jen ukazuje, že určité morální axiomy obecně panují ve společenském vědomí, jinak by totiž nebylo třeba fakta zastírat. Avšak tatáž fakta mohou být v různých civilizacích hodnocena naprosto odlišně. Srovnejme morální aspekty současné a babylonské prostituce. Babylonské kněžky-prostitutky se oddávaly nikoli pro osobní prospěch, ale z „vyšších důvodů", jejich náboženství totiž takový postup schvalovalo. Byly v plné shodě s morálkou, odvozenou z tohoto náboženství. Proto si ve své době a společnosti, na rozdíl od současných kurtizán, nezasluhovaly opovržení. Podle dnešních morálních kritérií je totiž prostituce morálně závadná. Stejná činnost má tedy ve dvou různých civilizacích naprosto odlišné hodnocení.
Zavádění kybernetické automatizace vyvolává dost neočekávaně morální dilema. Stafford Beer, jeden z amerických pionýrů kybernetizace velkých kapitalistických výrobních jednotek, navrhuje sestrojení „podniku-homeostatu" a jako příklad uvádí podrobnou teorii regulace činnosti velké ocelárny. Její „mozek" má optimalizovat všechny procesy, probíhající při výrobě oceli tak, aby byla co nejefektivnější, nejlepší a současně nezávislá na poruchách nabídky (pracovních sil, rudy, uhlí atd.) i poptávky, stejně jako na vnitřních systémových vadách (nerovnoměrnost produkce, nežádoucí růst vlastních nákladů, maximální produktivita na jednoho pracovníka). V jeho představě má být taková produkční jednotka ultrastabilním homeostatem, který vnitřní reorganizací okamžitě reaguje na každou odchylku od rovnovážného stavu a tím se k tomuto stavu navrací. Diskutující odborníci, kterým byl tento teoretický model předložen, upozornili na to, že mu chybí „náboženství". Beer vědomě vymodeloval onu ocelárnu-homeostat podle zásad činnosti živého organismu. Jde o to, že vlastně jediným kritériem „hodnoty" organismu v přírodě je jeho schopnost přežití - za každou cenu. To znamená eventuálně i za cenu pohlcení jiných organismů. Přírodovědec, který chápe, že přírodě chybí „systémy morálního hodnocení", nepovažuje jednání hladových dravců za „morálně špatné". Otázka tedy zní: smí „ocelárna-organismus" (tj. „má právo") „požírat" v případě potřeby své konkurenty nebo ne? Takových otázek, možná trochu méně drastických, je víc. Má taková homeostatická jednotka směřovat k maximální produkci nebo k maximálnímu zisku? A co když se po určité době v důsledku nových technologických řešení výroba oceli stane zbytečná? Má „tendence přežití" zabudovaná do „mozku" tohoto výrobního systému vést k jeho úplné přestavbě, např. aby reorganizoval sám sebe ve výrobce plastických hmot? A proč právě plastických hmot? Čím se má řídit při této totální reorganizaci - maximální společenskou užitečností? Nebo ziskem?
Beer se odpovědi na tyto otázky vyhýbá a tvrdí, že nad „mozkem" ocelárny je ještě dozorčí rada soukromých majitelů, která rozhoduje o obecných záležitostech nejvyššího řádu. Mozek je pouze optimálně realizuje.
Tím se Beer zpronevěřuje „autonomicko-organizační" zásadě vlastní koncepce a přenáší všechny „morální" otázky mimo systém „černé skříňky", do působnosti dozorčí rady. Tento únik je však jen zdánlivý. „Černá skříňka" i s tímto omezením bude rozhodovat o morálních záležitostech, např. o propouštění dělníků či snižování mezd, jakmile to bude vyžadovat zásada optimální činnosti ocelárny jako celku. Můžeme si snadno představit, že dojde k „boji o život" Beerovy ocelárny-homeostatu s jinými, projektovanými jinými kybernetiky, sloužícími jiné společnosti. Buď bude ve své kompetenci omezena tak, že se bude neustále obracet s rozhodnutími k lidskému „manažerovi" (zda ruinovat konkurenta, protože se naskytla příležitost atd.), nebo zatížena jejich morálními důsledky se nebude rozvíjet. V prvním případě bude narušen samotný autoregulační princip homeostatu-výrobce. V druhém začnou homeostaty ovlivňovat lidské osudy způsobem často nepředvídaným jejich tvůrci a může dojít ke zhroucení hospodářství celé země proto, že si jeden z homeostatů poradí se zadaným úkolem příliš dobře a zruinuje všechny konkurenty.
Proč je v prvním případě narušen princip činnosti „černé skříňky"? Protože taková „skříňka", takový regulátor, se vůbec nepodobá člověku v tom smyslu, že je mu možné klást otázky v každé etapě rozhodování, a že je na tyto otázky (na společenské důsledky jednotlivých kroků svého jednání) schopen odpovídat. Ostatně ani člověk-manažer - často tyto vzdálené důsledky svých rozhodnutí nezná. „Černá skříňka", která má „udržet při životě" ocelárnu reagováním na všechny změny „vstupů" (ceny uhlí, rudy, strojů, výše mezd) i „výstupů" (tržní cena oceli, poptávka po jejích jednotlivých druzích) a taková „černá skříňka", která navíc ještě bere v úvahu zájmy zaměstnanců a snad i konkurentů, to jsou dvě zcela odlišná zařízení. První bude schopnější jako výrobce než druhé. Zavedení do prvotního programu, do „axiomatického jádra" jednání, zákonodárství platné pro všechny výrobce přítomné na trhu, činnost homeostatů ve vztahu k pracovníkům omezuje, ale může ji např. zvětšit ve vztahu ke konkurenčním firmám nebo výrobcům oceli v jiných kapitalistických státech. Nejdůležitější je však to, že „černá skříňka" vůbec „neví" o tom, na čí účet tak funguje a nelze od ní vyžadovat, aby informovala o takových výsledcích svých rozhodnutí lidi, poněvadž ex definitione její vnitřní stavy nikdo, včetně projektanta-konstruktéra, nezná. Právě takové důsledky při zavedení homeostatických regulátorů měl na mysli Norbert Wiener, když v jednom vydání své základní práce Cybernetics věnoval zvláštní kapitolu nevypočitatelným důsledkům jejich činnosti. Mohlo by se stát, že nebezpečí tohoto typu zabrání v zárodku spuštění „černé skříňky" vyššího typu jako „stroje na řízení" - ne lidmi, ale jim podřízeným „černým skříňkám" individuálních výrobců. Promýšlení důsledků takového kroku může být nesmírně zajímavé.

(Summa technologiae, česky v překladu P. Weigela Magnet-Press Praha 1995)

Zastánci globální počítačové sítě často vychvalují situaci nedaleké budoucnosti, kdy bude mít člověk z domu přístup do všech knihoven i videoknihoven světa, díky zdokonalenému e-mailu, elektronické poště, se bude moci oddávat intenzivní výměně myšlenek s bezpočtem lidí, bude si moci prohlížet umělecká díla, obrazy mistrù i své kresby, a obrazy vytvářené na obrazovce počítače bude moci vysílat do celého světa, bude moci vyvíjet intenzivní hospodářskou činnost nákupem a prodejem cenných papírù, akcií, svádět půvabné osoby druhého pohlaví nebo jimi být sváděn a občas si nebýt jistý, jde-li o erotické fantomy, nebo o lidi z masa o kostí, navštěvovat vzdálené země, prohlížet si jejich krajiny... a tak dále, a to bez nejmenšího rizika (nanejvýš finančního), přesto však bude zùstávat o samotě a to, co bude prožívat, bude výsledkem celoplanetárního rozšíření a prodloužení všech jeho smyslù. Pokud tomu tak bude, mohu jen říct, že za všechny poklady světa bych s tak obštastněným člověkem, který má tak nádhernou a současně tak iluzorní šanci na splnění všech přání, nikdy neměnil. Jistě, elektronickou vazbu "se vším a všemi" není jednoduché nazvat zdokonaleným technickým podvodem, avšak tam, kde bude v budoucnosti opravdová příroda nahrazena její dokonalou nápodobu, kde začne mizet rozdíl mezi přirodním a umělým, v samotě plné elektroniky a kouzel, bude možná, kdo ví, číhat - jako touha po autenticitě, skutečném riziku a opravdovém přemáhání životních potíží - depresivní šílenství.
Tak fatálně tento rozvojový směr určitě neskončí, avšak o jeho možné hranici má smysl už dnes alespoò chvíli uvažovat.

(Z eseje "Informační labyrinty", překlad P. Weigela vyšel v knize "Tajemství čínského pokoje", MF Praha 1999)