Czy możliwe jest stworzyć system polityczny wolny od korupcji, arbitralnych decyzji i uprzedzeń ludzkich? Rząd, który niczym maszyna nie zajmuje się ciągłymi dysputami o słuszność i niesłuszność ideologiczną potrzeb i wymagań społeczeństwa, lecz odczytuje je i wyszukuje najbardziej efektywny sposób ich spełnienia. Bez dziur, nadużyć i działań sprzecznych z prawem i operujący na analizie czystej informacji zamiast osobistych ocen ze strony polityków. Kontynuując cykl eksplorujący wizje potencjalnej przyszłości polityki, poniższy artykuł przybliży wizje systemu politycznego, jakim jest cyberokracja, którego zwolennicy zapewniają, iż będzie on w stanie spełnić wszystkie wyżej wymienione wymogi.
Dao, lex naturalis i informacja
Filozofia przyświecająca cyberokracji podobnie jak w przypadku technokracji, którą omówiłem w poprzednim artykule tego cyklu, zakłada, iż politycy nie posiadają odpowiednich kompetencji, by sami podejmować decyzje dotyczące państwa. W przeciwieństwie do technokratów, zwolennicy cyberokracji widzą brak ekspertyzy u polityków jako jedynie aspekt większego problemu, jakim jest nieefektywne wykorzystanie informacji. Tym samym podstawową ideą cyberokracji nie jest “władza mądrych”, a raczej “władza niepersonalna” której system prawidłowo adaptuje się do sytuacji bez wkładu osobistego ludzi rządzących.
Podobnie jak “władza mędrców” będąca pra-ideą współczesnej technokracji tak i myśl o “władzy bezosobowej” ma swoje korzenie w odległej przeszłości. W starożytnych Chinach filozofowie należący do szkoły “legistów” krytykowali współczesnych im zwolenników Konfucjusza za opowiadanie się za modelem państwa opierającym się o mądrość władcy. Uważali, iż idealna władza nie powinna być poddana osobistym sądom nawet najmądrzejszego władcy. Zamiast tego proponowali stworzenie państwa opartego o prawo dyscyplinujące obywateli, któremu poddani byliby wszyscy włącznie z cesarzem. Prawo to miało obiektywizować działanie władzy i działać bezosobowo, wolne od arbitralnych decyzji ludzi niczym naturalne prawo dao. Władza jedynie przetwarzałaby informacje o sytuacji i reagowała zgodnie z określonymi przepisami.
Również w Europie idee władzy, która musi działać zgodnie z określonymi z góry imperatywami, bez względu na opinie osobiste towarzyszyły społeczeństwom od starożytności. Określane przez starożytnych Rzymian jako lex naturalis, prawo natury musiało być zawsze przestrzegane, jeśli chciano rządzić dobrze. Prawa i decyzje ludzkich władców według ówczesnych filozofów powinny być bazowane na tych wyższych wytycznych bez względu na opinie samych rządzących.
Algorytmy władzy
Rozwój technologii informatycznych na początku XXI wieku otworzył jednak zupełnie nowe możliwości dla idei “rządzenia automatycznego”. Cyberokracja, czyli rządy informacji w wizjach futurologów najczęściej przyjmuje formę władzy wykorzystującej sztuczną inteligencję jako efektywny sposób ograniczenia czynnika ludzkiego w procesie politycznym.
Najłatwiejszym sposobem aplikacji cyberokracji w systemach politycznych, z którym niektóre współczesne państwa już zaczeły eksperymentować jest wykorzystanie zaawansowanych algorytmów. Algokracja jako typ cyberokracji miałby polegać na wykorzystaniu sieci wielu SI podejmujących decyzje na podstawie otrzymywanych danych i wcześniej zaprogramowanych wytycznych. W praktyce objawiać się może to w rzeczach zarówno tak prostych, jak automatyczne włączanie świateł ulicznych w nocy, jak i tak skomplikowanych, jak zarządzanie zaawansowanym systemem oceny zachowania obywateli. Istotnie Chińska Republika Ludowa w ostatnich latach poczyniła wiele kroków w kierunku adaptacji alogrytmów do usprawnienia chińskiego reżimu. System zaufania społecznego jest najsławniejszym aspektem chińskiej algokracji jednak niejedynym. Od 2020 ChRL dumnie ogłasza, że jest pierwszym państwem na świecie utrzymującym “cyber-sąd” ze sztuczną inteligencją na miejscu sędziego.
Chiny oczywiście nie są jedynym państwem wykorzystującym algorytmy w zarządzaniu państwem. W USA algorytm używany jest, by określić ryzyko recydywizmu, W Estonii rząd ogłosił plan zatrudnienia sztucznej inteligencji do sądzenia w sprawach przestępstw niskiego stopnia, w UK, od czasów pandemii COVID-19 SI używane jest do wystawiania ocen semestralnych z niektórych przedmiotów. W Tokyo pojawiła się propozycja zatrudnienia sztucznej inteligencji jako burmistrza miasta, który według proponentów reformy byłby dużo bardziej efektywny w analizowaniu petycji obywateli i potrzeb miasta.
W bardziej odległej przyszłości wykorzystanie algorytmów potencjalnie mogłoby rozszerzyć się na niemal wszystkie aspekty rządu. Wraz z udoskonaleniami ich zdolności interpretacji danych według niektórych futurologów gigantyczna sieć algorytmów mogłaby w przyszłości stworzyć państwo zarządzane niemalże całkowicie automatycznie.
Państwo sztucznej superinteligencji
Cyberokracja mogłaby przyjąć jednak formę inną niż zdecentralizowana sieć algorytmów. Jeśli w przyszłości będziemy w stanie zbudować sztuczną inteligencję o zdolnościach przekraczających ludzkie, istnieje możliwość, iż zdecydujemy się oddać takiej kreacji władzę jako bardziej kompetentnej i zdolnej do szybszego rozwoju niż jakikolwiek człowiek.
Według zwolenników rządu w formie tzw. Singletonu kontrolowanego przez sztuczną superinteligencję będącą jedynym i najwyższym ośrodkiem decyzyjnym, taki porządek pozwoliłby ludziom na oddanie się komfortowemu życiu, hobby i przyjemnościom. W tym samym czasie SI miałoby podejmować wszystkie istotne decyzje, organizować infrastrukturę, życie publiczne i dbać o potrzeby obywateli za pomocą robotów i tym podobnych sterowanych zdalnie technologii.
Problemy i dystopia SI
Podstawowym problemem wszelkich wizji rządów SI i algorytmów jest jednak całkowicie fałszywe przeświadczenie o obiektywności sztucznej inteligencji. Jak pokazują przykłady SI uczących się rasizmu poprzez obserwacje ludzi, sztuczna inteligencja wcale nie jest bardziej obiektywna od jakiejkolwiek innej formy inteligencji. Podobnie jak ludzie uczą się one przez obserwację innych, a więc istnieje prawdopodobieństwo, że skorumpowane środowisko może skorumpować nawet zimną logikę SI.
Wśród niektórych wizja władzy sztucznej superinteligencji może również wywołać obawy powstania dystopijnego totalitaryzmu, dowodzonego przez wszechobecnego i wszechwiedzącego dyktatora. Istotnie w sytuacji, w której sztuczna superinteligencja osiągnęłaby absolutną władzę, nie istniałyby żadne prawdopodobne drogi obalenia jej przez ludzi, w razie, gdyby obróciła się przeciw jej twórcom.
Największym zagrożeniem cyberokracji nie jest jednak tyrania maszyn a zwyczajne błędy w oprogramowaniu. Źle napisany algorytm, któremu powierzono władzę może, skazać niewinną osobę na życie w więzieniu, zaplanować miasto w absurdalny sposób, czy oblać studenta bez odpowiedniego powodu. Oczywiście warto pamiętać, że wszystkie te błędy popełnić mogą również ludzie, jednak dowodzi to, iż władza zautomatyzowana wciąż podlega problemom związanych z obiektywnością. Wreszcie warto przypomnieć, iż “polityka pragmatyczna” to w dużej mierze pewna narracja. Pragmatyzm to sposób działania jednak poziom “efektywności” musi być oceniany w odniesieniu do ideologicznych celów. Tym samym działanie potencjalnej cyberokracji będzie w wielu aspektach oparte o ideologiczne poglądy programistów.
Mimo wszystko jednak cyberokracja już dziś częściowo jest obecna w naszej rzeczywistości i wszystko wskazuje na to, że jej wkład w życie społeczne jedynie się zwiększy. Wobec tego stoimy przed wyzwaniem zdecydowania, w jakim stopniu chcemy, by była ona częścią naszej polityki, a gdzie będziemy chcieli postawić granice, których nie można przekraczać.
