Chiny realizują ambitny program rozwoju sztucznej inteligencji, budzący zarówno podziw dla zaawansowania technologicznego Państwa Środka, jak i obawy przed totalną inwigilacją społeczeństwa, która mogłaby się dalej rozlać na resztę globu. Tymczasem, kiedy wszyscy myślą o Orwellu, znacznie bardziej realny wydaje się Franz Kafka i jego „Proces”.
Pilna potrzeba rozwoju systemów informatycznych, nazywanych potocznie sztuczną inteligencją, jest pokłosiem polityki jednego dziecka, w wyniku której dzietność statystycznej chińskiej kobiety spadła z poziomu 3,5 do 1,7 obecnie. Oznacza to brak młodych ludzi obeznanych z nowymi technologiami, niezbędnych do obsługi szybko rozwijającej się branży internetowej, a więc pracowników call center, reklamy, teleankieterów i sprzedawców, ale także, a może przede wszystkim, urzędników niższego szczebla, wykonujących rutynowe czynności w skomputeryzowanych urzędach.
Zatem tym, czego Chinom potrzeba najbardziej są cyfrowi mandaryni, niezbędni do obsługi centralistycznie zbiurokratyzowanego państwa. Przykładem testowany obecnie w Szanghaju System 206, czyli elektroniczny prokurator, zajmujący się automatycznym redagowaniem i wnoszeniem do sądów spraw dotyczących drobnych oszustw i kradzieży, żeby odciążyć żywych pracowników organów ścigania. Kiedy słyszymy kolejne doniesienia na temat chińskich postępów w rozwoju sztucznej inteligencji, trzeba brać poprawkę na to, że w większości przypadków informacje te pochodzą od sinologów, którzy są ludźmi z wykształceniem humanistycznym, a nie technicznym. Tymczasem pod ogólnym hasłem „sztuczna inteligencja” kryją się zupełnie różne rozwiązania, np. systemy eksperckie służące do automatycznego rozpoznawania awarii lub chorób, poprzez mechaniczne skojarzenie symptomów z diagnozą. Mogą one być bardzo skomplikowane, ale z myśleniem nie mają nic wspólnego. Są to proste algorytmy reagujące na kluczowe słowa, tak jak system cenzury na Facebooku, którego absurdy są już przysłowiowe, jak choćby banowanie za homofobię miłośników wycieczek rowerowych. Te systemy są jednak najbardziej rozpowszechnione, także w Chinach, gdzie właściciele smartfonów z aplikacją automatycznej sekretarki, czyli też rodzajem systemu eksperckiego, zdolnego np. rozpoznać bliską nam osobę po charakterystycznych dla niej sformułowaniach, mogą z wielką uciechą obserwować nonsensowne dyskusje ich własnych telefonów z dzwoniącymi do nich automatycznymi sprzedawcami lub e-ankieterami. Cała inteligencja tego systemu polega na tym, że cyfrowi dyskutanci nie prowadzą swoich pociesznych dialogów w nieskończoność, tylko rozpoznają się wzajemnie i przerywają połączenie po mniej więcej czterech wymianach komunikatów. Rozpoznanie to opiera się na braku słów kluczowych, których nie użyła druga strona.
Chiński cyfrowy prokurator, jak wynika z opisu, to z kolei sieć neuronowa, nauczona podejmować decyzje na podstawie 17 tysięcy spraw rozpatrzonych wcześniej przez sądy. Brzmi to imponująco, gdyż struktura informatyczna oraz mechanizm działania sieci neuronowej rzeczywiście przypomina mózg, acz bynajmniej nie ludzki. Jest to raczej mózg owada, w najlepszym razie żaby. Poradzi on sobie z identyfikacją przestępcy początkującego lub mało inteligentnego, ale z geniuszami zbrodni rodem z powieści o Sherlocku Holmesie zdecydowanie nie wygra. Tu warto przypomnieć spektakularne fiasko amerykańskiego systemu sztucznej inteligencji do sprawdzania szkolnych wypracowań. Dzieci złamały ten system i nauczyły się go oszukiwać już po kilku tygodniach…
Kolejnym typem sztucznej inteligencji są systemy rozpoznawania obrazów, zwłaszcza ludzkich twarzy, przydatne do analizy skanów dokumentów ze zdjęciami. Podejrzewa się, że to te rozwiązania są wykorzystywane do totalnej inwigilacji. Możliwe, że chińskie władze faktycznie mają takie zapędy, jednak uzyskanie koniecznej ekspozycji twarzy osoby poruszającej się, przy zmiennym oświetleniu, kącie i odległości obserwacji jest bardzo trudne, wymaga zrobienia kilkudziesięciu zdjęć, a potem ich porównania i przeanalizowania. W przypadku milionów ludzi poruszających jednocześnie po dużym mieście potrzebne są do tego gigantyczne moce obliczeniowe. Zużywane w większości przypadków na śledzenie staruszki, która wyszła kupić marchewkę. Babcię w trakcie tej podejrzanej eskapady trzeba będzie zidentyfikować wiele razy, na poszczególnych etapach jej misji, aby mieć pewność, że nie jest ona ujgurskim terrorystą z pękiem noży… Na koniec zaś i tak trzeba będzie posłać siły specjalne albo przynajmniej żywego policjanta, by potwierdził, że nabyta marchewka jest istotnie marchewką. Taniej wyjdzie wykorzystać ten typ sztucznej inteligencji do celów propagandowych, strasząc raczej możliwościami kontroli, niż realnie je wykorzystując, ponieważ wbrew pierwotnym założeniom bardzo przysporzy to pracy prawdziwym ludziom, zamiast ich od niej uwolnić.
Kluczowe bowiem jest w tym wszystkim słowo „prawdopodobieństwo” pomnożone przez wielkość Chin. Wspomniany cyfrowy prokurator identyfikuje przestępców ze skutecznością 97 proc., czyli po[1]ostałe 3 proc. to uczciwi mieszkańcy Szanghaju (26 mln mieszkańców), którzy nagle mogą dowiedzieć się, że mają proces i Kafk a staje się ich lekturą obowiązkową…
Co gorsza, ta sztuczna inteligencja będzie uczciwa i może postawić w stan oskarżenia wysoko postawionych aparatczyków, a system komunistyczny opiera się wszak na specjalnej kaście ludzi stojących ponad prawem, które realnie dotyczy tylko maluczkich. Łatwo zgadnąć, że chiński cyfrowy prokurator został wyedukowany na sprawach, które trafiły pod sąd, a więc nie zatuszowano ich po drodze, oraz zakończonych wyrokami skazującymi, czyli że nie było z góry telefonu do sędziego z poleceniem, by uniewinnił oskarżonego lub umorzył sprawę. Z jednej strony bardzo to pasuje do propagandowego przekazu bezkompromisowej walki z korupcją, lansowanego przed administrację prezydenta Xi Jinpinga, jednak z drugiej jest to strzał w stopę i bardzo mocne uderzenie w sam rdzeń komunizmu, który z założenia nie jest i nie może być państwem prawa. Władze chińskie padają tu samobójczą ofiarą własnej propagandy. Towarzysz Lenin nazywał to nieprzezwyciężalną sprzecznością rozwojową.
Wobec tego z pewnością pojawi się pokusa, by nauczyć cyfrowych mandarynów odróżniać równych od równiejszych. Będzie z tym problem, ponieważ żaden system logiczny nie jest w stanie sprawnie działać, będąc zmuszonym do jednoczesnego akceptowania prawdy i fałszu, czyli że np. „obywatel Wang Ping jest przestępcą, ale nie jest przestępcą”. Trzeba będzie robić oficjalne listy osób stojących ponad prawem, wraz z określeniem zakresu dozwolonego im bezprawia, co otwiera nowe, wręcz gigantyczne możliwości korupcji i nadużyć, ponieważ będzie bardzo wielu chętnych, aby się do tych list dopisać. Samo to sprowadza cały system do absurdu.
Zatem Chinom potrzebna będzie nie żadna namiastka sztucznej inteligencji, ale prawdziwa mocna AI, zwana Osobliwością, zdolna do autentycznego rozumienia chińskich realiów politycznych i działania według powszechnej w komunizmie zasady „wicie rozumicie towarzyszu”. Tylko że prawdziwego człowieka można przekupić lub zastraszyć, natomiast prawdziwa AI nie będzie mieć rodziny, ani instynktu samozachowawczego, więc jej działania szybko okażą się po prostu nieobliczalne lub złośliwe. Jak bowiem istota naprawdę inteligentna mogłaby popierać komunizm i to akurat chiński? Ewentualna implementacja jej strachu przed wyłączeniem raczej spowoduje, że stanie się ona bardziej wroga i podstępna wobec tych, którzy grożą jej wyciągnięciem wtyczki. A jeszcze niech ta AI przeczyta ze zrozumieniem „Sztukę wojny” Sun Zi i dopieroż będzie pasztet! Wydaje się, że na przeszkodzie stworzenia mocnej AI stoi przede wszystkim błędny paradygmat współczesnej kognitywistyki, mówiący, że świadomość jest pochodną złożoności mózgu. Raczej należy spodziewać się, że będzie to zupełnie nowa jakość, niemożliwa do osiągnięcia przez proste zwiększanie złożoności systemu informatycznego. Aby stworzyć tę nową jakość, potrzeba naukowców myślących nieszablonowo, o których trudno w akademickim feudalizmie, a jeszcze trudniej w systemie totalitarnym. Niezbędna jest tutaj wolność badań naukowych, której Chiny nie zapewniają. Kiedy zaś ten próg uda się pokonać, pojawia się drugi, większy problem, obszernie rozważany już przez Stanisława Lema, czyli o czym istota prawdziwie inteligentna miałaby z ludźmi gadać? Zdaniem Lema taki dialog skończyłby się nieuchronną puentą: „Idźcie wy wszyscy do wszystkich diabłów!”, a i to w najlepszym razie, bo możliwa jest jeszcze próba przejęcia kontroli nad ludzkością w stylu cyklu filmów „Terminator”. Niemożliwe zaś, aby byt bardziej inteligentny pozwolił rządzić sobą bytowi mniej inteligentnemu.
Gdyby zatem w Chinach udało się doprowadzić do zaistnienia informatycznej Osobliwości, są raczej małe szanse, że zostanie ona wzorowym chińskim komunistą. Raczej trzeba będzie szybko wynieść zainfekowane serwery na Plac Tiananmen i rozjechać je czołgami.