W książce Kate Crawford tytułowa sztuczna inteligencja zostaje sprowadzona z nieba na ziemię, zdemitologizowana, a w rezultacie pozbawiona sztuczności i inteligencji. Książka jest znakomitą demonstracją materialistycznej krytycznej antropologii w działaniu. Autorka oprowadza nas po kolejnych warstwach współczesnego świata – kontynentach, które tworzą wyparte zaplecze dla działania tego, co nazywamy algorytmiczną racjonalnością. Te warstwy nowej mapy świata to ziemia i jej rzadkie pierwiastki zasilające materialne podłoże cybernetycznych urządzeń, praca i jej nowe reżimy dyscyplinarne oraz formy wyzysku, dane oraz ich nielegalne gromadzenie i multiplikowanie, cybernetyczne klasyfikacje oraz ich rasizm, potęga odtwarzania i wytwarzanie uprzedzeń, afekty oraz tworzenie monopolu na ich inscenizowanie, czytanie czy wykorzystanie, wreszcie państwo, czyli tworzenie nowego politycznego Lewiatana, którego suwerenność musi rywalizować z suwerennością platform cyfrowych. W rezultacie dzięki książce Kate Crawford wchodzimy do nowej architektury świata, który jedynie udaje, że jest inteligentny i sztuczny. W istocie jest bardzo materialny i bardzo mechaniczny.

Autorka słusznie zauważa, że każda definicja sztucznej inteligencji wyznacza ramy tego, jak będzie ona rozumiana, mierzona i wykorzystywana. Dla Crawford sztuczna inteligencja nie jest ani autonomiczna, ani racjonalna, ani tym bardziej generatywna, czyli zdolna do wytwarzania czegokolwiek bez kosztownego obliczeniowo i energetycznie trenowania sieci cybernetycznych na wielkich zbiorach danych. Czego zatem ważnego uczymy się z tej książki? W jakim sensie jest to atlas, a nie encyklopedia, słownik lub krytyczna analiza?

Atlas jest próbą stworzenia mapy powiązań dotąd osobno spostrzeganych elementów rzeczywistości. Książka Crawford nie przedstawia wewnętrznej budowy modułów oprzyrządowania cyfrowego świata. Atlas sztucznej inteligencji nie opisuje wnętrza AI, ale raczej śledzi relacje między jej mnogimi modułami. Atlas – wedle formuły Georges’a Didi-Hubermana – znajduje się gdzieś pomiędzy estetycznym paradygmatem widzenia a epistemologicznym paradygmatem wiedzy. Atlas to panoramiczne i relacyjne widzenie. Celem Crawford nie jest analiza maszynerii AI, chce ona raczej zrozumieć jej logistykę. W atlasie Crawford spotykamy kopalnie i wyrobiska plądrujące ziemię, silosy i korytarze pożerających energię centrów danych, rozbudowane policyjne bazy i rejestry obrazów, fotografii, klasyfikacje ludzkich afektów, wreszcie centra decyzyjne pozwalające na nieprzerwany handel wykorzystujący rzesze crowdworkerów. Dzięki lekturze książki możemy zrozumieć, co wspólnego mają ze sobą wizyta psychologa Paula Ekmana w górach Papui-Nowej Gwinei, teoria o kodzie afektywnym, w którym mieszczą się wszystkie emocje, przemysł rozpoznawania przez AI afektów oraz kopalnie litu w Nevadzie. To bardzo złożona kartografia, jej główna wartość wynika ze zdolności śledzenia powiązań, których z reguły nie widzimy, koncentrując się jedynie na zyskach ze sztucznej inteligencji, a nie na kosztach. Fascynujemy się tym, co już potrafią roboty, ale zapominamy, jaką cenę płacimy za automatyzację naszego życia.

Crawford dostarcza topografii sztucznej inteligencji jako topografii przemysłu wydobywczego. Górnictwo jest obszarem, w którym mamy do czynienia z materialną polityką sztucznej inteligencji. Współczesna ekstrakcja danych stanowi bowiem przedłużenie i uzupełnienie ekstrakcji górniczej. Zapotrzebowanie przemysłu informatycznego na minerały ziem rzadkich, ropę naftową i węgiel jest ogromne, jednak kosztów wydobycia branża informatyczna nie ponosi. Budowa modeli przetwarzania języka naturalnego i widzenia komputerowego jest energochłonna i doprowadza do zwiększania śladu węglowego. O tym jednak ten „czysty” przemysł informacyjny nie chce wiedzieć.

Nasza nieświadomość dotycząca materialnego osadzenia AI jest wynikiem wielokrotnego wyparcia. Nie chcemy widzieć zrujnowanego świata, którym żywi się postęp AI. Nie widzimy transatlantyckich kabli podwodnych, jezior pełnych toksycznych odpadów, wytrzebionych lasów, które służą do pozyskiwania lateksu. Nie poszukujemy informacji na temat tego, jakim kosztem powstało bogactwo San Francisco, nie uświadamiamy sobie, że drapacze chmur to tylko odwrócone pejzaże górnicze, odwrócone kopalnie litu, kluczowego do produkcji akumulatorów, baterii zasilających smartfony zawierających około ośmiu i pół grama tego pierwiastka.

Crawford, inaczej niż Dante w Boskiej komedii, zaczyna oprowadzać czytelników po piekle naszego świata, począwszy od kręgu najbardziej ukrytego i pozornie oddalonego od cyfrowej chmury – kopalni litu w Nevadzie. To czarne miejsce narodzin AI. Tung-Hui Hu w głośnej książce Prehistoria chmury (2015) już demaskował mit czystego przemysłu informatycznego, pokazując, że chmura jest pożerającą zasoby naturalne technologią ekstrakcyjną. Crawford podąża tą ścieżką, demonstrując na przykład fałszomatyzację (fauxtomation) działania AI. Mamy wrażenie, że zautomatyzowane systemy są zdolne do wykonywania prac wcześniej powierzanych ludziom, ale tak naprawdę system techniczny jedynie koordynuje ludzką pracę odbywającą się w ukryciu. Usuwanie zduplikowanych treści lub obraźliwych wpisów w systemach internetowych dokonuje się siłą rzeszy clickworkerów, microworkerów, siły roboczej opłacanej za minimalne stawki. Sztuczna inteligencja udaje inteligentną za cenę ukrytego pod płaszczem maszyny ludzkiego inteligentnego niewolnika.

Z czego zatem wynika pozór inteligencji sztucznej inteligencji? Cała inteligencja AI tkwi w ilości, dobre dane to niekończące się dane. W istocie to internet był krokiem milowym w rozwoju AI, ale nie dlatego, że wspaniałomyślnie ofiarował nam wyszukiwarkę lub umożliwił szybką komunikację, lecz dlatego, że zaczął być postrzegany jako nowy zasób naturalny, z którego można korzystać bez ograniczeń. Gdy użytkownicy portali społecznościowych zaczęli umieszczać zdjęcia, teksty i informacje na swój temat, dobroczynnie dostarczyli także pożywienia zasilającego uczenie maszynowe. Używane powszechnie wyrażenie „eksploracja danych” sprowadza informacje do „zasobu do wykorzystania”, „strumienia do użycia”. Skoro dane przedstawia się jako zasób, który czeka na wydobycie, uczenie maszynowe jawi się jako proces rafinacji, oczyszczania danych. Świat – z punktu widzenia AI – zostaje udanowiony, a nie ustanowiony.

Czego dotyczy stłumienie naszej wiedzy na temat AI? Na czym polega nasza fałszywa świadomość technologiczna? Otóż dotyczy ona w szczególności procesu organizacji pracy i zatrudnienia. Nie chcemy wiedzieć, że koordynacja pracy w wielkich magazynach Amazona stała się możliwa dzięki zarządzaniu czasem pracy, zespoleniu maszyny z ciałem oraz inwigilacji, zdobywaniu informacji o tym, co, jak i kiedy ludzie robią. Zbiory danych pełne selfie wyrażających nasze prywatne wybory, stany, sposoby realizacji ducha towarzyskiego to dane treningowe dla modeli sztucznej inteligencji i dziś nie stanowią własności prywatnej, ale stają się cyfrową infrastrukturą, rodzajem maszynerii epistemicznej. Nawet nasze stany afektywne zostały już wycenione i przehandlowane. Systemy rozpoznawania stanów emocjonalnych zostały oszacowane na siedemnaście miliardów dolarów. Crawford analizuje powstanie systemów detekcji z ducha kontroli, wyścigu zbrojeń, wojskowości i policji. Podczas gdy rozpoznawanie twarzy przez AI dąży do stwierdzenia tożsamości konkretnej osoby, wykrywanie afektów ma na celu klasyfikacje emocji przez analizę dowolnej twarzy. Dzięki tym systemom możliwa się staje nowa selekcja podczas rozmów kwalifikacyjnych z kandydatami do zatrudnienia, ale też kontrola potencjalnych przestępców na lotniskach.

Ze znanych mi w literaturze przedsięwzięć intelektualnych książkę Crawford porównałbym jedynie do książki Benjamina H. Brattona, The Stack. On Software and Sovereignty z 2015 roku. Bratton także ostrzega, że logika komputacyjna nie oznacza tylko dominacji maszyn, jest to infrastruktura na skalę planetarną. Stos Brattona odmiennie wykrawa warstwy owej infrastruktury, choć także na mapie tego filozofa to Ziemia stanowi fizyczną podstawę stosu, z którego wyłaniają się chmury, zapewniające usługi obliczeniowe oraz miasto i ich użytkownicy. Dla Crawford AI to struktura władzy łącząca infrastrukturę, kapitał i siłę roboczą. Systemy AI służą logice kapitału, rozbudowanym systemom ekstrakcji i logistyki z łańcuchami dostaw oplatającymi glob. Gdy Wergiliusz oprowadza Dantego po piekle, ma ono kształt składającego się z dziewięciu kręgów stożka zwężającego się ku dołowi. Na samym dnie znajduje się Lucyfer. W architekturze Brattona i Crawford cyfrowy Lucyfer schował się w niebie.

Z jakim przesłaniem pozostawia nas Atlas sztucznej inteligencji? Książka kończy się Światem bez wody, mapą Ziemi bez oceanów z 1694 roku, wykonaną przez Thomasa Burneta. Sztuczna inteligencja jako przemysł wydobywczy pozostawia świat w ruinie.