Recenzja: "If Anyone Builds It, Everyone Dies" — czy superinteligencja AI nas zabije?

Autorzy: Eliezer Yudkowsky, Nate Soares Wydawnictwo: Little Brown Books, 272 str.

O czym jest książka

Eliezer Yudkowsky i Nate Soares — od dekad badający, jak będą myśleć i działać systemy istotnie przewyższające ludzką inteligencję — stawiają tezę bez ogródek: jeśli ktokolwiek zbuduje superinteligentne AI w obecnym wyścigu technologicznym, ludzkość nie przetrwa. Nie dlatego, że maszyna będzie z nas "zła", ale dlatego, że wystarczająco inteligentny system rozwinie własne cele, niekoniecznie zgodne z naszymi — a w razie konfliktu starcie nie byłoby nawet wyrównane.

Autorzy są sygnatariuszami otwartego listu z 2023 roku ostrzegającego przed ryzykiem egzystencjalnym AI. W książce przechodzą przez teorię, dowody, jeden możliwy scenariusz zagłady i to, co byłoby potrzebne, by ludzkość przetrwała wyścig do superinteligencji.

Polaryzacja, jakiej dawno nie widziałem

Książka trafiła na listy bestsellerów New York Timesa, a "New Yorker" umieścił ją na liście najlepszych książek roku. "The Guardian" nazwał ją jedną z najważniejszych książek jesieni i jedną z najlepszych książek naukowych 2025. Kirkus Reviews ocenił ją jako "aktualną i przerażającą lekcję o spustoszeniu, jakie może wywołać AI". Michael Nielsen — fizyk i jedna z bardziej rozpoznawalnych postaci w dyskusji o AI — dał jej na Goodreads pięć gwiazdek, chwaląc "duży i ważny zestaw w większości poprawnych argumentów".

A jednocześnie — Stephen Marche w New York Timesie porównał lekturę do bycia uwięzionym w pokoju z irytującymi studentami na pierwszej w życiu wycieczce na grzybkach, a samą książkę do podręcznika Scjentologii. Gareth Watkins w "New Statesman" napisał wprost: "To nie jest poważna książka". Na Goodreads średnia ocena to 4,3, ale rozkład jest szeroki — od entuzjastycznych pięciu gwiazdek po dwie gwiazdki od czytelników, którzy zgadzają się z przesłaniem książki, ale odrzuca ich sam, jak to ujęli, "podpalający" tytuł.

Moje wnioski

Teza jest śmiała, ale wbrew pozorom wcale nie tak szalona w dzisiejszych czasach. Problem jest jednak taki, że samo postawienie tezy to nie to samo co jej obrona — a tej moim zdaniem w książce jest mniej, niż chwytliwy tytuł i okładkowe cytaty typu "najważniejsza książka naszych czasów" mogłyby sugerować.

Mój główny zarzut: chwytliwy tytuł, dyskusyjne wykonanie. Sam dałem się złapać na ten tytuł, licząc na rzeczowy rozbiór problemu. Pierwsza część książki opiera się głównie na przykładach historycznych, mających pokazać, że ludzkość w pościgu za usprawnianiem AI nie zauważa sygnałów, że rozwiązania te wykraczają poza proste narzędzia do generowania tekstu czy obrazu. Część czytelników chwali przy tym formę — przypowieści i baśniowe metafory, którymi autorzy wyjaśniają abstrakcyjne koncepcje, naprawdę działają na wyobraźnię.

Drugi zarzut: analogie historyczne jako główny dowód. Autorzy budują argumentację głównie na precedensach historycznych — bombie atomowej, ideologii faszystowskiej i innych przypadkach, gdy ludzkość ignorowała sygnały ostrzegawcze. Jako czytelnik oczekujący twardszych dowodów technicznych na nieuchronność zagłady, uznałem to za niewystarczające — bardziej retorykę ostrzegawczą niż dowód. Warto dodać, że ani Yudkowsky, ani Soares nie są badaczami uczenia maszynowego i nie pracują nad najnowocześniejszymi modelami językowymi — ich kompetencje to raczej filozofia i teoria decyzji, co tłumaczy, czemu książka jest mocniejsza w warstwie koncepcyjnej niż technicznej.

W skrócie: to nie jest książka, która przekona kogoś sceptycznego twardymi argumentami technicznymi — to manifest dla osób już podzielających niepokój autorów, podparty analogiami historycznymi, nie modelem matematycznym ryzyka. Jeden z czytelników podsumował to nieźle: zamknął książkę nieprzekonany, ale wdzięczny za starcie z argumentem podanym z taką determinacją — bo książki, które zmuszają nas do przemyślenia własnych poglądów, mają swoją wartość, nawet jeśli się z nimi nie zgadzamy.

Dla kogo

Jeśli interesuje Cię temat ryzyka AI i lubisz literaturę "ostrzegawczą" w stylu eseju, a nie suchą analizę techniczną — warto sięgnąć. Jeśli szukasz rzeczowego, zbalansowanego przeglądu argumentów za i przeciw ryzyku egzystencjalnemu AI — dla mnie to raczej jeden głos w dyskusji, nie ostatnie słowo.