Cory Doctorow oznajmił, że sztuczna inteligencja jest azbestem upychanym w murach społeczeństwa technologicznego, który nasi potomkowie będą przez pokolenia wydłubywać ze ścian.

Mocne.

Jeszcze kilka takich tekstów i przed uruchomieniem ChatGPT trzeba będzie zakładać maskę przeciwpyłową, zamykać dzieci w drugim pokoju i telefonować do sanepidu.

Doctorow jest człowiekiem inteligentnym, świetnie piszącym i od lat bardzo potrzebnym jako zawodowy kopacz w kostkę technologicznych oligarchów. Problem zaczyna się wtedy, gdy człowiek tak długo walczy z religią postępu, aż sam zakłada konkurencyjny Kościół. Tamci mają Sama Altmana, miliardy dolarów, centra danych i objawienie, że AI zmieni wszystko. Doctorow ma Cory’ego Doctorowa, sześć tysięcy słów, azbest i objawienie, że AI przede wszystkim wszystko zepsuje.

Pluralizm religijny został zachowany.

Najzabawniejsza jest teza, że gdyby jutro wyłączyć chatboty, właściwie nic by się nie stało. Ministerstwa działałyby dalej, przedsiębiorstwa także, a jedyną prawdziwą tragedią byłoby to, że uczniowie musieliby znów samodzielnie odrabiać lekcje.

To trochę tak, jakby w roku 1996 stwierdzić, że gdyby jutro wyłączyć internet, fabryka Fiata nadal wyprodukowałaby samochód, piekarz bułkę, a księgowa zaksięgowałaby fakturę. Z czego można by następnie wyprowadzić wniosek, że internet jest właściwie kosztowną ciekawostką dla ludzi piszących głupoty na forach.

Technologie mają tę irytującą właściwość, że nie pytają krytyka, w którym roku wolno im już być ważnymi.

Doctorow powołuje się na Nikhila Suresha, konsultanta, który twierdzi, że rozmawiał z setkami menedżerów i pracowników, a wśród wdrożeń AI od półtora roku widział podobno zero procent sukcesów.

Zero. Ani jednego. To wynik godny uwagi. Nawet PKP czasem przyjeżdża punktualnie.

Jeżeli konsultant przez półtora roku ogląda setki projektów i każdy jeden jest katastrofą, istnieją co najmniej trzy możliwości. Pierwsza: rzeczywiście odkrył największe zbiorowe szaleństwo biznesowe od czasu tulipanów. Druga: firmy dzwonią po konsultanta głównie wtedy, kiedy coś im się właśnie pali. Trzecia: definicja sukcesu została ustawiona tak wysoko, że do sukcesu zaliczyłoby się dopiero zastąpienie całego zarządu robotem, który podnosi EBITDA i jeszcze sam wynosi śmieci.

Chirurg też może przez rok opowiadać, że wszyscy ludzie mają chore wyrostki, jeżeli poznaje ludzkość wyłącznie na oddziale chirurgii.

Sam opis korporacyjnej manii brzmi natomiast bardzo wiarygodnie. Zarządy chcą AI, ponieważ inne zarządy chcą AI. Dyrektorzy zamawiają AI, ponieważ prezes zapytał, gdzie jest AI. Pracownicy wpisują AI do prezentacji, ponieważ bez AI prezentacja wygląda dziś jak człowiek, który przyszedł na wesele w dresie.

To wszystko znamy.

Tyle że wcześniej nazywało się kolejno: transformacja cyfrowa, blockchain, big data, chmura, agile, metaverse, synergia, customer journey oraz „strategiczne repozycjonowanie organizacji”.

Kapitalizm od dawna produkuje słowa szybciej niż produkty. AI nie wynalazła korporacyjnego idiotyzmu. Korporacyjny idiotyzm po prostu dostał AI do PowerPointa.

Suresh opisuje firmy, w których ludzie udają wykorzystanie sztucznej inteligencji, żeby nabić korporacyjne wskaźniki tokenów. Jeden chatbot promptuje drugi, drugi pierwszy, wszyscy są szczęśliwi, ponieważ licznik użycia rośnie.

To rzeczywiście jest znakomite. Przypomina PRL, kiedy fabryka produkowała gwoździe według planu mierzonego w tonach i w efekcie robiła gwoździe wielkości szabli, bo pięć takich załatwiało normę szybciej niż pięć tysięcy małych.

Nie jest to jednak dowód na szkodliwość gwoździ. Jest to dowód na szkodliwość dyrektora z tabelką.

Doctorow ma też sporo racji, kiedy opisuje hipnotyczną moc demówek. Menedżer widzi, że można napisać do bazy danych normalnym językiem i nagle zachowuje się jak chłop z 1895 roku, któremu pokazano kinematograf. Obraz się rusza! Maszyna odpowiada! Kupujemy!

Inżynier stoi obok i tłumaczy, że system myli się w ośmiu procentach przypadków. Prezes słyszy tylko: odpowiada po angielsku.

To jest prawdziwy problem, ale znowu bardziej psychologiczny niż technologiczny. Szefowie zawsze lubili urządzenia, które pozwalają im przez chwilę wyobrazić sobie firmę bez pracowników. Pracownicy mają nieznośny zwyczaj wiedzieć więcej od szefa, pytać o szczegóły i mówić, że pomysł prezesa jest idiotyczny.

Chatbot nie przewraca oczami. To jest funkcja, za którą część zarządów rzeczywiście zapłaciłaby każde pieniądze.

Doctorow trafnie zauważa również rzecz znacznie ważniejszą: najlepsze efekty automatyzacji powstają zwykle wtedy, kiedy narzędzie trafia w ręce człowieka, który już wie, co robi. Dobry programista potrafi użyć AI do przyspieszenia pracy. Dobry analityk może szybciej przeszukiwać dokumenty. Dobry lekarz być może wykorzysta system do wsparcia analizy, ale nie powinien zastępować nim diagnozy. Dobry prawnik może szybciej znaleźć materiał, lecz nadal musi wiedzieć, czy właśnie nie dostał elegancko sformatowanej bzdury.

To nie jest zresztą szczególnie odkrywcze. Kalkulator najbardziej pomaga komuś, kto rozumie matematykę. Samochód najbardziej pomaga komuś, kto umie prowadzić. Skalpel najwięcej daje chirurgowi. W rękach idioty każda technologia staje się programem pilotażowym Ministerstwa Cyfryzacji.

I właśnie tutaj Doctorow mógłby postawić kropkę. Ale nie. Pojawia się azbest.

Azbest jest potrzebny, bo zwykłe stwierdzenie, że firmy przepalają miliardy na źle przemyślane wdrożenia, nie ma odpowiedniej temperatury. Trzeba od razu powiedzieć, że potomkowie będą przez pokolenia skuwać AI ze ścian cywilizacji.

To już nie jest analiza. To trailer filmu katastroficznego. Największym problemem podobnej krytyki jest zresztą to, że sama zaczyna przypominać marketing AI, tylko ze znakiem minus. Ewangeliści mówią: AI zmieni wszystko. Doctorow odpowiada: Nie, AI zatruje wszystko. Jedni sprzedają ekstazę. Drudzy grozę.

A być może prawda jest bardziej nieznośna, ponieważ gorzej wygląda w nagłówku: AI zmieni trochę rzeczy bardzo mocno, wiele umiarkowanie, ogromnej liczby nie zmieni wcale, mnóstwo projektów okaże się idiotycznych, kilka będzie znakomitych, inwestorzy stracą fortuny, inni zarobią fortuny, część zawodów się zmieni, część zniknie, powstaną nowe i przez następne dwadzieścia lat będziemy się o to kłócić.

Niestety nie da się tego wydrukować na koszulce. Nie da się też wykluczyć bańki. Oczywiście, że nie. Historia technologii jest pełna sytuacji, w których inwestorzy mieli rację co do kierunku i kompletnie zwariowali w sprawie ceny.

Bańka dotcomowa pękła. Internet pozostał. Setki spółek zniknęły. Amazon nie.

To bardzo nieprzyjemny precedens dla obu stron debaty, bo pokazuje, że jednocześnie można mieć gigantyczną bańkę i gigantyczną rewolucję technologiczną.

Świat nie ma obowiązku wybierać jednej narracji.

Najzabawniejsze w całej tej wojnie jest więc to, że wyznawcy i przeciwnicy AI są do siebie coraz bardziej podobni. Obie strony są przekonane, że właśnie oglądają największe wydarzenie w dziejach ludzkości.

Jedni oczekują Mesjasza. Drudzy azbestu. Tymczasem przeciętny człowiek używa AI, żeby poprawić mail do administracji osiedla, streścić instrukcję pralki albo zapytać, dlaczego pomidor w lodówce zrobił się miękki.

I być może na razie właśnie ten człowiek ma najzdrowszy stosunek do całej sprawy.

Nie modli się do AI. Nie odprawia nad nią egzorcyzmów. Po prostu używa narzędzia, a kiedy narzędzie bredzi, zamyka okno.

To rozwiązanie jest oczywiście zbyt proste, żeby powstała z niego sześciotysięczna analiza. Ale za to nie wymaga ekipy do usuwania azbestu.


felieton powstał po przeczytaniu artykułu Doctorowa w Krytyce Politycznej:
https://krytykapolityczna.pl/swiat/ai-korporacje-presja-na-sukces-falszywe-historie-sukcesu-doctorow/