Nie z hukiem, a ze skomleniem
Artykuł ukazał się w serii Turning Points Gazety Wyborczej http://wyborcza.pl/wiecejswiata/7,163812,24307599,nie-z-hukiem-ale-ze-skomleniem.html
W dyskusji na temat przyszłości łatwo popaść albo w hurraoptymizm, albo techno-dystopijne wizje, także oparte na przekonaniu, że technologia się gwałtownie rozwinie. Tymczasem punktem zwrotnym w nieodległej przyszłości prawdopodobniej może być banalna zagłada cywilizacji pod własnym ciężarem.
Kiedy dyskutujemy o przyszłości i zmianach technologicznych, wyraźnie widać dwa dominujące trendy dyskusji i argumentacji. Z jednej strony ekscytujemy się choćby sukcesami sztucznej inteligencji, które faktycznie, są imponujące. Przykładowo, AI od zeszłego roku wygrywa z ludźmi nie tylko w go, uchodzące przez wiele lat za grę, w której kluczowa jest ludzka intuicja z uwagi na olbrzymią liczbę możliwych kombinacji, ale i w pokera, czyli grę z założenia opartą o możliwość blefowania w warunkach ograniczonej informacji.
Maszyny rozpoznają też twarze lepiej, niż biegli sądowi. Zastępuje całe zespoły prawnicze i lekarskie — i w niektórych przypadkach mają zwyczajnie wyższą jakość pracy, niż najlepsze z nich. Sztuczna inteligencja w chmurze jest też w stanie wchodzić w proste interakcje telefoniczne tak naturalnie, że nie sposób rozpoznać, że mamy do czynienia z maszyną. Technologia ta właśnie wchodzi do masowego użytku w niektórych miastach, dla osób posiadających telefony produkowane przez Google, i pozwala np. na scedowanie na wirtualnego asystenta kwestii dokonywania telefonicznych rezerwacji w restauracjach. Maszyny umieją także całkiem nieźle tłumaczyć symultanicznie ze słuchu, choć do poziomu zaawansowania równego zawodowym tłumaczom i tłumaczkom im ciągle sporo brakuje. Podziwiamy auta bezzałogowe, nanoboty skutecznie zwalczające komórki rakowe, zaskakują nas postępy w technologiach edytowania genomu, druk 3D w metalu, czy rozwój smart cities.
Z drugiej strony dostrzegamy ogromne zagrożenia związane z nowymi technologiami. Obawiamy się poważnych ingerencji w naszą prywatność, a skandale takie, jak związane z Cambridge Analytica uświadamiają nam, że duże korporacje wiedzą o nas więcej, niż znajome osoby, a nawet zwykłe zdjęcia mogą pozwalać sztucznej inteligencji np. na przewidywanie orientacji seksualnej. Straszą nas manipulacje informacją z użyciem algorytmów uczenia maszynowego. Jest tak zarówno w marketingu, gdzie jesteśmy coraz skuteczniej zachęcani do hiperkonsumpcjonizmu, jak i w polityce, gdzie fake news są narzędziem kampanii, w dodatku często pod wpływem mocarstw liczących nad destabilizację ładu świata zachodniego. Wpływ tych ostatnich działań był czytelnie widoczny nie tylko w amerykańskich wyborach prezydenckich, czy kampanii na rzecz Brexitu, ale i w mniej oczywistych tematach. Choćby podsycanie niepokoju społecznego i niewiary w sensowność szczepień jest jednym z zauważalnych obszarów działania całych armii botów dezinformacyjnych i opłacanych aktywistów i aktywistek, co zresztą staram się analizować z moim zespołem. Ponure wizje serialu Black Mirror błyskawicznie stają się rzeczywistością w niespotykanej skali — choćby w Chinach wprowadzony w tym roku w praktyce system punktowy oparty na sieci kamer powoduje, że za nieprawomyślne zachowania obywatele mogą tracić prawo podróżowania samolotem, szybką koleją lub transportem publicznym. Także rozwój sztucznej inteligencji niepokoi. Przestrzegają przed jej niekontrolowaną ekspansją takie tuzy, jak Elon Musk, czy Sam Altman, a tegoroczny raport na temat możliwych zagrożeń AI powinien dać do myślenia politykom, gdyby interesowały ich sprawy sięgające zaledwie ciut dalej, niż poza najbliższe wybory. Boimy się radykalnie większego rozwarstwienia społecznego, nieśmiertelnych elit broniących się przed plebsem autonomicznymi dronami-zabójcami, a rozpad wspólnie uzgodnionej rzeczywistości społecznej, czyli wiary przynajmniej w to, co widzimy gołym okiem, skutecznie pogłębia rozwój deep fakes, czyli zmanipulowanych nagrań video, w których w zasadzie każdej osobie możemy włożyć w usta coś, czego nie powiedziała.
Jednak tym, co łączy oba te, z pozoru różne, podejścia do myślenia o przyszłości, jest przekonanie o stałym i dynamicznym rozwoju technologii. Sztuczna inteligencja albo nas zbawi, albo doprowadzi do zagłady. Będziemy mieli albo powszechny dobrobyt, albo bezrobocie i masy trzymane w ryzach darmową, niskorozdzielczościową VR przerywaną reklamami i rażoną prądem z zaszczepionych chipów w razie nieposłuszeństwa. Tymczasem rzeczywistość najprawdopodobniej będzie znacznie bardziej przyziemna.
Bieżący rok pokazał dobitnie, że jest całkiem możliwe, że przekroczyliśmy już moment, w którym mogliśmy jeszcze uniknąć katastrofy klimatycznej. Zwyczajnie przegapiliśmy ostatni dzwonek, choć świat nauki bił na alarm od lat. W tym roku dowiedzieliśmy się, że tempo spadku nasycenia tlenem w oceanach jest kilkukrotnie wyższe, niż zakładaliśmy, co prowadzi do zapaści ekosystemu. Jak pokazuje listopadowa analiza Światowa Organizacja Meteorologiczna, z kolei tempo wzrostu nasycenia atmosfery gazami cieplarnianymi nie maleje, a sam jego poziom jest rekordowy, np. dwutlenku węgla w takim stężeniu Ziemia miała kilka milionów lat temu. Najnowszy amerykański raport na temat zmian klimatycznych, tworzony na zamówienie Kongresu i Prezydenta we współpracy kilkunastu agencji publicznych, jest zarówno niezwykle szczegółowy, jak i porażający: USA powinny rychło spodziewać się strat idących w setki miliardów dolarów z powodu globalnego ocieplenia, ale i np. zalania Florydy. Tymczasem sam Prezydent skwitował po prostu, że w te analizy nie wierzy. Z kolei opracowany przez ekspertów ONZ tegoroczny raport daje nam 12 lat i to nie na zatrzymanie ocieplania, a na wyhamowanie jego wzrostu do 1,5 stopni Celsiusza, zamiast 2 stopni. Scenariusz tak optymistyczny oczywiście także uwzględnia masową śmierć od upałów w wielu regionach świata, migracje i wojny o zasoby, ale daje nadzieję na przetrwanie ludzkości. Nie ma jednak powodu, aby spodziewać się, że się uda. Najprawdopodobniej 80% ludzi wyginie.
Owszem, nowe technologie mogą pomóc w redukcji strat, które wywołujemy. Hyperloop, kiedy powstanie, będzie emitował mniej gazów cieplarnianych, niż samoloty. Dachówki i akumulatory Tesli pomogą w nowych domach zbliżyć się do samowystarczalności energetycznej. Auta elektryczne, zwłaszcza w krajach, w których prądu nie uzyskuje się z węgla, pomogą stopniowo zmniejszać zanieczyszczenia transportowe. Ale to wszystko są drobne zmiany — jak przełożenie poszetki z marynarki do spodni dla amortyzacji, kiedy spadamy z wieżowca. Bajania o technologii, która naprawi ogrom zniszczeń, których dokonujemy, odwracają uwagę od rzeczywistości. Zgoda, być może dałoby się czasowo zmniejszyć ilość energii docierającej ze słońca poprzez rozpylanie mieszanek gazów na dużej wysokości. Jednak nie jesteśmy w stanie nijak sensownie ocenić skutków ubocznych tego rodzaju ingerencji w środowisko, a badania sugerują, że korzyści z redukcji temperatury zniwelowane byłyby stratami w uprawach, ponadto wymagałoby to solidarnej współpracy i aprobaty większości krajów. Już większe nadzieje w zatrzymanie ocieplenia można pokładać w małej wojnie nuklearnej, przynajmniej nikt w jej kwestii nie musiałby się dogadać.
Odsłon w teatrze groteski jest wiele. Choćby stworzenie Bitcoina o wartości jednego dolara kosztuje obecnie trzykrotnie więcej, niż wydobycie złota o tej samej wartości, a produkcja tej kryptowaluty na świecie zużywa już prawie tyle energii rocznie, co cała Grecja i szybko rośnie, choć sam Bitcoin jest przede wszystkim konstruktem społecznym i stanowi dalece ograniczone, zarówno technicznie jak i użytkowo, zastosowanie blockchain. W dowolnym sklepie spożywczym możemy kupić 100g jogurtu w plastikowym pojemniku, który będzie się rozkładał setki lat, a kilkulitrowych pojemników nie produkuje nikt, nie mówiąc już o sprzedaży na wagę, w opakowaniach szklanych, czy większym rozpowszechnieniu po prostu samych liofilizowanych bakterii do samodzielnej produkcji. Koszt plastikowych torebek na zakupy jest ciągle niemal niezauważalny przy zakupach. Przykłady ze świata zachodniego łatwo mnożyć w setki. Tymczasem są jeszcze kraje rozwijające, które — cóż, rozwijają się, żyjąc tymi samymi marzeniami globalnej klasy średniej i potulnie podążając ścieżką do unicestwienia.
W światowym konkursie na kompletne szaleństwo nasz kraj także dzielnie staje w szranki w walce o miejsce na podium: choć koszty energii odnawialnej już dziś stają się mniejsze, niż z paliw kopalnych, polski rząd odważnie planuje w Projekcie Energetycznej Polski likwidację lądowych farm wiatrowych, przyszłościowo także rozbudowuje elektrownie węglowe. Umiłowanie węgla radośnie idzie też w parze z tym, że prawie połowa najbardziej zanieczyszczonych miast Europy jest w Polsce, a nasz kraj dumnie wyróżnia się na mapie smogu. Na szczęście jednak polskie normy zanieczyszczeń są znacznie łagodniejsze, niż europejskie, które z kolei są mniej restrykcyjne niż zalecenia Światowej Organizacji Zdrowia. Możemy zatem odetchnąć z ulgą, przynajmniej jeśli wbrew twórcy „Semantyki ogólnej”, Alfredowi Korzybskiemu, uwierzymy, że mapa to terytorium.
Globalnych powodów do optymizmu nie ma. To już nie turning point, tylko point of no return. Świadomi konsumenci i konsumentki mogą oczywiście jeść mniej mięsa, sortować śmieci, czy wierzyć w kolonizację innych planet, ale bez bardzo radykalnych kroków systemowych, jak całkowitego zakazu używania plastiku w branży spożywczej, kilkusetprocentowego opodatkowania paliw, czy drakońskich kar finansowych i więzienia za zatruwanie środowiska nie zmienimy o 180 stopni kursu z tego, na którym jesteśmy — do zagłady. A na tego rodzaju postulaty w krajach demokratycznych nie może pozwolić sobie żadna masowo popularna partia.
W 1925 roku T. S. Eliot pisał: „Oto jak kończy się świat. Nie z hukiem, a ze skomleniem”. Po latach zawtórował mu Czesław Miłosz, słowami pasującymi jak ulał — „innego końca świata nie będzie”. Punktem zwrotnym świata nie okaże się zaawansowana technologia, tylko banalna, dziewiętnastowieczna tragedia dóbr wspólnych (tzw. wspólnego pastwiska), podkręcona niezatapialnym kapitalizmem na sterydach, a prowadząca do destrukcji środowiska naturalnego i ludzkości całkiem tradycyjnymi metodami produkcji i konsumpcji.
Prof. dr hab. Dariusz Jemielniak, katedra MINDS (Management in Networked and Digital Societies), Akademia Leona Koźmińskiego oraz Center for Collective Intelligence, MIT
