Dla Google’a czy Facebooka nie jesteśmy klientami, ale surowcem, którym się handluje – mówi znana amerykańska badaczka

„Super Express”: – Pani książka „Wiek kapitalizmu inwigilacji”, poświęcona praktykom gigantów informatycznych, zmieniła sposób, w jaki o nich myślimy. Czym jest ten kapitalizm inwigilacji – termin, który pani ukuła?

Prof. Shoshana Zuboff: – Aby zrozumieć, co mam na myśli przez kapitalizm inwigilacji, warto przyjrzeć się składającym się na niego pojęciom. Kapitalizm wiąże się z własnością prywatną, która jest przedmiotem wymiany rynkowej, czyli może być kupowana i sprzedawana. Efektem tej wymiany jest zysk, a zysk wykorzystywany jest do wzrostu. Bez tych elementów kapitalizm nie istnieje. Inwigilacja to z kolei prowadzona w tajemnicy obserwacja i zbieranie informacji.

– Kapitalizm inwigilacji to wypracowywanie zysku dzięki szpiegowaniu ludzi?

– Jeśli połączymy te dwa pojęcia, otrzymujemy system, w którym zysk wypracowywany jest dzięki ukrytym mechanizmom monitorowania i przechwytywania informacji na temat prywatnego ludzkiego doświadczenia. To ludzkie doświadczenie traktowane jest tu jako darmowy surowiec, który przez informatycznych gigantów zamieniany następnie zostaje w dane behawioralne, a one natychmiast uznawane są za prywatną własność tych firm, która jest przedmiotem wymiany rynkowej. Korzystając z Google’a czy Facebooka zostawiamy tysiące śladów, które poddawane są analizie i wykorzystywane, by nami manipulować. Przy czym nie interesuje ich nawet to, co piszemy, ale czy używamy wykrzyknika. Interesuje ich nie tyle to, co mówimy, co intonacja i ton naszego głosu. Takie rzeczy ujawniają bowiem nasze emocje, osobowość. To coś, za czym się uganiają, ponieważ to silne sygnały, na podstawie których można przewidzieć nasze zachowania. Treść naszych wypowiedzi to tylko promil naszych zachowań, które poddawane są analizie. Najgorsze jest to, że nawet nie zdajemy sobie sprawy z tego, co im dajemy.

W kapitalizmie inwigilacji nie jesteśmy klientami czy użytkownikami. Jesteśmy traktowani jako źródło surowca, który po przetworzeniu jest sprzedawany innym. Giganci informatyczni stworzyli ukryty system naruszający to, co zawsze uważano za prywatne doświadczenie

– Pokazując różnicę między znanym nam wszystkim kapitalizmem przemysłowym a kapitalizmem inwigilacji, zwraca pani uwagę, że ten pierwszy przekształcał surowce naturalne w towary. Natomiast kapitalizm inwigilacyjny rości sobie prawa do przekształcenia ludzkiej natury w towar. Brzmi to dość złowieszczo.

– Bo jest to dość przerażające, jeśli się nad tym zastanowić. W kapitalizmie inwigilacji nie jesteśmy klientami czy użytkownikami. Jesteśmy traktowani jako źródło surowca, który po przetworzeniu jest sprzedawany innym. Giganci informatyczni stworzyli ukryty system naruszający to, co zawsze uważano za prywatne doświadczenie, które dzięki wyszukanym algorytmom stosowanym przez te firmy staje się półproduktem, który nazywam właśnie danymi behawioralnymi. Punktem przełomowym było zrozumienie przez te firmy, że owe dane mogą się stać bezkosztowymi aktywami, którymi można handlować podobnie jak ropą naftową, drewnem czy stalą. W logice kapitalizmu inwigilacji jesteśmy niczym więcej niż ropą naftową, którą się handluje.

– W jaki jednak sposób kapitalizm inwigilacji te dane behawioralne zamienia w zyski? W jaki sposób zbierane przez Google’a, Facebooka czy innych przedstawicieli Doliny Krzemowej informacje na temat naszych zachowań w internecie mogą stanowić towar?

– Dane behawioralne pozwalają przewidywać nasze przyszłe zachowania, a nawet na nie wpływać. Z punktu widzenia reklamodawców, którym zawsze marzyło się stworzenie idealnego sposobu przekonania do zakupu konkretnych produktów, to potężne narzędzie do zwiększania własnych zysków. Wszystko dzięki niezliczonym ilościom informacji, zbieranym na podstawie naszych internetowych zachowań, które niczym w fabryce przetwarzane są w skomplikowanych procesach produkcyjnych w produkt. W kapitalizmie inwigilacji taką fabryką są systemy informatyczne wykorzystujące sztuczną inteligencję i tzw. samouczenie się maszyn, a produktem dane, stanowiące przedmiot wymiany na rynkach prognoz behawioralnych. Mówiąc prościej, kapitaliści inwigilacji niezwykle się wzbogacili, ponieważ wiele firm chętnie obstawia nasze przyszłe zachowania.

– Ile informacji zbierają o nas Facebook czy Google?

– Z przecieków z dokumentów wewnętrznych tych firm – bo oficjalnie nikt się tym nie chwali – wynika, że np. Facebook dzięki stosowanej przez siebie sztucznej inteligencji przetwarza biliony punktów danych dziennie, produkując co sekundę 6 mln przewidywań na temat ludzkich zachowań. Skala jest więc niewyobrażalna.

– Jedno z zagrożeń, które niesie za sobą kapitalizm inwigilacji, to naruszenie naszej prywatności, wykopanie przez sztuczną inteligencję rzeczy, które chcielibyśmy ukryć przed światem lub których nawet sobie nie uświadamiamy. Najgroźniejsze jest jednak to, że te informacje próbuje się przeciwko nam wykorzystać, skłaniając nas do konkretnych zachowań.

– Dokładnie. Nie od dzisiaj wiadomo, że wiedza i władza są ze sobą ściśle powiązane i ten, kto ma odpowiednią wiedzę, ma też władzę. We współczesnym świecie ten mechanizm wzmacniany jest przez globalną architekturę informatyczną. Posiadanie całej tej wiedzy o nas i możliwość przewidywania naszego zachowania na jej podstawie to dopiero pierwszy krok. Drugim jest wpływanie na nasze przyszłe zachowania. Wiedza o nas przemienia się we władzę nad nami, co kapitalizm inwigilacji eufemistycznie określa mianem targetowania. To niewinne, techniczne słowo oznacza ni mniej, ni więcej cały szereg podprogowych narzędzi wykorzystujących wiedzę o nas, by skutecznie i wydaje wpływać na nasze zachowania. Wiedzą dokładnie, co na nas działa, bo wiedzą o nas więcej niż my sami o sobie. To zresztą dlatego cały ten aparat stał się tak niezbędny w świecie polityki.

Wiedza o nas przemienia się we władzę nad nami, co kapitalizm inwigilacji eufemistycznie określa mianem targetowania. To niewinne, techniczne słowo oznacza ni mniej, ni więcej cały szereg podprogowych narzędzi wykorzystujących wiedzę o nas, by skutecznie i wydaje wpływać na nasze zachowania

– No właśnie. Pamiętamy skandal z Cambrigde Analytica, która miała wykorzystywać uzyskane od m.in. Facebooka informacje na temat wyborców, by ułatwić wybór Donalda Trumpa na prezydenta czy skłonić Brytyjczyków do głosowania za brexitem. Rzeczywiście tzw. big tech dysponuje wiedzą, które pozwala aż tak wpływać na mechanizmy demokratyczne?

– Zacznijmy od tego, że polityczna machina propagandowa, która działa w mediach społecznościowych, to zasadniczo wynajmowanie stworzonego przez nie aparatu i przy niewielkich korektach wykorzystywanie narzędzi reklamowych do osiągania celów politycznych. I rzeczywiście z naszej wiedzy wynika, że do tej pory w największej skali i z pełną efektywnością wykorzystali to ludzie odpowiedzialni za kampanię Trumpa w 2016 r. Bez tego nie byłby on w stanie wygrać. Zresztą we wrześniu 2020 r. dziennikarze brytyjskiego Channel 4 ujawnili, że uzyskali dostęp do danych użytych w tamtej kampanii przez ekipę Trumpa, by dotrzeć do 200 mln amerykańskich obywateli. Jednym z głównych celi sztabowców Trumpa było dotarcie za pomocą mediów społecznościowych do czarnoskórych wyborców z kluczowych stanów, by zniechęcić ich do udziału w wyborach.

– W jaki sposób chcieli na nich wypłynąć?

– Używali stworzonych na podstawie danych z mediów społecznościowych pogłębionych analiz profili osobowościowych, poglądów politycznych, profili emocjonalnych, sieci kontaktów, by wskazać grupę czarnoskórych wyborców, których można by było zniechęcić do głosowania. I byli w tym skuteczni, bo wiedzieli, w kogo i jak uderzyć, by osiągnąć swój cel.

– Przerażające, jak opisywany przez panią kapitalizm inwigilacji potrafi wypaczać mechanizmy demokratyczne.

– Owszem. Mamy bowiem oto obywateli, którzy dobrowolnie zrezygnowali ze swojego najważniejszego demokratycznego prawa – prawa do głosowania. Nikt ich do tego nie zmusił, przystawiając pistolet do głowy. Nikt nie groził im zesłaniem do gułagu. A mimo to, zachowali się tak, jak sobie tego życzyli sztabowcy Trumpa. Dlaczego? Bo dzięki wiedzy o nich i mechanizmom targetowania na Facebooku wyświetlano im treści, które miały szansę wpłynąć na ich decyzje. Jednym pokazano filmik, na których Hillary Clinton rzekomo obraża czarnoskórą młodzież. Komuś pokazano fake newsy na jej temat. Jeszcze innym wyświetlono fałszywy apel jeden z organizacji czarnoskórych, która wzywała, by nie głosować. To wszystko odniosło skutek, ponieważ na podstawie informacji, które na temat konkretnych ludzi uzyskano dzięki ich zachowaniom w mediach społecznościowych, wybrano dokładnie tych, na których mogło to zadziałać.

– Ale też chyba kampania Trumpa z 2016 r. nie jest czymś wyjątkowym.

– Nie, to dzieje się każdego dnia. Facebook sam miał zresztą w 2016 r. dane wskazujące, że 64 proc. ludzi, którzy przyłączyli się w Niemczech do organizacji ekstremistycznych, trafiło do nich dzięki mechanizmom targetowania i algorytmom Facebooka. Doskonale o tym wiedzieli i nic z tym nie zrobili.

– Czasami mam wrażenie, że Facebook i polityczny ekstremizm doskonale się uzupełniają.

– Nic dziwnego. Dzięki radykalnym treściom Facebook dostaje coś, na czym bardzo mu zależy – zaangażowanie osób, które z niego korzystają. Im więcej czasu spędzają na Facebooku, tym więcej danych na ich temat można uzyskać. Im więcej danych się zbierze, tym więcej się wie, a im więcej się wie, tym dokładniej można przewidzieć, jak się oni zachowają i skuteczniej wpływać na ich decyzje. Kapitalizm inwigilacji się kręci.

Nie jestem przeciwniczką danych czy digitalizacji. Uważam po prostu, że powinny one funkcjonować w gmachu demokracji, być pod kontrolą mechanizmów demokratycznych. Tak jak w XX w. stworzyliśmy dziesiątki instytucji, które broniły naszych praw przed ekscesami kapitalizmu przemysłowego, tak w XX w. musimy stworzyć instytucje, które obronią nas przed ekscesami ery cyfrowej.

– Czytając pani książkę, nie mogłem oprzeć się wrażeniu, że narzędzia, które stworzył kapitalizm inwigilacji, z których korzystają Facebook, Google, Microsoft i setki mniejszych firm z branży IT, to spełnienie snów XX-wiecznych państw totalitarnych. Zajrzenie w myśli, zwłaszcza te nieuświadomione, obywateli, na co pozwala współczesna technologia, pozwoliłoby im na większą kontrolę. Mieszkańcy tych państw chronili swoją prywatność przed państwem. My oddajemy ją bez większych problemów w ręce korporacji.

– Byłabym ostrożna w porównywaniu kapitalizmu inwigilacji do totalitaryzmu, bo występuje tu ogromna różnica w tym, w jaki sposób jesteśmy pozbawiani naszych podstawowych praw. Już trochę to poruszyliśmy wcześniej: w państwie totalitarnym do posłuszeństwa zmusza się zastraszaniem i przemocą. W wypadku kapitalizmu inwigilacji mamy bezkrwawą formę władzy. Nie ma tu żadnej przemocy i gróźb, dzięki którym można osiągnąć pełną kontrolę. To coś zupełnie innego, co musimy sobie uświadomić. Ludzie często bagatelizują władzę, którą zdobywa kapitalizm inwigilacji. Trudniej bowiem zrozumieć tę władzę właśnie dlatego, że nie jest krwawa i tak jawnie przytłaczająca jak władza totalitarna.

– Jak więc zagrożenie władzy kapitalizmu inwigilacji rozumieć?

– Kapitalizm inwigilacji rodzi nowy gatunek władzy, którą nazywam instrumentalizmem. Władza instrumentalna zna i kształtuje ludzkie zachowania dla realizacji czyichś innych celów niż owych ludzi. Nie korzysta z aparatu przymusu, ale wdraża swój porządek, posługując się zautomatyzowanym medium coraz bardziej wszechobecnej obliczeniowej architektury „inteligentnych” sieciowych urządzeń, rzeczy i przestrzeni. To dużo bardziej podstępna, subtelna i trudna do spostrzeżenia forma władzy. To dlatego udało się jej osiągnąć tak wiele władzy tak szybko – nie jesteśmy na nią przygotowani, nie jesteśmy w jej stanie dostrzec. Zaprojektowano ją tak, byśmy ją ignorowali, byśmy się przeciwko niej nie buntowali. By nie rodziła w nas poczucia zagrożenia.

– Ktoś kiedyś zauważył, że w czasach feudalizmu władzę dawało posiadanie ziemi. W czasach znanego nam kapitalizmu – środki produkcji. W dzisiejszych czasach, które nazywa pani wiekiem kapitalizmu inwigilacji, władzę ma ten, kto ma dostęp do danych. Dane to przekleństwo naszych czasów?

– Dane same w sobie są jak drzewo rosnące w dziewiczej puszczy. Same w sobie są niewinne. To, jak się je wykorzystuje, jest problemem. Zostały one zawłaszczone przez ekonomiczną logikę kapitalizmu inwigilacji. Wykorzystuje on swoją przewagę technologiczną, by w tajemnicy gromadzić ogromne ilości informacji na temat ludzi i ich zachowań, które są w istocie nielegalne. One w ogóle nie powinny istnieć, ponieważ należą do nas jako suwerennych jednostek. Obywatele współczesnych systemów demokratycznych uważają, że to obszary informacji, które są całkowicie prywatne i nikt nie ma prawa o nich wiedzieć oprócz nich samych. I że ich wyłącznym prawem jest decydowanie czym – jeśli czymkolwiek – chcą się dzielić.

– W opisywanym przez panią świecie kapitalizmu inwigilacji to prawo wydaje się już zupełnie utopijnym marzeniem.

– Fakt, że ktoś narusza te zasady i rości sobie prawo, by moja prywatność stała się czyjąś własnością, jest zwykłą kradzieżą, która dokonuje się w skali globalnej, ponieważ mało kto to rozumie. Wyzwaniem dla demokracji jest to, czy i jak uda nam się uratować dane przed pretensjami kapitalizmu inwigilacji do dysponowania nimi i zarabiania na nich bez naszej wiedzy i zgody. Wyzwaniem jest to, czy uda nam się przeciwstawić tej pasożytniczej logice ekonomicznej, która nie ma nic wspólnego z dobrostanem ludzi, którzy są źródłem danych. Nie jestem przeciwniczką danych czy digitalizacji. Uważam po prostu, że powinny one funkcjonować w gmachu demokracji, być pod kontrolą mechanizmów demokratycznych. Tak jak w XX w. stworzyliśmy dziesiątki instytucji, które broniły naszych praw przed ekscesami kapitalizmu przemysłowego, tak w XX w. musimy stworzyć instytucje, które obronią nas przed ekscesami ery cyfrowej. Jak sądzę, wszyscy chcielibyśmy powrócić do optymistycznej wizji przyszłości, którą technologia miałaby nam przynieść, a w którą jeszcze niedawno tak wierzyliśmy, a nie dystopijnej jej wizji, w której jesteśmy dziś uwięzieni.

Rozmawiał Tomasz Walczak