„Dziwne filmiki” i niewidzialna ręka algorytmu

W 2014 roku w serwisie YouTube zaczęły pojawiać się niepokojące materiały nazywane przez internautów „dziwnymi filmikami dla dzieci”¹. Od 2015 roku można je było obejrzeć także za pośrednictwem aplikacji YouTube Kids, skierowanej do „czteroletnich ekspertów od swipe’owania”². Były to niskiej jakości animacje komputerowe i amatorskie filmy żywej akcji, które ukazywały bohaterów popularnych bajek w sytuacjach nieodpowiednich dla dziecięcej widowni: od zabiegów medycznych, przez perwersje seksualne, po akty przemocy. Najczęściej eksploatowaną postacią była księżniczka Elsa z disneyowskiej Krainy lodu³. Stąd termin Elsagate na określenie całego procederu. Kolejni pod względem częstotliwości występowania bohaterowie to Świnka Peppa, myszki Miki i Minnie oraz Spiderman⁴.

Istotnym aspektem problemu była nadprodukcja obrazów na niespotykaną skalę, przekraczającą nie tylko granice rodzicielskiej kontroli, lecz także możliwości systemowej moderacji. Pewne wyobrażenie o rozmiarach Elsagate daje interwencja cenzorska YouTube’a, który w odpowiedzi na presję reklamodawców usunął 150 tysięcy materiałów wideo, wyłączył też emisję reklam przy kolejnych dwóch milionach⁵. Do przeprowadzenia akcji zwanej przez dziennikarzy czystką lub „adpokalipsą”⁶ konieczna była współpraca czynników ludzkich i nie-ludzkich – moderatorów z krwi i kości oraz algorytmów uczenia maszynowego. Trzeba przy tym zaznaczyć, że skala problemu mogła być nawet pięciokrotnie większa niż wskazują liczby podane przez przedstawicieli serwisu. Usunięte materiały stanowią bowiem zaledwie dwadzieścia procent treści ręcznie anotowanych jako niepokojące (disturbing content) w korpusie zgromadzonym przez zespół badawczy pod kierownictwem Kostantinosa Papadamou⁷. Dodajmy, że filmy zaliczane do Elsagate generowały miliardy wyświetleń, a w rezultacie także miliony dolarów dla anonimowych na ogół twórców oraz firmy Google będącej właścicielką platformy⁸.

Temat przedostał się do (głównie anglosaskiej) opinii publicznej w 2017 roku. Komentatorzy podkreślali niezrozumiałość „dziwnych filmików dla dzieci”. Przypisywano im potężne moce i nawoływano do ikonoklazmu. „Zabawkowe kanały rujnują społeczeństwo”, alarmował znany wideobloger Ethan Klein⁹. „To się musi skończyć”, postulowali użytkownicy Reddita oraz autorzy internetowych petycji¹⁰. Niejednokrotnie obrzydzenie mieszało się z fascynacją. Niektórzy porównywali niepokojące obrazy do surrealistycznych eksperymentów i narkotycznych wizji, inni – do wymiocin lub komórek rakowych¹¹. W bezsensownych z pozoru materiałach dopatrywano się psychologicznych manipulacji, zaszyfrowanych wiadomości i przekazów podprogowych. Dziurę w porządku symbolicznym próbowały załatać także rozbudowane teorie spiskowe. Jedna z nich obarczała winą międzynarodowe lobby masońsko-pedofilskie rzekomo urabiające dzieci z myślą o rytualnych gwałtach analnych¹². Według innej wersji to Rosjanie mieli traumatyzować najmłodsze pokolenie Amerykanów, żeby w przyszłości odnieść łatwe zwycięstwo nad złamanym psychicznie narodem¹³.

Pełne konsternacji reakcje internautów dowodzą, że „dziwne filmiki dla dzieci” reprezentują nowy typ obrazów, który wymyka się zastanym kategoriom – wprawia w ruch fantazję i domaga się racjonalizacji, rozbudza nieświadome lęki i zdroworozsądkowe wątpliwości. Mamy tu do czynienia z czymś więcej niż z jednostkowym przypadkiem dotyczącym wąskiej grupy użytkowników YouTube’a. Elsagate jest symptomem złożonych kulturowych przemian oraz, jak sugerował James Bridle, przejawem niezdiagnozowanego jeszcze problemu z „całym internetem, na każdym jego poziomie”¹⁴. To wyraźny ślad niewidzialnej, bezosobowej i niezwykle skutecznej formy władzy, która jest egzekwowana przez działające w tle algorytmy.

Aby zrozumieć osobliwość „dziwnych filmików”, powinniśmy zacząć od porównania YouTube’a z kinem i telewizją – mediami, które od dekad kształtują przyzwyczajenia widzów oraz ich oczekiwania wobec ruchomych obrazów. Jak analizowane materiały wpisują się we współczesne przemiany technologiczne i stojące za nimi przemiany kapitalizmu?

Elsagate jako kino atrakcji

W 2008 roku Teresa Rizzo pisała o YouTube’ie jako współczesnym odpowiedniku kina atrakcji, podobnym w środkach wyrazu do nienarracyjnych filmów z przełomu XIX i XX wieku, „skoncentrowanych na spektaklu, szoku i wrażeniach zmysłowych”¹⁵. Podkreślała, że mamy tu do czynienia z analogicznym wykorzystaniem wizualnego ekscesu (w miejsce fabuły), ekshibicjonistycznej bezpośredniości (zamiast voyeuryzmu) oraz naskórkowych, cielesnych wrażeń (w kontraście do psychologicznej głębi filmowych postaci). Koncepcję kina atrakcji sformułował amerykański filmoznawca Tom Gunning. Jak podkreślał, przed 1910 rokiem kinematograf był bliżej spokrewniony z wesołym miasteczkiem niż teatrem i docierał przede wszystkim do spragnionego rozrywki ludu, któremu obce były konwencje kultury mieszczańskiej. Do najpopularniejszych gatunków należały wówczas filmy trikowe, wodewile, gagi oraz sceny pościgów i egzekucji, które miały zdolność błyskawicznego przyciągania uwagi¹⁶.

W przypadku Elsagate chodziło o podobny mechanizm „zaaresztowania” uwagi, zawładnięcia nią przez przykuwanie wzroku i atakowanie zmysłów¹⁷. Tym bardziej że w zawężonym do czterech ścian świecie małego dziecka smartfon czy tablet ma podobny powab jak pokaz kinematografu na dziewiętnastowiecznym jarmarku. Wielobarwna, emanująca światłem powierzchnia ekranu nie tylko hipnotyzuje wzrok, lecz także angażuje dotyk – dając bezradnemu na ogół dziecku poczucie magicznej niemal sprawczości, demiurgicznej władzy nad obrazami. Jest to więc zabawka nie tylko optyczna, ale i taktylna. Dopiero ekrany dotykowe umożliwiły zjawisko, które Bjorn Nansen określił jako „przypadkowe formy zaangażowania medialnego dzieci”¹⁸. Współczesne technologie mobilne nie wymagają bowiem pośrednictwa alfanumerycznej klawiatury, dziecko niepotrafiące jeszcze czytać ani mówić może już nawigować w przestrzeni obrazkowych interfejsów, przez scrollowanie i swipe’owanie wybierać spośród predefiniowanych opcji i nieskończonych niemal zasobów treści.

Istnieje nawet słowo „digitods” na określenie internautów w wieku poniemowlęcym, które moglibyśmy przetłumaczyć na polski jako „cyberbrzdące”¹⁹. Pojawienie się takiego terminu oznacza nie tyle upodmiotowienie tej grupy, ile raczej ujarzmienie jej przez kapitalizm – zagospodarowanie niewyeksploatowanych dotąd zasobów uwagi przez siły marketingu. Taki był właśnie cel powstania aplikacji YouTube Kids, którą Dale Kunkel nazwał „hiperskomercjalizowanym środowiskiem medialnym dla dzieci”²⁰. W istocie jest ona dostosowanym pod kątem cyberbrzdąców interfejsem, zawierającym „większe obrazki, pogrubione ikony i jeszcze więcej [udogodnień]”, dzięki którym „małe paluszki mogą szybko i łatwo nawigować”²¹ wśród dostępnych na platformie materiałów wideo i towarzyszących im reklam.

Optyczno-taktylne zabawki wyposażone w oprogramowanie dla cyberbrzdąców to zaledwie infrastruktura atrakcji. Dla twórców publikujących na YouTube’ie walka o uwagę zaczyna się od specjalnie zaprojektowanych miniatur (thumbnails), które mają za zadanie nakłonić użytkownika do wybrania filmu z listy rekomendacji. W przypadku Elsagate były to najczęściej przerysowane sceny cierpienia i przemocy na rzucającym się w oczy, jaskrawym tle²². Eksponowanie negatywnych emocji działało analogicznie do clickbaitu, pozwalało przechwycić spojrzenie małego widza i wyróżnić się wśród pozostałych propozycji – wygładzonych, grzecznych, niebudzących sprzeciwu.

Pojęcie atrakcji odnosi się jednak przede wszystkim do samych filmów, które albo rezygnują z narracji, albo traktują ją jako pretekst do rozmaitych popisów i sensacyjnych zdarzeń. W logikę wizualnego ekscesu wpisują się liczne sceny bijatyk, pościgów, strzelanin i porwań, a także niewybredne pranki, które przypominają slapstickowe gagi z czasów kina niemego. W animacjach często stosowane były rozwiązania o konotacjach magicznych: transformacje bohaterów (hybrydyzacja, multiplikacja, zmiany rozmiarów, kolorów i kształtów), nagłe pojawianie się lub znikanie rekwizytów (w szczególności obiektów dziecięcych pragnień, ze słodyczami na czele) oraz ożywanie zabawek (np. figurek z czekoladowych jajek z niespodzianką).

Najbardziej kontrowersyjne, a nawet traumatyczne obrazy przywodzą na myśl Eisensteinowskie rozumienie atrakcji jako „każdego agresywnego momentu widowiska”²³, będące zresztą bezpośrednią inspiracją dla teorii Gunninga²⁴. „Dziwne filmiki” odwołują się bowiem do tanatycznych i erotycznych popędów, sięgają po obiekty dziecięcych lęków (m.in. wyrywania zębów, zastrzyków, robaków i pająków) oraz wczesnych dociekań i fiksacji związanych z ciałem (na przykład ciąży, porodów, wydalania i defekacji). Oto sceny grozy skrojone na miarę doświadczeń i percepcji małego widza, podbijane jeszcze przez efekty dźwiękowe, takie jak demoniczny śmiech czy wybuchy płaczu. Mamy tu więc do czynienia z próbą sięgnięcia do dziecięcej nieświadomości, którą dziś łatwiej przeniknąć i zmanipulować za sprawą bezwiednie zostawianych przez cyberbrzdąców cyfrowych śladów (digital footprint), takich jak wskaźniki kliknięć czy statystyki oglądalności, odbijające się następnie w generowanych automatycznie rekomendacjach. Niewątpliwie Elsagate prezentuje obszerny katalog nienormatywnych wątków, które społeczeństwo poddaje represji w procesie socjalizacji i stara się wykorzenić nie tylko z dzieci, ale także z wyobrażeń na ich temat.

Teoria „kina atrakcji” trafnie oddaje pewne aspekty funkcjonowania platformy, której cechą charakterystyczną jest nadmiar bodźców wizualnych rywalizujących o spojrzenie widza. Nie sposób jednak ukryć narzucających się różnic między YouTube’em a jarmarcznymi filmami sprzed ponad stu lat. Inny jest przecież proces produkcji, kontekst dystrybucji oraz model biznesu. Co więcej, koncepcja Rizzo została sformułowana przed przełomowym 2011 rokiem, kiedy YouTube wprowadził pierwszy system rekomendacji korzystający z algorytmu uczenia maszynowego.

Słabe obrazy

Kino atrakcji to nie tylko „agresywne momenty widowiska”, lecz także zachwyt nad wizualnością i samą technologią – nad plastyczną stroną wystudiowanych tableaux Georges’a Méliesa oraz doskonałością kinematografu braci Lumière jako maszyny produkującej złudzenia. Przedłużeniem tej tradycji są blockbustery, które zapierają dech w piersiach efektami specjalnymi, scenograficznym rozmachem oraz hiperrealistycznym obrazem „lepszym niż rzeczywistość”²⁵. „Dziwne filmiki dla dzieci” są przeciwieństwem tak rozumianej atrakcyjności: zamiast zachwytu budzą konsternację. Forma zwraca uwagę przez kłujące w oczy niedociągnięcia i rażącą niespójność. Z kolei technologia wysuwa się na pierwszy plan przede wszystkim ze względu na widoczne „szycia” – niezatarte ślady procesu produkcji.

Materiały wideo zamieszane w Elsagate to filmy w najniższej możliwej jakości, jak najdalsze od realizacyjnego mistrzostwa Krainy lodu czy edukacyjnych walorów Ulicy Sezamkowej. Przeważają najłatwiejsze w produkcji animacje komputerowe, które są nie tyle emanacją, ile odpryskiem konsumpcjonizmu: recyklingiem postaci skradzionych z filmów Disneya czy komiksów Marvela, zbieraniną ich kanciastych kopii w niskiej rozdzielczości i krzykliwej kolorystyce. Stanowią przy tym rewers kultury wolnego dostępu, kombinację przypadkowych zasobów pobranych z darmowych bibliotek obrazów i dźwięków. Zamiast kreować własne światy, sięgają po gotową, anachroniczną przestrzeń gier komputerowych takich jak GTA i The Sims, byleby tylko uzupełnić ją o wymiar czasu, a następnie rozciągać go wzdłuż sekwencji mechanicznych, powtarzalnych zdarzeń. Jak to możliwe, że filmy tak nieudane okazały się jednocześnie niezwykle skuteczne, i to w hiperkonkurencyjnym środowisku YouTube’a?

W odniesieniu do dwudziestowiecznej kultury wizualnej Guy Debord posługiwał się pojęciem spektaklu, definiując go jako „nieodzowne upiększenie produkowanych towarów”²⁶ w społeczeństwach dobrobytu, gdzie kapitał „osiągnął taki stopień akumulacji, że stał się obrazem”²⁷. Truizmem jest dziś spostrzeżenie, że media społecznościowe takie jak Instagram czy YouTube są przestrzenią spektaklu – wypierania prawdziwych doświadczeń przez quasi-reklamowe, atrakcyjne pozory. Zarazem jednak pojawiają się nowe metody akumulacji, które nie muszą już inwestować w wyglądy, podkręcać konsumpcyjnej wizji.

Kino i telewizja – maszyny ideologiczne ubiegłego wieku – działają według zasad komunikacji masowej. Oznacza to, że wytwarzany przez nie obraz trafia równocześnie do szerokiej i zróżnicowanej grupy odbiorców. Jego spektakularność jest formą uniwersalizmu, ma za zadanie zaczarować tę niejednorodną publiczność, pogrążyć ją we wspólnym konsumpcyjnym śnie. Pomieścić, nagiąć lub przelicytować rozmaite identyfikacje, potrzeby i pragnienia. Tymczasem sieciowa struktura platform społecznościowych pozwala dotrzeć do widzów o wiele bardziej wybiórczo i przez to celniej. Wiedza o internautach nie opiera się na spekulacjach i stereotypach (jak w przypadku widowni kinowej) ani statystycznych przybliżeniach (jak w badaniach telemetrycznych), ale na danych dotyczących rzeczywistych zachowań konkretnych osób. W rezultacie internetowi twórcy mogą lepiej trafiać w upodobania swoich widzów, a w konsekwencji polegać raczej na ludzkich słabościach niż na potędze obrazu.

Niska jakość amatorskich nagrań publikowanych na YouTube’ie bywa traktowana jako znak autentyzmu, bezpośredniości i demokratyzacji przekazu. Z ekonomicznego punktu widzenia jest jednak przejawem optymalizacji wydatków, która nie wymaga już realizacyjnej perfekcji, żeby generować zyski. „Dziwne filmiki dla dzieci” porzucają logikę spektaklu, zapowiadając kolejny poziom alienacji, jakim jest przejście od konsumeryzmu (skupionego na produkcji wyglądów) do dataizmu (nastawionego na generowanie danych)²⁸. Proces ten nie ma w sobie nic emancypacyjnego, nie jest źródłem subwersywnej kontrwizualności, ale wizualności rozcieńczonej, podstępnie wdzierającej się w szczeliny niezagospodarowane dotąd przez kapitalizm. Za Elsagate stoją więc obrazy uwikłane, zaprzężone do pracy algorytmów. Stanowią wytwór akumulacji niemal bezkosztowej, która oszczędza na spektaklu do granic możliwości, odzierając go ze zwodniczej, ale przyjemnej dla oka iluzji.

Mamy tu także do czynienia z kolejnym poziomem utowarowienia czasu. To już nie tyle konsumpcja czasu przez widza, ile metakonsumpcja danych dotyczących czasu oglądania, dokonywana przez algorytmy. Odbiorca traktowany dotąd jako podmiot pragnienia zamienia się w przedmiot danych. Jak podkreśla Shoshanna Zuboff, widownia nie jest dziś nawet towarem:

Jesteśmy po prostu źródłem surowego materiału, tak jak kły są źródłem kości słoniowej. Wszystko, co nas dotyczy – jak na przykład nasze problemy, potrzeby czy zmartwienia – jest ignorowane […]. Nie ma znaczenia, czy jesteśmy szczęśliwi, czy smutni, czy radzimy sobie źle, czy dobrze. Liczy się tylko, żebyśmy robili rzeczy, które da się odrzeć z doświadczenia i zamienić w dane²⁹.

Tymczasem doświadczenie zamienione w dane można optymalizować – i to właśnie efektywna, postępująca w czasie rzeczywistym optymalizacja wyznacza najistotniejszą różnicę między YouTube’em a kinem czy telewizją; między Elsagate a filmowymi atrakcjami sprzed ponad stu lat.

Optymalizacja to proces pozwalający uzyskać najlepsze rozwiązanie z punktu widzenia określonego kryterium. Na YouTube’ie tym kryterium jest „czas oglądania”, który stanowi przede wszystkim wartość pośrednią ekonomicznego zysku Google’a jako właściciela platformy. Jednocześnie uwzględnia w mniejszym lub większym stopniu interesy pozostałych zaangażowanych stron: twórców treści (sprzedających Google’owi uwagę widzów jako czas reklamowy), reklamodawców (kupujących ten czas jako „punkt styku” z konsumentem) oraz samych widzów (dla których czas oglądania jest funkcją atrakcyjności materiałów dostępnych na platformie).

Każdy właściciel kanału na YouTube’ie ma dostęp do statystyk pokazujących, w której sekundzie odbiorcy wyłączają nagranie, pośrednio więc: co przykuwa ich uwagę, a co nuży; jakie elementy lub bodźce należy zagęścić, a z jakich można zrezygnować. Prowadzi to do powstawania obrazów skrępowanych przez dane. Statystyki oglądalności zyskują tu bowiem pierwszeństwo przed innymi wartościami, takimi jak walory estetyczne i poznawcze, społeczny interes czy inwencja twórcza. W przypadku Elsagate były z kolei przedkładane nad szeroko pojęte dobro cyberbrzdąców. Liczy się przede wszystkim zatrzymanie widza przed ekranem, nawet jeśli oznacza to nasycenie filmu „agresywnymi momentami widowiska”, grozi przebodźcowaniem i traumatyzowaniem dzieci. Zaaresztowanie uwagi zostaje więc wzbogacone o jej systematyczny nadzór, kontrolę, a nawet tortury.

Bardziej zaawansowany sposób optymalizacji polega na dopasowaniu publikowanych treści do wymagań algorytmu rekomendacyjnego Google Brain, który dzięki dwufazowej strukturze oraz zastosowaniu technologii uczenia głębokiego (deep learning) łączy ogromną skalę działania z precyzją rekomendacji. Upraszczając, na podstawie historii oglądania (watch history) algorytm wybiera kilkaset filmów najlepiej dopasowanych do użytkownika, a następnie szereguje je według przewidywanego czasu oglądania (watch time)³⁰. Uzyskiwane w ten sposób rekomendacje są skuteczne do tego stopnia, że odpowiadają za około 70 procent wszystkich obejrzeń na YouTube’ie (w opozycji do pozostałych źródeł, takich jak wyszukiwarka czy linki zewnętrzne)³¹.

Materiały wideo wykorzystane w Elsagate wydają się dziwne między innymi dlatego, że ich produkcja była zorientowana w pierwszej kolejności na algorytm zamiast bezpośrednio na odbiorców. Widać to już po tytułach filmów w formie „sałatek słownych”, czyli długich, niemożliwych do zapamiętania sekwencji słów kluczowych³². To odzwierciedlenie zastosowanej przez twórców algorytmu metody „worka słów” (bag of words), modelu języka, który abstrahuje od relacji semantycznych na rzecz syntaktyki. Mamy tu do czynienia także z nową koncepcją odbiorcy, który nie jest już postrzegany jako typowy reprezentant wybranej grupy społecznej, ale jako wypadkowa cyfrowych śladów³³, w tym przypadku – zbiór atrybutów przypisanych do filmów, które wcześniej oglądał na YouTube’ie.

Jednym z problemów wpisanych w pracę algorytmów rekomendacyjnych jest napięcie pomiędzy eksploatacją a eksploracją³⁴. Eksploatacja to strategia polegająca na wykorzystywaniu sprawdzonych rozwiązań, które obiecują bezpieczne zyski. W przypadku serwisów wideo oznacza tworzenie rekomendacji jak najbardziej zbliżonych do treści, które dotychczas przykuwały uwagę widza. Eksploracja z kolei zwraca się ku poszukiwaniu nowych, niepewnych wprawdzie, ale potencjalnie bardziej skutecznych posunięć. Zróżnicowanie filmów zamieszanych w Elsagate jest odzwierciedleniem tej ambiwalencji.

Przykładem najlepiej oddającym logikę eksploatacji jest wykorzystanie postaci Elsy i Spidermana w amatorskich wideoklipach do piosenki Finger Family. Na YouTube’ie znajdują się tysiące takich materiałów³⁵. Elsa to najpopularniejsza dziś Disneyowska księżniczka, Spiderman jest najbardziej lubianym wśród chłopców superbohaterem. Umieszczenie tych dwóch z pozoru odległych od siebie postaci w jednym filmie zwiększa szanse dotarcia do przedstawicieli obu płci jednocześnie. Dopasowanie podbija jeszcze piosenka Finger Family, która pojawia się na YouTube’ie w 17 milionach wyników i osiąga łącznie miliardy wyświetleń wśród małych dzieci³⁶.

Za przejaw logiki eksploracji możemy uznać taniec Myszki Minnie z pół Hitlerem, pół modelką w materiale pochodzącym z kanału Toys in Japan³⁷. Dla małych dzieci postać nazistowskiego dyktatora jest przezroczysta, ich uwagę przyciąga przede wszystkim Myszka Minnie i grająca w tle piosenka Finger Family. Jednocześnie terminowi „Hitler” odpowiada 18 milionów wyników w wyszukiwarce YouTube’a. Zwiększa to szanse dotarcia do dodatkowych użytkowników – nie tylko do pasjonatów historii, lecz także do odbiorców niezwykle popularnego mema wykorzystującego scenę z filmu Upadek³⁸. Inne postaci spoza dziecięcego imaginarium pojawiające się w animacjach Toys in Japan to między innymi Donald Trump, najpopularniejszy youtuber na świecie PewDiePie czy celebrytka nad celebrytkami Kim Kardashian. Wspólnym mianownikiem tych postaci jest ogromna popularność oraz memetyczność, mnogość odwołań nie tylko na YouTube’ie, ale i w wyobraźni użytkowników, gotowych doszukiwać się w pozbawionych sensu materiałach absurdalnego żartu lub kąśliwej satyry.

Podobną strategię podwójnego kodowania przyjął kanał DenisCeeTV, znany z publikowania obraźliwych pranków, reprezentujących w szczególności podgatunki gold diggers³⁹ oraz pranks in the hood⁴⁰. W styczniu 2017 roku youtuber zmienił profil działalności na produkcję niemych filmów z udziałem aktorów przebranych m.in. za Elsę, Spidermana i Hulka. Nagrania obfitowały w niewybredne, głównie skatologiczne i erotyczne żarty⁴¹. Dla dotychczasowych widzów były to jednak pomysłowe, doprowadzone do granic absurdu pranki. Dla nowej, niezwykle dochodowej widowni dziecięcej – plejada ulubionych bajkowych postaci podczas nieskrępowanej zabawy.

Z perspektywy algorytmu sceny przemocy czy niesmaczne żarty to tylko wymagające weryfikacji hipotezy, niezbędne próby i błędy na drodze do maksymalizacji wyników. Jak podkreślają Alexander Galloway i Eugene Thacker, w społeczeństwie cyfrowym nie istnieje coś takiego jak treść („there’s no content”⁴²), a jedynie konwersja jednych danych na inne. Komputery nie są w stanie odczytywać znaczenia – dysponują jedynie metodami parsowania i tworzenia interfejsów⁴³. Zaczerpnięte od Billa Gatesa i niezwykle popularne w branży marketingowej powiedzenie „Content is king”⁴⁴ („Treść jest królem”) ma dziś tak naprawdę charakter napomnienia, jest echem stale ponawianego odkrycia, że w procesie konwersji budżetów reklamowych na zyski sprzedażowe gdzieś po drodze znajduje się człowiek, a tworzenie tak zwanych „angażujących treści” wciąż stanowi jeden z najskuteczniejszych sposobów zatrzymania go przed ekranem komputera czy smartfonu. O tej uciążliwej okoliczności coraz łatwiej jednak zapomnieć w zalewie Big Data – ogromnych ilości danych wymagających zautomatyzowanej analityki, akumulowanych niczym kapitał: na zapas i w nadmiarze, tak jakby były celem, a nie środkiem.

Algorytm optymalizowany pod czas oglądania premiuje kanały, które publikują dłuższe filmy z większą częstotliwością. Dlatego YouTube stanowi bardzo dobre miejsce dla influencerów gamingowych, którzy mogą niewielkim wysiłkiem i nakładem środków nagrywać niekończące się sesje gry na komputerze. W przypadku Elsagate kluczem do sukcesu było potraktowanie dziecięcej widowni jako słabego punktu systemu. Ze względu na nie w pełni rozwinięte funkcje poznawcze małe dzieci częściej oglądają automatycznie zakolejkowane nagrania i rzadziej pomijają spoty reklamowe przez kliknięcie w przycisk „Skip ad”⁴⁵. Nie tylko mają niewielkie wymagania dotyczące estetyki obrazu, są również skłonne wielokrotnie konsumować bardzo podobne materiały⁴⁶. Umożliwiło to produkcję wielu filmów o niemal dowolnej długości poprzez swobodne powtarzanie, łączenie i miksowanie tych samych obrazów i dźwięków.

Co więcej, zaangażowanie małego dziecka łatwiej podtrzymać przez elementy formalne (bodźce wizualne i audialne) niż treściowe⁴⁷. W związku z tym „dziwne filmiki” można było stosunkowo łatwo poddawać optymalizacyjnym operacjom, na przykład podmieniać fragmenty animacji i graficzne moduły bez oglądania się na ciągłość narracyjną. W efekcie rozerwana została „warstwa kulturowa” (znaczeniowa) i zaczęła spod niej prześwitywać „warstwa komputerowa (technologiczna)”⁴⁸. Niektóre animacje składały się z ciągu niemal identycznych scenek, które różniły się pojedynczymi elementami, a poza tym wykorzystywały tę samą scenerię, ten sam dźwięk i te same sekwencje ruchów⁴⁹.

Tego typu modyfikacje treści wideo mogą wykonywać ludzie, maszyny lub połączone siły ludzi i maszyn⁵⁰ – wybór zależy od tej samej optymalizacyjnej logiki (czy tańsze będzie napisanie programu generującego obrazy, czy wykonanie tej pracy przez człowieka? Jak podzielić zadania?). W przypadku Elsagate doprowadziło to do problemu określonego przez Dana Olsona jako „odwrócony test Turinga”⁵¹: nawet materiały składane przez ludzi wyglądały jak sporządzone przez algorytm, stanowiły ciąg mechanicznych modyfikacji i powtórzeń, odstający od czytelnych konwencji opowiadania.

Jest paradoksem, ale nie przypadkiem, że do Elsagate doszło w czasach rozkwitu parentingu, skomercjalizowanej wizji rodzicielstwa wytwarzanej przez rynek niekończących się porad dotyczących opieki i wychowywania dzieci, formułowanych z myślą o wszechstronnym „fizycznym, intelektualnym, emocjonalnym i społecznym rozwoju od niemowlęctwa po dorosłość”⁵². Jak zwraca uwagę Ellie Lee, kultura parentingu zdejmuje odpowiedzialność za wychowanie z abstrakcyjnie rozumianej wspólnoty dorosłych i przerzuca cały ciężar na jednostki⁵³. Tymczasem warunkiem brzegowym analizowanego tutaj procederu było rodzicielskie zaniedbanie. Elsagate nie tylko dotknęła najmłodszych i przez to najbardziej bezbronnych widzów, ale w większym stopniu uderzyła w dzieci społecznie poszkodowane, znajdujące się pod opieką osób, które nie mogą sobie pozwolić na uczestnictwo w kulturze parentingu.

Udostępnianie dzieciom tabletu czy smartfona to przedłużenie praktyki puszczania dzieciom bajek w telewizji. Telewizja jest jednak medium familijnym, łączącym członków rodziny we wspólnym rytuale oglądania. YouTube z kolei atomizuje, pogrąża jednostkę w solipsystycznym doświadczeniu odbiorczym, rzucając ją w ciąg indywidualnie dopasowanych treści i wyobcowując z otoczenia. Twórcy filmów kinowych czy programów telewizyjnych dla dzieci muszą traktować opinię rodziców na równi z upodobaniami małych widzów. W przypadku materiałów na YouTube’ie sprawa nie jest tak oczywista, nie tylko z powodu właściwości proksemicznych jednoosobowego ekranu smartfona, ale także ze względu na kontekst odbiorczy. Z aplikacji YouTube Kids cyberbrzdące nie korzystają wyłącznie w domu. Obraz cyfrowy wciska się dziś w różne szczeliny codzienności, urządzenia mobilne trafiają do rąk dzieci w trakcie podróży, podczas zakupów i w poczekalni u lekarza, kiedy uwaga rodziców bywa jeszcze bardziej rozproszona.

Turbokapitalistyczna efektywność wymaga, żeby spieniężyć uwagę każdego cyberbrzdąca, jeśli nie w opłacie za abonament w bezpiecznym serwisie subskrypcyjnym, to we wpływach z emisji reklam na leseferystycznej platformie Google’a. YouTube współtworzy bowiem zjawisko określane mianem kapitalizmu platform (platform capitalism)⁵⁴. W przeciwieństwie do koncernów medialnych platformy nie produkują własnych treści, a jedynie udostępniają wirtualną przestrzeń użytkownikom. Dzięki zastąpieniu kosztownej pracy redakcji darmową pracą internautów mogą akumulować kapitał na niespotykaną dotąd skalę. Mimo to odmawiają odpowiedzialności za publikowane materiały⁵⁵. Jak możemy wyczytać w regulaminie YouTube’a, firma „w sposób wyraźny odmawia przyjęcia jakiejkolwiek odpowiedzialności związanej z Treściami”⁵⁶. Co więcej, przerzuca ciężar wyszukiwania i zgłaszania szkodliwych nagrań na tak zwaną „społeczność” (Community)⁵⁷.

YouTube wprawdzie nie tworzy własnych treści, ale tworzy i wdraża algorytmy, które rozmaite treści polecają i automatycznie wyświetlają użytkownikom, wydłużając w ten sposób czas oglądania i maksymalizując zyski technologicznego giganta. Mamy tu do czynienia z działaniem analogicznym do pracy redakcyjnej polegającej na doborze i emisji materiałów. System rekomendacyjny posiada więc moc sprawczą, która pozostaje w dużej mierze poza ludzką kontrolą. Kto powinien wziąć odpowiedzialność za jego funkcjonowanie? Sama publikacja kontrowersyjnych nagrań nie wyrządziłaby dzieciom krzywdy. Bez algorytmicznego wzmocnienia „dziwne filmiki” zaginęłyby wśród nieskończonych zasobów platformy. Nigdy by zresztą nie powstały, zostały bowiem wyprodukowane w odpowiedzi na wymogi algorytmu rekomendacyjnego YouTube’a i są tych wymogów ucieleśnieniem.

Elsagate dla każdego

Za sprawą Elsagate zyskaliśmy wgląd w funkcjonowanie nowego typu obrazów – poddanych rygorom efektywności, automatycznie sterowanych i obliczeniowo osłabionych; dziwnych, bo nie-ludzkich filmików, które stanowią najmniejszy wspólny mianownik pomiędzy strukturą algorytmu a widzem rozumianym jako wektor atrybutów. Realizacyjne niedoskonałości i niedostatki sensu są skutkiem procesu abstrakcji, usuwania z obrazu tego, co nie jest w nim konieczne, co nie przekłada się na ekonomiczny zysk lub jego wskaźniki pośrednie. Proces ten jest analogiczny do przemian w obrębie gospodarki (jej finansjalizacji) i marketingu (jego dataizacji).

Nie oznacza to oczywiście końca obrazów wyestetyzowanych czy spektakularnych – przynajmniej dopóki mają one swoich „wymagających konsumentów” i wymagające okazje konsumpcji. Imperatyw efektywności nie narzuca bowiem wstrzymywania inwestycji, a jedynie cięcie wydatków tam, gdzie to możliwe, szukanie okazji do produkowania nadwyżek i relokacji środków. Zautomatyzowana, napędzana przez dane (data-driven) optymalizacja zbiera więc łatwe łupy i zagospodarowuje niskie stany uwagi, bez wysiłku wynajduje rozsiane po globalnej sieci nisze i łączy je w zbiory, uzyskując masową skalę przy zachowaniu jednostkowej precyzji. Dzięki zastosowaniu nowych technologii dociera tam, gdzie do niedawna w ogóle nie opłacało się inwestować.

Na YouTube’ie wciąż możemy spodziewać się obrazów niekomercyjnych: bezinteresownych i spontanicznych, niepopularnych czy niedopasowanych. Będą one jednak przegrywać walkę o względy algorytmów rekomendacyjnych, a w konsekwencji także o uwagę widzów. Już dziś większości materiałów publikowanych na platformie prawie nikt nie ogląda, współtworzą tylko zjawisko określane jako lonely web („samotna sieć”)⁵⁸. W tym samym czasie tysiące filmów z Elsą i Spidermanem osiągają setki milionów obejrzeń, kształtują (odkształcają?) dziecięcą psychikę, a przede wszystkim zapełniają konta bankowe Google’a i sprytnych (smart) twórców.

Do ujawnienia procederu być może w ogóle by nie doszło, gdyby nie błąd (swoisty bug) w systemie. Filmy dla dzieci stanowią bowiem rzadki przypadek, gdy spersonalizowane rekomendacje regularnie trafiają także do grupy odległej psychograficznie od „grupy docelowej” – mianowicie do rodziców, którzy jako pierwsi wypatrzyli szkodliwe materiały wideo. Dopóki oglądamy treści skalibrowane pod kątem naszych dyspozycji, nie jesteśmy w stanie dostrzec manipulacji. System polecający stał się zbyt skuteczny. Wynika to nie tylko z efektywnej obliczeniowo konstrukcji sieci neuronowych Google Brain, ale także z rosnącej ilości danych, która w tym przypadku przekłada się na jakość. Czterysta godzin nowych nagrań pojawiających się co minutę⁵⁹ poprawia skuteczność algorytmu w dwójnasób: niuansując wnioski z danych historycznych oraz zwiększając pulę potencjalnych rekomendacji (wśród których każdy znajdzie coś dla siebie, w dodatku wcale nie szukając). W efekcie YouTube coraz trafniej obstawia, którą plotkę z życia gwiazd czy teorię spiskową nam podsunąć, żebyśmy jak najdłużej pozostali na platformie, a najlepiej wpadli w „króliczą norę” (down the rabbit hole) coraz dziwniejszych i bardziej kontrowersyjnych materiałów⁶⁰.

Elsagate dowodzi, że mechanizmy marketingowej optymalizacji są gotowe wykorzystać każdą ludzką słabość, żeby zrealizować swoje cele. Jeżeli uderzyły w małe, bezbronne dzieci – otoczone na ogół szczególną ochroną prawną i społeczną troską – kogo miałyby oszczędzić? W procesie produkcji filmów skierowanych do cyberbrzdąców dało się wyekstrahować najmniejszą dawkę treści i stworzyć z niej obrazy możliwie najtańsze, najsłabsze, najbardziej rozcieńczone. Na YouTube’ie istnieją jednak kanały publikujące odpowiedniki „dziwnych filmików dla dzieci” dopasowane do innych grup demo- i psychograficznych⁶¹. To na przykład bezużyteczne rozwiązania nieistniejących problemów (5-minute Crafts⁶²), bezsensowne zagadki z naciąganymi rozwiązaniami (7-second Riddles⁶³) czy niedorzeczne opowieści nastolatków skradzione z for internetowych (Actually Happened⁶⁴). Należący do tej kategorii quasi-poradnikowy kanał Bright Side (Jasna Strona)⁶⁵ niejako wbrew nazwie dryfuje w kierunku mrocznej strony życia, sięgając często po makabryczne przykłady i anegdoty. Cóż poradzić, jeśli przemoc skuteczniej przyciąga uwagę od porad psychologicznych? Wszystkie te kanały charakteryzują się szeroką widownią, wysoką częstotliwością publikacji, niską jakością produkcji i wątpliwą wartością merytoryczną (w tym błędami, które przypominają czasem wynik mechanicznego generowania sensów, na przykład automatycznego przetwarzania scenariuszy). Przede wszystkim zaś wykorzystują ludzkie braki – personalizują niedostatki wykształcenia i kompetencji technologicznych, które dzięki Big Data można wyśledzić w najdalszych zakamarkach sieci.

Jako użytkownicy sieci społecznościowych w ogólności i YouTuba w szczególności w naszych informacyjnych bańkach i spersonalizowanych strefach rozrywki przypominamy dzieci wciągnięte w Elsagate: jesteśmy odbiorcami pasywnymi, podatnymi na sugestie i bezbronnymi wobec mechanizmów, które nie w pełni rozumiemy. Właśnie zasięg zjawiska odróżnia animacje z Elsą i Spidermanem od jarmarcznych filmów z początku XX wieku. Nie chodzi o doraźne i chwilowe oderwanie uwagi przypadkowych przechodniów, ale o zagarnianie jej na co dzień, u każdego i od dziecka, o systematyczne rozszerzanie granic i podnoszenie skuteczności wpływu.

Tymczasem najskuteczniejszym sposobem wywierania wpływu na internautów jest metodyczne wykorzystywanie ich słabych punktów oraz irracjonalnych skłonności. Ryan Calo zwraca uwagę, że „wyłaniające się metody Big Data wprowadzają nowe, wyjątkowo efektywne sposoby identyfikowania złudzeń poznawczych przez odkrywanie intratnych anomalii”, czyli odchyleń od przyjętych modeli racjonalnego postępowania⁶⁶. Wśród licznych przykładów użycia danych wbrew interesowi konsumenta podaje między innymi wyświetlanie reklam kosmetyków w momentach obniżonej samooceny. Jak zaznacza, nowością nie jest sama chęć wykorzystania ludzkiej słabości, lecz możliwość wykorzystywania jej w sposób automatyczny i na dużą skalę⁶⁷.

Dochodowe bywają nie tylko wewnętrzne przeżycia, ale także zewnętrzne okoliczności. W 2016 roku głośna była sprawa dynamicznej dyskryminacji cenowej, stosowanej wobec klientów Ubera, którzy mieli rozładowaną baterię w telefonie⁶⁸. Tego typu przypadki wyraźnie pokazują, że proces personalizacji nie musi wcale oznaczać dopasowania przekazu do potrzeb użytkownika. Przeciwnie, policzalne wskaźniki biznesowe z zasady mają pierwszeństwo przed mglistym interesem internauty.

Co więcej, wiedza z zakresu neuropsychologii i psychologii behawioralnej stosowana jest do formułowania przekazów reklamowych oraz projektowania interfejsów⁶⁹. Zgodnie z rozpoznaniami Natashy Schüll platformy społecznościowe wykorzystują mechanizmy charakterystyczne dla hazardu, żeby przyciągnąć i zatrzymać uwagę użytkowników⁷⁰. Ich celem jest wytworzenie nawyku równie silnego jak nałóg, przynoszącego długoterminowe zyski. Jak relacjonuje Corey Pein, marketing internetowy przypomina „sprzedawanie cracku dzieciakom”⁷¹. W podobnym tonie wypowiadają się Robert Hassan i Thomas Sutherland, oceniając, że cyfrowy kapitalizm prowadzi do infantylizacji społeczeństwa, która przejawia się między innymi w bezradności wobec technologii, oczekiwaniu natychmiastowej gratyfikacji, a także w daleko posuniętej prywatyzacji życia odbierającej możliwości politycznego działania⁷².

Mamy tu do czynienia ze spełnieniem wizji „społeczeństw kontroli”, opisanej przez Gilles’a Deleuze’a w 1990 roku⁷³. Kontrola to nowy, niezwykle skuteczny rodzaj władzy wywodzącej się z marketingu, kontrastowo zestawiony przez Deleuze’a z mechanizmami dyscypliny (które w kontekście nowoczesnego państwa drobiazgowo analizował Michel Foucault). Paradoksalnie największym problemem związanym kontrolą jest wpisana w nią bezbolesność. W przeciwieństwie do dyscypliny nie poddaje ona ludzkich pragnień represji, ale próbuje je przewidzieć, a następnie zaprząc do wypełniania własnych celów. Posługuje się raczej profilowaniem grup niż ewidencją jednostek, manipulacją w miejsce przymusu, predykcją zamiast groźbą kary oraz zakreślaniem pola możliwości w kontraście do wpajania sztywnych zasad. Kontrola jest więc nieodczuwalna i niewidoczna, podszywa się pod wolną wolę, działa w tle jak ukryte za interfejsem algorytmy. Komputer jednak – zaznacza Deleuze – to maszyna podatna na zaburzenia⁷⁴. Kontrowersje medialne takie jak Elsagate są przejawem tej cechy w skali makro. Przenoszą uwagę internautów na poziom metarefleksji, obnażają niewidoczną na co dzień manipulację, a czasem prowadzą również do spowolnienia (choć nigdy do zatrzymania) obrotów marketingowej machiny.

Warto przy tym podkreślić, że kontrola nie jest bezwzględnie lepsza ani gorsza od dyscypliny. Z perspektywy podporządkowanego podmiotu wydaje się mniej dotkliwa, z punktu widzenia systemu zaś – bardziej skuteczna. Nie chodzi przecież o to, żeby deprecjonować sieci społecznościowe, ale by rozpoznać je jako przestrzeń władzy, w dodatku władzy nowego typu, wymagającej analizy i krytycznej refleksji⁷⁵. Jestem daleki od tezy, że YouTube jest w całości lub z gruntu zły. Abstrahuję od zalet platformy z prostego powodu: zanim zdążymy je odczuć, są nam podsuwane i objaśniane przez siły marketingu. Krytyka jest natomiast nieopłacalna, płynie pod prąd przepływu kapitału i towarzyszącej mu ideologii, dlatego też potrzebujemy jej dziś bardziej niż technoentuzjazmu, który bierze swój początek w Dolinie Krzemowej i swobodnie rozlewa się po świecie.

Rezygnacja z cyfrowych platform to dziś wybór analogiczny do wyprowadzki na pustelnię w czasach intensywnej urbanizacji. Istotny problem stanowi za to trwałość dyscyplinarnych klisz. Dominującą figurą myślenia na temat opresji jest więzienie. Tymczasem kontrola działa według zupełnie innych zasad. Przypomnijmy w tym miejscu skandal z 2016 roku dotyczący mikrotargetowania fałszywych informacji w amerykańskiej kampanii prezydenckiej. Powszechnie przedstawiano go w mediach jako zamach na wolność obywateli, zarazem jednak żaden użytkownik Facebooka nie był skłonny przyznać, że zagłosował na Donalda Trumpa wbrew własnej woli. Co więcej, nadużycie zostało dostrzeżone przede wszystkim ze względu na związki z polityką w jej tradycyjnym, państwowym wydaniu.

Odkrycie mechaniki władzy w działaniu nowych technologii zostało już dokonane w obszarze nauk prawnych. Pojęcie „Regulacji 2.0” to postulat tworzenia algorytmów na usługach państwa, mających zastąpić w przestrzeni wirtualnej sztywne, wiecznie spóźnione i nieefektywne kodeksy i procedury administracyjne⁷⁶. Zwróćmy uwagę, że algorytmy mają tu właśnie egzekwować władzę, do tego w sposób o wiele bardziej skuteczny niż przestarzałe urządzenia dyscyplinarne. Niewątpliwie ten rodzaj władzy jest w internecie wszechobecny już dziś. Z tą różnicą, że nie znajduje się w rękach państwa – co czyni go podwójnie niewidzialnym.