Radykalizacja online i offline jako jeden ekosystem

Streszczenie

„Radykalizacja przez internet” brzmi jak wyjaśnienie, lecz najczęściej tylko wskazuje medium. Internet może dostarczać treści, publiczności, relacji, statusu, koordynacji i możliwości. Każda z tych funkcji wymaga innego mechanizmu oraz innych danych. Samo obejrzenie materiału nie jest zaangażowaniem; komentowanie nie jest relacją; radykalna opinia nie jest mobilizacją; mobilizacja nie jest jeszcze czynem.

Lepszym modelem jest jeden ekosystem online–offline. Film obejrzany na platformie otwartej może zostać przesłany przez szkolnego znajomego, omówiony w prywatnej grupie, potwierdzony podczas spotkania i zamieniony w publiczną rolę twórcy. Relacja rozpoczęta lokalnie trwa przez komunikator, a treść powstała w zamkniętym kanale wraca na platformę masową w postaci memu. Granica między „internetowym” i „realnym” procesem przecina jedną historię w przypadkowym miejscu.

Badania systematyczne wskazują związek ekspozycji na ekstremistyczne materiały z radykalnymi postawami i niektórymi rezultatami behawioralnymi, lecz jakość dowodów jest niska, definicje niejednolite, a kierunek przyczynowy często nieznany.¹ Osoby już zainteresowane szukają treści, subskrybują kanały i otrzymują materiały od znajomych. System rekomendacji może zwiększać lub zmniejszać ekspozycję, ale nie jest samotnym „radykalizatorem”.

Warto rozdzielić pięć poziomów:

1. ekspozycję — materiał pojawił się w polu widzenia;
2. zaangażowanie — odbiorca wraca, reaguje i poszukuje;
3. produkcję — tworzy, tłumaczy lub dystrybuuje treść;
4. relację — powstaje wzajemne zaufanie, norma i status;
5. mobilizację — pojawia się osobisty obowiązek, cel, zdolność i przygotowanie.

Środowiska gamingowe, komunikatory używane przez graczy i kultura memów mogą być wykorzystywane przez ekstremistów, podobnie jak inne popularne przestrzenie. Gry, humor, ironia i młodzi mężczyźni nie są jednak wskaźnikami ekstremizmu. Stygmatyzowanie całej kultury niszczy zaufanie i generuje fałszywe alarmy.

Praktyka powinna rekonstruować funkcję cyfrowej aktywności, a nie liczyć „ekstremistyczne kliknięcia”. Trzeba ustalić chronologię, intencję, wzajemność kontaktów, zmianę normy, przejście do prywatnej relacji oraz związek z zachowaniem offline. Interwencja może obejmować kontakt, edukację medialną, zmianę społecznych nagród i plan bezpiecznego korzystania, lecz szczegółowe projektowanie działań cyfrowych rozwija artykuł „Cyfrowy exit work i interwencje w internecie”.

Dlaczego „online” nie jest mechanizmem

Internet jest środowiskiem wielu czynności:

• czytania wiadomości;
• oglądania rozrywki;
• rozmowy z rodziną;
• nauki;
• religii;
• aktywizmu;
• propagandy;
• pracy;
• zabawy;
• budowania przyjaźni;
• planowania czynu.

Stwierdzenie „internet odegrał rolę” może znaczyć, że sprawca przeczytał manifest, poznał osobę, znalazł publiczność, utrzymywał dawną relację, uczył się doktryny albo po czynie pozostawił ślad. Te funkcje nie są równoważne.

Medium nie jest nadawcą

Platforma dostarcza infrastrukturę, lecz materiał tworzy człowiek lub organizacja. System rekomendacji wybiera widoczność, ale odbiorca ma historię, preferencje i relacje. Znajomy może nadać jednemu filmowi większą wagę niż setkom automatycznych propozycji.

Medium nie jest treścią

Ta sama funkcja techniczna służy:

• wsparciu ofiar;
• pokojowej mobilizacji;
• nienawiści;
• humorowi;
• rekrutacji;
• zapobieganiu przemocy.

Nie da się wyprowadzić skutku z nazwy aplikacji.

Medium nie jest skutkiem

Ekspozycja może wywołać:

• odrzucenie;
• oburzenie;
• ciekawość;
• ironię;
• badawcze zainteresowanie;
• wzmocnienie wcześniejszej postawy;
• poszukiwanie grupy;
• zgłoszenie materiału.

Odbiorca nie jest pustym naczyniem.

Skąd wziął się model „samoradykalizacji”

Po przypadkach sprawców działających bez formalnego członkostwa popularność zyskał obraz samotnej osoby, która w domu ogląda materiały, przyjmuje ideologię i przechodzi do przemocy. Model odpowiadał widocznym śladom cyfrowym oraz potrzebie prostej chronologii.

Problem źródeł po zdarzeniu

Po ataku badacze i media znajdują:

• historię przeglądania;
• posty;
• manifest;
• subskrypcje;
• zapis rozmów.

Mniej widoczne są:

• rozmowy twarzą w twarz;
• wcześniejsze konflikty;
• milczący bliscy;
• zwykłe materiały;
• okresy braku zainteresowania;
• miliony odbiorców, którzy nie działali.

Cyfrowy ślad jest trwały i wyszukiwalny, więc może wydawać się bardziej przyczynowy niż relacja, która nie pozostawiła zapisu.

Hindsight bias

Po wyniku każdy wcześniejszy post wygląda jak krok. W czasie rzeczywistym podobne treści publikują osoby, które:

• prowokują;
• fantazjują;
• naśladują estetykę;
• szukają statusu;
• nigdy nie podejmą przemocy.

Chronologia sprawcy nie jest dowodem nieuchronnej ścieżki.

„Samotny” operacyjnie, społeczny psychologicznie

Sprawca może działać bez współwykonawcy, a jednocześnie:

• należeć do subkultury;
• rozmawiać z sympatykami;
• naśladować poprzedników;
• pisać dla wyobrażonej publiczności;
• szukać uznania po czynie;
• ujawniać zamiar znajomym.

Brak rozkazu nie jest brakiem wpływu.

Jeden ekosystem

Przykładowa pętla

1. Lokalny znajomy przesyła materiał z otwartej platformy.
2. Odbiorca zaczyna obserwować twórcę.
3. W komentarzach poznaje język i normy.
4. Przechodzi do małej grupy w komunikatorze.
5. Zdobywa status za tworzenie memów.
6. Spotyka jednego członka offline.
7. Konflikt w domu zwiększa zależność od grupy cyfrowej.
8. Treści stworzone w grupie wracają na platformę otwartą.

Żaden pojedynczy punkt nie jest „momentem internetowej radykalizacji”.

Przepływ w drugą stronę

Proces może zacząć się offline:

• więzienny znajomy wprowadza ideę;
• po wyjściu kontakt trwa w komunikatorze;
• platforma dostarcza materiały;
• odbiorca sam staje się twórcą;
• cyfrowy status wzmacnia lokalną pozycję.

Hybrydowa tożsamość

Tożsamość internetowa nie musi być fałszywa. Awatar, pseudonim i rola moderatora mogą być istotną częścią „ja”. Człowiek przenosi emocje, status i konflikty między przestrzeniami.

Hybrydowe zdarzenie

Demonstracja jest fizyczna, lecz:

• termin krąży cyfrowo;
• symbole są testowane w memach;
• uczestnicy transmitują;
• komentarze zmieniają interpretację;
• obraz wraca jako propaganda.

Analityczny podział online–offline może ukrywać sprzężenie zwrotne.

Pięć poziomów zaangażowania

1. Ekspozycja

Materiał pojawia się przez:

• wyszukiwanie;
• rekomendację;
• udostępnienie przez znajomego;
• wiadomość;
• relację medialną;
• krytyczny komentarz;
• materiał badawczy.

Ekspozycja nie mówi, czy odbiorca obejrzał, zrozumiał i zaakceptował.

Dane

• wyświetlenie;
• czas kontaktu;
• źródło wejścia;
• kolejność treści;
• kontekst.

Same logi mogą nie ujawniać, kto korzystał z urządzenia ani po co.

2. Zaangażowanie

Odbiorca:

• wraca;
• wyszukuje;
• subskrybuje;
• reaguje;
• komentuje;
• zapisuje;
• porównuje źródła.

Zaangażowanie może być pozytywne, krytyczne albo badawcze. Reakcja nie ma jednolitego znaczenia.

3. Produkcja i dystrybucja

Osoba:

• redaguje;
• tłumaczy;
• remiksuje;
• tworzy memy;
• moderuje;
• archiwizuje;
• zarządza odbiorcami.

Produkcja jest silniejszą rolą społeczną niż bierne oglądanie, ale nadal nie dowodzi mobilizacji do przemocy. Może być legalnym radykalnym aktywizmem.

4. Budowa relacji

Kontakt staje się:

• wzajemny;
• powtarzalny;
• zaufany;
• prywatny;
• normatywny;
• zależny.

Pojawiają się nagrody, sankcje, troska i zobowiązania. To etap, którego nie opisuje liczba odsłon.

5. Mobilizacja

Następuje przejście od „to słuszne” do „ja muszę działać”. Potrzebne mogą być:

• osobisty obowiązek;
• konkretny cel;
• zdolność;
• sposobność;
• przygotowanie;
• osłabienie hamulców.

Mobilizacja może być pokojowa, nielegalna nieprzemocowa albo przemocowa. Rezultat trzeba nazwać.

Nie drabina, lecz macierz

Pięć poziomów nie tworzy obowiązkowej sekwencji. Osoba może:

• produkować prowokacyjne treści bez akceptacji;
• wejść w relację przed ekspozycją na doktrynę;
• od razu otrzymać prywatny kontakt;
• mobilizować się offline i użyć internetu tylko logistycznie;
• wycofać się po głębokim zaangażowaniu.

Lepsza jest macierz:

Funkcja	Otwarte platformy	Małe grupy	Offline
ekspozycja	rekomendacja, wyszukiwanie	przesłany materiał	rozmowa, ulotka
interpretacja	twórca, komentarze	wspólne objaśnienie	autorytet
status	zasięg, reakcje	uznanie grupy	rola lokalna
relacja	obserwowanie, komentarz	wzajemny kontakt	przyjaźń
mobilizacja	wezwanie ogólne	osobista presja	cel i sposobność

Tabela wymusza pytanie o funkcję w każdej przestrzeni.

Architektura platform

Platformy różnią się możliwościami, nie „poziomem radykalizacji”.

Platforma otwarta

Umożliwia:

• duży zasięg;
• odkrywanie;
• publiczny status;
• kontakt z mediami;
• napływ przypadkowych odbiorców;
• widoczną moderację.

Nadaje się do szerokiej propagandy, ale trudniej zbudować zaufanie.

Komunikator

Umożliwia:

• bezpośrednią rozmowę;
• małe grupy;
• szybką reakcję;
• ciągłość istniejącej relacji;
• większe poczucie prywatności.

Szyfrowanie chroni zwykłych użytkowników, dziennikarzy i ofiary przemocy; nie jest samo wskaźnikiem zagrożenia.

Forum lub mikrospołeczność

Umożliwia:

• trwały język;
• role;
• reputację;
• archiwum;
• normy moderacji;
• socjalizację nowych.

Mała publiczność może mieć większy wpływ niż masowy zasięg.

Serwis wideo

Łączy:

• twarz i głos twórcy;
• długi wykład;
• krótkie klipy;
• komentarze;
• rekomendacje;
• transmisję.

Jednostronna więź paraspołeczna może dawać poczucie znajomości bez wzajemności.

Platforma gamingowa

Może łączyć rozgrywkę, rozmowę głosową, serwer społeczności i transmisję. Najważniejsza bywa nie gra, ale powtarzalna grupa i wspólna aktywność.

Rekomendacje algorytmiczne

Co robi system

System może optymalizować:

• przewidywany czas oglądania;
• kliknięcie;
• satysfakcję;
• retencję;
• różnorodność;
• bezpieczeństwo.

Dokładny cel i dane zmieniają się. Nie można mówić o „algorytmie” jak o jednej stałej osobie.

Hipoteza króliczej nory

Zakłada:

1. odbiorca zaczyna od treści umiarkowanej;
2. system proponuje coraz skrajniejsze materiały;
3. ekspozycja zmienia poglądy;
4. odbiorca przechodzi do przemocy.

Każda strzałka wymaga osobnego dowodu. Badanie rekomendacji nie dowodzi zmiany poglądu, a zmiana poglądu nie dowodzi przemocy.

Audyt ścieżek

Ribeiro i współautorzy analizowali dużą sieć filmów, komentarzy i kanałów na YouTube. Znaleźli przepływy użytkowników między społecznościami oraz powiązania rekomendacyjne, które były zgodne z możliwością ścieżek ku treściom bardziej skrajnym.²

Ograniczenia:

• obserwacyjne dane nie ustalają, czy rekomendacja spowodowała przejście;
• komentujący nie reprezentują wszystkich widzów;
• klasyfikacja kanałów jest sporna;
• system zmienia się w czasie;
• przejście między kanałami nie jest radykalizacją do przemocy.

Dane z historii przeglądania

Hosseinmardi i współautorzy wykorzystali dane panelowe o rzeczywistym korzystaniu z YouTube. Konsumpcja treści alternatywnych i ekstremistycznych była skoncentrowana w małej grupie osób o wcześniejszych postawach, a subskrypcje i zewnętrzne odsyłacze miały duże znaczenie. Autorzy nie znaleźli podstaw, by system rekomendacji był systematyczną główną przyczyną zaangażowania w treści skrajne.³

Badanie również ma granice:

• panel nie obejmuje wszystkich populacji;
• mierzy konsumpcję, nie terroryzm;
• kategorie treści są badawczą konstrukcją;
• wyniki dotyczą określonego serwisu i okresu;
• rzadki skutek może być niewidoczny w średniej.

Najuczciwszy wniosek

Rekomendacje są jednym z mechanizmów dystrybucji. Ich wpływ zależy od:

• wcześniejszego zainteresowania;
• sieci kontaktów;
• subskrypcji;
• wejść z zewnątrz;
• celu optymalizacji;
• moderacji;
• rodzaju treści;
• zachowania użytkownika.

Nie należy ani ogłaszać algorytmu samodzielnym sprawcą, ani uznawać jego wpływu za niemożliwy.

Selekcja i wpływ

Osoby z wcześniejszą wrogością częściej:

• szukają zgodnych treści;
• zatrzymują się przy nich;
• subskrybują;
• dołączają do grup;
• uczą system własnych preferencji.

Platforma następnie zwiększa podaż podobnych materiałów. Powstaje sprzężenie:

preferencja → wybór → personalizacja → większa ekspozycja → możliwe wzmocnienie preferencji.

Obserwacja końcowa nie pozwala łatwo oddzielić pierwszej i drugiej przyczyny.

Dane potrzebne do wnioskowania

• stan początkowy;
• historia ekspozycji;
• źródło wejścia;
• rzeczywista rekomendacja, nie tylko dostępność;
• przyjęcie rekomendacji;
• zmiana postawy;
• późniejsze zachowanie;
• grupa porównawcza.

Większość badań nie ma całego łańcucha.

Co pokazują przeglądy

RAND: piętnaście przypadków

Von Behr, Reding, Edwards i Gribbon analizowali piętnaście przypadków terroryzmu i ekstremizmu. Wnioski wskazywały, że internet:

• tworzył więcej okazji do radykalizacji;
• mógł działać jako echo chamber;
• ułatwiał kontakt i uczenie;
• mógł przyspieszać proces.

Autorzy nie uzyskali podstaw dla tezy, że zastępuje kontakt fizyczny lub że samodzielna radykalizacja online jest typowym, wystarczającym wyjaśnieniem.⁴

Piętnaście celowo dobranych przypadków nie pozwala określić częstości w populacji. Studium przypadku ujawnia mechanizm, nie jego bazową częstość.

Systematyczny przegląd ekspozycji

Hassan i współautorzy znaleźli ostrożne dowody związku ekspozycji z ekstremistycznymi postawami online i offline oraz ryzykiem przemocy w badanych środowiskach. Podkreślali ograniczenia metod i potrzebę lepszych badań.⁵

Przegląd ilościowy skutków mediów

Wolfowicz, Hasisi i Weisburd przeprowadzili przegląd systematyczny i metaanalizę czynników medialnych. Ekspozycja na radykalne treści online miała większy związek z rezultatami radykalizacji niż część innych zmiennych medialnych, zwłaszcza dla wyników behawioralnych, lecz ogólna jakość dowodów była niska.¹

„Wynik behawioralny” w pracach źródłowych nie zawsze oznaczał przemoc. Mógł obejmować publikowanie, kontakt lub aktywizm.

Przegląd młodzieży

UNESCO w przeglądzie badań nad młodzieżą i mediami społecznościowymi wskazywało, że literatura była fragmentaryczna, często opisowa, nadmiernie skupiona na jednym nurcie i słaba w ewaluacji przeciwdziałań.⁶

„Pusty” przegląd zdrowia publicznego

Przegląd podejść publicznego zdrowia psychicznego do radykalizacji online nie znalazł badań spełniających pełne kryteria oceny interwencji, co autorzy nazwali pustym przeglądem. Pokazuje to różnicę między dużą liczbą rekomendacji a dowodami skuteczności.⁷

Internet w sprawach samotnych sprawców

Gill i współautorzy analizowali zachowania internetowe samotnych sprawców. Internet służył między innymi uczeniu, komunikacji i legitymizacji, a jego rola zmieniała się w czasie. Autorzy ostrzegali przed traktowaniem aktywności online jako jednego typu zachowania.⁸

Widoczność zamiaru

Niektórzy sprawcy:

• publikują groźby;
• zapowiadają;
• wysyłają materiał znajomym;
• próbują uzyskać aprobatę;
• pozostawiają manifest.

„Wyciek” nie zawsze występuje i może być niejednoznaczny. Konkretny cel, czas, przygotowanie i zmiana zachowania mają większą wagę niż ogólna skrajna mowa.

Publiczność jako część czynu

Dla części sprawców akt jest komunikatem:

• ma zapewnić rozgłos;
• zainspirować naśladowców;
• ustanowić status;
• zmienić obieg medialny.

Platforma nie jest jedynie źródłem radykalizacji; jest przewidywaną publicznością. Odpowiedź medialna może niechcący spełnić ten cel.

Naśladownictwo

Poprzedni sprawca dostarcza:

• narrację;
• skrypt roli;
• estetykę;
• oczekiwanie sławy.

Badanie naśladownictwa musi odróżnić wspólną ideologię, imitację i niezależną reakcję na to samo zdarzenie.

Otwarte platformy i zamknięte grupy

Lejek jest użyteczną metaforą, ale nie prawem

Otwarte treści mogą przyciągać szeroką publiczność, a mała część odbiorców przechodzi do prywatnej relacji. Jednak:

• nie każdy ruch świadomie prowadzi lejek;
• prywatny kontakt może rozpocząć się od znajomego;
• odbiorcy przechodzą między platformami;
• część pozostaje publiczna;
• moderacja zmienia drogę.

Funkcja platformy masowej

• rozpoznawalność;
• normalizacja języka;
• testowanie treści;
• identyfikacja aktywnych odbiorców;
• status twórcy.

Funkcja małej grupy

• wzajemność;
• zaufanie;
• presja;
• spersonalizowana interpretacja;
• wspólna rutyna;
• możliwość ukrycia wątpliwości przed publicznością.

Funkcja offline

• potwierdzenie tożsamości;
• intensywna więź;
• dostęp do miejsca i zasobów;
• obserwacja zachowania;
• osobista odpowiedzialność.

Każda warstwa może również hamować.

Influencer i więź paraspołeczna

Odbiorca regularnie ogląda twórcę, zna jego głos, rytuały i historię. Powstaje poczucie bliskości, choć twórca nie zna odbiorcy. Horton i Wohl nazwali taki układ relacją paraspołeczną.⁹

Co daje twórca

• stałość;
• interpretację wiadomości;
• model emocji;
• język;
• poczucie „ktoś mnie rozumie”;
• dostęp do publiczności podobnych osób.

Czego nie daje

• wzajemnej wiedzy;
• indywidualnej odpowiedzialności;
• realnego wsparcia w kryzysie;
• kontroli nad interpretacją każdego odbiorcy.

Nie należy automatycznie przypisywać twórcy zamiaru wywołania czynu na podstawie zachowania pojedynczego widza. Ocenia się treść, kontekst, przewidywalność i prawo.

Mikroinfluencer

Osoba o małej publiczności może mieć większy wpływ dzięki dostępności i wzajemności. Zasięg i intensywność relacji są różnymi zmiennymi.

Komentarze jako szkoła norm

Komentarze nie tylko oceniają treść. Pokazują:

• co jest nagradzane;
• jaki język jest dozwolony;
• kto jest wyśmiewany;
• jak reagować na wątpliwość;
• czy przemoc jest fantazją, żartem czy obowiązkiem.

Fałszywy konsensus

Widoczna grupa nie reprezentuje wszystkich odbiorców. Najbardziej aktywni tworzą obraz powszechnej zgody. Milcząca większość jest niewidoczna.

Moderacja jako sygnał normy

Usunięcie, pozostawienie albo przypięcie komentarza komunikuje normę. Automatyczna moderacja może się mylić, a niespójność może być interpretowana jako stronniczość.

Konta nie są osobami

Jedna osoba może mieć wiele kont, a konto może być współdzielone lub automatyczne. Analiza liczby użytkowników wymaga ostrożności.

Memy

Mem jest formatem kulturowym, który jest kopiowany i przekształcany. Łączy obraz, tekst, odniesienie i kontekst.¹⁰

Funkcje

• kompresuje narrację;
• tworzy wspólny żart;
• sygnalizuje przynależność;
• testuje granice;
• ośmiesza przeciwnika;
• nadaje status twórcy;
• pozwala zaprzeczyć intencji.

Warstwowość

Ten sam obraz jest:

• niewinnym żartem dla jednych;
• sygnałem ideologicznym dla innych;
• cytatem krytycznym;
• próbą prowokacji.

Znaczenie wymaga kontekstu obiegu, podpisu, historii konta i reakcji grupy.

Ironia jako tarcza

„To tylko żart” może być prawdziwym opisem albo sposobem unikania odpowiedzialności. Ironia pozwala:

• mówić do wtajemniczonych;
• zachować zaprzeczalność;
• stopniowo przesuwać normę;
• sprawdzać reakcję.

Nie każda obraźliwa ironia jest etapem terroryzmu. Krytyka treści nie może zamienić się w profilowanie stylu humoru.

Odczulenie i wspólnota

Powtarzanie przemocowego obrazu w humorystycznej formie może zmniejszać emocjonalny ciężar i tworzyć dystans. Dowód na zmianę indywidualną wymaga jednak więcej niż analiza memu.

Środowiska gamingowe

Gry nie są przyczyną ekstremizmu

Gry są masowym medium obejmującym ogromne, różnorodne populacje. Używanie gier, określony gatunek i liczba godzin nie stanowią profilu.

Co może być wykorzystywane

• czat;
• serwer społeczności;
• transmisja;
• drużyna;
• język rywalizacji;
• estetyka;
• modyfikacja;
• wydarzenie charytatywne lub polityczne.

Są to affordancje wspólnoty, nie specyficzne narzędzia ekstremizmu.

Gaming-adjacent

Część aktywności odbywa się na platformach powiązanych z grami, ale dotyczy polityki, muzyki lub przyjaźni. Etykieta „platforma gamingowa” może błędnie przypisywać proces samej grze.

Wspólne działanie

Powtarzalna drużyna tworzy:

• zaufanie;
• hierarchię;
• humor;
• zobowiązanie;
• codzienną obecność.

Te same cechy mogą wspierać odporność i wzajemną pomoc.

Estetyka „gamifikacji”

Sprawca albo propagandysta może naśladować:

• interfejs;
• punktację;
• osiągnięcia;
• transmisję;
• terminologię.

Nie oznacza to, że gra wywołała czyn. Estetyka jest językiem publiczności i sposobem odrealnienia skutku.

Odpowiedź

ICCT proponuje projektowanie działań z udziałem społeczności i platform, zamiast traktowania całej kultury jako podejrzanej.¹¹ Zaufani moderatorzy i gracze lepiej rozpoznają lokalny kontekst niż zewnętrzny filtr słów.

Anonimowość i rozhamowanie

John Suler opisał efekt rozhamowania online, łączony z anonimowością, niewidzialnością, asynchronicznością i osłabieniem autorytetu.¹²

Dwa kierunki

Rozhamowanie może być:

• toksyczne — agresja, groźby, okrucieństwo;
• łagodne — szczere ujawnienie, prośba o pomoc, eksploracja tożsamości.

Anonimowość chroni również osoby prześladowane i wychodzące z grup.

Anonimowość nie jest pełna

Pseudonimowa społeczność może mieć trwałą reputację. Użytkownicy znają historię konta i egzekwują normy. Brak imienia urzędowego nie oznacza braku tożsamości społecznej.

Odpowiedzialność

Projekt interwencji powinien równoważyć:

• bezpieczeństwo;
• prywatność;
• prawo;
• możliwość zgłoszenia;
• ochronę ofiar;
• ryzyko nadużycia.

Masowa identyfikacja nie jest neutralnym rozwiązaniem.

Bańka, echo chamber i homofilia

Bańka filtrująca

Oznacza ograniczenie różnorodności przez personalizację.

Echo chamber

Oznacza środowisko społeczne, w którym przekonania są powtarzane i chronione przed korektą.

Homofilia

Ludzie wybierają podobnych ludzi.

Pojęcia bywają używane zamiennie, lecz mają inne mechanizmy.

Dlaczego różnorodność ekspozycji nie wystarcza

Użytkownik może widzieć przeciwną treść i traktować ją jako dowód głupoty wroga. Kontakt wrogi wzmacnia polaryzację. Potrzebne są:

• wiarygodność;
• relacja;
• norma refleksji;
• możliwość zachowania twarzy.

Nie każda mała wspólnota jest zamknięta

Specjalistyczne grupy mają wspólny język bez wrogości. Zamknięcie ocenia się po stosunku do dowodu i sprzeciwu, nie po rozmiarze.

Migracja między platformami

Moderacja, awaria, moda i presja polityczna powodują przenoszenie.

Skutki usunięcia

Możliwe:

• spadek zasięgu;
• utrata rekrutacji;
• fragmentacja;
• migracja;
• wzrost spójności rdzenia;
• narracja cenzury;
• trudniejsza obserwacja.

Nie ma jednego efektu dla każdego przypadku.

Rdzeń i peryferie

Platforma otwarta może utrzymywać peryferyjną publiczność, a mniejsza — rdzeń. Usunięcie rdzenia i usunięcie kanału odkrywania mają inne skutki.

Wieloplatformowość

Treść jest:

• publikowana w jednym miejscu;
• archiwizowana w drugim;
• komentowana w trzecim;
• dystrybuowana przez wiadomości;
• omawiana offline.

Badanie jednej platformy może błędnie uznać zniknięcie za koniec.

Tempo i rytm

Internet może przyspieszać:

• dostęp;
• reakcję;
• powtarzanie;
• kontakt między strefami czasowymi;
• przekład;
• publikację po zdarzeniu.

Szybko nie znaczy głęboko

Nagły skok aktywności może być krótkotrwałą reakcją na wiadomość. Długotrwała zmiana wymaga stabilizacji.

Intensywność

Ciągłe powiadomienia tworzą rytm i presję. Uczestnik ma wrażenie, że konflikt nigdy się nie kończy. Odłączenie może wywołać lęk, samotność i utratę statusu.

Okno mobilizacji

Wydarzenie wywołuje krótkie połączenie:

• oburzenia;
• treści;
• publiczności;
• wezwania.

Prewencja musi reagować adekwatnie, bez zamiany chwilowej mowy w automatyczne podejrzenie.

Co cyfrowa architektura rzeczywiście zmienia

Internet nie wynalazł propagandy, przyjaźni, plotki ani małej grupy. Zmienił jednak koszt i właściwości części procesów.

Wyszukiwalność

Osoba zainteresowana bardzo niszowym przekazem może szybko znaleźć:

• archiwalny tekst;
• wspólnotę;
• twórcę;
• polemikę;
• tłumaczenie;
• krytykę.

Wyszukiwalność nie określa, co wybierze. Obniża koszt poszukiwania zarówno dla materiału ekstremistycznego, jak i dla pomocy.

Trwałość

Materiał pozostaje dostępny po rozpadzie organizacji i śmierci autora. Dawna treść może zostać:

• wyrwana z kontekstu;
• ponownie opublikowana;
• zremiksowana;
• przedstawiona jako aktualna;
• użyta przez inny nurt.

Data publikacji jest częścią znaczenia. Stary obraz może być użyty jako relacja z bieżącego zdarzenia.

Replikowalność

Kopia jest tania i może utracić:

• autora;
• ostrzeżenie;
• komentarz krytyczny;
• oryginalną publiczność;
• informacje o autentyczności.

Usunięcie jednego egzemplarza nie usuwa całego obiegu.

Skalowalność

Treść może dotrzeć do ogromnej publiczności, ale widoczność jest nierówna. Większość materiałów ma mały zasięg; nieliczne stają się wiralowe. Potencjalna publiczność i faktyczna ekspozycja to różne wielkości.

Niewidzialna publiczność

Twórca nie zna wszystkich odbiorców. Komunikat przeznaczony dla wtajemniczonych może trafić do:

• dziecka;
• dziennikarza;
• przeciwnika;
• osoby w kryzysie;
• służb;
• automatycznego systemu.

Nieprzewidywalność utrudnia ocenę skutku, ale nie znosi odpowiedzialności za jawne wezwanie do przemocy.

Zderzenie kontekstów

Żart z małej wspólnoty trafia do masowej publiczności. Materiał dokumentacyjny zostaje użyty jako propaganda. Fragment wykładu brzmi inaczej bez całości. Kontekst nie usprawiedliwia wszystkiego, lecz jest warunkiem interpretacji.

Pomiar społeczny w czasie rzeczywistym

Reakcje, wyświetlenia i udostępnienia informują twórcę, co budzi uwagę. Może dostosowywać przekaz:

• zwiększać konfliktowość;
• łagodzić język dla zasięgu;
• kierować aktywnych do małej grupy;
• kopiować format konkurenta.

Wskaźnik zaangażowania nie mierzy prawdy ani aprobaty, ale działa jak nagroda.

Status twórcy i ekonomia uwagi

Produkcja radykalnej treści może zaspokajać inne potrzeby niż jej dosłowna treść.

Nagroda

Twórca otrzymuje:

• rozpoznawalność;
• komentarze;
• poczucie wpływu;
• dochód;
• dostęp do liderów;
• rolę interpretatora.

Im bardziej tożsamość zależy od publiczności, tym większy koszt umiarkowania.

Eskalacja dla widoczności

Konkurencja nie musi być świadomym planem. Treści bardziej:

• oburzające;
• proste;
• personalne;
• konfliktowe;
• nowe

mogą przyciągać uwagę. Twórca uczy się, że eskalacja przynosi nagrodę, a publiczność uczy się oczekiwać eskalacji.

Monetyzacja

Dochód może stabilizować rolę. Utrata poglądu oznacza wtedy utratę pracy. Interwencja treściowa bez alternatywy ekonomicznej ma ograniczoną trwałość.

Nie wolno jednak zakładać, że każdy twórca jest cyniczny. Korzyść i przekonanie mogą współistnieć.

Status po usunięciu

Ban może:

• zmniejszyć zasięg;
• podnieść status „ocenzurowanego”;
• umocnić rdzeń;
• odebrać dochód;
• skłonić do zmiany formatu.

Ocena powinna obejmować wynik na platformie, między platformami i w sieci.

Obraz, dźwięk i autentyczność

Siła obrazu

Obraz daje poczucie bezpośredniego świadectwa, choć może:

• przedstawiać inne miejsce;
• być stary;
• pokazywać skutek bez przyczyny;
• być inscenizowany;
• pomijać to, co poza kadrem.

Emocjonalna prawdziwość nie gwarantuje prawdziwości opisu.

Transmisja na żywo

Łączy zdarzenie z publicznością i reakcją. Może:

• dokumentować nadużycie;
• mobilizować pomoc;
• transmitować przemoc;
• uczynić odbiorców częścią oczekiwanego spektaklu.

Platforma i media muszą ważyć interes publiczny, ryzyko naśladownictwa, godność ofiar i dowody.

Treści syntetyczne

Generowane lub manipulowane obrazy, głos i tekst obniżają koszt tworzenia przekonującej fałszywej treści. Mogą również wspierać tłumaczenie, edukację i moderację.

W analizie trzeba pytać:

• czy materiał jest autentyczny;
• czy metadane są dostępne;
• kto potwierdza;
• czy opis odpowiada treści;
• czy fałszywość jest istotna dla motywu.

Automatyczny detektor nie daje pewności. Wynik jest przesłanką, nie rozstrzygnięciem.

„Dywidenda kłamcy”

Sama możliwość syntetycznego materiału pozwala sprawcy prawdziwego zdarzenia twierdzić, że dowód jest fałszywy. Edukacja medialna musi unikać skrajności: ani „wideo zawsze dowodzi”, ani „niczego nie da się wiedzieć”.

Treść krytyczna, archiwalna i badawcza

Ten sam materiał może być przechowywany przez:

• historyka;
• dziennikarza;
• prokuratora;
• badacza;
• ofiarę;
• propagandystę;
• sympatyka.

Klasyfikacja po samym pliku pomija cel.

Cytat i aprobata

Użytkownik może cytować wezwanie, aby:

• je skrytykować;
• udokumentować;
• ostrzec;
• sparodiować;
• poprzeć.

Kontekst bywa niejasny, ale system nie powinien automatycznie uznawać cytatu za pogląd.

Archiwum

Usuwanie treści może utrudnić propagandę, lecz także:

• badanie;
• ściganie;
• pamięć ofiar;
• wykazanie zmiany narracji.

Potrzebne są kontrolowane repozytoria i zasady dostępu, a nie nieograniczone ponowne publikowanie.

Kontakt zawodowy

Dziennikarz lub analityk może mieć więcej kontaktu z ekstremistyczną treścią niż sympatyk. Profil oparty na ilości ekspozycji byłby błędny i zagrażał wolności badań.

Jak mocniej badać przyczynowość

Badanie podłużne

Mierzy te same osoby w kolejnych momentach:

• postawę początkową;
• ekspozycję;
• zmianę sieci;
• późniejszy rezultat.

Nadal pozostaje autoselekcja i utrata uczestników, ale chronologia jest mocniejsza niż jednorazowy pomiar.

Eksperyment terenowy

Można testować ograniczoną zmianę architektury albo pokojowy komunikat, nie wystawiając ludzi na pełną szkodliwą socjalizację. Wynik dotyczy konkretnej interwencji, nie całego procesu.

Eksperyment naturalny

Zmiana regulaminu, awaria albo usunięcie grupy tworzą warunki porównania. Problemem jest to, że zmiana nie jest losowa, użytkownicy migrują, a inne zdarzenia zachodzą jednocześnie.

Dane behawioralne i ankieta

Połączenie historii korzystania z postawą jest lepsze niż sam raport, ale wymaga:

• świadomej zgody;
• ochrony danych;
• jasnego zakresu;
• zabezpieczenia osób trzecich.

Wywiad i cyfrowa chronologia

Wywiad wyjaśnia znaczenie, log weryfikuje czas. Rozbieżność jest informacją, nie automatycznie kłamstwem: pamięć i dane techniczne mają własne błędy.

Prerejestracja i replikacja

Badacz powinien z góry określić:

• kategorię treści;
• wynik;
• okres;
• sposób traktowania braków;
• analizę.

Platformy zmieniają się szybko, więc replikacja w innym okresie jest konieczna.

Wynik negatywny

Brak średniego efektu rekomendacji nie dowodzi, że nie istnieje żaden rzadki przypadek. Dodatni związek nie dowodzi, że dotyczy każdego. Polityka powinna odpowiadać wielkości i pewności efektu.

Jak rekonstruować cyfrową trajektorię

Chronologia

Nie zaczynać od najbardziej skrajnego materiału. Ustalić:

1. wcześniejsze zainteresowania;
2. źródło pierwszego kontaktu;
3. zmianę częstotliwości;
4. przejście do aktywności;
5. pierwszą wzajemną relację;
6. zmianę roli;
7. połączenie z offline;
8. pojawienie się zamiaru i zdolności.

Funkcja

Dla każdej aktywności:

• informacja;
• rozrywka;
• status;
• przynależność;
• prowokacja;
• dokumentowanie;
• wsparcie;
• nauka;
• mobilizacja.

Kierunek

• Kto kogo znalazł?
• Czy rekomendacja została kliknięta?
• Czy znajomy nadał wagę?
• Czy osoba sama przeniosła się do grupy?
• Czy kontakt był wzajemny?

Kontekst

• Co działo się offline?
• Czy wystąpiła strata?
• Jak reagowali bliscy?
• Czy zmieniła się praca, sen i relacje?
• Czy treść poprzedzała kryzys?

Rezultat

• pogląd;
• język;
• sieć;
• produkcja;
• zamiar;
• przygotowanie;
• czyn.

Ocena danych cyfrowych

Log nie jest motywem

Historia pokazuje zdarzenie techniczne, nie interpretację. Materiał mógł zostać otwarty:

• przypadkiem;
• krytycznie;
• przez inną osobę;
• automatycznie;
• w pracy.

Zrzut nie jest kontekstem

Pojedynczy ekran usuwa wcześniejszą rozmowę, ironię i adresata. Może nadal dokumentować groźbę, ale wymaga analizy.

Brak śladu nie jest brakiem procesu

Komunikacja może być ustna, usunięta albo niedostępna. Nie należy wypełniać luki założeniem.

Metadane i treść

Metadane pokazują częstotliwość i sieć, treść — znaczenie. Każde ma inne ograniczenia prawne i interpretacyjne.

Minimalizacja

Analiza powinna być:

• legalna;
• proporcjonalna;
• celowa;
• ograniczona w czasie;
• zabezpieczona;
• odróżniać fakt od hipotezy;
• chronić osoby trzecie.

Sygnały o różnej wadze

Niska swoistość

• oglądanie radykalnego materiału;
• używanie memów;
• udział w grze;
• szyfrowany komunikator;
• krytyka państwa;
• radykalny pogląd.

Są powszechne i legalne w wielu kontekstach.

Większe znaczenie kontekstowe

• przejście do zamkniętej relacji nagradzającej przemoc;
• osobiste zobowiązanie;
• konkretna groźba;
• uporczywe zainteresowanie celem;
• zachowania przygotowawcze;
• pozyskiwanie zdolności;
• przyspieszenie i wycofywanie się z ochronnych relacji;
• komunikat pożegnalny.

Żaden element nie powinien być oceniany w izolacji.

Zmiana ponad stan

Nagła zmiana funkcji i zachowania bywa ważniejsza niż wysoki, lecz stabilny poziom kontrowersyjnej mowy.

Interwencja: tylko mapa kierunków

Szczegółowe projektowanie programów cyfrowych, moderacji, kontaktu bezpośredniego i ewaluacji przedstawia artykuł „Cyfrowy exit work i interwencje w internecie”. Tutaj wystarcza kilka zasad.

Dopasować do poziomu

Poziom	Błąd	Kierunek
ekspozycja	uznać odbiorcę za zradykalizowanego	kontekst i edukacja medialna
zaangażowanie	liczyć reakcje bez intencji	rozmowa o funkcji i źródłach
produkcja	skupić się tylko na usuwaniu	zmiana roli i nagród
relacja	wysłać masową kontrnarrację	wiarygodny kontakt i alternatywna sieć
mobilizacja	prowadzić samą debatę	ocena zagrożenia i ochrona

Nie zostawiać próżni

Usunięcie konta może odciąć:

• status;
• przyjaźń;
• codzienną rutynę;
• wsparcie.

Jeśli kontakt jest groźny, przerwanie może być konieczne. Plan powinien równocześnie budować bezpieczne alternatywy.

Edukacja medialna

Powinna obejmować:

• źródło;
• datę;
• kontekst obrazu;
• manipulację emocją;
• różnicę między relacją i dowodem;
• mechanikę rekomendacji;
• własną podatność.

Nie może sprowadzać się do komunikatu „ufaj oficjalnym źródłom”.

Kontakt bezpośredni

Rozmówca powinien znać:

• mandat;
• granice poufności;
• procedurę bezpośredniego zagrożenia;
• kulturę platformy;
• ryzyko manipulacji;
• potrzebę przejścia do pomocy offline.

Higiena korzystania

W niektórych przypadkach pomaga:

• ograniczenie rytmu;
• wyłączenie powiadomień;
• zmiana subskrypcji;
• przerwy;
• oddzielenie snu;
• powrót do relacji offline.

Nie jest to leczenie ideologii, ale zmniejsza ciągłą aktywację.

Prawa i skutki uboczne

Wolność wypowiedzi

Radykalna, obraźliwa lub błędna opinia nie jest automatycznie przemocą. Granice prawne zależą od jurysdykcji i konkretnej treści.

Prywatność

Masowy nadzór generuje:

• dane o niewinnych;
• fałszywe alarmy;
• efekt mrożący;
• ryzyko wycieku;
• nierówne traktowanie.

Błąd klasyfikacji

Modele uczą się na etykietach tworzonych przez ludzi. Mogą:

• mylić cytat z poparciem;
• nie rozumieć języka mniejszości;
• wzmacniać wcześniejsze uprzedzenia;
• działać gorzej po zmianie slangu.

Przejrzystość

Nie każda reguła może być publiczna w szczególe, ale potrzebne są:

• podstawa;
• możliwość odwołania;
• raportowanie;
• audyt;
• korekta błędu;
• ochrona badań i dziennikarstwa.

Efekt cenzury

Usunięcie może być słuszne, a zarazem zostać wykorzystane jako narracja prześladowania. Skutek komunikacyjny nie unieważnia obowiązku moderacji; trzeba go przewidzieć.

Badania: trwałe ograniczenia

Definicja ekspozycji

Czy jest nią:

• wyświetlenie miniatury;
• sekunda filmu;
• pełne obejrzenie;
• komentarz;
• subskrypcja?

Różne badania mierzą różne zdarzenia.

Definicja ekstremizmu

Klasyfikacja kanału może opierać się na:

• samookreśleniu;
• ekspercie;
• słowniku;
• powiązaniu;
• liście organizacji.

Granice są sporne i polityczne.

Definicja rezultatu

Radykalizacja poznawcza, aktywność online, kontakt i przemoc nie są jednym wynikiem.

Dostęp do danych

Badacze widzą to, co platforma udostępnia. Zmiana API może uniemożliwić replikację. Dane prywatne są niepełne z powodów prawnie uzasadnionych.

Zmiana platform

Wynik z określonego roku może nie opisywać obecnej architektury. Badanie techniczne starzeje się szybciej niż mechanizm społeczny.

Etyka eksperymentu

Nie można losowo wystawiać ludzi na długotrwałą ekstremistyczną socjalizację i mierzyć przemoc. Eksperymenty używają krótkich, słabszych bodźców.

Rzadkość czynu

Terroryzm jest rzadki. Nawet dobry model postaw ma bardzo małą dodatnią wartość prognostyczną dla czynu w populacji.

Formulacja przypadku

Dane

Uczestnik od roku obserwuje radykalnego twórcę, lecz po konflikcie z rodziną przeszedł do prywatnej grupy. Zaczął tworzyć materiały i otrzymuje za nie status. Niedawno jedna osoba zaproponowała spotkanie. Nie ma danych o konkretnym celu.

Hipoteza

• wcześniejsza ekspozycja była słaba;
• konflikt offline zwiększył potrzebę relacji;
• mała grupa zmieniła normę;
• produkcja stworzyła rolę;
• spotkanie może pogłębić osadzenie.

Kontrhipotezy

• produkcja jest prowokacją bez przyjęcia;
• konflikt rodzinny wynikał z wcześniejszej zmiany;
• grupa jest luźna i nieprzemocowa;
• uczestnik bada środowisko.

Dane do uzupełnienia

• chronologia;
• treść i intencja produkcji;
• wzajemność relacji;
• stosunek grupy do przemocy;
• cel spotkania;
• zamiar;
• zdolność;
• hamulce.

Plan

• rozmowa bez stygmatyzowania medium;
• ocena bezpieczeństwa;
• odbudowa relacji offline;
• alternatywna rola twórcza;
• krytyczna analiza źródeł;
• granice kontaktu;
• plan po utracie statusu online.

Przeglądy pola, krytyka figury „samotnego wilka” i badania sieci społecznych prowadzą do jednego wniosku metodologicznego: rolę internetu trzeba badać jako część biografii, relacji i sekwencji działania, a nie jako samodzielną przyczynę.^13,14,15,16

Wnioski

Internet nie jest autonomicznym radykalizatorem. Jest zestawem środowisk, w których działają znane mechanizmy:

• ekspozycja;
• selekcja;
• walidacja;
• status;
• więź;
• polaryzacja;
• moralne rozłączenie;
• mobilizacja;
• naśladownictwo.

Najważniejsze rozróżnienia to:

• online i offline tworzą jeden ekosystem;
• ekspozycja nie jest przyjęciem;
• zaangażowanie nie jest relacją;
• produkcja nie jest zamachem;
• opinia nie jest zamiarem;
• algorytmiczna dostępność nie dowodzi algorytmicznej przyczynowości;
• samotne działanie nie oznacza społecznej samotności;
• gra i mem nie są wskaźnikami ekstremizmu;
• usunięcie treści nie zawsze usuwa sieć;
• cyfrowy ślad nie jest pełną biografią.

Dobra analiza:

• rekonstruuje chronologię;
• pyta o źródło pierwszego kontaktu;
• odróżnia poszukiwanie od rekomendacji;
• bada funkcję materiału;
• ustala wzajemność relacji;
• śledzi przepływ między platformami i offline;
• rozdziela postawę, rolę, zamiar i zdolność;
• uwzględnia fałszywe alarmy;
• chroni prawa osób trzecich;
• sprawdza kontrhipotezy.

Najbardziej użyteczne pytanie brzmi:

co dokładnie internet zmienił w tej historii — dostęp do treści, interpretację, status, relację, osobisty obowiązek czy zdolność — i jakie dane wskazują, że zmiana poprzedzała mobilizację, a nie była jej skutkiem?

Odpowiedź zwykle prowadzi przez ekran do człowieka, grupy i warunków życia. Właśnie dlatego interwencja cyfrowa rzadko powinna pozostać wyłącznie cyfrowa.

Przypisy