Jak omylem rozdělit společnost

Jak přesně vznikají bubliny, které se navzájem nemůžou vystát, a proč je to dnes horší než kdykoliv předtím?

Je to nějaká konspirace? Nějaká zlomyslnost ze strany majitelů Facebooku, YouTubu a TikToku?

Ve skutečnosti je za tím mnohem nudnější důvod. Možná právě proto většina článků na toto téma tuhle část jen odmávne vágními zmínkami o "algoritmu".

Jednoduchý začátek

Začíná to nevinně. Chcete udělat JůFejs — aplikaci, kde se lidé můžou propojit mezi sebou, sdílet názory, posílat obrázky koťátek, diskutovat, atd.

Princip fungování ("algoritmus") je jednoduchý: pokud je Alice kamarádka s Bobem, a Bob na JůFejs dá příspěvek, pak Alice při příštím procházení JůFejsu Bobův článek uvidí. Příspěvky od autorů, se kterými není kamarádka, Alice neuvidí.

Už tohle je samozřejmě bublina, protože vidíte jen své kamarády, a vaši kamarádi mají pravděpodobně podobné životy jako vy. Ale zatím je to celkem nevinná bublina, podobná třeba bublině v práci nebo ve škole nebo v hospodě. Ne, manažer z Ostravy se asi nepobaví s dělníkem z Chebu, ale to platilo už před příchodem internetu.

Vaše aplikace JůFejs sice nijak nepřidává k polarizaci bublin, ale na druhou stranu má problém růst. Lidé se po otevření JůFejsu často setkají pouze s příspěvky, které už četli. A tak ji zase zavřou, protože číst staré příspěvky je nuda.

A pak vám lidé otevírají JůFejs čím dál méně. Sami tak vytváří méně příspěvků. Což vede k tomu, že čím dál víc lidí se na JůFejsu čím dál víc nudí. Začarovaný kruh. To vše vede k tomu, že vám klesá návštěvnost.

A protože JůFejs je zadarmo a vy vyděláváte na reklamách, nižší návštěvnost znamená nižší zisky, a do budoucna bankrot.

A tak začnete Alici ukazovat příspěvky nejen od jejích kamarádů, ale i od ostatních lidí. Algoritmus na zobrazování příspěvků teď vypadá takto:

1. Je to příspěvek od kamaráda? Zobrazit.
2. Je to příspěvek, který měl úspěch u jiných lidí? Zobrazit.
3. Jinak nezobrazit

Všichni se všemi

Tenhle nový algoritmus má výhodu, že je pořád co ukazovat. Kdykoliv se Alice přihlásí, je na JůFejsu nový obsah. A tak se naučí tam chodit častěji, a možná i přidávat vlastní příspěvky. Návštěvnost roste, a s ní zisky z reklamy.

Algoritmus nijak zvlášť nepřispívá k tvoření bublin, protože vidíte prostě to, co se líbilo dostatečnému počtu jiných lidí, ať už ti jiní lidé jsou jacíkoliv.

Řekněme, že Alice je z většího města a pracuje v kanceláři. Vedle toho takový Záviš je z vesnice a pracuje jako řidič. Pokud Záviš napíše na JůFejs příspěvek, který se líbí dostatečnému počtu lidí, uvidí ho i Alice. A naopak s příspěvky Alice, které pak uvidí Záviš.

Všichni uživatelé se tak můžou seznámit — alespoň povrchně — s životy lidí, se kterými nemají nic společného. Což je něco, co tu vlastně nikdy nebylo.

Problém je v tom, že tohle je něco, co my lidé nechceme:

• Jedna věc je totiž občas třeba kouknout na film o osudech lidí, kteří nám nejsou podobní. Druhá věc je číst si pořád dokola příspěvky o tématech, které jsou nám úplně cizí.
• Jedna věc je přečíst si občas o názorech, které jdou úplně proti naší srsti. Druhá věc je mít takové názory naservírované každý den — a proložené mezi příspěvky od našich kamarádů.

JůFejs nám opět přichází o návštěvnost. Lidé chtějí mít co číst a sledovat — chtějí hodně obsahu — ale evidentně nechtějí nefiltrovaný proud vědomí celého národa.

Mimochodem, už tady přichází trocha té polarizace:

• Jestli má Alice předsudky o vesničanech, je pro ni lehké se v nich dál utvrdit, protože vidí příspěvky nějakého Záviše, a nelíbí se jí ani jejich téma, ani jejich humor, ani jimi vyjádřené světonázory. Vidí Záviše jen skrze tyhle krátké příspěvky, co nasbíraly nejvíc reakcí, a nedozví se tak nic o jeho rodině, o jeho zájmech, o jeho péči o blízké — prostě o ničem, co by ze Záviše udělalo lidskou bytost, a ne jenom zástupce cizí skupiny lidí.
• Záviš se zas může podobně utvrzovat o svých předsudcích z příspěvků měšťáků Alice a Boba. Co si například Záviš pomyslí o lidech, kteří zdánlivě řeší jenom chození do restaurací a drahé dovolené v zahraničí?

Tohle by byl neřešitelný problém, kdyby byl JůFejs tištěný, a tím pádem bychom nevěděli, které příspěvky kterého uživatele odrazují. Ale postavte tento problém před programátora, a během chvíle vám dá následující algoritmus ve třech fázích.

Fáze 1: Sbírání dat

• JůFejs podrobně sleduje, které příspěvky Alici zaujmou, a které ne.
• Zvlášť důležitý signál je, u kterých příspěvků Alice aplikaci zavře.

Pokud chceme, aby Alice na JůFejsu trávila co nejvíce času (a to rozhodně chceme, protože víc stráveného času pro nás znamená víc reklam, a tím pádem víc peněz), musíme co nejvíce omezit důvody, kvůli kterým Alice aplikaci zavírá.

Naštěstí teď máme spoustu dat, a tak přichází další fáze.

Fáze 2: Automatická analýza

• JůFejs pravidelně provádí statistický rozbor všech nasbíraných dat. Cílem je nalézt charakteristické vlastnosti příspěvků, u kterých Alice v minulosti zavřela aplikaci.
• Algoritmus tak například zjistí, že každý příspěvek obsahující slovo "karburátor" zvyšuje pravděpodobnost Aličina odchodu z JůFejsu o 12%. Příspěvky, které odkazují na blesk.cz zvyšuje pravděpodobnost jejího odchodu o 20%.
• Zároveň se ukazuje, že některé vlastnosti příspěvků naopak snižují pravděpodobnost, že Alice zavře JůFejs. Jinými slovy, takové příspěvky Alici "drží". Příspěvky od kamarádů sníží pravděpodobnost Aličina odchodu o 18%. Příspěvky od lidí z města o 10%.

Důležité je si připomenout, že tahle analýza je automatická. Nikde nesedí žádný statistik, který prochází všechny příspěvky, co Alice kdy viděla. Nikdo se nezamýšlí nad tím, na které vlastnosti hledět a na které nedávat zřetel. Ne, jde o algoritmus, který sice někdo naprogramoval, ale který teď běží sám.

Příklad: Jedna část tohoto algoritmu prostě jen projde všechna slova v českém jazyce, od abdikace po žvýkání, a zjistí, jaký mají vliv na Aličiny odchody z JůFejsu. To zní jako obrovský kus práce, ale průměrný počítač tohle zvládne ve zlomku vteřiny.

Fáze 3: Zobrazování příspěvků

Nový algoritmus, který rozhoduje, jaký příspěvek Alice uvidí, je teď jednoduchý:

• Má příspěvek nadprůměrnou pravděpodobnost, že Alice po jeho zobrazení nezavře aplikaci? Zobrazit.
• Jinak nezobrazit.

Alice tak už nebude vídat příspěvky o karburátorech a odkazy na blesk.cz. V porovnání s předchozí verzí bude víc vídat příspěvky od lidí z města.

Alice má na JůFejsu pořád obsahu, kolik si jen může přát, a přitom má co nejméně důvodů, proč aplikaci zavřít. Tráví na aplikaci více času, a tím vám nepřímo vydělává více peněz (protože vidí víc reklam).

Nezamýšlené důsledky

Určitě si dokážete domyslet, jak může takový systém vést k rozdělování společnosti. Alice tráví čím dál více času v aplikaci, která ji ukazuje jen věci, které ji nenudí, neštvou, ani jí nijak nenarušují její světonázor. Nejenže uvidí méně příspěvků o karburátorech, ale také méně příspěvků o společenských problémech, které se jí netýkají.

Po určité době může algoritmus zjistit, že i když příspěvky od kamarádů většinou Alici na JůFejsu udrží, tak to neplatí o všech. Alice bude vidět čím dál méně příspěvků od kamarádů, kteří občas dají na JůFejs něco, co by Alici mohlo rozhodit. Ten efekt může být malý — něco, čeho by si člověk nevšiml — ale pokud algoritmus vyhodnotí, že je efekt statisticky významný, příspěvky těchto kamarádů půjdou pryč. A místo nich bude Alice vidět příspěvky lidí, kteří jsou jí světonázorově podobnější a podobnější.

A tak jsme sledem zcela rozumných a morálně neutrálních kroků dospěli do chvíle, kdy naše sociální síť vytváří bubliny. A jde o bubliny, které jsou ještě uzavřenější než jakékoliv, které tu byly v minulosti.

Lidé jsou si tak stále jistější a jistější "svou pravdou", a to vede k tomu, že čím dál méně rozumí a soucítí s lidmi, kteří jejich názor nesdílejí. Mnozí se tímhle způsobem můžou zahrabat do konspiračních teorií. Začnou mluvit o tom, jak se nedá věřit "mainstreamovým médiím", a budou skálopevně přesvědčeni, že bílé čáry za dopravními letadly je "práškování", a že koronavirus je výmysl.

Jak z toho ven?

Společnost v Česku i ve světě se pomalu ale jistě rozděluje na takovéto bubliny. Tábory, které se navzájem nemůžou vystát. To je obrovský problém, který nejenže nemizí, ale pomalu roste, a hrozí vyústit v mrzení, které jsme tu neměli nejméně od 30. let 20. století.

Důvodů k tomuto rozdělování společnosti je hned několik — a nejsou to jen sociální sítě. Ale právě jejich algoritmy jsou obecně považovány za jeden z největších hybatelů tímto směrem. (Pokud vás téma zajímá víc zeširoka, můžu doporučit knížky: tuhle a tuhle. Zatím bohužel nejsou v češtině.)

Vím, že to zní radikálně, ale jediná cesta ven je nebýt na sociálních sítích, které jsou motivované tím, abyste na nich strávili co nejvíce času. (Což jsou v tuto chvíli všechny sociální sítě — kromě pár miniaturních vyjímek.)

Myslím, že nejdůležitější je, aby si co nejvíce lidí uvědomovalo nebezpečí algoritmů, jejichž cílem je nás upoutat na co nejdelší dobu. Není realistické očekávat, že budou lidé najednou vyhledávat názory, které jsou jim proti srsti. Ale měli bychom všichni být více podezřívaví ve chvílích, kdy nám jakékoliv médium až moc dopřává toho, co chceme slyšet.

Stejně jako nám je dnes nepříjemné, když nám nějaký prodejce leze do zadku, mělo by nám v budoucnu být nepříjemné, když někde vidíme jen obsah, který potvrzuje náš světonázor.

Jestli existuje jednodušší způsob, nevím o něm.

Díky za pozornost.

— Filip H., 12. listopad 2023