Uvnitř černé skříňky sociálních sítí
Doporučovací systémy řadí příspěvky podle předpokládané pozornosti, ne podle občanské důležitosti. Problém je měřitelný návrh, ne kouzlo ve stroji.
Editorial Observer ·
O kanálu sociální sítě se mluví jako o černé skříňce, protože lidé zvenčí obvykle nevidí přesný model, trénovací data ani váhy, které rozhodnou, který příspěvek se objeví první. Skříňka ale není kouzelná. Platformy jako Facebook, Instagram, TikTok, YouTube nebo X sbírají signály: kdo obsah zveřejnil, jak je starý, zda reagovali přátelé, jak dlouho podobní uživatelé sledovali video, jestli ho přehráli znovu, přeskočili, nahlásili nebo sdíleli.
Mechanismus je předpověď. Řadicí systém odhaduje pravděpodobnost, že člověk klikne, bude sledovat, komentovat, koupí, začne někoho sledovat nebo odejde. Potom seřadí tisíce možných položek podle obchodních a bezpečnostních pravidel. I malá změna cíle má dopad. Optimalizace na strávený čas může odměnit pobouření nebo nedořečené titulky. Optimalizace na důvěryhodné vztahy může ukázat méně virálních cizinců. Snížení dosahu opakovaných nepravdivých tvrzení může omezit šíření, aniž by se příspěvek smazal.
 *Recommender system dává článku konkrétní vizuální oporu. Kredit: Wikimedia Commons.*
Výzkumníci dokážou části systému měřit, i když celý kód zůstává uzavřený. Dokumenty známé jako Facebook Files v roce 2021 ukázaly vnitřní obavy z řazení podle zapojení. Akt Evropské unie o digitálních službách platí pro velmi velké platformy od roku 2023 a požaduje hodnocení rizik, cesty pro výzkumný přístup a srozumitelnější vysvětlení doporučovacích systémů. V USA univerzity a neziskové organizace dál stavějí auditní nástroje, i když přístup k datům po omezení rozhraní API ztěžkl.
Důležité jsou limity. Algoritmy nevytvářejí polarizaci z ničeho; zesilují chování, pobídky a obsah, které ve společnosti už existují. Ani chronologický kanál není neutrální, protože pořád závisí na tom, koho člověk sleduje a kdy je online. Průhlednost má také cenu: když se zveřejní příliš mnoho detailů, podvodníci se naučí systém obcházet.
 *Social media ukazuje širší souvislost příběhu. Kredit: Wikimedia Commons.*
Zdravější černá skříňka proto nemusí být do posledního šroubku skleněná. Potřebuje ověřitelná veřejná tvrzení, nezávislé audity, uživatelská nastavení, která skutečně mění řazení, a regulátory schopné kontrolovat rizika bez povinného zveřejnění každého řádku kódu. Kanál bude vždycky řadit. Občanská otázka zní, kdo může ověřit, podle čeho.