Uvnitř černé skříňky sociálních sítí

Feed sociální sítě může působit jako okno vybrané neviditelným strojem. Jeden příspěvek se objeví, jiný zmizí, fáma zrychlí a pečlivá oprava se zastaví. Označení černá skříňka je pochopitelné, protože lidé zvenčí obvykle nevidí celý model, data, historii experimentů ani pravidla, podle nichž se feed skládá. Skříňka ale není kouzelná. Doporučovací systémy jsou navržené postupy a jejich nejdůležitější volby lze pojmenovat, měřit a zpochybňovat.


Mechanismus obvykle začíná zásobou kandidátů. Platforma nemůže pro každého člověka ohodnotit každý příspěvek na internetu, proto nejprve vybere položky z účtů, které sleduje, od podobných tvůrců, z trendů, reklam nebo z obsahu podobného dřívějšímu chování. Potom systém převede pozorování na signály: kliknutí, dobu sledování, zastavení u videa, lajky, odpovědi, sdílení, skrytí, nahlášení, nová sledování, nastavení zařízení a čerstvost. Model odhaduje, zda člověk bude sledovat dál, komentovat, odejde spokojený, příspěvek nahlásí nebo se do aplikace vrátí. Kolem modelu stojí produktová pravidla, reklamní pravidla, bezpečnostní klasifikátory, skóre kvality účtů a experimenty. Výsledný feed tedy není neutrální řeka všeho dostupného obsahu, ale seřazený výběr vytvořený mnoha nastavitelnými rozhodnutími.

Na tom záleží, protože cíl systému není totéž co veřejná hodnota. Systém optimalizovaný hlavně na předpokládané zapojení se může naučit, že pozornost drží novost, hněv, strach, skupinová identita nebo extrémní tvrzení. Bezpečnostní vrstva může omezit část zneužívání, ale minout kódovaný jazyk, místní kontext, satiru nebo rychle se měnící události. Tvůrce může být na algoritmickém dosahu ekonomicky závislý a přitom neví, zda pokles způsobila únava publika, změna pravidel, aktualizace modelu nebo experiment. Výzkumníci mohou sledovat široké společenské dopady, ale bez záznamů těžko ověří příčinu. Černá skříňka ovlivňuje kulturu, politiku, duševní zdraví, žurnalistiku i malé podniky právě proto, že řazení se stalo společenskou infrastrukturou.


Otevřít skříňku proto neznamená vyvěsit na web milion řádků zdrojového kódu. Samotný kód živou platformu nevysvětlí, protože chování závisí na trénovacích datech, cílech, definicích příznaků, rozhodnutích o vymáhání pravidel, A/B testech a neustálé zpětné vazbě od uživatelů i spammerů. Úplné odhalení by navíc mohlo pomoci manipulátorům systém obejít. Lepší transparentnost je konkrétnější: smysluplné zprávy o změnách řazení, knihovny reklam a parametrů doporučování, přístup pro prověřené výzkumníky s ochranou soukromí, opakovatelné auditní otázky a záznamy o tom, jak byly rizikové systémy testovány před nasazením i po něm. Nástroje interpretovatelnosti mohou ukázat, které příznaky ovlivnily určitou predikci, ale jsou to přiblížení; samy nedokazují, proč vznikl celospolečenský dopad.

Uživatelé potřebují ovládání odpovídající této realitě. Chronologický feed, tematické filtry, tlačítka pro reset, vysvětlení reklam, omezení doporučování z nedůvěryhodných účtů a jasnější označení hlavních režimů řazení mohou systém zneprůhlednit méně. Žádná z těchto voleb nesnímá odpovědnost z platformy, protože většina lidí nemůže auditovat potrubí strojového učení při čtení zpráv nebo sledování videa. Praktickým standardem je správa: definovat cíl, zaznamenávat změny, měřit škody, chránit soukromí, pustit nezávislé odborníky k ověřitelným testům a dát lidem smysluplnou možnost odmítnout určitý režim řazení.

Nadějná lekce je střízlivá. Feed není osud a černá skříňka není netvor mimo lidskou kontrolu. Je to soustava signálů, cílů, filtrů a pobídek, kterou lze dokumentovat špatně nebo dobře. Pokud platformy, regulátoři a výzkumníci budou brát doporučovací systémy jako infrastrukturu, může společnost klást přesnější otázky než proč je stroj tajemný. Může se ptát, kdo zvolil cíl, kdo změřil škodu, jaké kompromisy byly přijaty a kdo smí změnit směr.