TikTok zapojí uživatele do moderování obsahu. Experti varují před zneužitím

TikTok je jednou z největších sociálních sítí. Díky svému obsahu skládajícímu se především z krátkých videí míří hlavně na mladé lidi. Jenže problém tkví v tom, že problematický obsah ukrývající se ve videích lze odhalit mnohem hůř než ten v textu. Mnoho tvůrců dnes (zne)užívá umělou inteligenci a takzvané deepfakes zaplavují internet. A nejspíš i proto TikTok zavádí novou funkci pro kontrolu obsahu.

Pokud uživatelé narazí na cokoliv podezřelého, mohou to napsat přímo k videu. Komunitní poznámky s názvem Footnotes jsou již k dispozici ve Spojených státech amerických a postupně by měly přejít i do dalších zemí. Jejich princip je prostý – uživatelé mohou u jakéhokoliv videa připsat svůj názor na jeho pravost, závadnost nebo upozornit na lži.

Dá se algortimus TikToku oklamat?

Po takovémto „nahlášení“ videa nedojde k tomu, že bude ihned smazáno. Své poznámky k němu mohou psát i další uživatelé a lze je dokonce navzájem hodnotit. Ty nejlépe hodnocené se pak budou zobrazovat celé komunitě, která je může číst a hodnotit také. Pak přijde na řadu algoritmus, který posoudí, zda je daný příspěvek skutečně zavádějící či jinak nevhodný.

Tento algoritmus se má na základě poznámek psaných ve Footnotes učit a do budoucna i lépe rozpoznávat nevhodná videa. Podle vedení platformy jde o doplněk ke klasické moderaci obsahu. Faktem ale je, že začátkem roku dostala řada zaměstnanců (přesný počet není znám) z jeho oddělení bezpečnosti padáka. A algoritmus podporovaný aktivitou uživatelů by je do budoucna mohl snadno nahradit. Pokud nebude zneužit.

AI od TikToku (Seaweed) drtí Google i OpenAI! Tvoří nádherná videa za zlomek ceny Adam Indra Zprávičky Adam Indra Zprávičky

Experti totiž varují, že uživatelé mohou svými falešnými výtkami algoritmus zmást natolik, že posléze nebude schopen dost dobře rozpoznat kvalitu či pravdivost obsahu. Navíc není jisté, kolik uživatelů se do této dobrovolné aktivity zapojí a jestli tak dokážou naplnit očekávání TikToku.

Videa navíc nemůže hodnotit každý. Hodnotitel musí mít účet na Tiktoku už nejméně půl roku a musí být starší 18 let. Sám přitom nesmí mít žádný „škraloup“. O přístup do Footnotes je nutno ručně požádat. Případně má TikTok v plánu posílat napřímo pozvánky všem, kteří vyhovují těmto podmínkám.

Myslíte si, že plán TikToku na vyšší důvěryhodnost bude fungovat?

Zdroj: The Verge, TikTok