TOPlist

TikTok umožnil uživatelům vytvářet videa generovaná AI, citují Usámu i Hitlera

TikTok
  • TikTok umožnil uživatelům generovat škodlivá videa s využitím AI
  • Chyběl vodoznak i další ochranné prvky
  • V testování AI hodlá TikTok pokračovat

Zhruba před týdnem spustil TikTok funkci Symphony Avatars, která se stala součástí balíčku TikTok Symphony. Jedná se o virtuálního asistenta, který má firmám i jednotlivcům umožnit rychleji a snadněji generovat reklamy za pomoci umělé inteligence. V případě Symphony Avatars pak mohou ve vytvářených videích využívat i přednastavené avatary (tedy podobizny zaplacených herců).

Symphony Assistant není určen pro všechny uživatele TikToku – je potřeba mít nejprve zřízený TikTok Ads Manager. Jenže v prvních pár dnech se k možnosti generování videí s pomocí AI dostalo mnohem víc lidí, než by mělo. TikTok podcenil bezpečnost a funkci zpřístupnil všem svým uživatelům.

TikTok: Videos, Lives & Musik
TikTok: Videos, Lives & Musik

Všiml si toho také reportér CNN Jon Sarlin, který dokázal i s běžným účtem bez problému vytvořit AI generované video s využitím jakéhokoliv z avatarů a s jakýmkoliv scénářem. Aby ukázal, jak snadno se dá tento nástroj zneužít, nechal jednoho avatara recitovat Mein Kampf, druhého zase hlásit poselství Usámy bin Ládina z Dopisu Americe. Obě videa vypadala naprosto uvěřitelně a s tvorbou reklamy na TikToku neměla nic společného. A navíc byla bez vodoznaku nebo jiného ochranného prvku označujícího, že jde o video generované s pomocí AI.

Vzápětí po tomto upozornění společnost TikTok přístup k tvorbě reklamních videí s pomocí AI avatarů upravila, respektive mu dala rychlou stopku, a prohlásila, že šlo o technickou chybu. Žádná škodlivá videa tvořená umělou inteligencí by se navíc prý na síť nedostala, protože by neprošla přes přísné zásady pro obsah. „TikTok je lídrem v odvětví odpovědné tvorby AIGC a budeme pokračovat v testování a zabudovávání bezpečnostních opatření,“ nechalo se slyšet vedení společnosti.

Co si myslíte o bezpečnosti na TikToku?

Zdroje: Pixabay.com, TikTok, Android Police, X/Twitter

Jana Skálová
O Autorovi - Jana Skálová

Jana se psaním živí už dlouhé roky. Začínala ve zpravodajství a lifestylu, teď se věnuje spíš techničtějším tématům. Ráda píše o mobilech, zajímá se o… více o autorovi

Mohlo by vás zajímat

Komentáře (5)