TikTok umožnil uživatelům vytvářet videa generovaná AI, citují Usámu i Hitlera

Android novinky přehledně na Facebooku. Stačí kliknout a diskutovat

TikTok umožnil uživatelům generovat škodlivá videa s využitím AI
Chyběl vodoznak i další ochranné prvky
V testování AI hodlá TikTok pokračovat

Zhruba před týdnem spustil TikTok funkci Symphony Avatars, která se stala součástí balíčku TikTok Symphony. Jedná se o virtuálního asistenta, který má firmám i jednotlivcům umožnit rychleji a snadněji generovat reklamy za pomoci umělé inteligence. V případě Symphony Avatars pak mohou ve vytvářených videích využívat i přednastavené avatary (tedy podobizny zaplacených herců).

Android novinky na Instagramu. Neváhej a klikej

reklama

Symphony Assistant není určen pro všechny uživatele TikToku – je potřeba mít nejprve zřízený TikTok Ads Manager. Jenže v prvních pár dnech se k možnosti generování videí s pomocí AI dostalo mnohem víc lidí, než by mělo. TikTok podcenil bezpečnost a funkci zpřístupnil všem svým uživatelům.

Instalovat

(Free)

GOOGLE PLAY

TikTok: Videos, Lives & Musik

TikTok Pte. Ltd.

Všiml si toho také reportér CNN Jon Sarlin, který dokázal i s běžným účtem bez problému vytvořit AI generované video s využitím jakéhokoliv z avatarů a s jakýmkoliv scénářem. Aby ukázal, jak snadno se dá tento nástroj zneužít, nechal jednoho avatara recitovat Mein Kampf, druhého zase hlásit poselství Usámy bin Ládina z Dopisu Americe. Obě videa vypadala naprosto uvěřitelně a s tvorbou reklamy na TikToku neměla nic společného. A navíc byla bez vodoznaku nebo jiného ochranného prvku označujícího, že jde o video generované s pomocí AI.

NEW: TikTok released an AI video generator. We found it recited “Mein Kampf" and Osama Bin Laden on command with no watermarks. It pulled access after CNN asked them about it. https://t.co/6RRtPl6s0v pic.twitter.com/hubruBVtDx

— Jon Sarlin (@jonsarlin) June 21, 2024

Vzápětí po tomto upozornění společnost TikTok přístup k tvorbě reklamních videí s pomocí AI avatarů upravila, respektive mu dala rychlou stopku, a prohlásila, že šlo o technickou chybu. Žádná škodlivá videa tvořená umělou inteligencí by se navíc prý na síť nedostala, protože by neprošla přes přísné zásady pro obsah. „TikTok je lídrem v odvětví odpovědné tvorby AIGC a budeme pokračovat v testování a zabudovávání bezpečnostních opatření,“ nechalo se slyšet vedení společnosti.