Utrhla se AI z řetězu? ChatGPT 4o začal mluvit hlasem uživatele

Jsi fanda do technologií? Umíš psát? Staň se redaktorem Svět Androida!

reklama

• ChatGPT 4o zvládá přímou práci se zvukem, bez ztráty intonace a emocí
• Incident s napodobením hlasu člověka vyvolává otázky ohledně bezpečnosti
• OpenAI tvrdí, že zamezilo napodobování cizích hlasů

Open AI zveřejnila zprávu, ve které se mimo jiné zmiňuje o incidentu, kdy ChatGPT 4o najednou začal mluvit hlasem člověka, se kterým komunikoval. OpenAI zveřejnil i příslušnou nahrávku, můžeme si tedy sami udělat názor na to, o jak moc věrné napodobení šlo.

Nezávislé Android novinky na WhatsAppu. Stačí kliknout a odebírat

reklama

ChatGPT 4o nabízí nový způsob komunikace. Už předchozí verze uměly komunikovat hlasem, ale tehdy šlo o nezávislý převod hlasu na text, ten se pak zpracovával pomocí AI a výsledek byl opět převedený na hlas. ChatGPT 4o ale pracuje přímo se zvukem a také zvuk přímo generuje. Nedochází tedy ke ztrátě intonace a emočního zabarvení. ChatGPT 4o by ale neměl v žádném případě být schopen napodobovat cizí hlas. Přesněji řečeno, on toho technicky schopen je, ale kontrolní mechanismy tomu mají zabránit.

Problém je v tom, že riziko zneužití by bylo obrovské. Představte si, že namluvíte jakékoliv video na Instagram nebo YouTube, někdo si to stáhne a naučí ChatGPT 4o váš hlas a pak zavolá vašemu kamarádovi s prosbou o pomoc ve stylu „uvíznul jsem na benzince, můžeš mně poslat litr na účet?“. O zneužití hlasů známých osobností například v předvolební kampani raději ani nemluvě.

Instalovat

 (Free)

GOOGLE PLAY

ChatGPT

OpenAI

OpenAI tvrdí, že zamezilo tomu, aby ChatGPT 4o napodoboval cizí hlasy, a že omezil hlasový výstup na hlasové vzorky, které získal od zaplacených herců. To je určitě krok správným směrem, jenže pořád je tu otázka, kolik dalších  selhání ještě může nastat. A jak se k tomu postaví jiné AI, například Muskův Grok?

Jak mluvit s ChatGPT?

Pokud si chcete vyzkoušet konverzaci s ChatGPT, můžete například v mobilní aplikaci. Ovšem pokud se vám, tak jako mně, zobrazí pouze ikona sluchátek, znamená to, že stále komunikujete se starým engine.

Zapomeňte na Chrome! Arc je unikátní prohlížeč, který jste ještě nikdy neviděli

Články Jakub Kárník

Máte obavy ze zneužití hlasu v ChatGPT 4o?

Zdroj: OpenAI