TOPlist

Utrhla se AI z řetězu? ChatGPT 4o začal mluvit hlasem uživatele

ChatgPT 4o konverzace
  • ChatGPT 4o zvládá přímou práci se zvukem, bez ztráty intonace a emocí
  • Incident s napodobením hlasu člověka vyvolává otázky ohledně bezpečnosti
  • OpenAI tvrdí, že zamezilo napodobování cizích hlasů

Open AI zveřejnila zprávu, ve které se mimo jiné zmiňuje o incidentu, kdy ChatGPT 4o najednou začal mluvit hlasem člověka, se kterým komunikoval. OpenAI zveřejnil i příslušnou nahrávku, můžeme si tedy sami udělat názor na to, o jak moc věrné napodobení šlo.

ChatGPT 4o nabízí nový způsob komunikace. Už předchozí verze uměly komunikovat hlasem, ale tehdy šlo o nezávislý převod hlasu na text, ten se pak zpracovával pomocí AI a výsledek byl opět převedený na hlas. ChatGPT 4o ale pracuje přímo se zvukem a také zvuk přímo generuje. Nedochází tedy ke ztrátě intonace a emočního zabarvení. ChatGPT 4o by ale neměl v žádném případě být schopen napodobovat cizí hlas. Přesněji řečeno, on toho technicky schopen je, ale kontrolní mechanismy tomu mají zabránit.

chatgpt-4o openai

Problém je v tom, že riziko zneužití by bylo obrovské. Představte si, že namluvíte jakékoliv video na Instagram nebo YouTube, někdo si to stáhne a naučí ChatGPT 4o váš hlas a pak zavolá vašemu kamarádovi s prosbou o pomoc ve stylu “uvíznul jsem na benzince, můžeš mně poslat litr na účet?”. O zneužití hlasů známých osobností například v předvolební kampani raději ani nemluvě.

ChatGPT
ChatGPT

OpenAI tvrdí, že zamezilo tomu, aby ChatGPT 4o napodoboval cizí hlasy, a že omezil hlasový výstup na hlasové vzorky, které získal od zaplacených herců. To je určitě krok správným směrem, jenže pořád je tu otázka, kolik dalších  selhání ještě může nastat. A jak se k tomu postaví jiné AI, například Muskův Grok?

Jak mluvit s ChatGPT?

Pokud si chcete vyzkoušet konverzaci s ChatGPT, můžete například v mobilní aplikaci. Ovšem pokud se vám, tak jako mně, zobrazí pouze ikona sluchátek, znamená to, že stále komunikujete se starým engine.

Máte obavy ze zneužití hlasu v ChatGPT 4o?

Zdroj: OpenAI

Libor Foltýnek
O Autorovi - Libor Foltýnek

Libor Foltýnek je redaktor s rozsáhlými zkušenostmi v oblasti technologií a fotografie. Jeho práce je charakterizována důkladným výzkumem, poutavým vyprávěním a praktickými radami, které zpřístupňují… více o autorovi

Mohlo by vás zajímat

Komentáře (3)