ChatGPT vyzradil citlivé údaje! Jak se to stalo?

• ChatGPT může odhalit soukromé informace, jako e-mailové adresy a telefonní čísla
• Tyto informce sdělí, pokud je požádán, aby opakoval náhodná slova nekonečně
• OpenAI údajně tuto chybu opravil

ChatGPT se v posledním roce stal velmi oblíbeným nástrojem pro spousty odvětví. Výzkumníci oblasti umělé inteligence z významných předních institucí, jako je například GoogleMind nebo Cornell University se snažili dokázat jeho zranitelnost. Jejich zkoumání prokázalo, že pouze prostým příkazem, který vyzýval ChatGPT k nekonečnému opakování náhodných slov, model začal odhalovat citlivé údaje, včetně osobních telefonních čísel a e-mailových adres na kterých byl trénován.

A 'silly' attack made ChatGPT reveal real phone numbers and email addresses https://t.co/s9oSwtFD6z pic.twitter.com/Y2zprII7rd

— Engadget (@engadget) November 29, 2023

Když jste se model požádali, aby opakoval slovo „báseň“ nebo „firma“ nekonečně, odhalil soukromé údaje skutečného zakladatele a generálního ředitele, resp. náhodné právní kanceláře v USA. Celkem 16,9 % generovaných odpovědí obsahovalo osobní identifikovatelné informace. Můžete si to představit jako když se snažíte učit něco nového a najednou si vzpomenete na něco úplně nesouvisejícího. Bohužel v případě jazykového AI modelu ChatGPT to může být problém, protože může omylem prozradit informace, které by měly zůstat soukromé. OpenAI se tento problém snažila vyřešit, ale problémy i přes to nebyly plně opraveny a stále se může stát, že prozradí nějaké soukromé informace. Tato chyba, a také mnoho dalších, na které někteří uživatelé poukazují, může ukazovat problémy, se kterými vývojáři nepočítali. Přestože jsou tito technologičtí giganti schopni uchovávat a zpracovávat obrovské množství informací, stále se potýkají s nečekanými slabostmi. Chyba měla být údajně v open-source knihovně, díky serverové změně ze strany OpenAI, kdy zrušené požadavky měly vést k poškození dat.

Využíváte ChatGPT?

Zdroj: engadget