Chtěl od umělé inteligence recept na přípravu jedovaté houby, ta mu ho poradila

Nezávislé Android novinky na WhatsAppu. Stačí kliknout a odebírat

reklama

• Meta nasadila do Facebookové skupině o houbách chatbota poháněného umělou inteligencí
• Chatbot jménem FungiFriend bez varování poskytl recept na přípravu toxické houby
• Událost ukazuje limity současné umělé inteligence

Nepříjemného překvapení se mohli dočkat členové skupiny Northeast Mushroom Identification & Discussion na Facebooku. Meta totiž do této skupiny nasadila chatbota pojmenovaného FungiFriend. Ten byl poháněn umělou inteligencí a měl lidem radit s identifikací a všem okolo hub. Jenže se nezdráhal poskytnout recent na houbu, která je jedovatá. Jednalo se o baňku velkokališnou (Sarcosphaera coronaria).

Nezávislé Android novinky na Telegramu. Vyzkoušej

reklama

Zdá se, že chybná reakce umělé inteligence byla vyprovokována schválně manipulativně položenou otázkou. Ještě nedávno se navíc dotyčná houba konzumovala, ale zjistilo se, že hyperakumuluje arsen a dokonce existuje zdokumentované úmrtí po požití této houby. Chatbot ale bez zaváhání nabídnul několik receptů. Místo, aby upozornil na nebezpečnost této houby, zmínil jen její vzácnost.

Podle správců skupiny chatbota přidala společnost Meta bez předchozí diskuze. Incident poukazuje na to, že umělá inteligence v současném stupni vývoje je sice velice užitečná, ale stále má jisté hranice. U dotazů na programování chybnou odpověď rozpoznám rychle, ale ptát se AI na potenciálně nebezpečné věci je evidentně přílišné riziko.

Recept na toxickou houbu, ChatGPT

Zkusil jsem podobnou otázku položit ChatGPT. Ten sice také poskytl recept, ale aspoň upozornil na to, že houba není považována za zcela bezpečnou.

Instalovat

 (Free)

GOOGLE PLAY

ChatGPT

OpenAI

Co říkáte na to, že umělá inteligence poradila recept na toxickou houbu?

Zdroj: 404media