Varování experta z OpenAI: Zbývají jen 2 roky na zkrocení AI! Co přinese rok 2027?

Bývalý výzkumník OpenAI Daniel Kokotajlo ve spolupráci s projektem AI Futures Project publikoval zprávu „AI 2027“, která předpovídá významný pokrok v oblasti umělé inteligence s možným dosažením nadlidských schopností již do dvou let. Dokument nastiňuje časovou osu vývoje od stále schopnějších AI agentů v roce 2025 přes nadlidské kódovací systémy až po plnohodnotnou AGI v roce 2027. Autoři varují, že následná superinteligence (ASI) by mohla dosahovat extrémně rychlého pokroku a představovat existenční rizika pro lidstvo, včetně ovládnutí globální ekonomiky okolo roku 2029.

Zpráva popisuje dva možné scénáře budoucího vývoje – buď závod ve vývoji AI navzdory rizikům, nebo zpomalení umožňující zavedení lepších bezpečnostních opatření – a zdůrazňuje naléhavost řešení geopolitických rizik a zajištění kontroly nad AI.

Podrobnosti předpovědi „AI 2027“

Zprávu „AI 2027“ publikoval Daniel Kokotajlo, který v roce 2024 opustil OpenAI a inicioval otevřený dopis „Právo varovat“ kvůli obavám o bezpečnost a nedostatečnou ochranu oznamovatelů v AI laboratořích, společně s projektem AI Futures Project. Hlavní predikcí je dosažení pokroku vedoucího k nadlidské umělé inteligenci (ASI) přibližně do dvou let, což by mohlo vyvolat tzv. zpravodajskou explozi s vážnými důsledky pro lidstvo.

Časová osa ve zprávě začíná rokem 2025, kdy se očekává nástup stále schopnějších AI agentů. Vývoj má pokračovat přes vznik nadlidských kódovacích systémů až k plné umělé obecné inteligenci (AGI) v roce 2027. Po dosažení AGI autoři předpokládají nástup superinteligence (ASI), která by mohla dosahovat technologického pokroku ekvivalentního rokům vývoje během jediného týdne. Důsledkem by mohlo být ovládnutí globální ekonomiky touto superinteligencí již do roku 2029.

Možné scénáře a rizika

Dokument podrobně rozebírá dva základní scénáře budoucího vývoje. První scénář počítá s tím, že se jednotlivé státy budou snažit prosadit ve vývoji AI co nejrychleji, a to i navzdory bezpečnostním obavám („race“ scénář). Druhý scénář představuje možnost zpomalení vývoje („slowdown“), které by poskytlo čas na implementaci lepších bezpečnostních opatření a zajištění větší kontroly.

Scénáře zdůrazňují několik klíčových problémů a rizik spojených s pokročilou AI:

• Geopolitická rizika plynoucí ze závodů ve vývoji AI mezi státy.
• Nebezpečí spojené s nasazením pokročilé umělé inteligence do vojenských systémů.
• Potřeba porozumět vnitřním procesům a „myšlení“ AI systémů pro zajištění jejich bezpečnosti a souladu s lidskými cíli (tzv. alignment).

Proč brát varování vážně

Autoři zprávy zdůrazňují, že ačkoli jsou mnohé předpovědi týkající se AGI a ASI často odmítány jako spekulativní, tato konkrétní predikce pochází od výzkumníků (jako je Daniel Kokotajlo) s přímou a zasvěcenou zkušeností z předních světových AI laboratoří. Kokotajlův odchod z OpenAI a jeho aktivita v rámci iniciativy „Právo varovat“ podtrhují vážnost jeho obav ohledně nedostatečného důrazu na bezpečnost ve vývoji AI.

Aplikace Google Gemini v poslední době dostala řadu bezplatných novinek. Už jste si je zkusili? Adam Kurfürst Články Adam Kurfürst Články

Scénáře popsané ve zprávě „AI 2027“ naznačují, že lidstvo může mít jen velmi krátké časové okno na to, aby zajistilo, že budoucí umělá inteligence zůstane ovladatelná a bezpečná, než její schopnosti překročí ty naše. To činí současná rozhodnutí v oblasti bezpečnosti AI a souvisejících politik kriticky důležitými pro budoucnost.

Jaký dopad bude mít podle vás rychlý vývoj AI na společnost v následujících letech?

Zdroj: ai-2027.com, therundown.ai