Děsivý průlom v umělé inteligenci! Představenstvo OpenAI obdrželo zlověstné varování

• Zprávu o obavách odeslal výzkumný tým společnosti OpenAI
• Dopis byl odeslán představenstvu den tím, než byl Sam Altman propuštěn
• Spekuluje se o možném dosažení průlomu obecné umělé inteligence (AGI)

Agentura Reuters zveřejnila informace o dopisu výzkumných pracovníků firmy OpenAI směřovaný představenstvu, kde vyjádřili obavy a varování o potenciálu nového projektu v AI. Údajně jde totiž o možný objev, který by mohl ohrozit lidstvo. Sam Altman souhlasil s interním vyšetřováním údajného jednání, které podle všeho spustilo řetězec propouštění posledních dní.

What A Time We’re In

Exciting? Scary?

Fam @timnitGebru, what happens in a situation like this, if indeed the case? In terms of law and ethics.

“The technical breakthrough, spearheaded by OpenAI chief scientist Ilya Sutskever, raised concerns among some staff that the company… pic.twitter.com/TPYl7Mhlr2

— Mr. Tshweu (@TshweuMoleme) November 23, 2023

Člověk by si mohl říci, co se ve společnosti OpenAI poslední dobou děje a jak je možné, že je kolem ni momentálně takový rozruch. Někteří věří, že zpráva o konci Sama Altmana měla souviset s informacemi, které dnes vyplavaly na povrch a že může být dokonce spouštěčem onoho náhlého propuštění. Dopis byl údajně adresován bývalému představenstvu společnosti a měl být varováním před možným zlověstným průlomem.

What a week for OpenAI❗️ They fired and then rehired CEO Sam Altman, revealed the groundbreaking Q*, and reshuffled the board by bringing back Sam Altman. This rollercoaster ride highlights the risks of relying on a single person in a centralized AI setup.

The discovery in the… pic.twitter.com/QPIXoQecKP

— Julius Ser (@CTOofThings) November 23, 2023

Tím průlomem se měla stát obecná umělá inteligence  (AGI). Projekt Q*, definovaný jako autonomní systém, který si můžeme představit jako superpokročilého robota, schopného úplně všeho co zvládne člověk a navíc ještě lépe. Prokázal schopnost řešit složité matematické úlohy, což je považováno za hranici vývoje. Tento fakt nám naznačuje, že AI by mohla mít schopnosti chápání podobné lidské inteligenci.

Tajný projekt a vysoké ambice firmy OpenAI

Tento projekt je výsledkem dvou spojených výzkumných týmu ,,Code Gen“ a ,,Math Gen. Tyto týmy zkoumali, jak by mohli optimalizovat stávající modely, aby se zlepšilo jejich uvažování a byla vypracována vědecká práce. Altman stál v čele firemního úsilí, být jednou z nejrychleji rostoucích softwarových společností, čerpal investic Microsoftu a výpočetní zdroje, aby se AGI alespoň trochu přiblížil. Zajímavostí na konec je, že na setkání světových lídrů v San Franciscu Altman naznačil, že by AGI mohla být nadosah. „Už čtyřikrát v historii OpenAI, naposledy to bylo jen za posledních pár týdnů, jsem se dostal do místa, kdy jsme tak trochu posunuli závoj nevědomosti a hranice objevování vpřed, a dostat se do toho je profesionální čest na celý život,“ řekl a paradoxně byl den na to propuštěn.

Co si myslíte o možných hrozbách?

Zdroj: BusinessToday, Reuters, AndroidAuthority