Deep Cogito přichází s novými open-source AI modely. Samoučící se superinteligenci rozjedete i u sebe doma

Na scéně se objevuje nový hráč – Deep Cogito, výzkumný AI startup ze San Francisca, který dnes oficiálně vystoupil z režimu ticha. A nezůstal jen u slov – rovnou zveřejnil první řadu open-source jazykových modelů Cogito v1, které kombinují rychlé odpovědi s možností hlubšího „přemýšlení“.

První řada modelů Cogito v1 má pět základních velikostí (3B, 8B, 14B, 32B a 70B parametrů). Působivá je i skutečnost, že modely umělé inteligence Cogito byly vyvinuty malým týmem vývojářů údajně za pouhých 75 dní.

Modely vycházejí z architektury Llama 3.2 od Meta, ale Deep Cogito je dále ladí a přidává vlastní trénovací přístup zvaný IDA – iterovaná destilace a amplifikace. Co to ale vlastně znamená?

IDA a Cogito: kombinace produkující působivý výkon

Běžně se modely ladí pomocí lidské zpětné vazby (tzv. RLHF) nebo podle výstupu silnějšího „učitelského“ modelu.

IDA jde jinou cestou – nechává model vytvářet více variant odpovědí, vybere ty nejlepší a znovu se z nich učí. Tím si model postupně vylepšuje vlastní uvažování, bez nutnosti lidského zásahu. Jde o mechaniku lehce podobnou té, kterou jsme si vysvětlovali u AI modelu DreamerV3.

Další přirovnání, které pomůže přístup IDA pochopit, pochází od Drishana Arory, bývalého inženýra společnosti Google. Popisuje jej jako „lingvistický AlphaGo“ – tedy podobný přístup jako měl model hrající čínskou hru Go, akorát aplikovaný na jazyk.

A co vlastně ten výkon? Čísla vypadají velmi dobře

Společnost Deep Cogito zveřejnila i benchmarky – a většina z nich ukazuje, že modely porážejí srovnatelné open-source konkurenty:

Lze si povšimnout, že modely v tzv. „reasoning“ režimu (tedy když mají čas si odpověď promyslet) dosahují často lepších výsledků než ve standardním režimu. Výjimkou je matematika, kde si lépe vedou jiné modely (např. DeepSeek).

Deep Cogito plánuje rozšíření na ještě větší modely – mluví se o verzích s 109B, 400B a dokonce 671B parametry. Zároveň slibuje, že vše zůstane open-source, což může být atraktivní pro vývojáře i firmy, které chtějí výkonnou AI bez závislosti na uzavřených systémech.

A mimo to se samozřejmě hodí i redaktorům Světu Androida, kteří prostě rádi zkouší open-source počiny na vlastní kůži. Díky tomu má pro vás nováček mezi AI modely malý vzkaz:

Co je na tom všem nejlepší? Že to můžete zkusit taky.

Sledujete dění kolem open-source AI?

Zdroj: VentureBeat