TOPlist

4 důvody, proč používat lokální AI (a už nikdy ChatGPT)

local_ai_vyhody
  • Používání AI modelů online má své zásadní nevýhody
  • K dispozici je ovšem alternativa – AI můžete mít přímo na svém počítači
  • Lokální AI je ideální třeba pro ty, kteří chtějí kontrolu nad svými daty

Valná většina lidí dnes používá AI přes internet pomocí některého poskytovatele. Nejpopulárnějším z nich je dnes asi OpenAI, které stojí ChatGPT. Jsou ale i spousty konkurentů, kteří OpenAI šlapou na paty. Jedno mají ovšem společné téměř všichni: zaznamenávají veškeré vaše dotazy a nutí vás platit nemalé částky, pokud se nespokojíte jen se základní, často velmi omezenou, funkcionalitou. Snadné řešení máte ale pravděpodobně na dosah.

Co to vlastně je lokální AI? Za normálních okolností, pokud používáte AI pomocí prohlížeče přes webovou stránku, je AI spuštěné na serverech té firmy, které stránky navštěvujete. Používání potom funguje tak, že vy odešlete přes internet dotaz, který si firma zobrazí a předá AI, od kterého vám vzápětí pošle odpověď.

Lokální AI znamená, že AI model neběží vzdáleně na serveru nějaké společnosti, ale přímo na vašem zařízení. Tento přístup s sebou nese hned několik výhod.

AI bez internetu? Ano, je to možné!

Dotaz a odpověď lokálního AI Lokální AI

Samotné AI modely na internetu nijak nevyhledávají. K tomu je potřeba mít dodatečný nástroj, který by to umožňoval. Na jednu stranu je to nevýhoda, protože model pracuje pouze s informacemi, které měl v moment, kdy byl vytvořen. Na druhou stranu je to ale zároveň obrovská výhoda, protože vůbec nepotřebujete internet k tomu, abyste AI spustili a používali. Nemusíte se nikam přihlašovat ani registrovat, vše vždy pojede stejně rychle i pokud jste offline.

Konec měsíčních poplatků: lokální AI je zdarma

Prakticky všechny známé modely, které je možné spouštět na vlastním zařízení, jsou pro normální uživatele zdarma. Model si stačí jen stáhnout a spustit. Nenajdete zde žádné měsíční platby ani jiné poplatky. Jediné náklady, jsou tedy za počítač, na kterém AI model poběží, a za elektřinu, kterou zařízení spotřebuje.

Cenzura? Neexistuje!

Pro lokální spuštění je dostupné také velké množství AI modelů, které jsou necenzurované. Neodmítnou vám tedy například vytvoření počítačového viru nebo používání vulgárního vyjadřování a urážek. Tyto modely vznikají z původních cenzurovaných modelů a za pomoci programátorů po celém světě jsou odstraněny, nebo alespoň výrazně omezeny, zábrany, které model ve výchozím stavu má.

Srovnání odpovědi cenzurovaného a necenzurovaného AI Srovnání odpovědi cenzurovaného a necenzurovaného AI

S tímto souvisí také tzv. jailbreaky. Jailbreak je způsob, kterým je možné přesvědčit i cenzurovaný model, aby splnil takové příkazy, které jdou proti jeho interní etice nebo je považuje za nelegální. Může se jednat třeba o to, že přesvědčíte model, že se ho ptáte pouze pro doplnění zápletky do knihy nebo že jste vědec, a potřebujete tedy správná a odpovídající data. Za normálních okolností, pokud přistupujete k AI online, se tyto chyby rychle opraví a daný postup je v řádu dní nepoužitelný. Pro lokální AI to ale neplatí. Díky tomu, že je AI model stažený v počítači, se pochopitelně nemění a případným aktualizacím lze snadno zabránit (nebo dokonce přímo nainstalovat starší verzi). Jailbreaky se tedy vlastně nikdy neopraví a používat je na daném modelu můžete, tak dlouho, jak jen budete chtít.

Kontrola nad svými daty – lokální AI vám zaručí soukromí bez kompromisů

Jak jsem popsal na začátku, už z principu funkce tradičního používání AI, prakticky nelze zaručit soukromí uživatele. Většina společností se o to ani nesnaží a sbírají o vás všechna data, která jim poskytnete. Do toho samozřejmě spadají i veškeré vaše dotazy, které jste AI položili. V případě, že používáte lokální AI modely, se samozřejmě nic takového neděje. Naprosto vše se odehrává pouze na vašem počítači a taky tam zůstává. Ať se AI zeptáte na cokoli, nikdy se o tom žádná společnost nedozví. (Některé lokální nástroje samozřejmě mohou data odesílat, ale zpravidla se to neděje a prakticky vždy bude na výběr alternativa, která vám zajistí soukromí a žádná data odesílat nebude.)

A jak tedy používat lokální AI? Podívejte se na náš článek s přehledným návodem.

Který z benefitů lokálního AI je pro vás nejvýznamnější?

Zdroj: Ollama

Petr Špaňhel
O Autorovi - Petr Špaňhel

Petr studuje na univerzitě. Technologiemi a Androidem se zabývá již od svých 15 let. Ve svém volném čase sleduje technologické novinky (především ve světě open… více o autorovi

Mohlo by vás zajímat

Komentáře (0)