V systému Android máme k dispozici množství nástrojů založených na generativní umělé inteligenci, které však ke své činnosti vyžadují trvalé připojení k internetu. Spustit velký jazykový model není snadné: proto používáme servery společnosti Google (v případě Gemini) nebo OpenAI (v případě ChatGPT). S rostoucím výkonem zařízení je však provozování AI lokálně stále schůdnější.
Gemini Nano je toho dobrým příkladem. AI je minimalizována, aby systém Android mohl spouštět jednodušší funkce offline. Nyní je možné spouštět modely Gemma společnosti Google z aplikace, která samozřejmě nepotřebuje servery vyhledávací společnosti. Prozradíme vám, jak ji stáhnout zcela zdarma a bez omezení.
To, že Google do umělé inteligence hodně investuje a že Android ustoupil do pozadí, vidíme každý den. Možnosti umělé inteligence Googlu přesahují rámec jednoduchých dotazů: je to kompletní digitální asistent, generuje obrázky, videa a dokonce funguje jako designér. Jediné, co chybí, je aplikace, která nevyžaduje připojení k internetu, aby AI mohla fungovat kdekoli a kdykoli.
Jmenuje se „Google AI Edge Gallery“ a přestože není k dispozici v Obchodě Play, můžete si ji stáhnout z oficiálního repozitáře na GitHubu. Pokud ji chcete vyzkoušet, ujistěte se, že jde o nejnovější verzi, a stáhněte si její APK soubor. Nezapomeňte aktivovat možnost „neznámý původ“, abyste ji mohli nainstalovat do systému Android.
Jedná se o jednoduchou aplikaci, jejíž hlavní obrazovce dominují příklady, které poskytuje sama společnost Google: akceptuje multimodální AI (nejen text) a umožňuje nainstalovat libovolný model s otevřeným zdrojovým kódem. Ve výchozím nastavení jsou některé z nich nainstalovány, například různé iterace Gemmy od Googlu nebo Qwen od Alibaby.
Ty běží rychle a plynule, i když se jedná o lokální AI, takže výkon bude záviset na vašem vlastním zařízení. Chcete popis obrázků? Klepnutím na „Zeptat se na obrázek“ získáte přístup ke specializovaným modelům vizuálního rozpoznávání. Pokud hledáte pouze chatbota, obsah v kategorii „AI Chat“ funguje jako po másle.
Neočekávejte však výkon srovnatelný s cloudovými AI: odpovědi neobsahují tolik informací, ani nemáme k dispozici nástroje, jako je hloubkové vyhledávání nebo generování audiovizuálního materiálu. Aplikace Google také nemůže fungovat jako asistent ve stylu Gemini.
Pokud vám žádný z výchozích modelů nevyhovuje, můžete případně začlenit vlastní: klepnutím na ikonu „+“ můžete lokálně importovat soubor jazykového modelu. Objeví se v „Google AI Edge Gallery“, této aplikaci, která umožňuje místní spuštění.
Není to konečná lokální AI, ani o ni neusiluje, ale je to ukázka toho, že mobilní zařízení jsou připravena spouštět generativní modely AI. Nyní alespoň v každé situaci, kdy nebudeme mít k dispozici Wi-Fi nebo mobilní data, nebudeme úplně odbytí. Jediné, co chybí, je možnost spouštět místo těchto SLM (malých jazykových modelů ) LLM, což si bude muset počkat do budoucna.
Možnost provozovat AI lokálně na zařízeních se systémem Android představuje významný krok vpřed v demokratizaci technologie umělé inteligence. Vzhledem k tomu, že mobilní zařízení jsou stále výkonnější, možnost používat AI offline nejen zlepšuje dostupnost, ale také chrání soukromí uživatelů tím, že snižuje potřebu odesílat data na externí servery. To je důležité zejména v kontextu, kdy soukromí uživatelů stále více znepokojuje.
Kromě toho je vývoj efektivnějších a kompaktnějších jazykových modelů aktivní oblastí výzkumu v oblasti UI. Společnosti jako Google a OpenAI pracují na vytváření modelů, které mohou nabídnout podobný výkon jako velké modely, ale s výrazně nižší spotřebou zdrojů. To bude přínosem nejen pro uživatele mobilních zařízení, ale umožní to také implementaci AI v širší škále zařízení, od nositelných zařízení až po zařízení internetu věcí.