Installera Gemma 4 IA från Google offline och gratis på telefonen

Upptäck hur du enkelt installerar Gemma 4, en kraftfull offline AI-modell, på din smartphone och njut av anonym bearbetning av text och bilder utan internetuppkoppling.

Eftersom jag har försökt installera Gemma 4 på min smartphone för 400 Euro och det verkligen fungerar utmärkt som en offline AI, vill jag understryka hur enkelt och fördelaktigt det är. Att skicka känslig information till servrar som tillhör tredjepartsföretag som Google är inte den enda vägen att gå för att använda AI. Med tanke på styrkan i de neurala processorer som finns i moderna smartphones, även de av medelklass, kan vi alltså bearbeta information helt autonomt.

Att köra en modell lokalt omvandlar telefonen till en verklig oberoende beräkningsmotor. Google har nyligen släppt familjen Gemma 4 under öppen licens, vilket införlivar inbyggda multimodala funktioner. Detta innebär att vi har makten att bearbeta komplexa texter och känna igen element i fotografier utan att vara kopplade till nätet.

Det verkliga fysiska hindret är fortfarande systemminnet. För att undvika totalstopp av enheten krävs både hårdvara med en bra mängd RAM och en optimerad AI-modell. Denna open source-modell av Google, Gemma, finns i en lättare version som kan användas av alla gratis.

Medan vi i en annan artikel har sett hur man installerar Gemma LLM på PC, kommer vi nu att se hur man gör samma sak på en smartphone, vilket är superenkelt om vi har en Android-telefon, med lite mer tekniskt arbete om vi vill använda en iPhone.

Gemma 4 och skillnaderna mellan modellerna E2B, E4B, 26B och 31B

Gemma 4 är en open source-modell från Gemma-familjen, som är designad för att fungera direkt på smartphones, surfplattor och bärbara datorer utan att förlita sig på molnet, som Gemini eller chatGPT gör. Den hanterar text, bilder, video och ljud med en förvånande lätthet, tack vare Per-Layer Embeddings (PLE) som minskar minnesanvändningen till 2-3 GB. Detta gör att den även är bra för äldre enheter.

Det är en chatbot liknande ChatGPT som fungerar offline, gratis utan begränsningar, garanterar integritet och snabbhet, och utmärker sig med en effektivitet på 90 % i uppgifter som bildigenkänning eller ljudtranskribering.

Linjen Effective 2B och Effective 4B har designats specifikt för mobilsektorn. Dessa algoritmer förbrukar lite resurser, hanterar långa texter och bearbetar bilder snabbt. De är ett utmärkt val för dagligt bruk på smartphones.

När man går upp i nivå stöter man på modellen 26B MoE, baserad på en expertarkitektur som bara aktiverar en del av sina miljarder parametrar åt gången för att maximera snabbheten. Det utrymme som krävs för att hålla den i minnet överskrider kapaciteten hos dagens telefoner, vilket gör den till en produkt avsedd för bärbara datorer.

Den gigantiska 31B Dense utgör den logiska maximala evolutionen av serien. Att försöka installera den på en pekskärm är en orimlig uppgift. Överhettningen skulle blockera kretsarna inom några minuter och genereringen av enskilda ord skulle ske med en förskräcklig långsamhet.

Modellerna Gemma 26B och 31B kan provas och användas fritt och utan begränsningar från Google AI Studio.

Hur man använder Google Gemma-modeller på Android

Android-operativsystemet garanterar frihet att manipulera systemfiler. För att få processorn att kommunicera med de nedladdade data behövs ett optimerat gränssnitt, men man måste lämna de trygga ramarna av Play Store.

Det finns två, faktiskt tre sätt att installera Gemma på Android:

Det första är MLC LLM. Installationspaketet finns inte på de traditionella kommersiella kanalerna och kräver en manuell åtgärd.

• Ladda ner filen med APK-tillägget direkt från den angivna officiella portalen.
• Starta installationen genom att ge Android behörighet för okända källor.
• Öppna programmets bibliotek för att bläddra bland paketen som är kompatibla med Gemma 4-serien.
• Välj en komprimerad variant på 4-bit för att inte överbelasta chipen.
• Vänta på att spara och börja författa.

Om vi föredrar att behålla kontrollen över nedladdade paket från andra plattformar kan vi förlita oss på Layla, som är tillgänglig för Android och iPhone. Denna miljö stödjer direktimport av GGUF-filer, det nuvarande standardformatet för offlinebehandling som delas av hela entusiastgemenskapen.

Den officiella vägen för Google AI Edge Gallery

För utvecklare och kodpurister sköter det kaliforniska företaget Google AI Edge Gallery. Detta är inte en digital butik öppen för allmänheten, utan en teknisk samling där de ursprungliga filerna och grundbiblioteken distribueras.

Hela infrastrukturen bygger på MediaPipe, ett ramverk som hoppar över molnservrar för att bearbeta signalerna direkt på enheten.

För att få Gemma 4 på Android måste man använda appen Google AI Edge Gallery, som kan laddas ner från GitHub, där den senaste versionen av filen ai-edge-gallery.apk kan laddas ner. Android kan visa en säkerhetsvarning eftersom vi inte laddar ner en app från Google Play Store, men det finns inga risker eftersom det är en officiell app, så tryck på "Fortsätt" och sedan "Installera".

Appen öppnas med ett rent och mycket enkelt gränssnitt, där man bara behöver trycka på en av knapparna och välja Gemma-modellen att ladda ner beroende på det tillgängliga utrymmet i telefonens minne. Den största och mest kraftfulla modellen är gemma-4-E4B-it-int4.task, som upptar 4 GB, följt av gemma-4-E2B-it-int4.task (som är lättare, cirka 2 GB RAM) medan den minsta väger bara 500 MB, även om den är mycket grundläggande.

För att ladda ner modellen kopplar AI Edge Gallery-appen till Hugging Face, där man måste skapa ett gratis konto. När behörigheterna har givits (var noga med att knappen för att acceptera måste rullas ner lite på sidan), kan man gå vidare med nedladdningen av filen tar.gz som appen känner igen.

Om det behövs, i Google AI Edge Gallery, tryck på “+” längst ner till höger, välj den nedladdade filen, aktivera sedan Support image och GPU (om tillgängligt) och klicka på “Importera”.

Därefter kan man chatta fritt med AI Google Gemma, även utan internetuppkoppling, på svenska.

Att använda AI utan internet på iPhone och iPad

På iOS sätter Apples stängda miljö mycket strikta begränsningar för införande av extern kod. Chipen i A- och M-serien presterar dock utmärkt med tensorberäkningar, vilket erbjuder en smidighet som ofta överträffar motsvarigheten.

Vi kan utnyttja grunden i MLC-projektet, men med en annan klädsel. På Apples App Store heter appen MLC Chat. I det här fallet sker nedladdningen officiellt och valet av algoritm hanteras från huvudgränssnittet.

Under perioder av stark innovation, för att testa experimentella neurala nätverk, tvingar utvecklarna övergången via TestFlight-miljön. Denna process kräver att Apple beta hub installeras för att sedan låsa upp programvaran via inbjudningslänkar som publiceras på GitHub.

En mer grundläggande alternativ, avsedd för mer erfarna användare, är LLM Farm. Inställningen kräver att den elektroniska hjärnan placeras på iCloud eller i det interna minnet för att kopplas till appens kommandon.

Genom att följa riktlinjerna, för att få maximal smidighet på apparater från Cupertino, föreslår vi att inaktivera alla energisparlägen och tvinga stängningen av alla program i bakgrunden. Utförandet av neurala nätverk kräver omedelbar tillgång till alla tillgängliga resurser, utan flaskhalsar.

Begränsningar och varningar för dagligt bruk

Att hålla ett så massivt program i drift väcker frågor om resursförbrukning och hantering av integritet. Låt oss sammanfatta de grundläggande koncepten att komma ihåg innan.

dell'installazione.

• Extrem batteriförbrukning. Den lokala bearbetningen pressar komponenterna till maximala temperaturer, vilket dränerar laddningen mycket snabbare än ett vanligt tredimensionellt videospel.
• Absolut integritet garanterad. Ingen inmatad text, ljudfil eller fotografi passerar genom telefonens modem. Total isolering gör varje enskild interaktion anonym.
• Ingen återställning av molnlagring. För att kommunicera med assistenten måste man avstå från flera gigabyte fast minne för att lagra de neurala biblioteken på den interna lagringsenheten.
• Hantera överhettning. Att känna baksidan av enheten bli brännande het är en fysiologisk reaktion, eftersom transistorerna arbetar under konstant belastning för att bearbeta meningslogiken.
• Interaktion med kameran. Den multimodala strukturen tillåter att rikta objektivet mot ett verkligt föremål och få en exakt beskrivning, helt oberoende av datanätets status.

Nu när du har läst klart Installera Gemma 4 IA från Google offline och gratis på telefonen, inbjuder vi dig att utforska kategorin Ansökningar ytterligare. Där hittar du fler intressanta artiklar som kommer att utöka dina kunskaper och hålla dig informerad. Sluta inte läsa och upptäcka mer!