Guide: Installera Gemma 3n på android

I den här guiden ska vi visa dig hur man kan enkelt installera nya Google Gemma 3n på en android mobil. Gemma 3n modell kan köras på så lite som 2GB RAM. Den delar samma arkitektur som Gemini Nano och är konstruerad för otrolig prestanda. Google har lagt till ljudförståelse, så nu är den multimodal, snabb och resurssnål, och körs på enheten – ingen molnanslutning krävs!

Gemma 3n är en ny mobil-först AI-modell från Google som erbjuder kraftfulla och effektiva funktioner direkt på enheter som mobiler, surfplattor och laptops. Man kan även testa Gemma 3n i Google AI studio.

Storleksvarianter: Tillgänglig i fyra olika storlekar (1B, 4B, 12B och 27B) för optimal flexibilitet.

Föratt utföra installationen så behöver du två filer: Edge Gallery apk och gemma-3n-E2B-it-litert-preview som är omptimerad Edge gallery.

1- ladda ner Edge Gallery apk:

Ladda ner filen från Github här ai-edge-gallery.apk. och sedan klicka på den föratt installera den.

2- Ladda ner en av .task-filerna från huggingface:

Ladda ner gemma-3n-E2B eller E4B versionen. Du behöver ett Huggingface konto och du behöver godkänna villkor.

4- Starta Edge gallery appen och lägg till gemma 3n filen:

Öppna Edge Gallery appen och tryck på plus ikonen längst ner till höger och lägg till Gemma 3n filen i vårt fall är det E2B. Välj om Gemma ska köras på GPU eller CPU.

Du kan öka tokens här, Det är inte max 1024.

4- Du kan börrja chatta med Gemma 3n. AI Chat

Tryck på AI Chat och sedan välj längst ner Gemma..t4.task, Det är din helt lokala AI, Ingen internet uppkoppling behövs.

Tips: Ändra ton på LLM chatten.

För att ändra chattens svarsformat, gå till Prompt Lab och justera Gemma-chattens textrespons (exempelvis från formell till informell stil).

Mer info om Gemma 3 och funktioner:

  • Modellen är imponerande för sin storlek och kan utföra OCR och bildtolkning lokalt, men har begränsad kunskap och är inte optimal för komplexa uppgifter.
  • Språkstöd: Stöder över 35 språk direkt och kan hantera över 140 språk totalt.
  • Multimodalt Stöd: Kan analysera bilder, text och korta videoklipp.
  • Förstorat Kontextfönster: Erbjuder ett 128k-token kontextfönster för att bearbeta stora mängder information.
  • Funktionsanrop: Stöder funktionsanrop och strukturerade utdata för automatisering av uppgifter.
  • Optimerad Prestanda: Inkluderar kvantisering för minskad modellstorlek utan förlust av precision.

Mer info:

introducing-gemma-3n

Google AI Edge Gallery

Gemma 3n Preview

Leave a Comment