Google випустила офіційні моделі Gemma 4, які влізуть у будь-який смартфон

Google DeepMind виклала офіційні квантовані версії свого сімейства Gemma 4 у відкритий доступ на Hugging Face для запуску на ноутбуках та мобільних пристроях. Найменша мобільна збірка займає всього близько 1 ГБ оперативної пам'яті, дозволяючи запускати сучасний AI навіть на бюджетних пристроях минулих років без ризику розплавити процесор.

Раніше подібним стисненням займалися виключно ентузіасти з ком'юніті, але цього разу техгігант вирішив зробити все самостійно. Розробники застосували технологію Quantization-Aware Training (QAT), яка симулює знижену точність обчислений ще на етапі навчання моделі, замість того, щоб грубо ампутувати "зайві" гігабайти у вже готової нейромережі.

Реліз охоплює п'ять різних розмірів моделей від E2B до 31B у чотирьох форматах, включно з популярним GGUF для швидкого локального старту та мобільним форматом wNa8o8. Підтримку нового сімейства з першого дня забезпечили популярні локальні рушії на кшталт llama.cpp, Ollama та LiteRT-LM.

Розробники запевняють, що такий підхід дозволяє зберегти якість роботи на рівні оригінальних важких моделей bfloat16, хоча незалежні тести поки що не підтвердили, чи справді ці кишенькові версії розумні, чи просто дуже швидко та впевнено генерують нісенітниці.

Локальний AI без інтернету поступово перетворюється з гіковської забавки на повсякденну реальність, змушуючи задуматися, чи стане 1 ГБ мізків у кишені корисним інструментом у роумінгу, чи просто новим вишуканим способом посадити акумулятор смартфона за пів години.

Джерело: Hugging Face