У сонячній конференц-залі штаб-квартири Google DeepMind дослідник вводить запит у термінал. Система ненадовго зупиняється, потім генерує детальний аналіз складного медичного зображення, перекладає його на китайську мову та ставить додаткові запитання — і все це протягом кількох секунд, і все це працює на одному графічному процесорі. Це не далеке бачення майбутнього штучного інтелекту, а реальність: Gemma 3, остання відкрита модель Google, вражаюче демонструє те, що вже можливо за допомогою готового обладнання.
12 березня 2025 року Google DeepMind представила третє покоління свого дедалі впливовішого сімейства моделей Gemma, що стало важливою віхою в демократизації штучного інтелекту. Gemma 3 — це не просто чергове поступове оновлення, а зміна парадигми в нашому уявленні про доступність штучного інтелекту, з можливостями, які ще кілька місяців тому вимагали б цілого кластера високопродуктивних графічних процесорів.
Історія про Давида проти Голіафа у штучному інтелекті
У галузі, де домінують монументальні моделі з сотнями мільярдів параметрів, що навчаються на масивних серверних фермах, Gemma 3 здається легким конкурентом. Але не варто недооцінювати силу ефективності. З варіантами від компактного 1 мільярда до колосальних 27 мільярдів параметрів, Google досягає чогось видатного: він пропонує флагманські можливості штучного інтелекту розробникам з обмеженим доступом до дорогого обладнання.
«Це найпотужніша модель штучного інтелекту, здатна працювати на одному акселераторі», – гордо заявляє Google. Твердження, яке не здається надто неправдоподібним, враховуючи, що модель Gemma 3-27B досягла вражаючого балу Elo, приблизно 1338, у престижній таблиці лідерів Chatbot Arena, що ставить її серед 10 найпотужніших моделей штучного інтелекту у світі.
Справжній сюрприз? У той час як конкурентам для порівнянної продуктивності потрібно до 32 графічних процесорів, Gemma 3 обходиться одним графічним процесором NVIDIA H100. Хоча слід додати, що такий графічний процесор коштує десятки тисяч євро, це все одно значний крок вперед порівняно з попередніми вимогами до обладнання для порівнянних моделей. Ця виняткова ефективність може стати переломним моментом у розробці штучного інтелекту, різко знижуючи бар'єри для входу та надаючи можливості ширшому колу новаторів — від стартапів та університетів до малого бізнесу, який прагне використовувати ШІ для автоматизованої аналітики або персоналізованих послуг.
Мультимодальний потужний транспортний засіб
Більші моделі сімейства Gemma 3 — 4B, 12B та 27B — пропонують одну з найбільш затребуваних можливостей у сучасному ландшафті штучного інтелекту: справжню мультимодальну обробку. Завдяки інтеграції спеціалізованого кодера зору SigLIP ці моделі можуть обробляти та аналізувати не лише текст, але й зображення та короткі відео.
Кодер перетворює візуальну інформацію у векторне представлення фіксованого розміру, яке мовна модель може інтерпретувати як «м’які токени». Для обробки зображень високої роздільної здатності та неквадратних співвідношень сторін Gemma 3 використовує метод, відомий як «Pan & Scan» (P&S), натхненний підходом LLaVA. Замість обробки кожного пікселя окремо, модель конденсує візуальні елементи у 256 векторів, що значно підвищує ефективність та мінімізує споживання ресурсів.
Ця можливість відкриває двері до застосувань, які раніше були зарезервовані для більших, власницьких моделей: точні описи зображень, розуміння документів та візуальні відповіді на запитання. Наприклад, Gemma 3 може використовуватися на платформах електронної комерції для автоматичного аналізу зображень продуктів та створення детальних описів. У модерації контенту вона може допомогти виявляти та фільтрувати неприйнятний контент, тоді як у сфері технологій доступності вона може дозволити людям з вадами зору сприймати та розуміти візуальний контент у режимі реального часу.
Подолання дилеми контекстного вікна
Однією з найбільших перешкод для моделей ШІ у вирішенні складних завдань завжди було обмеження контекстного вікна — скільки інформації модель може «утримувати в голові» одночасно. Gemma 3 також робить величезний крок вперед у цьому питанні.
Хоча компактна модель 1B вже підтримує вражаюче вікно контексту в 32 000 токенів, більші моделі пропонують вражаюче вікно в 128 000 токенів. Цього було досягнуто завдяки інноваційному гібридному механізму уваги, який використовує співвідношення 5:1 між локальними та глобальними рівнями уваги для зменшення споживання пам'яті, зберігаючи при цьому продуктивність.
Крім того, базову частоту RoPE (вбудовування поворотних позицій) було збільшено з 10 000 до 1 мільйона для глобальних шарів уваги, що дозволяє ефективніше обробляти довший контекст. Ці покращення роблять Gemma 3 особливо цінним для програм, які потребують обробки великих обсягів тексту, таких як аналіз юридичних документів, медичних записів або наукових публікацій.
Глобальний голос: багатомовність переосмислена
У світі, що дедалі більше взаємопов’язаний, здатність спілкуватися, незважаючи на мовні бар’єри, є безцінною. Gemma 3 робить значні кроки в цій галузі, маючи пряму підтримку понад 35 мов та попередньо навчені навички для понад 140.
Ці розширені мовні можливості позиціонують Gemma 3 як потужний інструмент для розробки глобальних додатків, які можуть спілкуватися з користувачами їхньою рідною мовою, значно покращуючи доступність та зручність використання.
Висновок: Обіцянка маленьких велетнів
Сімейство Gemma 3 втілює важливу тенденцію в розвитку штучного інтелекту: йдеться вже не лише про створення дедалі більших моделей, а й про те, щоб зробити існуючі підходи більш ефективними та зручними для використання на загальноприйнятому обладнанні. Хоча великі моделі штучного інтелекту, такі як GPT-4 та Gemini Advanced, продовжуватимуть розширювати межі технологічних можливостей, саме такі моделі, як Gemma 3, можуть справді зробити штучний інтелект повсюдним — не завдяки розмірам та обчислювальній потужності, а завдяки інтелектуальній оптимізації та доступності. Ця демократизація відкриває нові можливості для досліджень, освіти та малого бізнесу, які раніше були позбавлені доступу до потужного штучного інтелекту. Завдяки своїй ефективності Gemma 3 стає інструментом для широкої спільноти розробників, тим самим роблячи важливий внесок у поширення технологій штучного інтелекту за межами великих технологічних компаній.