Если коротко: нейросети действительно переехали в телефон, но не целиком. На самом устройстве работает небольшая языковая модель, которая справляется с короткими и приватными задачами: подсказки, краткое изложение, правка текста, распознавание речи. Всё, что требует большой модели, телефон отправляет на сервер, причём ваше устройство само решает, куда отправить запрос. Поэтому фраза «ИИ работает на устройстве» верна лишь частично, и полезно знать, какие функции остаются локальными, а какие уходят в облако.
Меня зовут Кира Нейман, я пишу про нейросети по-человечески. В этой статье разберём, почему умный телефон не может сам считать всё, как устроена «гибридная» схема у Apple и Google и что она означает для вашей приватности.
Почему нельзя просто засунуть большую модель в карман
Языковая модель состоит из миллиардов чисел, весов. Каждое слово ответа требует прогона запроса через эти веса. Чем больше модель, тем лучше она понимает сложные просьбы, но тем больше памяти и энергии ей нужно. Телефон ограничен тремя вещами: оперативной памятью, которую делят приложения, нагревом, потому что кулера нет, и батареей.
Поэтому на телефоны ставят компактные модели. Apple в описании своих базовых моделей называет трёхмиллиардную модель для устройства, сжатую до смешанной 2–4-битной точности, в среднем 3,7 бита на вес. Если прикинуть арифметикой, это порядка полутора гигабайт только на веса. Apple на iPhone 15 Pro приводит скорость около 30 токенов в секунду, а это вполне читабельно.
Компактность — это компромисс. Маленькая модель хороша в узких задачах: переписать сообщение, сделать краткую выжимку, подобрать ответ. Но в длинных рассуждениях, сложном коде, редких знаниях она уступает серверной.
Как телефон решает, где считать
У Apple схема описана прямо. В справке Apple об Apple Intelligence и конфиденциальности сказано, что система анализирует, можно ли обработать запрос на устройстве. Многие запросы выполняются целиком на нём, а для более сложных система может обратиться к Private Cloud Compute — большим серверным моделям на собственных чипах Apple. По заявлению компании, данные в Private Cloud Compute не сохраняются и недоступны Apple, а независимые исследователи могут проверять серверный код.
Заметьте важную деталь: решение принимает не пользователь, а система. Критерии маршрутизации Apple подробно не публикует, я их в официальных документах не нашла. Зато есть инструмент контроля: в настройках можно создать отчёт о запросах, отправленных в Private Cloud Compute, за последние 15 минут или 7 дней. Так вы видите, что реально ушло на сервер, а не верите на слово.
У Google подход похож по духу. В документации Android про Gemini Nano сказано, что модель работает в системной службе AICore, выполняет запросы локально без обращения к серверу и поэтому может работать без сети. Одновременно документация прямо признаёт ограничения: лимиты токенов, возможности железа, границы способностей самой модели. Для таких случаев разработчикам предлагают гибридный режим, когда запрос автоматически уходит в облачные модели, если Nano недоступна на устройстве.
Что обычно остаётся на устройстве
Как правило, на телефоне остаются задачи, где важны скорость и приватность, а сложность умеренная. Это распознавание речи, диктовка, краткое изложение уведомлений и сообщений, переписывание текста в другом тоне, описание изображений, поиск по смыслу среди ваших заметок и фото. В документации Google к таким задачам отнесены транскрипция и перевод речи, синтез речи, описание картинок, суммаризация, проверка и переписывание коротких сообщений. Все они короткие, а входные данные личные, и отправлять их на сервер без необходимости незачем.
Что уходит в облако
В облако уходит то, что не помещается в компактную модель: длинные тексты и тонкая аналитика, сложные многошаговые рассуждения, редкие знания, генерация большого кода. Кроме того, если вы пользуетесь отдельными приложениями-чатами вроде ChatGPT или Gemini, то по умолчанию запросы уходят в облако этих сервисов: это уже не системная функция телефона, а обычное приложение с серверной моделью. Вы можете использовать и их, и встроенные функции, но условия приватности у них разные, и читать их стоит отдельно.
Зачем вообще стараться считать локально
Причин три, и все прагматичные. Первая — скорость: когда запрос не едет через сеть, ответ начинается сразу, даже в метро или в самолёте. Google в документации прямо называет среди плюсов работу без подключения к сети и отсутствие серверных вызовов. Вторая — деньги: каждый серверный запрос стоит компании вычислительных ресурсов, а локальный считает ваше собственное устройство, и документация Android отмечает снижение затрат на вывод как одно из преимуществ. Третья — приватность: чем меньше данных покидает телефон, тем меньше поводов для утечек.
Обратная сторона тоже понятна. Локальный расчёт нагружает процессор и нейроускоритель, телефон греется и быстрее садит батарею, поэтому тяжёлые задачи система старается вынести. Документация Google оговаривает, что скорость вывода зависит от железа: на старом или бюджетном телефоне то же самое может работать медленнее или не поддерживаться вовсе. Поэтому функции «ИИ на устройстве» часто появляются сначала на флагманах и только потом расползаются на остальные модели.
Как это выглядит на практике
Допустим, вы просите телефон кратко пересказать длинную переписку. Короткий чат система, вероятно, обработает локально. Если вы просите составить план поездки с учётом десятка условий, то нужен более мощный разбор, и запрос может уйти на сервер. Вы это заметите разве что по чуть большей задержке, а в отчёте Apple увидите соответствующую запись. Именно поэтому важно знать, что обычный интерфейс не показывает, где считалось, и узнать это можно только через специальные отчёты и настройки.
Приватность: что на самом деле означает «на устройстве»
Локальная обработка действительно снижает риск: данные не покидают телефон, нет сетевой передачи, нет хранения на сервере. Но локальность не означает полной безопасности. Файлы всё равно хранятся на устройстве, а приложения могут получать доступ к содержимому по вашему разрешению. Серверная часть у Apple и Google устроена с мерами защиты, но это обязательство компании, и проверка возможна лишь частично, например через публикацию кода и отчёты.
Практичное правило: смотрите не на маркетинговую фразу, а на три вещи. Где обрабатывается конкретная функция, что сказано в документации о хранении данных и есть ли у вас способ проверить, что ушло наружу. Там, где такого способа нет, считайте, что запрос мог попасть на сервер.
Как проверить свой телефон
На iPhone и Mac загляните в раздел Конфиденциальность и безопасность и найдите отчёт Apple Intelligence: он покажет, какие запросы ушли в Private Cloud Compute. На Android посмотрите, какие функции помечены как работающие на устройстве, и учтите, что наличие Gemini Nano зависит от модели телефона. Отключите функции, которыми не пользуетесь, и не давайте приложениям лишних разрешений на доступ к файлам и микрофону.
Коротко
ИИ в телефоне — это связка небольшой локальной модели и большого облака. Локально идут быстрые приватные задачи, на сервер отправляются сложные, а решает об этом система, а не вы. Apple и Google публикуют, как это устроено, но детали маршрутизации остаются закрытыми, поэтому полезно проверять отчёты и настройки и не считать слова «на устройстве» полной гарантией.
Пока нет комментариев