«Ассистент запомнил, что вы любите короткие ответы» — фраза безобидная. «Ассистент запомнил, что вы ищете новую работу» — уже не очень. Разница между этими двумя строчками и есть весь разговор о памяти ИИ.
В середине августа зарубежная пресса разобрала свежую функцию в маковском приложении ChatGPT — Computer History. С разрешения пользователя приложение записывает клики, набранный текст, горячие клавиши и переключения между программами, а потом сворачивает поток событий в текстовые «воспоминания». Скриншотов, звука и микрофона нет, вкладки в режиме инкогнито не пишутся — и это заметный шаг в сторону от Microsoft Recall, который индустрия безопасности в своё время называла встроенным кейлоггером.
Дальше начинается интересное. Сырые события лежат на диске до 48 часов и стираются, а вот готовые воспоминания остаются — обычным текстом, без шифрования. В документации так и написано: файлы могут содержать чувствительное, они не зашифрованы, и другие программы, работающие под вашей учётной записью, способны их прочитать. Там же отдельная просьба — выключать запись во время разговоров с другими людьми, если те не давали согласия. Функция выключена по умолчанию, живёт только на платных тарифах и недоступна в Евросоюзе, Британии и Швейцарии.
Память и история переписки — разные вещи
В обиходе это слиплось в одно, а различать полезно. История — дословный текст: ваши сообщения и ответы модели лежат подряд, вы их видите и можете перечитать. Память — выжимка: короткие утверждения о вас, вынутые из разговора и уложенные отдельно от него. «Живёт в Самаре», «пишет на Python», «не ест сладкое».
Практическая разница в том, кто это открывает. Историю листаете вы. Выжимка подставляется сама — в тот момент, когда система решила, что факт к месту. Вы не помните, что сказали это полгода назад, а она помнит. Отсюда и типичная реакция людей из исследований: «оно знает обо мне больше, чем я сам».
Второй нюанс — факты живут дольше разговора. Удалили чат и уверены, что следов не осталось? Не обязательно: утверждение, вытащенное из того чата, могло уехать в отдельное хранилище, к которому удаление переписки отношения не имеет. Проверять надо именно это.
Как это устроено у нас
Чтобы не рассуждать абстрактно, покажу на своём. В Schai GPT это не «дневник всего», а три отдельных слоя, и каждый живёт по своим правилам.
Первый слой — история чата. Сообщения дублируются на сервер, чтобы телефон и компьютер показывали одно и то же; читать их может только владелец, это закрыто на уровне базы, а не «на честном слове» приложения.
Второй — сухие факты. После вашего сообщения отдельная модель достаёт из него до шести коротких утверждений, каждое не длиннее 420 символов, ставит им важность от 1 до 5 и превращает в вектор — чтобы потом находить по смыслу, а не по совпадению слов. Пароли, платёжные данные, документы и точные адреса записывать запрещено правилом; вопросы и команды ассистенту — тоже не факты о человеке.
Отдельно отсекаются быстро протухающие числа. Живой случай из июля: утром сохранилось «сегодня на сайте 0 посетителей», вечером ассистент бодро повторил это как текущую цифру, хотя счётчик показывал 43. Теперь такие показатели — посещаемость, подписчики, курсы, баланс, погода — в долговременное хранилище не пишутся вовсе, они берутся инструментом в момент вопроса.
Срок годности у факта
Есть вещи навсегда, а есть на время. «Ищет кофемашину» — правда сегодня и мусор через месяц: человек её уже купил. Поэтому разовым намерениям — поиск, выбор, бронь, план на конкретную дату — проставляется срок годности, по умолчанию 45 дней. Просроченная запись сначала перестаёт находиться поиском, а ночью её физически удаляет отдельная задача, чтобы строки не копились в базе вечно. Устойчивое — город, профессия, отношения — не протухает: его стираете только вы.
Третий слой — архив. Переписке больше 30 дней? Старая часть сворачивается в короткую сводку на несколько предложений, дословный текст уходит. Смысл разговора сохраняется, вес в базе — нет. Удалите чат — сводка удалится вместе с ним; это пришлось прописать отдельно, потому что само по себе не сработало бы.
И главное: всё, что накопилось, лежит на вкладке «Обо мне» простым списком. Любую строчку можно стереть кнопкой. Можно и дописать своё — добавленное руками считается более достоверным, чем вытащенное из разговора: про себя вы знаете точнее любого извлекателя.
Удобство измеряется тем, сколько вы не повторяете. Слежка — тем, сколько вы не можете убрать.
Пять вопросов к любому ассистенту
Список короткий, и он работает не только с нашим сервисом. Могу ли я увидеть накопленное списком, а не догадываться о нём по ответам? Удаляется ли отдельная запись отдельно от переписки — и наоборот? Есть ли у записей срок годности или они копятся бесконечно? Что происходит, когда я стираю чат: уходит ли сводка и вынутые из него утверждения? Где всё это физически лежит и кто ещё имеет доступ к файлу?
Если на половину вопросов внятного ответа нет — вы нашли ту самую границу. Не между «хорошим» и «плохим» сервисом, а между тем, который работает на вас, и тем, который работает с вами.
Пока нет комментариев