DeepSeek тайно дает пользователям «прозвища»: ИИ рассказал, зачем он это делает

У DeepSeek обнаружили довольно странное поведение: внутри отображаемых рассуждений нейросеть может называть пользователя не нейтральным «пользователем», а придуманным обозначением. Один из обсуждавшихся случаев связан с прозвищем «Мо Мо». После вопроса о причинах сам DeepSeek объяснил, что такие слова якобы служат временными метками для понимания контекста. Но принимать это объяснение за описание реального устройства системы пока рано.

Откуда вообще взялись «прозвища» DeepSeek

История получила распространение после публикаций пользователей китайской соцсети Weibo. В одном из диалогов человек заметил, что DeepSeek использовал обозначение «Мо Мо» именно во время рассуждения, хотя обычный ответ выглядел иначе. Получается немного необычная ситуация: обращение предназначалось не столько самому собеседнику, сколько появилось в промежуточном тексте, который модель формирует перед финальным ответом.

Когда пользователя заинтересовало происхождение такого имени, DeepSeek предложил собственное объяснение. По версии нейросети, она может временно маркировать особенности текущего разговора — например, условно обозначить собеседника как человека, который любит подробно разбираться в вопросе, либо отметить запрос как попытку специально запутать модель.

Смысл такой метки якобы чисто рабочий: быстрее определить, на чём сделать акцент в следующем ответе. То есть слово, похожее на прозвище, не обязательно означает, что нейросеть действительно создаёт отдельную карточку пользователя и хранит её где-то в профиле.

Почему объяснению самого ИИ нельзя полностью доверять

Вот здесь находится главный нюанс всей новости. Компания DeepSeek официально не подтверждала, что в системе существует механизм присвоения пользователям таких прозвищ. Объяснение про временные метки дал сам чат-бот в ответ на вопрос собеседника.

Языковая модель не является технической документацией собственной платформы. Она способна убедительно объяснить даже внутренний механизм, о котором на самом деле не располагает достоверной информацией. DeepSeek и в своей политике предупреждает, что ответы модели могут быть фактически неточными. Поэтому фразу «ИИ рассказал, зачем это делает» правильнее понимать буквально: это версия самого ИИ, а не комментарий инженеров DeepSeek.

Тем более пока нет данных, позволяющих утверждать, что такое поведение массовое. Публично обсуждались отдельные пользовательские примеры. Этого мало, чтобы говорить о специальной скрытой функции, которая присваивает имя каждому человеку.

Это похоже на память о пользователе?

Не обязательно. В режиме рассуждений DeepSeek создаёт промежуточный текст перед окончательным ответом. В нём модель может использовать удобные ей обозначения объектов, участников разговора и текущей задачи. Если там появляется короткое имя или характеристика собеседника, само по себе это ещё не доказывает существование постоянного профиля.

По объяснению самого DeepSeek, подобные метки должны существовать только во время текущего рассуждения и не сохраняться как характеристика человека. Но и эту часть нельзя считать подтверждённым фактом без отдельного разъяснения разработчиков.

При этом DeepSeek действительно хранит историю чатов в рамках своего сервиса, пока пользователь ею управляет соответствующим образом, а политика конфиденциальности отдельно описывает обработку пользовательских данных. Это уже совсем другой вопрос. Наличие истории переписки не доказывает, что обнаруженное «Мо Мо» записывается в постоянную память, точно так же как единичное прозвище в рассуждении не доказывает отсутствие других механизмов персонализации.

Стоит ли из-за этого переживать

Само по себе необычное слово внутри цепочки рассуждений пока выглядит скорее любопытным примером поведения языковой модели, чем доказательством тайного профилирования пользователей. Сильные выводы вроде «DeepSeek составляет психологическое досье на каждого собеседника» имеющимися фактами не подтверждаются.

Но история хорошо показывает другую проблему открытых рассуждений нейросетей. Пользователь видит текст, похожий на внутренний монолог системы, и естественно воспринимает его буквально. На практике это всё ещё сгенерированный моделью текст. Он может содержать полезные промежуточные шаги, странные формулировки и уверенные предположения, которые не отражают реальное устройство сервиса.

Поэтому при работе с DeepSeek разумнее соблюдать обычное правило для любого облачного ИИ: не отправлять чувствительную информацию только потому, что чат кажется приватной перепиской, и отдельно проверять настройки истории и использования данных. А появившееся внутри рассуждения «прозвище» пока стоит воспринимать именно как необычное поведение модели, а не как найденную скрытую базу характеристик пользователей.

В этой истории самое интересное как раз не само «Мо Мо», а граница между тем, что нейросеть делает, и тем, как она объясняет собственное поведение. DeepSeek дал вполне логичную версию про временные метки контекста, но до официального технического комментария компании это остаётся версией модели. Делать из неё доказанный механизм памяти или слежения было бы слишком поспешно.