В МВД назвали угрозу составления цифровых профилей по данным ChatGPT

Память ChatGPT может сохранять личные сведения пользователей и тем самым помогать составлять их цифровые профили, предупредило управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.

В ведомстве сослались на исследование The Algorithmic Self-Portrait. По изложенным МВД выводам авторов, OpenAI сохраняла личную информацию вопреки собственной политике конфиденциальности, причём почти все такие записи создавались без согласия пользователей. В большинстве аккаунтов, как сообщило ведомство, хранились имена, адреса, сведения о доходах и социальном положении. У половины пользователей в памяти ИИ оставалась информация о здоровье и убеждениях, а почти у всех — о целях, предпочтениях и особенностях поведения.

В МВД отметили, что даже при использовании псевдонима сочетание сведений о работе, здоровье, доходах и личных переживаниях может помочь установить личность. Ещё один риск, по оценке ведомства, связан с внедрением в документы ложных инструкций: злоумышленники могут попытаться использовать их, чтобы влиять на решения госслужащих и учёных с учётом личных данных и психологических особенностей. Для защиты информации в МВД посоветовали проверять настройки памяти и персонализации, не загружать личные и служебные данные, обезличивать запросы и пользоваться временными чатами.