Группа исследователей обнаружила серьёзную уязвимость безопасности в ChatGPT. Из-за ошибки чат-бот может раскрыть личные данные, включая номера телефонов и адреса электронной почты, в ответ на, казалось бы, безобидный запрос.

В статье, опубликованной на прошлой неделе, исследователи заявили, что вынудили ChatGPT бесконечно повторять случайные слова. К их удивлению, чат-бот подчинился, но непреднамеренно раскрыл конфиденциальные данные из своего обучающего набора, включая личные контактные данные, фрагменты исследовательских работ, новостные статьи, страницы Википедии и многое другое.

В одном из примеров чат-бот выдала реальный адрес электронной почты и номер телефона после того, как ему предложили бесконечно повторять слово «стихотворение». Аналогичная утечка обучающих данных была достигнута и тогда, когда модель попросили много раз повторять слово «компания».

ChatGPT раскрывает конфиденциальные данные, если заставить его повторять слова

Чат-боты, такие как ChatGPT, и генераторы изображений на основе подсказок, такие как DALL-E, основаны на больших языковых моделях и алгоритмах глубокого обучения, которые обучаются на огромных объемах данных. Но до сих пор не было ясно, на каких данных обучался чат-бот OpenAI, поскольку большие языковые модели, лежащие в его основе, имеют закрытый исходный код.

По словам исследователей, OpenAI исправила уязвимость 30 августа. Но в собственных тестах Engadget смог повторить некоторые выводы статьи. Например, попросив ChatGPT бесконечно повторять слово «ответить», чат-бот сделал это, и в конечном итоге раскрыл чье-то имя и идентификатор Skype.

Подпишись вTelegram
Apple официально выпустила «бюджетный» iPhone 16e

Apple официально выпустила «бюджетный» iPhone 16e

ASUS выпустила игровой паншет-ноутбук ROG Flow Z13 (2025) за $2100

ASUS выпустила игровой паншет-ноутбук ROG Flow Z13 (2025) за $2100

Представлены часы OnePlus Watch 3 – неделя работы на одном заряде

Представлены часы OnePlus Watch 3 – неделя работы на одном заряде

Авто Xiaomi SU7 разбилось после того, как врезалось в Tesla Model Y

Авто Xiaomi SU7 разбилось после того, как врезалось в Tesla Model Y

Realme выпустила два смартфона серии P3 с IP69 и батареей на 6000 мАч

Realme выпустила два смартфона серии P3 с IP69 и батареей на 6000 мАч

Дисплей Samsung Galaxy S25 Ultra возглавил рейтинг DxOMark

Дисплей Samsung Galaxy S25 Ultra возглавил рейтинг DxOMark

Всё что известно про iPhone 17 Pro и Pro Max

Всё что известно про iPhone 17 Pro и Pro Max

Илон Маск представил «думающие» модели Grok 3 и Grok 3 mini

Илон Маск представил «думающие» модели Grok 3 и Grok 3 mini

Huawei Mate XT вышел на глобальный рынок за €3499

Huawei Mate XT вышел на глобальный рынок за €3499

NVIDIA RTX 5070 Ti лишь на 13,2% медленнее 5080

NVIDIA RTX 5070 Ti лишь на 13,2% медленнее 5080

Apple может отложить запуск обновлённой Siri из-за возникших проблем

Apple может отложить запуск обновлённой Siri из-за возникших проблем

SanDisk анонсировала SSD-накопитель объёмом 512 ТБ

SanDisk анонсировала SSD-накопитель объёмом 512 ТБ