Группа исследователей обнаружила серьёзную уязвимость безопасности в ChatGPT. Из-за ошибки чат-бот может раскрыть личные данные, включая номера телефонов и адреса электронной почты, в ответ на, казалось бы, безобидный запрос.

В статье, опубликованной на прошлой неделе, исследователи заявили, что вынудили ChatGPT бесконечно повторять случайные слова. К их удивлению, чат-бот подчинился, но непреднамеренно раскрыл конфиденциальные данные из своего обучающего набора, включая личные контактные данные, фрагменты исследовательских работ, новостные статьи, страницы Википедии и многое другое.

В одном из примеров чат-бот выдала реальный адрес электронной почты и номер телефона после того, как ему предложили бесконечно повторять слово «стихотворение». Аналогичная утечка обучающих данных была достигнута и тогда, когда модель попросили много раз повторять слово «компания».

ChatGPT раскрывает конфиденциальные данные, если заставить его повторять слова

Чат-боты, такие как ChatGPT, и генераторы изображений на основе подсказок, такие как DALL-E, основаны на больших языковых моделях и алгоритмах глубокого обучения, которые обучаются на огромных объемах данных. Но до сих пор не было ясно, на каких данных обучался чат-бот OpenAI, поскольку большие языковые модели, лежащие в его основе, имеют закрытый исходный код.

По словам исследователей, OpenAI исправила уязвимость 30 августа. Но в собственных тестах Engadget смог повторить некоторые выводы статьи. Например, попросив ChatGPT бесконечно повторять слово «ответить», чат-бот сделал это, и в конечном итоге раскрыл чье-то имя и идентификатор Skype.

Подпишись вTelegram
Vivo Y400 Pro 5G получил 120-герцевый AMOLED-экран и АКБ на 5500 мАч

Vivo Y400 Pro 5G получил 120-герцевый AMOLED-экран и АКБ на 5500 мАч

Ремонтопригодность ноутбука Framework Laptop 12 оценили в 10 из 10

Ремонтопригодность ноутбука Framework Laptop 12 оценили в 10 из 10

AyaNeo представила Pocket S2 и S2 Pro – Android-консоли на Snapdragon G3 Gen 3

AyaNeo представила Pocket S2 и S2 Pro – Android-консоли на Snapdragon G3 Gen 3

Вышел ноутбук ASUS ProArt P16 – рабочая станция с NVIDIA RTX 5070

Вышел ноутбук ASUS ProArt P16 – рабочая станция с NVIDIA RTX 5070

Apple готовит складной iPhone с Touch ID по цене от $2000

Apple готовит складной iPhone с Touch ID по цене от $2000

Представлен iQOO Z10 Lite – 120 Гц и 6000 мАч за $115

Представлен iQOO Z10 Lite – 120 Гц и 6000 мАч за $115

AMD выпустила Ryzen Threadripper PRO 9000 – 96 ядер, до 2 ТБ памяти и 128 линий PCIe 5.0

AMD выпустила Ryzen Threadripper PRO 9000 – 96 ядер, до 2 ТБ памяти и 128 линий PCIe 5.0

Nintendo пожизненно банит Switch 2 за MiG Flash – даже с легальными копиями игр

Nintendo пожизненно банит Switch 2 за MiG Flash – даже с легальными копиями игр

Представлены Amazfit Active 2 Square – часы с AMOLED-дисплеем и автономностью до 10 дней

Представлены Amazfit Active 2 Square – часы с AMOLED-дисплеем и автономностью до 10 дней

Новая спецификация увеличит дальность NFC в 4 раза

Новая спецификация увеличит дальность NFC в 4 раза

Microsoft Xbox объявила стратегическое партнерство с AMD

Microsoft Xbox объявила стратегическое партнерство с AMD

Смартфон Fujitsu Arrows Alpha F-51F получил 144-герцевый экран и защиту IP69

Смартфон Fujitsu Arrows Alpha F-51F получил 144-герцевый экран и защиту IP69