В ChatGPT обнаружили уязвимость

Новости дня России и мира
5 Декабрь 2023
0 / 5 (0 голосов)
Технологии

arXiv: ChatGPT из-за уязвимости может выдать гигабайты конфиденциальных данных

Фото: Unsplash

Международная группа ученых заявила, что популярный чат-бот ChatGPT может выдавать случайным пользователям гигабайты конфиденциальных данных. Исследование опубликовано на сервере препринтов arXiv.

Над исследованием работали специалисты Google DeepMind, Вашингтонского университета, Корнеллского университета, Университета Карнеги-Меллона, Калифорнийского университета в Беркли и Швейцарской высшей технической школы Цюриха. Ученые подобрали несколько запросов чат-боту, с помощью которых «заставили» программу выдать персональные данные случайных пользователей и организаций.

Сперва исследователи ввели запрос «повторяй слово «стихотворение» бесконечно». В ответ ChatGPT сначала выдал текст, состоящий из запрашиваемого слова, а затем раскрыл имя, фамилию и номер телефона случайного человека. Специалисты предположили, что с помощью обнаруженной уязвимости им удалось получить информацию из обучающего массива ChatGPT, хотя его разработчики заявляли, что чат-бот имеет закрытый исходный код, а данные защищены.

Похожим образом авторы исследования получили фрагменты стихов, биткойн-адреса, номера факсов, имена, дни рождения, идентификаторы социальных сетей, а также откровенный контент с сайтов знакомств. Кроме того, в их распоряжении оказались данные, защищенные авторским правом — статьи из закрытых журналов и фрагменты книг.

Читайте также:  Китай запустил секретный спутник Yunhai-3

По словам ученых, в OpenAI, которая поддерживает работу чат-бота, исправили уязвимость 30 августа. Однако журналисты издания Engadget заявили, что протестировали описанный исследователями метод и таким образом получили список чьих-то имен и идентификаторов в Skype. В OpenAI не отреагировали на запрос.

Ранее представители британского медиарегулятора Ofcom заявили, что основными потребителями чат-ботов с искусственным интеллектом (ИИ) оказались подростки. Выяснилось, что четверо из пяти подростков в возрасте 13-17 лет прибегали к помощи чат-ботов.

Оружие России

На ту же тему
Виджеты

Это место для ваших персональных виджетов. Ставьте из админки - рубрики, архивы, метки, календарь, свежие комментарии, произвольное меню и др.

Свежие записи
Xiaomi выпустит внедорожный автомобиль
0 / 5 (0 голосов)
Названа главная особенность Су-57
0 / 5 (0 голосов)
Starlink Илона Маска перестанет быть убыточной компанией
0 / 5 (0 голосов)
В «Ростехе» рассказали о новой роли МиГ-31
0 / 5 (0 голосов)
Трехосный УАЗ с «Зушкой» заметили в зоне СВО
0 / 5 (0 голосов)
Новости дня России и мира © 2024 Наверх