Италия стала первой страной, запретившей ChatGPT, популярный чат-бот с искусственным интеллектом от американского стартапа OpenAI.
На прошлой неделе Итальянская служба защиты данных приказала OpenAI временно прекратить обработку данных итальянских пользователей на фоне расследования предполагаемого нарушения строгих правил конфиденциальности в Европе. Регулятор, также известный как Garante, сослался на утечку данных в OpenAI, позволившая пользователям просматривать заголовки разговоров других пользователей с чат-ботом.
Решение «с немедленным вступлением в силу» приведет к «временному ограничению обработки итальянских пользовательских данных в отношении OpenAI», заявило Управление по защите данных Италии.
Агентство начало расследование. ChatGPT, созданный американским стартапом OpenAI при поддержке Microsoft, может четко отвечать на сложные вопросы, писать код, сонеты или эссе – даже сдавать сложные экзамены для студентов. Но приложение, появившееся в ноябре, вызывает споры: учителя опасаются, что ученики будут использовать его для мошенничества, а политики обеспокоены распространением дезинформации. Итальянский наблюдатель также упомянул об утечке данных, произошедшей в OpenAI 20 марта, в результате которой частично были раскрыты разговоры и личные данные некоторых пользователей, включая адреса электронной почты и последние четыре цифры их кредитных карт. Нет никаких правовых оснований для оправдания «массового сбора и хранения персональных данных с целью« обучения »алгоритмов, лежащих в основе работы платформы». Наконец, отмечается, что «отсутствие проверки возраста подвергает детей риску получения ответов, абсолютно не соответствующих их возрасту и осведомленности.
OpenAI, поддерживаемый Microsoft, рискует быть оштрафованным на 20 миллионов евро (21,8 миллиона долларов), или 4% от своего глобального годового дохода, если не примет меры для исправления ситуации в течение 20 дней.
Блокировка ChatGPT в Италии произошла через несколько дней после того, как европейское полицейское агентство Европол предупредило, что преступники могут использовать приложение для совершения мошенничества и других киберпреступлений, от фишинга до вредоносных программ.
Различные регулирующие органы обеспокоены проблемами, которые ИИ создаёт для безопасности рабочих мест, конфиденциальности данных и равенства. Есть также опасения по поводу того, что продвинутый ИИ манипулирует политическим дискурсом путем создания ложной информации. Многие правительства также начинают думать о том, как поступить с системами общего назначения, такими как ChatGPT, а некоторые даже рассматривают возможность присоединиться к Италии в запрете этой технологии.
Британия
На прошлой неделе Великобритания объявила о планах по регулированию ИИ. Вместо того чтобы устанавливать новые правила, правительство попросило регулирующие органы в различных секторах применить существующие правила к ИИ. В предложениях Великобритании, где ChatGPT не упоминается по имени, изложены некоторые ключевые принципы, которым должны следовать компании при использовании ИИ в своих продуктах. Это безопасность, прозрачность, справедливость, подотчетность и состязательность.На данном этапе Великобритания не предлагает ограничений для ChatGPT или любого другого ИИ. Вместо этого он хочет, чтобы компании ответственно разрабатывали и использовали инструменты ИИ и предоставляли пользователям достаточно информации о том, как и почему принимаются те или иные решения.
В своем выступлении перед парламентом в прошлую среду министр цифровых технологий Мишель Донелан заявила, что внезапная популярность генеративного ИИ показала, что риски и возможности, связанные с этой технологией, «появляются необычайно быстро».
Она добавила, что, придерживаясь неуставного подхода, правительство сможет «быстро реагировать на достижения в области ИИ и вмешиваться в дальнейшие действия, если это необходимо».
Будут ли другие страны вскоре следовать примеру Италии?
После решения Италии ограничить доступ к чат-боту Европейская организация потребителей (BEUC) призывает все органы расследовать все основные чат-боты с искусственным интеллектом. Например, ChatGPT уже недоступен в ряде стран, включая Китай, Иран, Северную Корею и Россию.
В настоящее время Европейская комиссия обсуждает первое в мире законодательство об искусственном интеллекте, называемое Законом об ИИ. Тем не менее BEUC обеспокоен тем, что пройдут годы, прежде чем закон об ИИ вступит в силу, оставляя потребителей под угрозой ущерба от технологии, которая недостаточно регулируется. Заместитель генерального директора BEUC Урсула Пахл предупредила, что общество «в настоящее время недостаточно защищено от вреда», который может причинить ИИ.
Но исполнительный вице-президент Европейской комиссии Маргрет Вестагер, похоже, не склонна запрещать системы ИИ.
«Независимо от того, какую технологию мы используем, мы должны продолжать продвигать наши свободы и защищать наши права», – написала она в Twitter. «Вот почему мы не регулируем технологии искусственного интеллекта, мы регулируем использование искусственного интеллекта. Давайте не будем выбрасывать за несколько лет то, что создавалось десятилетиями».
Германия может пойти по стопам Италии, заблокировав ChatGPT из соображений безопасности данных, заявил комиссар Германии по защите данных изданию Handelsblatt. Французские регуляторы конфиденциальности также связались со своим итальянским коллегой, чтобы узнать больше об основании запрета. Орган по защите данных Швеции исключил запрет.
США еще не предложили каких-либо формальных правил для обеспечения надзора за технологией ИИ. Национальный институт науки и технологий страны разработал национальную структуру, которая дает компаниям, использующим, разрабатывающим или развертывающим системы ИИ, рекомендации по управлению рисками и потенциальным вредом. Но он работает на добровольной основе, а это означает, что фирмы не будут нести никаких последствий за несоблюдение правил. О каких-либо действиях по ограничению ChatGPT в США до сих пор не поступало.
