Итальянский орган по защите данных Garante per la Protezione dei Dati Personali (он же Garante) ввел временный запрет на использование сервиса ChatGPT компании OpenAI в стране, ссылаясь на проблемы с защитой данных.
С этой целью он приказал компании немедленно прекратить обработку данных пользователей, заявив, что намерен провести расследование в отношении компании на предмет незаконной обработки таких данных в нарушение законов Общего регламента защиты данных (GDPR ) ЕС.
«Пользователям и субъектам данных, чьи данные собирает Open AI, не предоставляется никакой информации» - отметили в Garante. «Что еще более важно, похоже, что нет никаких правовых оснований для массового сбора и обработки персональных данных с целью «обучения» алгоритмов, на которые опирается платформа».
ChatGPT, которая, по оценкам, достигла более 100 миллионов ежемесячных активных пользователей с момента ее выпуска в конце прошлого года, не раскрыла, что она использовала для обучения своей последней большой языковой модели (LLM), GPT-4, и как она ее обучала.
Тем не менее, ее предшественница GPT-3 использовала текст, взятый из книг, Википедии и Common Crawl, последний из которых поддерживает «открытое хранилище данных веб-поиска, доступ к которым может получить и проанализировать любой желающий».
Garante также указал на отсутствие какой-либо системы проверки возраста для предотвращения доступа несовершеннолетних к сервису, что потенциально может подвергнуть их получению «неподобающих» ответов. Собственный чат-бот Google под названием Bard открыт только для пользователей старше 18 лет.
Кроме того, регулятор поставил под сомнение точность информации, опубликованной ChatGPT, а также обратил внимание на утечку данных, которой сервис подвергся в начале этого месяца и которая раскрыла названия чатов некоторых пользователей и информацию, связанную с платежами.
В ответ на распоряжение OpenAI заблокировал доступ к своему генеративному чат-боту ИИ для пользователей с итальянским IP-адресом. Компания также заявила, что возвращает деньги подписчикам ChatGPT Plus, а также приостанавливает продление подписки.
Компания из Сан-Франциско также подчеркнула, что предоставляет ChatGPT в соответствии с GDPR и другими законами о конфиденциальности. ChatGPT уже заблокирован в Китае, Иране, Северной Корее и России.
В заявлении, предоставленном Reuters, OpenAI сообщила, что активно работает над «сокращением персональных данных при обучении наших систем ИИ, таких как ChatGPT, потому что мы хотим, чтобы наш ИИ узнавал о мире, а не о частных лицах».
У OpenAI есть 20 дней, чтобы уведомить Garante о мерах, которые она приняла для приведения своей деятельности в соответствие с требованиями, иначе ей грозит штраф в размере до 20 млн евро или 4% от общего годового оборота по всему миру, в зависимости от того, что больше.
Запрет, однако, не повлияет на приложения других компаний, которые используют технологию OpenAI для расширения своих сервисов, включая поисковую систему Bing от Microsoft и ее предложения Copilot.
Европол предупредил, что такие ИИ, как ChatGPT, могут помочь создавать вредоносный код, облегчить мошенничество и «предложить преступникам новые возможности, особенно для преступлений, связанных с социальной инженерией, учитывая его способность реагировать на сообщения в контексте и принимать специфический стиль письма».
Это не первый случай, когда компании, ориентированные на ИИ, попадают в поле зрения правительств. В прошлом году неоднозначная компания Clearview AI, занимающаяся распознаванием лиц, была оштрафована несколькими европейскими регуляторами за то, что без согласия использовала общедоступные фотографии пользователей для обучения своего сервиса сравнения личности.
Она также нарушила законы о конфиденциальности в Австралии, Канаде и США, причем несколько стран обязали компанию удалить все данные, полученные таким образом.
На прошлой неделе компания Clearview AI сообщила BBC News, что она провела около миллиона поисков для правоохранительных органов США, несмотря на то, что ей навсегда запретили продавать свою базу данных отпечатков лиц на территории страны.
Источник: https://thehackernews.com
