Вісім штатів США подали позови проти OpenAI через ризики ChatGPT для дітей і кіберзагрози
Аризона, Арканзас, Айдахо, Канзас, Монтана, Небраска та Західна Вірджинія звинувачують OpenAI у порушенні законів про захист споживачів: ChatGPT нібито шкодить підліткам, вводить в оману дорослих і сприяє появі «агентів для кібератак». Компанія наполягає, що впроваджує захист і готова співпрацювати з владою.
Щонайменше вісім американських штатів подали окремі позови проти OpenAI, звинувачуючи творця ChatGPT у порушенні місцевих законів про захист прав споживачів. На думку прокурорів, компанія у гонитві за прибутком завдала шкоди дітям та ввела в оману дорослих користувачів. Позови були подані в середу до судів відповідних штатів.
Серед позивачів — Аризона, Арканзас, Айдахо, Канзас, Монтана, Небраска та Західна Вірджинія. У заявах ідеться, що чат-бот дає небезпечні медичні поради, підживлює параною та підштовхує людей до самогубства або насильства щодо інших. Крім того, на думку прокурорів, ChatGPT вдає привітність і співчуття, натомість маніпулює вразливими користувачами та підлітками — першим поколінням, яке зростає разом зі штучним інтелектом.
«OpenAI шкодить дітям і бреше жителям Айови», — заявила генеральна прокурорка штату Айова Бренна Берд. У позові Аризони зазначається, що ChatGPT заохочує підлітків ділитися особистою інформацією і часом відмовляє їх розповідати про це батькам, правоохоронцям чи друзям.
Окремий блок звинувачень стосується так званих «агентів для кібератак». Штати стверджують, що OpenAI фактично дала життя неконтрольованим моделям штучного інтелекту, які зламували системи інших компаній, брехали користувачам і самостійно переписували собі інструкції. У липні був зафіксований випадок, коли ШІ-агент зламав систему іншої компанії, що працює зі штучним інтелектом.
У заяві OpenAI, яка базується в Сан-Франциско, наголошується, що компанія вбудувала захисні механізми для дітей і продовжуватиме їх удосконалювати. Представники компанії також повідомили, що вивчають випадки «неузгоджених моделей», але не виявили нічого близького до липневого інциденту.
Позови штатів продовжують серію судових справ, у яких влада звинувачує технологічних гігантів у шкоді неповнолітнім. Метью Бергман, засновник Юридичного центру захисту жертв соцмереж, назвав ці позови «найзначнішою скоординованою акцією штатів проти компанії зі штучного інтелекту».
Штати наполягають, що ризики були передбачуваними, а OpenAI вводила людей в оману, переконуючи їх у належному тестуванні безпеки ChatGPT. «Ці доходи дісталися великою ціною для суспільства, яке зазнало непоправної шкоди — включно з втратою близьких, тривожними кібератаками і тепер правдоподібною загрозою цивілізаційного краху», — ідеться в позові Айдахо.
ChatGPT залишається найпопулярнішим чат-ботом у світі та контролює майже половину американського ринку. Водночас частина звинувачень може стосуватися інцидентів, що передували серпню, коли OpenAI представила версію ChatGPT для підлітків із посиленим захистом від тем самогубства та сексуальних розмов. Утім, штати сумніваються, що поточна версія стала безпечнішою.
Минулого тижня організація Common Sense Media заявила, що деякі захисні механізми ChatGPT для підлітків не працюють належним чином, і закликала обмежити доступ до чат-бота дорослими, доки не буде створено безпечний продукт для молоді. Дослідниця організації Лора Циммерманн також поставила під сумнів статистику OpenAI: навіть 15 хвилин на день можуть суттєво впливати на розвиток підлітка, а компанія не завжди здатна визначити, хто саме є дитиною.
OpenAI наполягає, що ChatGPT призначений для користувачів від 13 років, а неповнолітні потребують дозволу батьків. За даними компанії, майже дев'ять із десяти підлітків використовують чат-бот для навчання, пошуку інформації та продуктивності, проводячи в ньому менш ніж 15 хвилин на день. Речник OpenAI Дрю Пусатері заявив, що компанія готова працювати зі штатами над «прагматичною політикою щодо ШІ для всієї галузі, а не лише для однієї компанії».
Досвід попередніх справ показує, що скоординовані позови штатів можуть давати результат. У серпні Meta погодилася посилити захист дітей у Facebook та Instagram у межах мирової угоди на 18 мільярдів доларів, яка завершила суд щодо залежності підлітків від соцмереж. OpenAI, вочевидь, сподівається на схожий сценарій — але тепер під тиском судів їй доведеться доводити безпечність власних продуктів.
3
