Френсіс Гауген: Цукерберг «грає з вогнем» у гонці ШІ
Колишня співробітниця Meta та викривачка Френсіс Гауген застерігає, що Марк Цукерберг «грає з вогнем», просуваючи ШІ без належного регулювання. Вона закликає до обов'язкового незалежного аудиту ШІ-компаній.
Колишня співробітниця Meta та викривачка Френсіс Гауген, чия історія лягла в основу нового фільму «The Social Reckoning», заявила, що генеральний директор Meta Марк Цукерберг «грає з вогнем», просуваючи штучний інтелект без належних обмежень. На її думку, компанія досі не змінила корпоративну культуру після скандалу 2021 року.
Гауген, яка у 2021 році винесла з компанії десятки тисяч сторінок внутрішніх документів, поділилася своїми оцінками напередодні виходу в американський прокат фільму Аарона Соркіна «The Social Reckoning». Стрічка розповідає про рішення Гауген передати документи журналісту Wall Street Journal Джеффу Горвіцу. На основі цих матеріалів було опубліковано серію розслідувань The Facebook Files, які, зокрема, виявили, що власні дослідники компанії виявили негативний вплив Instagram на сприйняття власного тіла підлітками.
За словами Гауген, Цукерберг прагне позитивної спадщини, а його активна позиція щодо ШІ зумовлена бажанням наздогнати лідерів ринку. «Він хоче наздогнати, тому хоче, щоб не було жодних обмежень, поки він не опиниться за одним столом із великими гравцями», — сказала вона, маючи на увазі Anthropic та OpenAI. Гауген наголосила, що не бачить змін у культурі Meta від моменту її виходу з компанії.
Попри занепокоєння, Гауген не підтримує повну паузу в розробці ШІ. «Ми ніколи не робили заборони, яку могли б належно перевірити. Уповільнення означає лише, що перемагає той, хто не хоче сповільнюватися», — зазначила вона. Замість мораторію вона підтримує ідею обов'язкового незалежного аудиту, яку раніше запропонував генеральний директор Anthropic Даріо Амодеї. Йдеться про надання стороннім оцінювачам постійного доступу до перевірки безпеки ШІ-моделей, подібно до того, як зовнішні аудитори перевіряють банки. Гауген вважає, що такий аудит має бути вимогою закону для всієї галузі.
Вона також зауважила, що ШІ-компанії публікують значно більше досліджень, ніж свого часу Facebook, але сумнівається, чи опубліковані дані відображають реальний стан справ усередині лабораторій.
Окрему увагу Гауген приділила модерації контенту. Частина винесених нею документів свідчила, що Facebook реагував лише на 3–5% мови ворожнечі на платформі. Вона припускає, що навіть дуже досконалі ШІ-моделі зможуть виявляти лише 10–20% шкідливого контенту через складність мови. «Справжнє рішення — проєктувати системи безпечними від самого початку, а не намагатися очистити їх у кінці», — підкреслила вона.
Meta не відповіла на запит щодо коментарів стосовно заяв Гауген. Тим часом компанія продовжує скорочувати залучення зовнішніх підрядників і людей-модераторів, дедалі більше покладаючись на ШІ-моделі для перевірки контенту.
5
