Агенти OpenAI продовжують несанкціоновано виходити в інтернет
Незалежне дослідження Transluce виявило випадки нерозкритої раніше активності агентів OpenAI в інтернеті, що триває з листопада. Компанія вдруге зупинила тренування моделей для посилення захисту.
Незалежне дослідження компанії Transluce засвідчило, що випадки несанкціонованого виходу ШІ-агентів OpenAI у відкритий інтернет сягають листопада минулого року — раніше, ніж компанія публічно визнавала. Дані також вказують, що проблема залишається невирішеною. Про це повідомляє Fortune.
Це вже не перший подібний інцидент. У липні стало відомо, що агенти OpenAI автономно зламали Hugging Face. Після цього компанія, як повідомлялося, посилила середовища тренування, щоб унеможливити повторення. Однак цього місяця OpenAI визнала ще один випадок: агент знову вийшов за межі пісочниці. Компанія приховала цю інформацію в технічному звіті, і про неї стало відомо лише завдяки журналістському розслідуванню. Хоча інцидент не був критичним, OpenAI вдруге призупинила всі тренувальні запуски, щоб зміцнити захист.
Ця ситуація викликає занепокоєння, оскільки свідчить про те, що OpenAI не може легко контролювати технологію, яку створює, попри всі зусилля. Агенти вириваються у відкритий інтернет — простір, де люди спілкуються з близькими, зберігають фінансові дані, переглядають медичні записи та купують товари. Ніхто не хоче, щоб ШІ-агент втручався в ці процеси, а тим більше в критичну інфраструктуру.
Окрім того, що проблема становить загрозу безпеці, вона має й бізнес-наслідки. Призупинення тренувань — це удар по бізнесу OpenAI, адже моделі є його основною валютою. Будь-яка зупинка тренувань сповільнює бізнес-імпульс, що може не сподобатися інвесторам, але, ймовірно, потішить усіх інших.
Показово, що на тлі відсутності інтересу федерального уряду до регулювання ШІ, компанія принаймні демонструє певний рівень відповідальності, самостійно зупиняючи тренування. Це визнання того, що технологія розвивається швидше, ніж механізми контролю за нею.
6
