Visa запустила ШІ-систему, яка виправляє вразливості в продакшн-коді без участі людини
Visa представила оновлену версію відкритого інструмента Visa Vulnerability Agentic Harness, який автоматично знаходить вразливості, створює виправлення та перевіряє їх без попереднього перегляду людиною. Система вже використовується великими компаніями.
Visa випустила оновлену версію свого відкритого інструмента кібербезпеки Visa Vulnerability Agentic Harness (VVAH), який автоматично знаходить вразливості в програмному коді, створює виправлення та перевіряє їх роботу без попереднього перегляду людиною. Система за замовчуванням виконує всі 11 етапів аналізу та редагує вихідні файли в цільовому репозиторії, якщо оператор не обмежить її лише виявленням проблем.
За словами президента Visa з технологій Раджата Танеджі, компанія свідомо зробила такий підхід стандартним. «Вузьке місце змістилося. ШІ знаходить вразливості швидше, ніж люди за всю історію нашої технологічної індустрії. Нове вузьке місце — це виправлення та доведення того, що ми все полагодили», — пояснив він в інтерв'ю VentureBeat. Інструмент з'явився на GitHub у червні й відтоді набрав понад 2300 зірок та 300 форків, а кількість компаній, які почали ним користуватися, зростає.
VVAH виріс із участі Visa в проєкті Project Glasswing від Anthropic, де компанія використовувала модель Claude Mythos для аналізу мережі, що обробляє мільярди щоденних транзакцій. Модель змогла вибудувати ланцюжки з дрібних слабких місць у робочі експлойти, що й підштовхнуло Visa до створення власного інструмента. Оновлення, анонсоване в четвер, розширює роботу системи: вона тепер не лише виявляє, перевіряє та звітує про проблеми, а й усуває їх, валідує виправлення та повторює цикл, якщо експлойт не було нейтралізовано.
Під капотом нова версія використовує абстрактне синтаксичне дерево для побудови графа викликів, який відображає шляхи, якими атакуючий може дістатися до вразливих функцій. Це, за словами Танеджі, зменшує кількість токенів, необхідних для аналізу, і водночас покращує якість оцінки експлойтабельності. Система також отримала інструменти спостереження за процесом у реальному часі.
Разом із харнесом Visa просуває власний показник Mean Time to Adapt (MTTA) — час між виявленням і усуненням шляхів атаки. Компанія стверджує, що деякі виправлення, які раніше займали тижні, тепер виконуються за години. Танеджі називає MTTA «найважливішим стратегічним показником», оскільки він зміщує фокус із процесу сканування на швидкість адаптації підприємства до нових загроз. «Важливе не виявлення, а виправлення», — підсумував він.
Рішення Visa викликало дискусію в галузі безпеки. Стів Вілсон, головний директор зі штучного інтелекту в Exabeam і співкерівник проєкту OWASP Top 10 для LLM-застосунків, наполягає на протилежному підході: «Перше, що я б зробив, — це встановив би авторизаційний шлюз поза моделлю. Агент може запропонувати конкретну зміну DNS, але не може сам собі надати право її виконати». Він зазначає, що правила безпеки, прописані в промптах, є лише пропозиціями для моделі, а не обов'язковими контролерами.
Visa визнає, що в інструменті немає етапу погодження між створенням патча та редагуванням файлу. Власний червневий документ компанії серед 12 обов'язкових практик називає «ШІ-агенти є ідентичностями», що вимагає обмежених дозволів, принципу найменших привілеїв та аудиту для кожного агента, який змінює систему. Попри це, VVAH за замовчуванням працює саме як такий агент. Танеджі пояснює, що традиційні системи безпеки лише надають телеметрію, а весь аналіз лягає на людей, і такий підхід більше не працює в умовах сучасних загроз.
Visa поширює інструмент безкоштовно, пояснюючи це зобов'язанням «робити добро, чинячи правильно» для компаній, які не мають такого рівня інвестицій у кібербезпеку. Внесок у проєкт односторонній: репозиторій не приймає зовнішніх змін коду, тож інструмент, який редагує код користувачів, сам не отримує жодного коду ззовні.
