Керівники ключових американських банків та фінансові регулятори провели термінову зустріч для оцінки кібербезпекових ризиків, пов'язаних із новою нейромережею Mythos від компанії Anthropic. Здатність системи автономно знаходити вразливості в програмному забезпеченні та створювати експлойти для їх злому викликала побоювання щодо стабільності всієї банківської системи. Про це повідомляє Bloomberg 10 квітня.
Специфіка ШІ та загрози для фінансової системи
За даними джерел, у вівторок міністр фінансів США Скотт Бессент і голова Федеральної резервної системи Джером Пауелл зустрілися з генеральними директорами найбільших банків Волл-стріт. До закритого обговорення залучили керівників Citigroup, Morgan Stanley, Bank of America, Wells Fargo та Goldman Sachs. Усі ці фінансові установи мають статус системно важливих, що означає: будь-які збої в їхній операційній діяльності здатні спровокувати наслідки глобального масштабу.
Причиною екстреного зібрання стала поява нейромережі Mythos. На відміну від типових ШІ-продуктів для масового споживача, ця модель орієнтована виключно на сферу кібербезпеки та розробку програмного забезпечення. Її ключова функція — здатність за відповідним запитом знаходити критичні помилки в коді та перетворювати так звані вразливості «нульового дня» (невідомі дефекти) на готову цифрову зброю. Такий функціонал серйозно занепокоїв експертів, чия інфраструктура виявилася вразливою до подібних автоматизованих атак, які ШІ здатний генерувати в режимі реального часу з мінімальними витратами.
Зміна підходу до регулювання та закритий доступ
Цей епізод демонструє фундаментальний зсув у сприйнятті ризиків державними органами: відтепер штучний інтелект розглядається не просто як технологічний виклик, а як повноцінний каталізатор системних криз.
Сама компанія Anthropic стверджує, що попередньо консультувалася з американськими посадовцями щодо оборонного та наступального кіберпотенціалу Mythos. Наразі розробник обрав тактику обмеженого поширення свого продукту: доступ до нейромережі отримала лише вузька група великих технологічних і фінансових компаній.
Окрім банківського занепокоєння, Anthropic має серйозні проблеми з державним сектором. Компанія втягнута у судовий конфлікт із Пентагоном після того, як Міністерство оборони США визнало її такою, що становить ризик. Це Anthropic зараз намагається оскаржити в суді.
Монополізація доступу та конфлікт із Пентагоном
Конфлікт Anthropic із Пентагоном розгорівся через відмову компанії дозволити використання своїх ШІ-моделей для автономної летальної зброї та інструментів масового стеження. У відповідь оборонне відомство застосувало статус компанії, який фактично блокує використання технологій компанії у державних військових контрактах. Нещодавно американський апеляційний суд відмовився призупинити дію цього статусу, зазначивши, що інтереси військового відомства переважають над фінансовими збитками окремої компанії.
