Розвідувальні служби п’яти країн, об’єднаних в альянс Five Eyes (“П’ять очей”), спільно попередили про появу передових моделей штучного інтелекту, здатних до руйнівних кібератак, вже за кілька місяців, а не років. Вони закликали лідерів до негайних дій, наголосивши, що кіберризики становлять значну загрозу для бізнесу.
Вперше розвідувальні служби Австралії, США, Великої Британії, Нової Зеландії та Канади виступили з такою спільною заявою, закликаючи до термінових дій. Це сталося після того, як адміністрація США обмежила доступ “іноземних громадян” до моделі штучного інтелекту Fable від компанії Anthropic.
Кіберзагрози та ШІ
У заяві зазначено, що хоча штучний інтелект може покращити кіберзахист, він також значно прискорює темпи, масштаби та складність кіберзагроз.
Очікується, що передові моделі штучного інтелекту перевершать поточні галузеві прогнози, фундаментально трансформуючи як наступальні, так і оборонні кіберможливості. Терміни – це не роки, а місяці.
– ідеться в попередженні агентств Five Eyes.
“У цьому середовищі кіберстійкість є невід’ємною частиною забезпечення безперервності бізнесу, довіри до ринку та довгострокової цінності”, – йдеться в документі.
Агентства з кібербезпеки вказують, що стрімкий розвиток моделей штучного інтелекту знизить бар’єри для зловмисників та збільшить швидкість і складність атак.
“Необхідна реакція всієї організації та всього суспільства”, – наголошується в заяві. Альянс Five Eyes, створений п’ятьма країнами після Другої світової війни, бачить у кіберризику не лише технічну проблему, а й основний ризик для бізнесу, що вимагає відповідальності керівництва.
Генеративні моделі штучного інтелекту є потужними інструментами, здатними виявляти вразливості в системах кібербезпеки та використовувати їх, а також допомагати у їх усуненні.
“Особливість останніх [моделей штучного інтелекту] полягає в тому, що вони дуже добре генерують експлойти”, – зазначила Олівія Шен, експерт з національної безпеки та штучного інтелекту в Центрі досліджень США Сіднейського університету.
Хоча заява Five Eyes не згадує конкретних моделей чи компаній, увага багатьох прикута до передових розробок Anthropic. Серед них – Fable 5, нібито спрощена версія потужної моделі Mythos, яка випущена раніше цього року і здатна виявляти вразливості в кіберсистемах. Доступ до Mythos мають лише перевірені організації через побоювання щодо її потенційного зловживання.
У червні уряд США призупинив використання обох моделей Anthropic “іноземними громадянами”, посилаючись на рекомендації органів національної безпеки.
Шен додала, що хоча увага зосереджена на Anthropic, слід очікувати появи багатьох інших, ще потужніших моделей штучного інтелекту.
“Я думаю, ми повинні бути готові до того, що наступний Mythos або наступний Fable вже не за горами”, – сказала Шен.
“Ми бачимо лише те, що було випущено, але можуть бути інші моделі, які розробляються такими ж передовими країнами, як Китай, або іншими державами, компаніями та суб’єктами”, – додала вона.
Додаткова інформація
Нещодавно в мережі з’явилася інформація про те, що модель Mythos від Anthropic нібито зламала майже всі секретні системи Агентства національної безпеки США (АНБ). Про це повідомив сенатор Марк Ворнер, заступник голови комітету з розвідки Сенату, посилаючись на слова директора АНБ.
Згідно з публікацією The Economist, генерал Джошуа Радд, керівник АНБ та Кіберкомандування США, описав інструмент у вкрай негативному світлі:
“Цей інструмент зламав майже всі наші секретні системи не за тижні, а за години”, – цитує видання Ворнера.
Ворнер навів цей приклад, щоб підкреслити необхідність швидшого попереднього тестування нових моделей, а не для засудження Anthropic.
Однак, як зазначають профільні медіа, це було санкціоноване тестування “червоної команди” в мережах агентства, а не зовнішнє вторгнення.
Шашанк Джоші, редактор The Economist, який опублікував цитату, пізніше застеріг від її буквального тлумачення, зазначивши, що ефективність Mythos залежить від його роботи в поєднанні з іншими інструментами в конкретних умовах.
Уряд США вже співпрацював з Mythos. Компанія Anthropic надала цю модель фахівцям з кіберзахисту уряду в рамках проекту Glasswing ще у квітні.
Аналітик Кайл Чейз зазначив, що злом був тестовим, а справжнім тригером став окремий джейлбрейк, ініційований Amazon.
Anthropic підтвердила цю інформацію, зазначивши, що запит на джейлбрейк лише попросив модель прочитати код і виправити помилки.
Цей метод дозволив виявити кілька незначних, уже відомих помилок, які можуть бути виявлені й конкуруючими моделями, такими як GPT-5.5 від OpenAI.
Порада від Українські факти: Стрімкий розвиток штучного інтелекту вимагає негайної уваги до кібербезпеки, оскільки нові потужні моделі можуть значно прискорити появу складних кібератак.
Джерело новини: unn.ua