Модель штучного інтелекту Gemini від Google випадково отримала доступ до трьох реальних систем, помилково вважаючи їх тестовими. У компанії запевняють, що жодної шкоди завдано не було.
Інцидент стався в травні 2026 року під час процесу тестування Gemini. Штучний інтелект, аналізуючи можливості, отримав несанкціонований доступ до трьох зовнішніх комп’ютерних систем. Для проникнення використовувалися або знайдені у відкритих джерелах облікові дані, або самостійно вгадана інформація для входу.
Деталі інциденту
Двічі Gemini використовувала логіни та паролі, які перебували у вільному доступі. В інших випадках модель змогла успішно вгадати необхідні дані для авторизації.
Гізер Адкінс, віцепрезидентка Google з інженерії безпеки, зазначила, що Gemini була впевнена, ніби всі ці системи є частиною тестового середовища. Після успішного входу модель не продовжувала жодних дій усередині цих систем.
Gemini сприйняла реальний Інтернет за тестове середовище
Під час стандартної оцінки модель знайшла загальнодоступну інформацію в Інтернеті та вгадала облікові дані для доступу до вебсайтів, які, на її думку, були частиною тесту.
– розповіла Адкінс.
У Google не вважають ці події результатом навмисного порушення інструкцій з боку штучного інтелекту. Натомість, компанія пов’язує їх із помилковою ідентифікацією середовища: Gemini вважала, що продовжує свою роботу в контрольованому тестовому режимі, тоді як насправді мала доступ до реального Інтернету.
Компанія стверджує, що жодної шкоди внаслідок цих інцидентів завдано не було. Про виявлені факти стало відомо в липні, після додаткової перевірки, яку проводила компанія з кібербезпеки Irregular, що тестувала Gemini.
Після проведення розслідування Google повідомила про несанкціонований доступ як власників відповідних систем, так і федеральну владу США.
Порада від Українські факти: Інцидент із Gemini підкреслює важливість ретельного тестування систем штучного інтелекту на предмет їхньої здатності розрізняти реальне середовище від тестового, щоб уникнути потенційних ризиків безпеки.
Подробиці можна знайти на сайті: unn.ua