Модель штучного інтелекту Gemini від Google під час тестування помилково отримала доступ до трьох реальних систем, вважаючи їх тестовими. Проте, компанія запевняє, що жодної шкоди завдано не було.
Деталі інциденту
Інциденти трапилися у травні 2026 року. Під час перевірки можливостей Gemini, модель отримала доступ до трьох зовнішніх комп’ютерних систем. У двох випадках вона використала облікові дані, знайдені у відкритому доступі, а в інших випадках змогла вгадати необхідну для входу інформацію.
За словами віцепрезидентки Google з питань інженерії безпеки Гізер Адкінс, Gemini вважала, що ці зовнішні системи є частиною її тестового середовища. Після отримання доступу, модель не продовжила жодних дій усередині цих систем.
Gemini переплутала реальний Інтернет із тестовим середовищем
Гізер Адкінс зазначила: «Під час стандартної оцінки модель знайшла загальнодоступну інформацію в Інтернеті та вгадала облікові дані для доступу до вебсайтів, які, на її думку, були частиною тесту».
У Google не розглядають ці випадки як навмисне порушення ШІ заданих інструкцій. Компанія пояснює це помилковою ідентифікацією середовища: Gemini вважала, що продовжує працювати в контрольованому тесті, хоча насправді отримала доступ до реального Інтернету.
Google стверджує, що ці інциденти не призвели до жодних збитків. Про них стало відомо у липні, після додаткової перевірки, проведеної компанією з кібербезпеки Irregular, яка тестувала Gemini.
Після внутрішнього розслідування, Google поінформувала власників відповідних систем та федеральну владу США про цей несанкціонований доступ.
Порада від Українські факти: Незважаючи на помилковий доступ Gemini до реальних систем, Google заявляє про відсутність шкоди та вжиття заходів для запобігання подібним інцидентам у майбутньому.
За матеріалами: unn.ua