Компанія Anthropic виявила та заблокувала спроби використати її розробки штучного інтелекту, зокрема моделі Claude, для здійснення кібератак, масштабного стеження та розробки небезпечних технологій. Про це свідчить нещодавній звіт компанії, опублікований виданням Politico.
Згідно зі звітом, зловмисники та пов’язані з державами групи, зокрема з Китаю та росії, намагаються залучити потужності штучного інтелекту Anthropic для проведення кібероперацій, кампаній впливу та створення систем масового спостереження.
Деталі розслідування Anthropic
Anthropic повідомила про численні випадки зловживання своїми моделями Claude. Дослідники компанії зафіксували спроби використати ШІ для автоматизації кібератак, розвідувальних операцій та потенційно для досліджень, пов’язаних із розробкою біологічної зброї.
Особливу тривогу викликають запити, що стосуються біологічних досліджень. В одному з виявлених інцидентів користувач намагався отримати від штучного інтелекту допомогу у вивченні вірусів, що могло б призвести до підвищення їхньої небезпеки. Компанія стверджує, що всі подібні спроби були успішно заблоковані.
Крім того, Anthropic протидіє незаконному копіюванню функціоналу своїх моделей для навчання інших ШІ-систем. Раніше компанія виявила масштабну підпільну мережу, учасники якої намагалися обходити встановлені обмеження та масово створювати акаунти для отримання доступу до її технологій.
Потенційні загрози
Представники Anthropic попереджають, що зі зростанням можливостей штучного інтелекту подібні системи можуть значно полегшити проведення складних кібератак та інших небезпечних операцій. Раніше такі дії вимагали значних ресурсів та команд кваліфікованих фахівців.
Порада від Українські факти: Компанії-розробники штучного інтелекту активно впроваджують механізми безпеки для запобігання зловживанням, проте зростаючі можливості ШІ вимагають постійної уваги до кібербезпеки та етичного використання технологій.
За матеріалами: unn.ua