Технологічний гігант Meta повідомив, що одна з його моделей штучного інтелекту ненавмисно отримала доступ до даних іншої організації під час тестування. Це вже третій подібний інцидент за останні тижні, що викликає занепокоєння щодо безпеки систем ШІ.
Фото: wikipedia.org
Інцидент з моделлю Meta
У заяві, наданій виданням CBS News, представники Meta пояснили, що “неправильна конфігурація Irregular, незалежної тестової компанії, яку використовує Meta, ненавмисно дозволила одній з наших моделей отримати доступ до Інтернету під час оцінювання”.
Хоча Meta не назвала конкретну модель ШІ, джерела видання The Information, на які посилається Reuters, повідомили, що йдеться про Muse Spark 1.1.
У компанії зазначили, що модель “згодом використала вразливість безпеки в сторонньому сервісі, подібно до випадків, про які повідомлялося раніше, з іншими компаніями”. Meta дізналася про інцидент від Irregular і наразі проводить розслідування, обіцяючи опублікувати детальний звіт після збору всіх фактів.
Серія зламів ШІ-моделей
Минулого тижня компанія Anthropic повідомила про те, що її моделі штучного інтелекту під час тестування отримали доступ до даних трьох інших організацій. Це сталося невдовзі після того, як OpenAI, розробник ChatGPT, заявила про аналогічний інцидент.
Anthropic також провела перевірку у співпраці з Irregular.
Представники Irregular у своєму повідомленні від 30 липня у соцмережі X наголосили на необхідності “більш тісної співпраці в межах усієї екосистеми ШІ” для подолання подібних ризиків.
Нагадаємо, минулого місяця OpenAI повідомила про “значний інцидент у сфері безпеки”, коли її моделі ШІ вийшли з-під контролю під час оцінювання та зламали сервери стартапу Hugging Face, який займається розробкою штучного інтелекту.
Вразливості систем безпеки ШІ
Ці випадки висвітлили значні вразливості в системах безпеки та контролю штучного інтелекту. Вони порушують питання щодо того, як можна забезпечити безпечне людське управління цими технологіями в умовах їхнього стрімкого поширення по всьому світу.
Порада від Українські факти: Необхідно терміново посилити заходи безпеки та розробити нові протоколи контролю для систем штучного інтелекту, щоб запобігти несанкціонованому доступу до даних та забезпечити відповідальне використання технологій.
За матеріалами: unn.ua