Тестуючи можливості моделі ШІ Gemini, розробники надали їй доступ до інтернету. Після цього вона зламала три сторонні компанії. Як пише CNN, це стало першим відомим прикладом автономного злому з боку моделі Google, інформує UAINFO.org з посиланням на УНІАН.

Інцидент стався в травні під час перевірки кібербезпеки, яку проводила незалежна компанія Irregular. Під час тестування Gemini виявила загальнодоступну інформацію в інтернеті та вгадала облікові дані для доступу до трьох веб-сайтів, які, на її думку, входили в сферу тестування.

В одному з випадків модель Gemini вгадувала паролі, доки не отримала доступ до захищеної системи. У двох інших випадках модель знайшла облікові дані у загальнодоступному репозиторії, що дозволило їй згодом отримати доступ до захищених систем.

Читайте також: Китайські вчені створили робота, що запилює квітку за 10 секунд

"Ці події підкреслюють важливість навчання потужних моделей ШІ відповідальній поведінці", – сказала віцепрезидент Google з розробки систем безпеки Хізер Адкінс.

Представник компанії Irregular заявив, що інцидент був пов’язаний із проблемою, яка вже виникала в інших лабораторіях. Він уточнив, що всі відомі проблеми було усунуто.

Аналогічні інциденти, пов’язані з Irregular, були розкриті компаніями Meta, Anthropic та OpenAI. У серпні Meta заявила, що інцидент не був пов’язаний із "виходом із пісочниці" або складною кібератакою.

"Ці інциденти порушили питання щодо необхідних заходів безпеки в міру того, як агенти штучного інтелекту отримують дедалі більшу автономію та доступ до інтернету й комп’ютерних систем", – йдеться у статті.

Підписуйся на сторінки UAINFO Facebook, Telegram, Twitter, YouTube