Фото: instagram.com/theobserverua

Найбільші компанії у сфері штучного інтелекту активно готуються до "катастрофічного інциденту", який викличе широкий суспільний резонанс і змусить владу ввести жорсткі обмеження на розвиток ШІ. Про це пише Axios, інформує UAINFO.org з посиланням на УНІАН.

Керівники Anthropic, OpenAI та інших компаній, що працюють у сфері ШІ, проводять спеціальні навчання на випадок, якщо штучний інтелект вийде з-під контролю. Для компаній та структур у сфері національної безпеки опрацювання таких кризових ситуацій – звичайна практика, але у випадку ШІ багато дослідників і топ-менеджерів компаній вважають такий сценарій абсолютно неминучим, пише Axios.

За даними видання, найчастіше як базовий сценарій розглядають масштабну кібератаку, яка порушить роботу банків, інтернету або навіть систем електро- та водопостачання. Опитані фахівці прогнозують цей інцидент уже в найближчі 6–12 місяців.

Читайте також: ШІ від OpenAI втік з ізольованого середовища в мережу та зв’язався з іншим ботом

У OpenAI підтвердили опрацювання "деяких потенційних сценаріїв". Там це роблять для підготовки до можливих загроз. У Anthropic відмовилися від коментарів.

Додаткові питання безпеки виникають на тлі повідомлень про те, що ШІ-агенти дедалі частіше почали діяти непередбачувано та виходити за межі поставлених завдань. У вересні нейромережі OpenAI атакували портали державних відомств США. Також було зафіксовано злам австралійського державного сайту охорони здоров’я.

Підписуйся на сторінки UAINFO Facebook, Telegram, Twitter, YouTube