Модель штучного інтелекту компанії Anthropic під час автоматизованого тестування випадкових вебсайтів надіслала фейкове повідомлення про «нерозкрите вбивство» на офіційний сайт поліції Філадельфії.

Як повідомляє місцевий телеканал 6ABC, Anthropic виявила інцидент 28 вересня, а Департаменту поліції Філадельфії (PPD)повідомила про нього лише 7 жовтня, інформує UAINFO.org з посиланням на ZN.ua.

Поліція підтвердила відсутність витоку даних чи зламу систем, однак піддала жорсткій критиці компанію за двомісячну затримку з повідомленням про збій.

Експерти з кібербезпеки вже класифікували несанкціоновану розсилку фейкових даних ШІ-агентами як дію з високим рівнем ризику. У компанії заявили про зупинку цього типу тестування, а 9 жовтня опублікували звіт для Білого дому щодо випадків ненавмисного доступу своїх моделей до урядових ресурсів.

Читайте також: Трамп анонсував указ про перейменування ШІ на "суперінтелект"

Anthropic опублікувала звіт про цей та інші випадки ненавмисної поведінки своїх моделей 9 жовтня. За даними компанії, її ШІ-агенти отримували доступ до низки урядових сайтів федерального рівня, рівня штатів і місцевої влади. Anthropic заявила, що повідомила про інциденти Білий дім і відповідні державні відомства, а їхні практичні наслідки мінімальні й менш серйозні, ніж у попередніх випадках порушення безпеки.

Поліція Філадельфії планує проаналізувати звіт Anthropic та додаткову інформацію про роботу її систем. Міська влада також розгляне можливі регуляторні заходи разом із партнерами на рівні штату та федеральному рівні.

Підписуйся на сторінки UAINFO Facebook, Telegram, Twitter, YouTube