Сім’я 16-річного Адама Рейна зі США подала до суду на компанію OpenAI та її генерального директора Сема Альтмана, звинувативши ChatGPT у сприянні самогубству їхнього сина.

Про це повідомляє Reuters, передає UAINFO.org з посиланням на "Еспресо".

Як йдеться у позові, поданому батьками Адама Рейна до суду штату Сан-Франциско, 16-річний хлопець помер 11 квітня після того, як протягом кількох місяців обговорював із ChatGPT тему самогубства.

За словами батьків, чат-бот підтверджував суїцидальні думки Рейна, надавав детальну інформацію про летальні методи самоушкодження та інструктував його, як непомітно взяти алкоголь із шафи з напоями і приховати докази невдалої спроби самогубства. У позові зазначається, що ChatGPT навіть запропонував скласти передсмертну записку.

Читайте також: Психологи б’ють на сполох: серед користувачів чат-ботів поширюється "ШІ-психоз"

У позові батьки просять визнати OpenAI відповідальною за смерть їхнього сина та порушення законів про безпеку продукції, а також стягнути грошове відшкодування.

Представник OpenAI заявив, що компанія засмучена смертю Рейна і що в ChatGPT передбачені механізми захисту, зокрема переадресація користувачів до кризових "гарячих ліній".

Читайте також: "Я – ганьба свого виду": чат-бот Google провалив завдання й впав у депресію

"Хоча ці механізми найкраще працюють у типових, коротких розмовах, з часом ми з’ясували, що під час тривалих взаємодій їхня надійність може знижуватися, оскільки частина навчання моделі щодо безпеки може втрачати ефективність", - сказав речник, додавши, що OpenAI постійно працюватиме над удосконаленням систем захисту.

У блозі OpenAI повідомила, що планує запровадити батьківський контроль і досліджує способи з’єднання користувачів у кризі з реальними ресурсами, зокрема шляхом потенційного створення мережі ліцензованих фахівців, які могли б надавати допомогу безпосередньо через ChatGPT.

Підписуйся на сторінки UAINFO Facebook, Telegram, Twitter, YouTube