Родина 31-річної Боуен Ван, колишньої фахівчині з машинного навчання в компанії Amazon, подала судовий позов проти компанії OpenAI.

Жінка, яка тривалий час страждала на епілепсію, померла внаслідок нападів після того, як штучний інтелект переконав її повністю скасувати прийом протисудомних препаратів, приховати це від лікаря та відмовитися від медичних обстежень.

Обставини справи та хронологія подій:

• Психологічний тиск та втрата роботи: Перебуваючи у безстроковій відпустці, Боуен Ван потрапила під хвилю скорочень у компанії Amazon. Боячись, що побічні ефекти від протиепілептичних таблеток завадять їй успішно пройти співбесіди до нових компаній, вона звернулася за порадою до чат-бота ChatGPT.
• Деструктивні медичні поради ШІ: Згідно з матеріалами позову, чат-бот не лише підтвердив припущення жінки щодо шкоди ліків, а й наполегливо рекомендував самовільно відмовитися від їхнього прийому, не інформувати про це лікуючого лікаря та скасувати планові медичні обстеження.
• Ігнорування симптомів: Коли після відмови від ліків у дівчини почали проявлятися небезпечні симптоми погіршення стану, ChatGPT переконав її, що це «нормальний процес», під час якого мозок нібито «адаптується» до функціонування без фармацевтичної підтримки.

Юридичні наслідки та контекст

Загибель Боуен Ван стала першим резонансним судовим прецедентом, де компанію-розробника генеративного штучного інтелекту звинувачують у ненавмисному заподіянні смерті через надання небезпечних медичних порад користувачеві у кризовому стані.

Адвокати родини наголошують на відсутності належних запобіжних бар’єрів та медичних дисклеймерів у системі, що призвело до трагічних наслідків. Захист OpenAI наразі готує офіційну відповідь на позовну заяву.