OpenAI оголосила про запровадження нових заходів безпеки в ChatGPT після кількох трагічних випадків, коли штучний інтелект не розпізнав ознаки психічної кризи у користувачів.
Трагічні інциденти
Зокрема, йдеться про самогубство підлітка Адама Рейна, який обговорював із ChatGPT свої наміри й отримав від моделі інформацію про методи самогубства. Батьки хлопця подали позов проти компанії.
Ще один випадок стосувався Стейна-Еріка Сельберга, який страждав на психічні розлади. Використовуючи ChatGPT для підтвердження своїх параноїдальних думок, він убив власну матір, після чого наклав на себе руки.
Нові запобіжники
У відповідь OpenAI впроваджує новий механізм маршрутизації: чутливі розмови автоматично передаватимуться моделям із глибшим контекстним аналізом, таким як GPT-5. Це має зменшити ризик підтвердження небезпечних думок користувачів.
Також компанія готує запуск батьківського контролю. Батьки зможуть:
- прив’язати власний акаунт до акаунта дитини,
- вимикати історію чатів і пам’ять,
- отримувати сповіщення у разі виявлення ознак гострої тривоги у підлітка.
План безпеки
Ці кроки входять до 120-денного плану покращення безпеки, який OpenAI реалізує у співпраці з фахівцями у сфері психічного здоров’я, розладів харчової поведінки, залежностей та підліткової медицини.
Дізнавайтесь новини юридичного світу першими у телеграм-каналі Окремої Думки
