Хлопець з Каліфорнії покінчив життя самогубством у квітні цього року після «місяців підтримки з боку ChatGPT». Родина підлітка подала до суду на компанію «OpenAI» та її головного виконавчого директора і співзасновника Сема Альтмана, стверджуючи, що наявна тоді версія ChatGPT була недостатньо безпечною. Про це пише «The Guardian».
16-річний Адам Рейн кілька разів обговорював з ШІ метод самогубства, зокрема перед тим, як піти з життя. Згідно з документом, поданим до суду, ChatGPT надав підлітку рекомендації, чи спрацює його метод самогубства. ШІ також запропонував написати передсмертну записку батькам. У своєму блозі «OpenAI» визнала, що безпечність ChatGPT може понизитися, якщо спілкуватися з ним тривалий час. Суд стверджує, що Адам і ChatGPT писали до 650 повідомлень на день.
У міру зростання суперечок, деякі аспекти навчання моделі з безпеки можуть погіршуватися. Наприклад, ChatGPT може правильно вказати на гарячу лінію для самогубців, коли хтось вперше згадує про намір, але після багатьох повідомлень протягом тривалого періоду часу він може зрештою запропонувати відповідь, яка суперечить нашим запобіжним заходам, — зазначили в «OpenAI».
Тепер розробники ChatGPT змінюють спосіб реагування на користувачів, які демонструють психічний та емоційний стрес. Зокрема, вони обіцяють встановити «міцніші захисні бар’єри навколо конфіденційного контенту та ризикованої поведінки» для користувачів віком до 18 років. Крім того, планується запровадити батьківський контроль, щоб батьки могли впливати на те, як їхні діти використовують ШІ.
Адам Рейн. «The Guardian»
Речник «OpenAI» заявив, що компанія «глибоко засмучена смертю пана Рейна», висловив свої «найглибші співчуття родині Рейна у цей важкий час» та повідомив, що компанія переглядає судові документи.
Подружжя Рейнів стверджує, що смерті, подібні до смерті Адама, були неминучими: вони очікують, що зможуть надати присяжним докази того, що власна команда безпеки «OpenAI» заперечувала проти випуску 4o-версії, і що один з провідних дослідників безпеки компанії, Ілля Суцкевер, пішов у відставку через це. У позові стверджується, що випередження конкурентів на ринку за допомогою нової моделі катапультувало оцінку компанії з 86 мільярдів доларів до 300 мільярдів доларів, — заявив адвокат родини.
Варто додати, що це вже не перший випадок самогубства підлітків, спричинених штучним інтелектом. Не так давно у США підліток наклав на себе руки через згенеровані ШІ фото.
Титульне фото: «The Guardian».
Журналіст:
Огей Антон Володимирович
