Підліток потрапив до колонії за одне питання до «ChatGPT»

Американський підліток потрапив до виправної колонії завдяки одному питанню, яке він задав «ChatGPT» під час уроку. 13-річний учень зі штату Флорида запитав ШІ, як убити свого друга. Зробив він це за шкільним комп’ютером прямо під час навчання. Юнак не врахував, що повідомлення було одразу помічено програмою «Gaggle» — системою моніторингу на шкільних гаджетах. Програма швидко відправила повідомлення про запит учня поліцейському, який прикріплений до цього закладу освіти. Той встановив місцеперебування пристрою та затримав хлопця.

Заарештований 13-річний школяр

Під час допиту в поліції підліток виправдовувався, що він «просто жартував», однак до заяви хлопчика ніхто не поставився легковажно, враховуючи періодичність нападів на школи в США. Офіс шерифа округу Волусія підтвердив арешт хлопця та подальше поміщення його до виправної колонії для неповнолітніх. Після інциденту влада опублікувала застереження для батьків щодо використання неповнолітніми інструментів штучного інтелекту.

Ще один «жарт», який спричинив надзвичайну ситуацію в кампусі. Батьки, будь ласка, поговоріть зі своїми дітьми, щоб вони не зробили тієї ж помилки, — наголосили в американській поліції.

Загалом у США вже тисячі шкіл послуговуються системою, яка виявляє потенційні ризики, скануючи запити учнів і, у випадку небезпеки, повідомляючи про це правоохоронні органи. Щоправда, деякі критикують подібне програмне забезпечення за те, що воно фактично постійно спостерігає за школярами, а також за декілька піднятих хибних тривог.