В Бразилии 36-летнего фермера задержали после того, как его переписка с ChatGPT привлекла внимание правоохранительных органов. По версии следствия, мужчина мог планировать убийство своего восьмилетнего сына, нападения на других людей, а затем собственную смерть.
На протяжении почти двух месяцев мужчина обсуждал с чат-ботом свои мысли и возможные планы. В частности, он писал о желании причинить вред другим людям и интересовался способами совершения преступлений. По данным следствия, он также пытался обходить защитные ограничения ChatGPT.
Информация о переписке была передана OpenAI американским правоохранительным органам, после чего данные поступили бразильской полиции. Мужчину задержали 19 июня в сельской местности муниципалитета Сан-Габриэл-да-Палья.
По словам руководителя отдела полиции по борьбе с киберпреступностью Бренну Андраде, делу придали приоритет из-за предполагаемой угрозы ребенку. Следователи также обнаружили в доме подозреваемого несколько бутылок с неизвестными веществами и веревку с петлей, что, по их мнению, могло указывать на намерение покончить с собой.
Полиция считает, что мужчина обсуждал с ChatGPT возможные нападения на различные объекты и представителей правоохранительных органов. Также следователи проверяют, предпринимал ли он реальные шаги для осуществления своих планов.
При этом сам мужчина отрицает намерение причинить вред сыну. Его адвокат утверждает, что сообщения чат-боту были лишь высказываниями, которые не свидетельствуют о подготовке преступления. После 54 дней под стражей мужчину освободили. Обвинения ему пока не предъявлены. На него наложены ограничения: электронный браслет и запрет на контакты с сыном и его матерью.
Сейчас следствие изучает телефон мужчины и изъятые предметы. Правоохранительным органам предстоит установить, были ли его намерения реальными и предпринимал ли он конкретные действия для их осуществления.
Почему дело вызвало вопросы
Этот случай также поднял вопрос о том, где проходит граница между личной перепиской с ИИ и потенциальной угрозой, о которой необходимо сообщать правоохранительным органам.
По словам специалистов, одной переписки может быть недостаточно для вывода о намерении совершить преступление. Для оценки ситуации важен полный контекст разговора — в том числе ответы самого чат-бота.
В OpenAI заявили, что компания может уведомлять правоохранительные органы, если выявляет достоверную и непосредственную угрозу причинения вреда другим людям.
Юристы при этом предупреждают: подобные механизмы должны применяться осторожно, чтобы отличать реальные угрозы от эмоциональных высказываний, фантазий или провокационных сообщений.
