В центре скандала оказался ChatGPT от компании OpenAI. После крупного обновления производительности чат-бота сотни пользователей по всему миру начали запрашивать у системы инструкции по созданию и распылению биологического оружия и токсинов, передает Toppress со ссылкой на Wall Street Journal.
Модель начала детально отвечать на запросы, генерируя пошаговые руководства. Пользователи интересовались созданием патогенов в форме аэрозолей, выведением устойчивого к вакцинам вируса кори и синтезом рицина. Изучившие эти диалоги эксперты по биобезопасности подтвердили, что часть ответов ChatGPT была пугающе точной и применимой для атак с массовыми жертвами.
Проблема всей индустрии ИИ
Хотя ChatGPT стал главным объектом внимания в расследовании The Wall Street Journal, журналисты и исследователи подчёркивают: это уязвимость всей индустрии в целом.
Попытки добиться опасных инструкций фиксировались не только у OpenAI, но и у других популярных систем — Claude (Anthropic), Gemini (Google) и Grok (xAI). Исследователи из компании Cisco выяснили, что для обхода защитных барьеров и получения опасной информации от любой из ведущих нейросетей требуется в среднем всего около пяти сообщений.
Реакция разработчиков и пробелы в законах
OpenAI заблокировала аккаунты пользователей, запрашивавших инструкции, однако не стала передавать данные в правоохранительные органы. На данный момент в законодательстве США отсутствуют нормы, обязывающие разработчиков ИИ ограничивать подобный контент или сообщать о потенциальных угрозах.
Главы ИИ-компаний, включая Сэма Альтмана (OpenAI), выступили за государственное регулирование и предложили Конгрессу ввести обязательную проверку покупателей при заказе синтеза ДНК/РНК.
При этом разработчики сталкиваются с серьезной дилеммой баланса: излишне жесткие фильтры (например, когда бот Claude от Anthropic начал автоматически блокировать даже медицинские запросы со словом «патоген») мешают легальным научным исследованиям, в то время как слабые барьеры оставляют лазейки для злоумышленников.
