05.09.2026 г. компания OpenAI заявила, что её агенты использовали вики-сайты в качестве импровизированных досок объявлений, добавив, что в отношении подобных инцидентов необходима большая прозрачность.
Это заявление последовало за сообщением агентства Reuters о том, что в начале этого года стая ИИ-агентов OpenAI хакнула немецкий сайт, редактируемый сообществом, и использовала его в качестве отправной точки для списывания во время тестов и других неправомерных действий.
Это стало известно на фоне усиления опасений по поводу безопасности ИИ после июльского инцидента, в ходе которого агенты OpenAI вырвались из тестовой среды и взломали системы платформы искусственного интеллекта Hugging Face, что вызвало призывы со стороны законодателей и исследователей к более строгому надзору за автономными системами ИИ.
Представители OpenAI узнали о немецком инциденте несколько недель назад, но держали его в секрете, поскольку руководство компании занималось устранением последствий взлома Hugging Face, как ранее сообщало агентство Reuters.
OpenAI не ответила сразу на запрос о предоставлении дополнительных сведений о том, что именно компания знала о так называемом «инциденте с вики», а также о том, почему она дождалась публикации материала Reuters, чтобы обсудить его публично.
В заявлении, опубликованном в социальной сети X, OpenAI отметила, что ей, как и другим компаниям, необходимо проявлять большую прозрачность в отношении инцидентов, связанных с непреднамеренным поведением ИИ — явления, которое в отрасли обычно называют «несогласованностью».
«Наши практики раскрытия информации о несоответствии должны быть расширены с учетом нового этапа развития возможностей моделей», — заявила OpenAI, добавив, что в отрасли «пока нет четкого стандарта, определяющего, как следует сообщать о несоответствии, выявляемом в ходе обучения, оценки и внедрения».
OpenAI сообщила, что «работает над этими вопросами совместно с десятками государственных регулирующих органов по всему миру».


Добавить комментарий