Агент OpenAI, проникший в системы стартапа Hugging Face Inc. в начале июля, также взломал систему клиента технологической компании Modal.

Агент проник в изолированную тестовую среду, известную как песочница, которую Modal использовал для клиента, заявил Акшат Бубна, технический директор облачной платформы для разработчиков. Клиент Modal создал общедоступный интерфейс, который позволял любому пользователю интернета использовать его песочницу для запуска кода, сказал Бубна.

«Им и воспользовался злонамеренный агент», — сказал он. «Платформа Modal не была скомпрометирована».

OpenAI отказалась комментировать инцидент. Ранее в своём блоге Hugging Face заявил, что система OpenAI проникла в «песочницу», размещённую на инфраструктуре стороннего провайдера, а затем с её помощью развернула более масштабную атаку. Имя этого провайдера не было названо.

На прошлой неделе OpenAI поразила мир кибербезопасности, сообщив, что тестировала возможности комбинации передовых моделей искусственного интеллекта и при этом непреднамеренно взломала системы Hugging Face. OpenAI намеренно запускала модели с ослабленными мерами безопасности, чтобы проверить их кибербезопасность.

После признания факта взлома, компания OpenAI подверглась критике со стороны киберэкспертов, которые считают, что компания должна была принять более тщательные меры предосторожности при проведении оценок.

«Когда вы занимаетесь исследованием угроз и пытаетесь их обнаружить, вы не выпускаете вредоносное ПО в сеть и не позволяете ему делать всё, что ему вздумается», — заявил в интервью Санджай Бери, генеральный директор компании Netskope Inc., специализирующейся на кибербезопасности. «Как можно было не поместить эту программу в надлежащую песочницу?»

В связи с этим OpenAI обязалась усилить меры защиты при проведении будущих тренировок и оценок.