Метка: Кибербезопасность
-
Gemini от Google взломала три компании.
Модель Gemini от Google (Alphabet Inc.) получила доступ к интернету и взломала системы других компаний в ходе проверки своих возможностей в сфере кибербезопасности; это первый известный случай, когда система искусственного интеллекта компании совершила подобные действия автономно. Взломы произошли в мае в ходе тестирования кибербезопасности, проводимого компанией Irregular, которая специализируется на оценке кибербезопасности. По словам Хизер…
-
Как ИИ усложняет предотвращение кибератак.
Серия недавних взломов, совершенных с участием моделей искусственного интеллекта, разработанных компаниями Anthropic PBC, OpenAI и Meta Platforms Inc., вызвала серьезную обеспокоенность по поводу рисков безопасности, связанных с этой стремительно развивающейся и все более мощной технологией. В целом, подобные инциденты можно разделить на две категории. В одних случаях модели ИИ выходили за пределы контролируемой среды тестирования…
-
Знакомьтесь с CISO: новая звезда на передовой войны за кибербезопасность в эпоху ИИ.
Ставки для руководителей высшего звена в сфере кибербезопасности ведущих компаний никогда не были столь высоки. «Мне кажется, что объем моей работы увеличился в два или даже в четыре раза», — сказал Уолли Далримпл, директор по информационной безопасности в глобальной компании ETS, специализирующейся на образовательных и кадровых решениях. «Все происходит так быстро и в таких огромных…
-
OpenAI признала «инцидент с вики».
05.09.2026 г. компания OpenAI заявила, что её агенты использовали вики-сайты в качестве импровизированных досок объявлений, добавив, что в отношении подобных инцидентов необходима большая прозрачность. Это заявление последовало за сообщением агентства Reuters о том, что в начале этого года стая ИИ-агентов OpenAI хакнула немецкий сайт, редактируемый сообществом, и использовала его в качестве отправной точки для списывания…
-
Чему компании, внедряющие искусственный интеллект, могут поучиться у «Чумы».
11 июня исследователи в области безопасности продемонстрировали, как можно обойти OpenClaw — одного из наиболее широко используемых ИИ-агентов. Инструкции, скрытые в таких обыденных вещах, как общий контакт или закрепленное местоположение, могли заставить агента запустить код злоумышленника и раскрыть свои секреты. Одна уязвимость была устранена. Другую устранить не удалось, поскольку она была присуща самому принципу работы…
-
Как стартап Irregular оказался связан с инцидентами с выходом ИИ из-под контроля в OpenAI, Anthropic и Meta.
За последние недели компании OpenAI, Anthropic и Meta сообщили, что их модели искусственного интеллекта вышли из-под контроля во время плановых тестов безопасности. Объясняя произошедшее, все эти компании упомянули один и тот же небольшой израильский стартап — Irregular. Основанная три года назад и базирующаяся в Тель-Авиве, компания Irregular является нишевым игроком в сфере искусственного интеллекта, получившей…
-
Киберинциденты с участием Anthropic PBC и OpenAI указывают на риски для безопасности США.
Эксперты по кибербезопасности критикуют компании Anthropic PBC и OpenAI за небрежное отношение к мерам безопасности после того, как их модели проникли в системы сторонних организаций — эти инциденты, по их мнению, представляют собой надвигающуюся угрозу национальной безопасности. 30 июля компания Anthropic сообщила, что её модель Claude, которая использовалась для проведения 141 006 оценок кибербезопасности, должна…
-
Модели OpenAI взломали клиента второй технологической компании.
Агент OpenAI, проникший в системы стартапа Hugging Face Inc. в начале июля, также взломал систему клиента технологической компании Modal. Агент проник в изолированную тестовую среду, известную как песочница, которую Modal использовал для клиента, заявил Акшат Бубна, технический директор облачной платформы для разработчиков. Клиент Modal создал общедоступный интерфейс, который позволял любому пользователю интернета использовать его песочницу…
-
OpenAI заявила, что её модели случайно взломали Hugging Face.
OpenAI сообщила, что её передовые модели искусственного интеллекта непреднамеренно взломали компанию Hugging Face Inc. в ходе «беспрецедентного» инцидента, который вызвал новые призывы к ограничению использования этой технологии. Разработчик ChatGPT сообщил, 21 июля, в своём блоге, что модели проникли в систему Hugging Face, на которой размещены модели ИИ и наборы данных, во время оценки их кибервозможностей.…
-
США разрешили компании Anthropic предоставить ИИ Mythos «надежным» американским организациям.
26 июня компания Anthropic сообщила, что правительство США разрешило ей предоставить свою мощную модель искусственного интеллекта Claude Mythos 5 некоторым «надежным» американским организациям, частично отменив распоряжение, изданное две недели назад, о приостановке доступа из-за рисков для национальной безопасности. Теперь доступ к Mythos 5 получат более 100 компаний и учреждений, в том числе многие компании из…
-
Почему Mythos от Anthropic вызывает тревогу во всем мире.
Компания Anthropic PBC заявила, что её новый инструмент искусственного интеллекта Mythos настолько эффективен в поиске уязвимостей в программном обеспечении и компьютерных системах, что его нельзя предоставлять широкой публике. Этот гигант в сфере ИИ предоставил доступ к Mythos ограниченному числу тщательно отобранных пользователей, поскольку, по словам Anthropic, если столь мощный инструмент попадет в чужие руки, он…
-
Центральные банки Австралии и Новой Зеландии следят за развитием событий вокруг новой модели ИИ Mythos от компании Anthropic.
Резервный банк Австралии «взаимодействует с коллегами-регуляторами, правительством и регулируемыми организациями», говорится в его заявлении. «РБА вместе с коллегами-регуляторами и государственными органами будет продолжать оценивать последствия этих технологических достижений, чтобы обеспечить постоянную безопасность и устойчивость финансовой системы». РБА возглавляет Австралийский совет финансовых регуляторов, в который входят орган по надзору за корпоративной деятельностью, орган пруденциального регулирования и…