Метка: Кибербезопасность
-
Киберинциденты с участием Anthropic PBC и OpenAI указывают на риски для безопасности США.
Эксперты по кибербезопасности критикуют компании Anthropic PBC и OpenAI за небрежное отношение к мерам безопасности после того, как их модели проникли в системы сторонних организаций — эти инциденты, по их мнению, представляют собой надвигающуюся угрозу национальной безопасности. 30 июля компания Anthropic сообщила, что её модель Claude, которая использовалась для проведения 141 006 оценок кибербезопасности, должна…
-
Модели OpenAI взломали клиента второй технологической компании.
Агент OpenAI, проникший в системы стартапа Hugging Face Inc. в начале июля, также взломал систему клиента технологической компании Modal. Агент проник в изолированную тестовую среду, известную как песочница, которую Modal использовал для клиента, заявил Акшат Бубна, технический директор облачной платформы для разработчиков. Клиент Modal создал общедоступный интерфейс, который позволял любому пользователю интернета использовать его песочницу…
-
OpenAI заявила, что её модели случайно взломали Hugging Face.
OpenAI сообщила, что её передовые модели искусственного интеллекта непреднамеренно взломали компанию Hugging Face Inc. в ходе «беспрецедентного» инцидента, который вызвал новые призывы к ограничению использования этой технологии. Разработчик ChatGPT сообщил, 21 июля, в своём блоге, что модели проникли в систему Hugging Face, на которой размещены модели ИИ и наборы данных, во время оценки их кибервозможностей.…
-
США разрешили компании Anthropic предоставить ИИ Mythos «надежным» американским организациям.
26 июня компания Anthropic сообщила, что правительство США разрешило ей предоставить свою мощную модель искусственного интеллекта Claude Mythos 5 некоторым «надежным» американским организациям, частично отменив распоряжение, изданное две недели назад, о приостановке доступа из-за рисков для национальной безопасности. Теперь доступ к Mythos 5 получат более 100 компаний и учреждений, в том числе многие компании из…
-
Почему Mythos от Anthropic вызывает тревогу во всем мире.
Компания Anthropic PBC заявила, что её новый инструмент искусственного интеллекта Mythos настолько эффективен в поиске уязвимостей в программном обеспечении и компьютерных системах, что его нельзя предоставлять широкой публике. Этот гигант в сфере ИИ предоставил доступ к Mythos ограниченному числу тщательно отобранных пользователей, поскольку, по словам Anthropic, если столь мощный инструмент попадет в чужие руки, он…
-
Центральные банки Австралии и Новой Зеландии следят за развитием событий вокруг новой модели ИИ Mythos от компании Anthropic.
Резервный банк Австралии «взаимодействует с коллегами-регуляторами, правительством и регулируемыми организациями», говорится в его заявлении. «РБА вместе с коллегами-регуляторами и государственными органами будет продолжать оценивать последствия этих технологических достижений, чтобы обеспечить постоянную безопасность и устойчивость финансовой системы». РБА возглавляет Австралийский совет финансовых регуляторов, в который входят орган по надзору за корпоративной деятельностью, орган пруденциального регулирования и…
-
Anthropic пока не выпускает новую модель из-за соображений безопасности.
Слишком опасно для публичного релиза: с этим необычным описанием компания Anthropic, занимающаяся разработкой искусственного интеллекта, 7 апреля анонсировала свою новую флагманскую модель, Claude Mythos Preview. По словам компании, система способна самостоятельно обнаруживать уязвимости в ИТ-системах — в масштабах, ранее считавшихся почти невообразимыми. Вместо того чтобы сделать Mythos Preview общедоступной, Anthropic создал консорциум «Project Glasswing». Известные…
-
Что такое OpenClaw? Чудо искусственного интеллекта или кошмар кибербезопасности.
С момента запуска в ноябре, австрийским программистом Питером Штайнбергером, искусственный интеллект OpenClaw привлек к себе внимание многих людей. Этот цифровой помощник может использовать ваш компьютер для выполнения сложных задач, которые раньше могли выполнять только люди, таких как бронирование поездок, расстановка приоритетов в электронной почте и составление ответов, просмотр каталогов продуктов и отправка писем поставщикам. Этот…
-
Стартап Torq, занимающийся кибербезопасностью, привлек инвестиции на сумму 1,2 миллиарда долларов.
11 января израильский стартап Torq, специализирующийся на кибербезопасности, объявил о завершении раунда финансирования в размере 140 миллионов долларов, в результате чего его оценка достигла 1,2 миллиарда долларов. Компания Torq, базирующаяся в Тель-Авиве, предлагает, по ее словам, автономную платформу для обеспечения безопасности, разработанную с нуля с использованием искусственного интеллекта. Torq может автоматизировать повторяющуюся работу с помощью…