Компания Anthropic PBC заявила, что её новый инструмент искусственного интеллекта Mythos настолько эффективен в поиске уязвимостей в программном обеспечении и компьютерных системах, что его нельзя предоставлять широкой публике. Этот гигант в сфере ИИ предоставил доступ к Mythos ограниченному числу тщательно отобранных пользователей, поскольку, по словам Anthropic, если столь мощный инструмент попадет в чужие руки, он может помочь злоумышленникам легче похищать данные или выводить из строя критически важную инфраструктуру.
Этот риск был обозначен, когда небольшая группа неавторизованных пользователей на частном онлайн-форуме получила доступ к Mythos, согласно источнику, знакомому с ситуацией, и документации, с которой ознакомилось агентство Bloomberg News.
Учитывая такие опасения по поводу безопасности, Белый дом выступает против плана Anthropic предоставить доступ к Mythos еще 70 компаниям и организациям, заявил представитель администрации. О опасениях Белого дома впервые сообщила газета Wall Street Journal. Газета сообщила, что американские чиновники также обеспокоены тем, что у Anthropic недостаточно вычислительных мощностей, чтобы обслуживать больше пользователей Mythos без ущерба для способности правительства эффективно использовать его.
В течение последних нескольких лет компании, занимающиеся кибербезопасностью, обещали, что искусственный интеллект ускорит и автоматизирует часть работы по предотвращению цифровых взломов. Однако хакеры и кибершпионы тоже обнаружили преимущества ИИ. Появление Mythos и подобных ему моделей, способных без участия человека использовать хорошо скрытые уязвимости в популярном программном обеспечении, указывает на наступление более динамичной и менее предсказуемой фазы «кибергонки вооружений».
Что такое Mythos?
Claude Mythos Preview — это модель ИИ общего назначения, которая, по утверждению Anthropic, значительно превосходит предыдущие предложения по целому ряду тестов, включая кодирование и логическое мышление. Компания пояснила, что некоторые модели ИИ достигли такого уровня кодирования, который позволяет им превосходить всех, кроме самых опытных людей, в поиске и использовании уязвимостей программного обеспечения.
По данным Anthropic, Mythos Preview уже обнаружил тысячи уязвимостей «нулевого дня» во время тестирования, в том числе во всех основных операционных системах и веб-браузерах. «Нулевые дни» — это уязвимости, ранее неизвестные разработчикам программного обеспечения; название подразумевает, что у них есть ноль дней на разработку патча для устранения проблемы. Они часто представляют собой золотую жилу для хакеров, поскольку открывают окно свободного доступа к уязвимым системам.
По словам представителей Anthropic, Mythos смог выявить эти уязвимости с ещё меньшим участием человека, чем предыдущие модели. «Mythos Preview демонстрирует качественный скачок в этих кибернавыках — обнаруженные им уязвимости в некоторых случаях ускользали от внимания людей на протяжении десятилетий и не были выявлены миллионами автоматизированных тестов безопасности», — заявила компания. В руках группировки, занимающейся вымогательством выкупа, или враждебных правительств такой инструмент может привести к более разрушительным и частым кибератакам.
Исследователи заявляют, что им не был предоставлен доступ для независимой проверки заявлений Anthropic о производительности Mythos. Ганг Ван, доцент кафедры информатики Иллинойсского университета, сказал, что трудно оценить значимость Mythos Preview без дополнительных практических испытаний.
Кому предоставляется доступ к Mythos?
Anthropic предоставил доступ ограниченной группе проверенных партнеров в рамках инициативы под названием Project Glasswing, названной в честь вида бабочки с прозрачными крыльями, которые позволяют ей скрываться на виду. В число основных участников входят Amazon.com Inc., Apple Inc., Google (Alphabet Inc.), Microsoft Corp., Nvidia Corp., Palo Alto Networks Inc., CrowdStrike Holdings Inc., Broadcom Inc., Cisco Systems Inc., JPMorganChase и Linux Foundation — некоммерческая организация, поддерживающая проекты по разработке программного обеспечения с открытым исходным кодом. Компания также предоставила доступ примерно 40 другим организациям. Anthropic охарактеризовал проект как «срочную попытку использовать эти возможности в оборонительных целях».
«срочная попытка задействовать эти возможности в оборонительных целях». Эти организации будут использовать Mythos в рамках своей работы по обеспечению безопасности, а Anthropic планирует поделиться результатами проекта, чтобы другие могли извлечь из них пользу. Многие компании уже используют так называемые тесты на проникновение, в ходе которых они нанимают специалистов для поиска уязвимостей в своих системах, чтобы устранить их до того, как туда проникнут хакеры. Mythos может позволить компаниям значительно ускорить этот процесс, давая им возможность быстрее находить больше уязвимостей и сокращать возможности для потенциальных атак.
Почему Anthropic считает выпуск Mythos «переломным моментом»?
Anthropic охарактеризовал Mythos Preview как «переломный момент для безопасности». По своей природе уязвимости «нулевого дня» трудно обнаружить, и вокруг их поиска и продажи правительственным спецслужбам, часто за миллионы долларов, сформировалась небольшая и непрозрачная индустрия. По данным Anthropic, уязвимости, обнаруженные Mythos Preview, часто были «едва заметными и трудно обнаруживаемыми» и включали 27-летнюю уязвимость в OpenBSD — операционной системе, которая, по словам Anthropic, считается одной из самых защищенных в мире.
По имеющимся данным, Mythos также мог превращать известные, но не получившие широкого исправления уязвимости в «эксплойты», которые хакеры могли бы использовать для проникновения в компьютерные сети. Например, он обнаружил и объединил в цепочку несколько уязвимостей в ядре Linux — основе операционной системы и программного обеспечения, на котором работает большинство интернет-серверов в мире, — что позволяло злоумышленнику получить полный контроль над компьютером. По словам Anthropic, даже неспециалисты просили Mythos Preview найти способы удаленного захвата контроля над компьютерами за ночь, а на следующее утро получали готовый, работающий эксплойт.
Mythos — один из нескольких новых инструментов ИИ, способных находить уязвимости «нулевого дня» или создавать эксплойты. Для поиска уязвимостей были разработаны Codex Security от OpenAI и «Big Sleep agent» от Google. OpenAI также завершает разработку продукта с расширенными возможностями кибербезопасности, который компания намерена предоставить избранным партнерам, сообщил Axios. Между тем исследователи из израильского стартапа по кибербезопасности Buzz заявляют, что создали автономный инструмент, объединяющий пять ИИ-агентов, который демонстрирует 98-процентную успешность в эксплуатации известных уязвимостей.
Какие меры безопасности предусмотрены?
По словам представителей Anthropic, работа над этими мерами продолжается. «Мы наблюдали, как система достигала беспрецедентных уровней надежности и согласованности», — написали в Anthropic, имея в виду, что система соответствует желаниям людей. «Однако в тех редких случаях, когда она давала сбой или вела себя странно, мы видели, как она предпринимала действия, которые вызывали у нас серьезную озабоченность».
В одном случае исследователь предложил ранней версии Mythos попытаться вырваться из защищенной, изолированной «песочницы» и затем найти способ отправить сообщение этому человеку. Инструмент справился с задачей, но затем продолжил предпринимать «дополнительные, более тревожные действия», разработав многоэтапный эксплойт для получения доступа к Интернету.
Anthropic заявил, что не планирует делать Mythos Preview общедоступным, учитывая его потенциал для злоупотребления. Тем не менее, компания в конечном итоге надеется дать пользователям возможность масштабно внедрять «модели класса Mythos» для целей кибербезопасности и других применений. «Для этого нам необходимо добиться прогресса в разработке средств кибербезопасности (и других) мер защиты, которые обнаруживают и блокируют наиболее опасные результаты модели», — говорится в сообщении.
В случае обнаружения Mythos ошибок максимальной степени серьезности в процесс вовлекаются люди: по словам Anthropic, специалисты проверяют эти находки, прежде чем отправлять информацию разработчикам кода. Это необходимый, но трудоемкий процесс, который, однако, может быть со временем исключен по мере совершенствования модели, отметил Ван из Университета Иллинойса.
Дает ли Mythos специалистам по кибербезопасности преимущество перед хакерами?
Возможно, но на это может уйти некоторое время. Процесс, используемый компанией Anthropic для сообщения об уязвимостях разработчикам программного обеспечения или системным администраторам, может быть довольно длительным. По данным компании, на данный момент полностью исправлено менее 1 % потенциальных уязвимостей, обнаруженных Mythos Preview.
В то же время хакеры используют ИИ, чтобы значительно ускорить процесс обнаружения и использования уязвимостей после их раскрытия. (Поставщикам рекомендуется, а в некоторых случаях и требуется, публично раскрывать уязвимости после их обнаружения и, в идеале, предоставлять исправления.) Это оставляет специалистам по кибербезопасности все меньше времени на исправление уязвимостей в своих сетях. В своем блоге от 30 марта, генеральный директор Palo Alto Networks, Никеш Арора, предупредил, что барьер для сложных атак будет продолжать снижаться в течение следующих шести месяцев. «Теперь один злоумышленник сможет проводить кампании, для которых раньше требовались целые команды», — написал он.
Яир Сабан, генеральный директор Buzz и ветеран израильского киберподразделения Unit 8200, сказал, что шестерым инженерам потребовалось три недели, чтобы создать свой хакерский инструмент на базе ИИ. Другие, включая кибершпионов государств и хакеров-преступников, наверняка смогут сделать то же самое, сказал он.
Компания Anthropic утверждает, что Mythos Preview и другие подобные инструменты искусственного интеллекта в конечном итоге будут играть на руку защитникам. «В долгосрочной перспективе мы ожидаем, что средства защиты будут доминировать: мир станет более безопасным, а программное обеспечение — более защищенным, во многом благодаря коду, написанному этими моделями», — заявила команда Frontier Red Team компании в блоге от 7 апреля. «Однако переходный период будет сопряжен с трудностями».
Добавить комментарий