Руководитель отдела анализа угроз компании Anthropic, Джейкоб Кляйн, заявил, что его компания приветствует конкуренцию. Однако, по его словам, то, что происходит на китайском рынке, гораздо ближе к краже.
По словам Кляйна, иностранные противники получают доступ к моделям Claude компании Anthropic — процесс, известный как «дистилляция» — для обучения конкурирующих технологий и продажи поддельных версий по более низкой цене. Хотя дистилляция может осуществляться на законных основаниях, Кляйн утверждает, что в данном случае речь идет о другом.
«Существует целая нелегальная экосистема, направленная на получение доступа к Claude и другим моделям», — заявил Кляйн в интервью CNBC. «Эта экосистема использует любые необходимые средства, чтобы обойти наши меры контроля, чтобы создавать учетные записи в огромных масштабах».
Дистилляция стала спорной темой в сфере искусственного интеллекта. В зависимости от способа применения, эта практика может позволить разработчику модели использовать результаты работы технологии другой компании для создания конкурентоспособного продукта за ничтожно малую часть стоимости. В США некоторые группы в технологическом секторе призывают политиков избегать регулирования, чтобы лучшие и наиболее экономически эффективные решения в области ИИ могли победить, в то время как другие лоббируют ужесточение мер против того, что они считают кражей интеллектуальной собственности.
В апрельском меморандуме, администрация Трампа заявила, что утечка информации, подрывающая американские исследования и конфиденциальные данные, является «неприемлемой», и отметила, что рассмотрит «ряд мер по привлечению иностранных субъектов к ответственности».
Эта угроза обостряется в решающий для Anthropic момент. Как сообщает CNBC, эта пятилетняя компания достигла рыночной оценки на частном рынке почти в 1 триллион долларов и, как ожидается, выйдет на биржу уже в октябре.
Anthropic выделяет китайскую лабораторию искусственного интеллекта Moonshot AI как одну из компаний, которые, по её утверждению, незаконно используют её технологии. Модель Kimi K3 от Moonshot в июле произвела фурор в мире технологий благодаря более дешёвому решению в области искусственного интеллекта, находящемуся на передовом уровне. Она получила широкое распространение в Кремниевой долине, отчасти благодаря более низкой цене и возможности для компаний легче адаптировать её под свои нужды.
Кляйн заявил, что модель Kimi K3 была незаконно обучена на основе новейшей версии Claude.
«Мы не раз сталкивались с подобным из Китая, — сказал Кляйн. — Это проблема, с которой сталкивается отрасль в целом».
Ранее в этом году компания Anthropic обвинила Moonshot и две другие китайские лаборатории ИИ — DeepSeek и MiniMax — в «дистилляции» своих передовых моделей ИИ. Anthropic также обвинил компанию Alibaba, разрабатывающую семейство моделей Qwen, в проведении масштабной «атаки дистилляции» с целью незаконного переноса возможностей модели Claude. Компании OpenAI и Google опубликовали отчеты по теме дистилляции и заявляют, что борются с той же проблемой.
Компании Alibaba, DeepSeek, Moonshot и MiniMax не ответили на запросы о комментариях.
«Мошеннические методы».
Эксперты по кибербезопасности сообщили CNBC, что, помимо Китая, угроза исходит также из таких стран, как Иран, Россия и Северная Корея, где использование Claude, Gemini от Google и ChatGPT от OpenAI ограничено самими компаниями из-за санкций.
Кляйн отметил, что многие лаборатории в этих регионах «прибегают к незаконным и мошенническим методам, пытаясь получить доступ к модели».
Один из способов обойти эти ограничения — обратиться к даркнету, где можно найти торговые площадки с украденными данными кредитных карт и взломанными учетными записями ИИ. Кляйн отметил, что такие компании, как Moonshot, «создают десятки тысяч, если не сотни тысяч мошеннических учетных записей».
Получив доступ к системам Anthropic, они могут задавать моделям вопросы и собирать ответы, которые затем используют для обучения своей собственной модели, часто называемой «учеником», пояснил Кляйн.
Явным признаком того, что происходит дистилляция, является то, что пользователь может задавать тысячи вопросов, а не десятки, и потенциально даже создавать тысячи учетных записей для выполнения той же задачи, что создает для лабораторий ИИ ситуацию, подобную игре «бей крота», — сказал Кляйн.
«Очень сложно полностью решить эту проблему, но я считаю, что замедлить этот процесс — это хорошо и целесообразно», — сказал Кляйн, добавив, что иностранные компании могут использовать эту технологию практически без каких-либо ограничений.
Он указал на такие опасения, как слежка и возможное использование в программе по созданию биологического оружия, а также отметил то, что он охарактеризовал как целенаправленную кампанию со стороны организации, базирующейся в Китае, которая вела шпионаж в широких масштабах с использованием технологий компании Anthropic.
«Возникает угроза национальной безопасности, если злоумышленники, которым мы не доверяем, получают доступ к более мощным моделям, чем те, которые они могли бы получить иным способом посредством процесса дистилляции».
Трэвис Лэнхэм, технический директор компании Armadin, специализирующейся на кибербезопасности, и бывший инженер Google, заявил, что злоумышленники часто остаются незамеченными, поскольку компании, занимающиеся искусственным интеллектом, находятся под давлением и стремятся сделать свои платформы максимально доступными в условиях жесткой конкуренции.
«Эти компании обрабатывают миллиарды запросов», — сказал Лэнхэм, говоря о крупных лабораториях ИИ. «Миллионы — это относительно небольшая цифра по сравнению со всем остальным, и злоумышленники просто проникают в систему, стараясь выглядеть как все остальные».
Кляйн признает, что для Anthropic следует ожидать широкой конкуренции и что существуют законные методы дистилляции. Как правило, это означает получение разрешений и соблюдение законодательства в таких вопросах, как интеллектуальная собственность и экспортный контроль.
«Я считаю, что конкуренция — это отлично, — сказал Кляйн. — Проблема заключается в том, что если вы берете нашу модель, «дистиллируете» её с помощью мошеннических методов, создаете миллионы фальшивых аккаунтов с использованием украденных кредитных карт и украденной инфраструктуры, чтобы затем создать модель, в которой отсутствуют меры безопасности».
Добавить комментарий