Согласно результатам анализа агентством Reuters, более 80 китайских научных статей и патентов, китайские военные разработчики использовали результаты работы ведущих американских моделей искусственного интеллекта, разработанных компаниями OpenAI и Anthropic, для обучения отечественных систем ИИ с целью укрепления оборонного потенциала Китая.
Эти ранее не публиковавшиеся данные дают редкую возможность заглянуть в то, как военные и связанные с безопасностью учреждения в Китае используют передовые американские модели ИИ в качестве «короткого пути» к разработке собственных специализированных систем, несмотря на попытки Вашингтона ограничить доступ Пекина к передовым микросхемам и другим стратегическим технологиям.
Документы свидетельствуют о широком применении метода, известного как «дистилляция моделей», при котором результаты работы мощной системы искусственного интеллекта используются для обучения более компактных специализированных моделей, которые можно развертывать локально без огромных вычислительных ресурсов, необходимых для создания передовых систем искусственного интеллекта с нуля.
Анализ агентства Reuters, включавший результаты исследования, проведенного базирующимся в Вашингтоне фондом «Джеймстаун» и предоставленного исключительно этому информационному агентству, показал, что дистилляция широко используется исследователями, связанными с Народно-освободительной армией и другими военными учреждениями.
Документы свидетельствуют о том, что китайские оборонные учреждения рассматривают ведущие американские модели ИИ как источник технических знаний и как способ сократить отставание от американских конкурентов.
В центре спора находится не сама дистилляция — широко распространенная в отрасли практика — а ее несанкционированное применение.
Этот вопрос стал одной из главных горячих тем в преддверии американо-китайских переговоров по вопросам регулирования и безопасности искусственного интеллекта. Американские официальные лица обвинили некоторые китайские организации в использовании дистилляции для извлечения возможностей из американских моделей ИИ, что потенциально подрывает меры экспортного контроля и нарушает права интеллектуальной собственности.
Китай отверг эти обвинения, заявив, что Вашингтон стремится к «гегемонизму» в сфере ИИ, и при этом утверждая, что американские компании занимаются аналогичной практикой.
Китайские разработчики также опровергли утверждения о том, что их достижения в области ИИ основаны на зарубежных моделях. На прошлой неделе стартап Moonshot, занимающийся ИИ, опроверг обвинения администрации Трампа в том, что его модель Kimi K3 была создана с использованием дистилляции, заявив, что она основана на собственных инновациях.
Санни Чунг, научный сотрудник института «Джеймстаун», проанализировавший более 60 научных работ, заявил, что китайские военные ученые систематически фиксируют этапы логического вывода западных моделей, чтобы адаптировать их для целей наблюдения, кибервойны и принятия тактических решений.
«Обучить модель правильному ответу — это одно, но научить её логике, лежащей в основе этого ответа, гораздо сложнее», — сказал Чунг.
«Эти статьи показывают, что китайские исследователи, связанные с военными, пытаются перенести эту дорогостоящую, запатентованную логику из западных моделей в более компактные системы, которые они могут контролировать и развертывать на локальном уровне»
В одной статье, опубликованной в прошлом году исследователями из подразделения № 96941 НОАК — подразделения военной разведки и кибервойны в Пекине, — описывалось использование модели GPT-3.5 компании OpenAI для обработки конфиденциального военного исходного кода.
Исследователи заявили, что сторонние модели не подходят для работы с секретной информацией. Чтобы преодолеть это ограничение, они использовали GPT-3.5 для составления резюме программного кода и обучили отечественную модель на основе этих резюме, чтобы она работала исключительно в пределах китайских военных сетей.
Белый дом, Пентагон, министерство иностранных дел Китая, НОАК и OpenAI не ответили на запросы о комментариях.
ШИРОКОЕ ПРИМЕНЕНИЕ: ОТ МОНИТОРИНГА ДО ВОЕННЫХ ЦЕЛЕЙ.
Как показал анализ статей, проведенный Reuters и Джеймстауном, китайские исследователи использовали дистилляцию для целей, варьирующихся от мониторинга контента до военного применения.
В Северном университете Китая, имеющем тесные связи с оборонной промышленностью страны, исследователи использовали модель Claude 3 Haiku от Anthropic для генерации синтетических обучающих данных для модели классификации текста, предназначенной для мониторинга социальных сетей и модерации контента.
Компания Anthropic заявила, что не предоставляет коммерческий доступ к Claude в Китае или компаниям, контролируемым Пекином, и использует системы мониторинга для выявления нарушений политики.
Компания добавила, что дистиллированные модели могут лишиться мер безопасности исходных систем, что потенциально может привести к передаче конфиденциальных возможностей моделям, находящимся вне её контроля.
В статье 2024 года, опубликованной Национальным университетом оборонных технологий НОАК, описывается использование дистилляции для уменьшения размера модели обработки изображений с целью её развертывания на беспилотных летательных аппаратах, что позволяет дронам анализировать видео в режиме реального времени и поддерживать принятие решений по навигации и наведению на цель даже при обрыве связи.
Аналогичным образом, как показало исследование, опубликованное ранее в этом году, ученые из Китайской академии военных наук использовали метод дистилляции для запуска модели распознавания целей на тактическом оборудовании в ходе симулированных морских операций с участием дронов, кораблей и беспилотных подводных лодок.
ПРЕИМУЩЕСТВА И ОГРАНИЧЕНИЯ.
Китай активно внедряет технологию дистилляции, стремясь составить конкуренцию США в области передовых технологий искусственного интеллекта, при этом сталкиваясь с ограничениями в доступе к высокопроизводительным вычислительным ресурсам из-за экспортного контроля Вашингтона над чипами высокого уровня. Центральные и местные органы власти продвигают концепцию «облегчения моделей» и пограничных вычислений, направляя субсидии и средства на исследования в области технологий, позволяющих запускать модели искусственного интеллекта на дронах, спутниках и других устройствах с ограниченной вычислительной мощностью.
Однако эксперты предупреждают, что у дистилляции есть существенные ограничения.
По мере того как китайские модели ИИ сокращают отставание от своих американских аналогов, военные исследователи также рассматривают дистилляцию как потенциальный риск для безопасности.
В январе исследователи из Инженерного университета Сухопутных войск опубликовали статью об угрозе «дистилляции без данных» — методе обратного инжиниринга возможностей модели без прямого доступа к её основным параметрам.
Для устранения этой уязвимости они предложили защитные механизмы, предназначенные для маскировки скрытой логической информации, раскрываемой в публичных выходных данных модели.
Дистиллированные модели также наследуют лишь отдельные возможности и не могут в полной мере воспроизвести широкий интеллект передовых систем.
Тревор Коверко, соучредитель компании Sapien, занимающейся данными в области ИИ, заявил, что дистиллированные модели по-прежнему уступают по возможностям своим «учительским» моделям.
«Лучше всего это понимать как перенос отдельных возможностей в более дешевую, локально управляемую систему, а не как достижение независимости от передовых систем ИИ».
Добавить комментарий