Компании, занимающиеся искусственным интеллектом в США, потратили сотни миллиардов долларов на разработку более совершенных чат-ботов, рассчитывая, что смогут заработать на клиентах достаточно, чтобы оправдать эти инвестиции. Такой подход сопряжён с риском того, что его подрывают конкуренты, создающие соперничающие системы ИИ за гораздо меньшие средства.
Все чаще американские компании обвиняют китайских конкурентов в использовании метода, известного как «дистилляция», для неправомерного использования результатов ведущих американских моделей ИИ с целью создания конкурирующего поколения чат-ботов за гораздо меньшие средства и с гораздо меньшими мерами безопасности.
В июне компания Anthropic PBC заявила, что Alibaba Group Holding Ltd. «незаконно» использовала дистилляцию для извлечения результатов из её модели Claude в промышленных масштабах, чтобы помочь китайскому технологическому гиганту создать собственную систему искусственного интеллекта. Аналогичные обвинения были выдвинуты компаниями Anthropic и OpenAI в адрес других китайских лабораторий по искусственному интеллекту, включая DeepSeek и MiniMax. Пока ни одна из китайских компаний, включая Alibaba, не ответила на эти обвинения.
Что такое дистилляция?
Дистилляция — это метод, широко используемый лабораториями ИИ для обучения одной большой языковой модели с использованием результатов другой. Разработчик отправляет серию запросов более крупной и более мощной модели-«учителю», и её ответы используются для обучения меньшей модели-«ученика», чтобы она могла воспроизводить многие возможности учителя.
Полученная модель может выполнять многие из тех же функций, что и оригинал, но с гораздо меньшими затратами и вычислительной мощностью, чем требуется для разработки и запуска аналогичной системы с нуля. Знания не передаются напрямую от одной модели к другой, но модель-ученик учится имитировать поведение своего учителя на основе результатов своих запросов.
Дистилляция считается приемлемой, когда компании используют её для своих собственных моделей или когда сторонние разработчики используют её для создания неконкурирующих технологий. Известный как авторизованная дистилляция, этот метод позволяет компаниям и исследователям сжимать большие модели в меньшие, более эффективные, оптимизированные для конкретных задач. Производные модели, как правило, не обладают всеми возможностями исходной модели, но работают быстрее и обходятся дешевле в разработке и эксплуатации.
Почему дистилляция иногда вызывает споры?
Дистилляция может использоваться третьими лицами для воспроизведения возможностей проприетарной модели ИИ без разрешения владельца эталонной модели. Эта практика вызывает юридические, экономические и проблемы безопасности.
Ведущие американские компании, занимающиеся ИИ, заявляют, что несанкционированная дистилляция ставит под угрозу их бизнес. Многие китайские лаборатории, включая DeepSeek, разработали модели с открытыми весами, что означает, что части базовой системы ИИ общедоступны для пользователей, которые могут свободно загружать и запускать их на своих платформах.
В отличие от них, крупнейшие американские компании, занимающиеся ИИ, сохраняют свои модели в качестве проприетарных, рассчитывая на то, что клиенты будут платить за доступ к их продуктам, чтобы они могли окупить сотни миллиардов долларов, потраченных на центры обработки данных и другую инфраструктуру. Они утверждают, что если конкуренты смогут воспроизвести их модели за меньшую стоимость и предложить их дешево — или бесплатно — это может подорвать их продажи. Американские чиновники подсчитали, что несанкционированная дистилляция обходится американским компаниям в миллиарды долларов ежегодного дохода.
Американские компании, занимающиеся ИИ, также заявляют о рисках для безопасности, связанных с несанкционированной дистилляцией. Они предупреждают, что иностранные противники могут использовать эту технологию для разработки моделей ИИ, лишенных механизмов защиты, предотвращающих использование платформ в незаконных или опасных целях, таких как создание смертельно опасных патогенов или проведение автоматизированных крупномасштабных компьютерных взломов.
Как компании могут обнаружить атаку с использованием дистилляции?
Доказательства зачастую носят косвенный характер, и на данный момент бывает сложно доказать вне всякого сомнения, что модель конкурента была разработана с помощью дистилляции.
В феврале компания Anthropic заявила, что три ведущих разработчика ИИ в Китае пытались «незаконно извлечь» результаты из её моделей. По её словам, эти компании осуществили более 16 миллионов взаимодействий с использованием мошеннических учетных записей, и ей удалось их выявить на основе информации об IP-адресах и метаданных. Партнеры по отрасли «наблюдали тех же участников и те же модели поведения на своих платформах», добавила компания.
В письме, направленном в июне нескольким сенаторам США и должностным лицам Белого дома, компания Anthropic сообщила, что предполагаемые действия Alibaba по дистилляции включали 28,8 миллиона взаимодействий с её чат-ботом Claude в период с апреля по июнь с использованием почти 25 000 мошеннических учетных записей, согласно источникам, знакомым с документом, и копии, с которой ознакомилось агентство Bloomberg News.
Можно ли предотвратить дистилляцию?
Ведущие американские компании в сфере искусственного интеллекта принимают меры по борьбе с так называемыми «атаками дистилляции», в том числе расширяют обмен информацией о несанкционированном извлечении результатов работы своих моделей и предпринимают усилия по блокированию доступа подозрительных пользователей к своим системам.
Законодатели в Вашингтоне и администрация Трампа прислушиваются к опасениям Кремниевой долины. В апреле Белый дом заявил, что будет сотрудничать с отраслью, чтобы определить, как сдержать дистилляцию и привлечь злоумышленников к ответственности. Республиканцы в Палате представителей также призвали к введению санкций США против китайских организаций, которые занимаются этой практикой в промышленных масштабах для создания конкурирующих систем.
Добавить комментарий