Ведущие китайские научно-исследовательские институты, связанные с Народно-освободительной армией Китая (НОАК), использовали общедоступную модель искусственного интеллекта Llama компании Meta* для разработки инструмента военного назначения. Согласно июньской статье, рассмотренной агентством Reuters, шесть китайских исследователей из трёх институтов, включая два из Академии военных наук (AMS), ведущего исследовательского органа НОАК, подробно описали создание «ChatBIT на основе ранней версии Llama 2 13B от Meta*».

ChatBIT был настроен и оптимизирован для диалога и задач по ответам на вопросы в военной сфере, превосходя некоторые другие модели на базе ИИ. Исследователи использовали ChatBIT для сбора и обработки разведданных, а также предоставления точной информации для принятия оперативных решений. Санни Чунг, научный сотрудник Фонда Джеймстауна, специализирующийся двойных технологиях Китая, включая искусственный интеллект, заявил: «Впервые появились весомые доказательства того, что военные эксперты НОАК в Китае систематически исследовали и пытались использовать возможности открытых программ в военных целях».

Источник: DALL-E

Meta* приняла открытый выпуск многих своих моделей, включая Llama, но накладывает ограничения на их использование, запрещая военные и другие виды деятельности, подпадающие под экспортный контроль Министерства обороны США. Однако, поскольку модели Meta являются публичными, у компании ограничены возможности обеспечения соблюдения этих положений. Молли Монтгомери, директор по государственной политике Meta, заявила: «Любое использование наших моделей Народно-освободительной армией является несанкционированным и противоречит политике приемлемого использования».

Исследование появилось на фоне дебатов в кругах национальной безопасности и технологий США по поводу того, следует ли таким фирмам, как Meta*, публиковать свои модели. Президент США Джо Байден в октябре 2023 года подписал указ, направленный на управление разработками в области искусственного интеллекта, отметив существенные риски безопасности. На минувшей неделе Вашингтон заявил, что завершает разработку правил по ограничению инвестиций США в искусственный интеллект и другие технологические секторы в Китае, которые могут угрожать национальной безопасности.

Представитель Пентагона Джон Саппл заявил, что Министерство обороны признаёт, что модели с открытым исходным кодом имеют как преимущества, так и недостатки, и что «мы продолжим внимательно следить за возможностями конкурентов и оценивать их». Некоторые наблюдатели утверждают, что успехи Китая в разработке собственного искусственного интеллекта уже затруднили задачу страны по сокращению технологического разрыва с Соединёнными Штатами.

В отдельной научной статье двое исследователей из Китайской корпорации авиационной промышленности (AVIC), которую США признали фирмой, связанной с НОАК, описали использование Llama 2 для «отработки стратегий радиоэлектронных помех в воздухе». Использование Китаем разработанного на Западе искусственного интеллекта также распространилось на внутреннюю безопасность, включая «разведывательную полицию» для обработки больших объёмов данных и улучшения принятия решений полицией.

Уильям Ханнас, ведущий аналитик Центра безопасности и новых технологий Джорджтаунского университета (CSET), заявил: «Между лучшими учёными Китая и лучшими учёными США в области искусственного интеллекта ведётся слишком тесное сотрудничество, чтобы исключать их из разработок».

* Компания Meta Platforms признана в России экстремистской организацией и запрещена