В американском государственном институте, отвечающем за стандарты и технологическую политику (National Institute of Standards and Technology) объявили о расширении сотрудничества с ведущими разработчиками искусственного интеллекта: подразделение Center for AI Standards and Innovation подписало новые соглашения с Google DeepMind, Microsoft и xAI. Речь идёт о системной проверке передовых моделей до их публичного запуска и после него — с акцентом на риски для национальной безопасности.

Фактически CAISI становится центральной точкой взаимодействия между государством и индустрией ИИ. По поручению министра торговли Говарда Лютника структура будет координировать тестирование, совместные исследования и разработку стандартов для коммерческих ИИ-систем.

Ключевое нововведение — доступ государства к моделям ещё до их релиза. Это позволяет проводить независимую оценку возможностей и потенциальных угроз на раннем этапе. По данным ведомства, уже выполнено более 40 таких проверок, включая анализ новейших систем, которые ещё не представлены публично.

Иллюстрация: Nano Banana

«Независимая и строгая метрология критически важна для понимания возможностей передового ИИ и его влияния на национальную безопасность», — отметил директор CAISI Крис Фолл. По его словам, новые соглашения масштабируют эту работу в момент, когда конкуренция в сфере ИИ резко усиливается.

Отдельное внимание уделяется тестированию в условиях, приближенных к реальным рискам. Разработчики могут предоставлять версии моделей с ослабленными защитными механизмами, чтобы оценить их потенциально опасное поведение. В проверках участвуют специалисты из разных ведомств, объединённые в межведомственную группу TRAINS, занимающуюся вопросами ИИ и национальной безопасности.

Соглашения также предусматривают обмен данными между государством и компаниями, что должно ускорить доработку продуктов и повысить прозрачность оценки их возможностей. При этом часть исследований будет проходить в закрытых, в том числе засекреченных средах.