Сооснователь Microsoft Билл Гейтс выступил за обязательное
государственное регулирование искусственного интеллекта. По его мнению,
разработчики ИИ не должны самостоятельно устанавливать все правила безопасности
— в создании стандартов контроля необходимо участие законодателей и
правоохранительных органов.Изображение сгенерировано GeminiИсточник изображения: GeminiВ интервью NBC News Гейтса спросили, потребуются ли для
этого федеральные законы в США. «Безусловно», — ответил он. По словам
предпринимателя, государство должно участвовать в определении требований к безопасности
и мониторингу ИИ. При этом новые нормы, по его мнению, не обязательно приведут
к серьезному замедлению отрасли: регулирование создаст для компаний
дополнительную нагрузку, но не должно радикально затормозить развитие
технологий.Гейтс также призвал сосредоточиться не только на
гипотетической угрозе появления неконтролируемого сверхинтеллекта, но и на
рисках, которые существуют уже сегодня. Он считает, что современные ИИ-системы
в руках злоумышленников потенциально способны привести к катастрофическим
последствиям.«ИИ определенно достаточно мощный, чтобы запустить события,
которые приведут к гибели миллиарда человек», — заявил Гейтс. При этом он
отметил, что вероятность полного уничтожения человечества остается предметом
дискуссий, а вот возможность опасного использования уже существующих систем
требует серьезного внимания.Заявление прозвучало на фоне споров внутри ИИ-индустрии о
темпах развития наиболее мощных моделей. Ранее глава Anthropic Дарио Амодей
призвал регулировать все американские компании, работающие над передовыми
ИИ-системами. По его мнению, добровольных договоренностей недостаточно,
поскольку они не затрагивают компании, которые не готовы самостоятельно
замедлять разработку. Амодей также считает, что эффективный глобальный контроль
потребует международного сотрудничества, в том числе с Китаем.Глава OpenAI Сэм Альтман также выступал за международные
стандарты. Они, по его мнению, должны определять методы измерения возможностей
ИИ, оценки рисков и эффективности защитных механизмов, а также требования к
сохранению значимого человеческого контроля. При этом глава Meta* Марк Цукерберг
выступает против общеотраслевой координации и считает, что каждая лаборатория
должна самостоятельно оценивать риски и при необходимости приостанавливать разработку.Регулирование ИИ уже начинает формироваться и на уровне
отдельных американских штатов. В Калифорнии создан экспертный совет, который
должен предложить дополнительные меры в сфере безопасности ИИ, а собственные
инициативы появились в Мэриленде и Нью-Йорке. Президент Microsoft Брэд Смит при
этом заявил, что компаниям не обязательно ждать новых законов, чтобы поставить
безопасность выше конкурентной гонки. Он сравнил разработчиков ИИ с
авиастроителями: если инженеры опасаются, что новый самолет может разбиться,
желание выпустить его раньше конкурента не должно становиться главным
приоритетом.Таким образом, представители крупнейших технологических
компаний сходятся в необходимости уделять больше внимания безопасности ИИ, но
расходятся в вопросе о том, кто должен устанавливать обязательные правила.
Гейтс считает, что ключевая роль в этом процессе должна принадлежать
государству.