Сегодня 04:19 — Технологии&АвтоAnthropic призвала замедлить развитие ИИАмериканская Anthropic призвала ведущие ИИ-лаборатории рассмотреть возможность замедления темпов развития этой технологии.Об этом пишет WSJ.Почему Anthropic призвала замедлить развитие ИИВ компании отмечают, что ИИ-системы совершенствуются настолько быстро, что вскоре, возможно, смогут усовершенствоваться без участия человека, и это несет в себе существенные риски для общества.Читайте такжеAnthropic все больше передает процесс разработки ИИ непосредственно самим ИИ-системам, что значительно ускоряет работу, говорится в статье, опубликованной главой Anthropic Institute Мариной Фаваро и соучредителем компании Джеком Кларком.«Если этот процесс продолжится, то при наличии достаточных вычислительных мощностей он может привести к появлению ИИ-системы, способной самостоятельно проектировать и разрабатывать свою следующую версию. Это называется рекурсивным самосовершенствованием. Мы еще не достигли этого этапа, и рекурсивное самосовершенствование неизбежно. Однако оно может наступить гораздо раньше, чем к этому будет готово большинство общественных институтов», — говорится в статье.Эксперты отмечают, что в ближайшие годы возможности ИИ систем существенно возрастут.Читайте также«ИИ, способный самосовершенствоваться, стал бы важнейшим этапом в развитии технологий и мог бы принести колоссальную пользу человечеству — в науке, здравоохранении и многих других областях», — отмечают авторы статьи.Риски потери контроляОднако, по их словам, это также повышает риск того, что люди лишатся контроля над ИИ-системами.«Если ИИ-системы смогут полностью создавать своих преемников, то вопросы обеспечения их безопасности, мониторинга и управления их поведением приобретут дополнительную важность», — подчеркивается в статье.Авторы считают, что «полезно» было бы замедлить развитие ИИ, чтобы выиграть больше времени для осмысления возможных последствий и решения потенциальных проблем.Читайте такжеAnthropic Institute намерена принимать меры для создания механизмов для замедления развития ИИ.При этом в компании отмечают, что для реального замедления развития этой технологии необходимо чтобы ведущие ИИ-лаборатории в разных странах мира договорились о прекращении разработок на одинаковых условиях.Кроме того, понадобится механизм, позволяющий каждой из этих организаций убедиться, что другие участники действительно соблюдают договоренности и фактически остановили работы.Если Вы заметили ошибку, выделите необходимый текст и нажмите Ctrl+Enter , чтобы сообщить нам об этом.Finance.ua/Все новости/Технологии&Авто/Anthropic призвала к глобальной паузе в развитии ИИ