Компания Anthropic предупредила, что уже через несколько
месяцев небольшие модели искусственного интеллекта смогут самостоятельно
распространяться и запускаться на коммерческих устройствах, причем самых
разнообразных. Например, умных духовках, ТВ и ТВ-приставках, холодильниках и
т.д. Для этого им не потребуется постоянное подключение к дата-центрам.По данным компании, такие системы могут отличаться от
обычных вредоносных программ способностью самостоятельно распознавать
незнакомые устройства и адаптироваться к различным аппаратным платформам. В
ходе экспериментов модель успешно выполнила задачу вывода на восьми из девяти
протестированных типов оборудования.В Anthropic ожидают, что в будущем появится множество
автономных ИИ-агентов, работающих на самых разных устройствах, в том числе вне
непосредственного контроля человека. Компания рассматривает такую возможность
как потенциальный риск, поскольку подобные системы могут распространяться по
инфраструктуре, которую сложно контролировать централизованно.