Инженеры Техасского университета в Остине совместно с TSMC
изготовили и испытали чипы с магнитной памятью SOT-MRAM, адаптированные для
задач искусственного интеллекта. Такая память сочетает высокую скорость, низкое
энергопотребление и способность сохранять данные после отключения питания.Изображение сгенерировано GeminiИсточник изображения: GeminiВ экспериментальных чипах переключение одного бита между 0 и
1 занимало около 2 наносекунд и требовало примерно 2 пикоджоулей энергии.
Исследователи отмечают, что в некоторых сценариях альтернативные технологии
памяти могут работать в разы или даже на порядки медленнее, потребляя при этом
сотни пикоджоулей на одну операцию.Главная особенность SOT-MRAM одновременно долгое время
считалась ее недостатком: ячейка может хранить только два состояния — 0 или 1.
Для многих ИИ-задач этого недостаточно, поскольку нейросети обычно работают с
более сложными представлениями данных. Поэтому исследователям пришлось
адаптировать алгоритмы под двоичное представление, сохранив приемлемую точность
вычислений.Экспериментальные чипы протестировали сразу на нескольких
задачах — инференс нейросетей, обучение бинарных нейросетей и вероятностное
графовое моделирование. Результаты показали, что SOT-MRAM может быть особенно
интересна для периферийного ИИ, когда вычисления выполняются непосредственно на
конечном устройстве, а не в дата-центре.Например, роботизированная конечность сможет сама обработать
данные от датчиков и практически мгновенно отреагировать на резкое повышение
температуры, не отправляя информацию в облако. Это уменьшает задержку и
одновременно экономит энергию, которая в противном случае потребовалась бы для
передачи данных и последующей обработки на удаленных серверах.При этом полностью отказаться от облачных вычислений такие
системы не смогут. Для задач, требующих высокой точности или значительной
вычислительной мощности, устройство по-прежнему сможет передавать данные на
серверы с GPU.В перспективе специализированные ускорители на базе SOT-MRAM
могут взять на себя часть локальных ИИ-вычислений, которые сегодня выполняются
на CPU. Однако до практического применения технологии еще далеко.
Исследователям предстоит повысить стабильность характеристик чипов и уменьшить
разброс параметров между отдельными ячейками — сейчас он может снижать точность
работы нейросетей.