Neurostream — Новый Чип Для Глубокого Обучения

Высокопроизводительные вычислительные системы уже находят применение в технологиях High Bandwidth Memory (HBM) и Hybrid Memory Cube (HMC).

В этом направлении активно ведутся разработки.

Ученые из Болонского университета в конце января представили архитектуру вычислений в памяти (PIM), способную эффективно работать с глубокими сверточными нейронными сетями.

Он назывался «Нейрострим».



Neurostream — новый чип для глубокого обучения

/ Фото Райан МакМиндс СС В основе конструкции лежит перспективный тип компьютерной оперативной памяти (HMC) (Hybrid Memory Cube), который в рамках проекта получил название Smart Memory Cube, или SMC. Решение дополняется многоядерной платформой PIM NeuroCluster. NeuroCluster имеет модульную конструкцию, основанную на сопроцессорах с плавающей запятой NeuroStream и RISC-V. Что интересно, только 8% кристаллов HMC используются для достижения производительности в 240 гигафлопс при потребление энергии на 2,5 Вт. «Кубики памяти» имеют очень низкое энергопотребление, но способны справляться с задачами для сверточных сетей, — там написано в статье университетских ученых.

«Это освобождает ресурсы компьютерной логики для обработки других рабочих нагрузок».

Небольшое увеличение энергопотребления системы и небольшое увеличение занимаемой площади при масштабировании делает эту систему PIM экономичной и энергоэффективной, которую можно легко масштабировать до 955 гигафлопс с включением четырех SMC. Ученые сравнили возможности нового решения с вычислительной мощностью графического процессора Nvidia Tesla K40. Tesla K40 смогла реализовать 1092 гигафлопс при потребляемой мощности 235 Вт. Технология NeuroGrid достигла производительности 955 гигафлопс при мощности 42,8 Вт, что в 4,8 раза более энергоэффективно, чем графические процессоры.



Neurostream — новый чип для глубокого обучения

Изображение : Сеть SMC и структурная схема одного из «кубов» Более того, создатели Neurostream рассчитывают, что повысить энергоэффективность можно с помощью программных решений, а также выполнения арифметических операций пониженной точности.

По мнению ученых, это может снизить потребление энергии на 70%.

Более подробную информацию о решении можно найти в статья сотрудники Болонского университета.

Далее в своей работе исследователи планируют изучить возможность реализации системы с четырьмя блоками NeuroCluster, которая будет использоваться для мониторинга процесса обучения сетей.

P.S. Вот о чем еще мы пишем в блоге нашего проекта 1cloud:

Теги: #Neurostream #глубокое обучение #Высокая производительность #Разработка электронной коммерции #Машинное обучение


Высокопроизводительные вычислительные системы уже находят применение в технологиях High Bandwidth Memory (HBM) и Hybrid Memory Cube (HMC).

В этом направлении активно ведутся разработки.

Ученые из Болонского университета в конце января представили архитектуру вычислений в памяти (PIM), способную эффективно работать с глубокими сверточными нейронными сетями.

Он назывался «Нейрострим».



Neurostream — новый чип для глубокого обучения

/ Фото Райан МакМиндс СС В основе конструкции лежит перспективный тип компьютерной оперативной памяти (HMC) (Hybrid Memory Cube), который в рамках проекта получил название Smart Memory Cube, или SMC. Решение дополняется многоядерной платформой PIM NeuroCluster. NeuroCluster имеет модульную конструкцию, основанную на сопроцессорах с плавающей запятой NeuroStream и RISC-V. Что интересно, только 8% кристаллов HMC используются для достижения производительности в 240 гигафлопс при потребление энергии на 2,5 Вт. «Кубики памяти» имеют очень низкое энергопотребление, но способны справляться с задачами для сверточных сетей, — там написано в статье университетских ученых.

«Это освобождает ресурсы компьютерной логики для обработки других рабочих нагрузок».

Небольшое увеличение энергопотребления системы и небольшое увеличение занимаемой площади при масштабировании делает эту систему PIM экономичной и энергоэффективной, которую можно легко масштабировать до 955 гигафлопс с включением четырех SMC. Ученые сравнили возможности нового решения с вычислительной мощностью графического процессора Nvidia Tesla K40. Tesla K40 смогла реализовать 1092 гигафлопс при потребляемой мощности 235 Вт. Технология NeuroGrid достигла производительности 955 гигафлопс при мощности 42,8 Вт, что в 4,8 раза более энергоэффективно, чем графические процессоры.



Neurostream — новый чип для глубокого обучения

Изображение : Сеть SMC и структурная схема одного из «кубов» Более того, создатели Neurostream рассчитывают, что повысить энергоэффективность можно с помощью программных решений, а также выполнения арифметических операций пониженной точности.

По мнению ученых, это может снизить потребление энергии на 70%.

Более подробную информацию о решении можно найти в статья сотрудники Болонского университета.

Далее в своей работе исследователи планируют изучить возможность реализации системы с четырьмя блоками NeuroCluster, которая будет использоваться для мониторинга процесса обучения сетей.

P.S. Вот о чем еще мы пишем в блоге нашего проекта 1cloud:

Теги: #Neurostream #глубокое обучение #Высокая производительность #Разработка электронной коммерции #Машинное обучение
Вместе с данным постом часто просматривают: