Новейший 168-Ядерный Процессор Eyeriss — Нейронная Сеть В Нашем Смартфоне

Приветствуем наших читателей на страницах блога iCover ! На Международной конференции Solid State Circuits Conference (ISSCC-2016), прошедшей в Сан-Франциско в начале февраля, группа разработчиков из Массачусетского технологического института (MIT) продемонстрировала рабочий прототип чипа Eyeriss нового поколения, который создавался как концептуальный решение, позволяющее воссоздать возможности нейросетевых алгоритмов в широком спектре маломощных устройств.



Новейший 168-ядерный процессор Eyeriss — нейронная сеть в нашем смартфоне

Одной из объективных причин, почему искусственные нейронные сети не получили должного развития в наших смартфонах или планшетах, является отсутствие компактного источника питания достаточной мощности.

Ведь так называемые мозгоподобные, «мозгоподобные» системы искусственного интеллекта, по крайней мере, в том виде, в котором их представляют современные технологии, в своей работе зависят от мощных многоядерных процессоров, которые потребляют невероятное количество энергии.

энергии по сравнению с нашим мозгом.

Представить подобные решения на уровне устройств пользовательского класса не представлялось возможным, по крайней мере, до недавнего времени.

При этом идея «миниатюризации» искусственного интеллекта уже довольно давно будоражит умы разработчиков и, как оказывается, уже приносит вполне ощутимые плоды.

Нейронные сети были в центре внимания ученых с первых дней исследований искусственного интеллекта, но в 1970-х годах о них забыли.

В последнее десятилетие технологии, связанные с использованием нейронных сетей, изучаются на уровне программ «глубокого обучения».

«Глубокое обучение имеет множество применений, таких как распознавание объектов, распознавание речи или распознавание лиц», — отмечают Вивьен Сзе и Эмануэль ?.

Ландсман, доцент кафедры электротехники и компьютерных наук Массачусетского технологического института, чья группа разработала новый чип.

«Сейчас нейронные сети довольно сложны и работают в основном на мощных чипах.

Представьте себе, что вы можете перенести эту функциональность на свой мобильный телефон или встроенное устройство, а затем обрабатывать огромные объемы информации без использования соединения Wi-Fi. Обработка больших объемов данных на вашем смартфоне позволит избежать задержки, возникающей из-за обмена данными с сетью, что, в свою очередь, позволит многим приложениям работать гораздо эффективнее.

Кроме того, предлагаемое решение обеспечит новое качество защиты конфиденциальной информации».

Нейронные сети обычно реализуются на многоядерных графических процессорах (GPU).

На Международной конференции в Сан-Франциско исследователи MIT представили новый 168-ядерный чип, предназначенный для реализации алгоритмов искусственного интеллекта на основе нейронных сетей.

По сравнению с мобильным графическим процессором (не уточняется, каким именно) процессор продемонстрировал в 10 раз большую эффективность, позволяя использовать мобильное устройство пользователя для локального запуска мощных алгоритмов искусственного интеллекта без необходимости отправки данных в облако для обработки.

Основные моменты развития отражены в пресс-релиз Массачусетский технологический институт, 3 февраля 2016 г.

Новый чип, названный разработчиками «Eyeriss», может найти широкое применение в Интернете вещей, носимой электронике, беспилотных транспортных средствах, производственном оборудовании и даже в сельском хозяйстве, помогая в решении и координации текущих задач.

Имея на борту алгоритмы искусственного интеллекта, мобильные устройства смогут принимать решения на локальном уровне, предоставляя пользователю в качестве руководства к действию готовый результат, а не набор «сырых» данных из Интернета.

И, конечно же, одно из применений локальных нейронных сетей — их использование при создании автономных роботов самого разного назначения.



Разделяй и властвуй

Нейронные сети обычно имеют многоуровневую структуру, и каждый уровень содержит большое количество узлов обработки.

На начальном этапе обработки данные поступают и распределяются по узлам нижнего уровня.

После обработки полученных данных каждым узлом результат передается на обработку узлам следующего слоя.

На выходе последнего слоя формируется результат решения задачи.

Соответственно, решение масштабных задач с использованием описанного алгоритма потребует значительных вычислительных ресурсов.

Требования, изначально предъявляемые к чипу самими разработчиками, помещали их в достаточно жёсткие рамки: с одной стороны, решение должно быть энергоэффективным, с другой — оперировать простыми блоками информации.

Наконец, чип должен уметь моделировать разные типы нейронных сетей с учетом текущих поставленных перед ним задач.

Все эти требования были успешно реализованы в процессоре Eyeriss. Чип, разработанный в лаборатории MIT, представляет собой уже сформированную нейронную сеть, локализованную на уровне 168-ядерного процессора, которую в будущем можно будет встроить в мобильные устройства.

Ключом к эффективности Eyeriss является минимизация частоты обмена данными между ядрами и банками внешней памяти, операция, связанная с высоким энергопотреблением и затратами времени.

В то время как традиционные ядра графического процессора используют общий банк памяти, каждое ядро Eyeriss имеет собственную память.

Кроме того, данные проходят процедуру сжатия перед отправкой на соседние ядра.

Еще одним преимуществом реализованного алгоритма является возможность ядер «общаться» друг с другом напрямую, минуя «посредника» в виде шины системной памяти.

Это важная функция для моделирования работы сверточной нейронной сети (CNN).

Вся вычислительная работа, необходимая для распознавания изображений и речи, выполняется в Eyeriss локально, без необходимости доступа к сетевым ресурсам, что позволяет устройству эффективно работать даже при отсутствии внешней сети.

Наконец, еще одним преимуществом Eyeriss является принцип «умного» распределения отдельных вычислительных задач между ядрами в рамках одной решаемой задачи.

В своей локальной памяти ядро должно хранить не только данные, обрабатываемые узлами, но и данные, описывающие сами узлы.

Чтобы обеспечить максимальную производительность процесса обработки данных, а также загрузить Eyeriss максимальным объемом данных из основной памяти, алгоритм распределения обоих типов данных оптимизируется специально разработанным для этой цели чипом в режиме реального времени.

, учитывая особенности текущей нейросети.

На Международной конференции по твердотельным схемам в Сан-Франциско команда разработчиков, используя возможности чипа Eyeriss «пользовательского» уровня, продемонстрировала реализацию алгоритма распознавания образов в рамках локальной нейронной сети.

Подобная задача, отмечается в пресс-релизе, была реализована и раньше, но на уровне государственных проектов создания самых современных нейронных сетей.

«Эта работа важна, поскольку она демонстрирует, насколько хорошо встроенные процессоры глубокого обучения могут обеспечить мощность и производительность оптимизации, необходимые для переноса сложных вычислений из облака на мобильные устройства», — сказал Майк Полли, старший вице-президент лаборатории инноваций мобильных процессоров Samsung. , добавив: «Помимо инновационного набора аппаратных решений, исследование MIT ясно демонстрирует, как встроенное ядро может быть полезным для разработчиков приложений, использующих стандартные сетевые архитектуры AlexNet и Caffe».

Финансирование проекта Eyeriss, начиная с создания подразделения на базе лаборатории Массачусетского технологического института, частично обеспечивалось американским оборонным агентством DARPA. Неудивительно, что первым на анонс процессора впечатляющим редакционным материалом отреагировал известный военный аналитик Патрик Такер.

Новые процессоры Eyeriss, установленные на мобильных устройствах американских солдат, по его мнению, будут способны решать сложные вычислительные задачи, связанные с обработкой колоссальных объемов информации, без подключения к общей сети.

Так, в настоящее время ВВС США ежедневно получают до 1500 часов HD-видео и до 1500 фотографий сверхвысокого разрешения с дронов, зависающих над Афганистаном.

Причем весь этот бесконечный поток информации приходится по-старинке визуально анализировать операторам, поскольку существующие компьютерные программы не способны отличить крестьянина, идущего по горной тропе с палкой, от террориста с пусковой установкой для управляемых ракет. .

Для решения подобных задач изначально начали создаваться методы машинного обучения, основанные на обучении представлений.

Процессоры Eyeriss идеально подходят для установки на беспилотные военные дроны, поскольку позволят осуществлять интеллектуальную обработку массива изображений и видео с помощью технологий глубокого обучения непосредственно на борту самолета.

В этом случае отсеянные полезные данные могли быть направлены непосредственно в боевые подразделения, действующие в указанном регионе, минуя центр анализа оперативной информации.

Краткое содержание В ходе экспериментов чип Eyeriss продемонстрировал уровень энергоэффективности, в десять раз превышающий уровень современных мобильных графических чипов.

При этом с его помощью оказывается технологически возможным обеспечить работу алгоритмов искусственного интеллекта на устройствах компактных размеров — от смартфонов и планшетов до носимой электроники.

Задержки, создаваемые сетями при обмене данными, для такого процессора сведены к минимуму, поскольку большую часть вычислений чип может выполнять локально.

На базе Eyeriss можно будет создавать не только всевозможные «умные устройства», но и роботов, обладающих определенной степенью независимости в принятии решений.

Разработчики MIT пока не назвали конкретные промежутки времени, в течение которых Eyeriss сможет трансформироваться в коммерческий продукт и полностью раскрыть свои возможности на потребительском уровне.

Привлечение к разработке ведущих специалистов NVIDIA и живой интерес ответственных исследователей из Samsung внушают определенный оптимизм.

Источник


Дорогие читатели, мы всегда рады встрече и ждем вас на страницах нашего блога.

Мы готовы и дальше делиться с вами актуальными новостями, обзорами и другими публикациями, а также постараемся сделать все возможное, чтобы время, проведенное с нами, было для вас полезным.

И, конечно, не забудьте подписаться на наши разделы .



Новейший 168-ядерный процессор Eyeriss — нейронная сеть в нашем смартфоне

Другие наши статьи и мероприятия

Теги: #Компьютерное оборудование #Смартфоны #Гаджеты #Интернет вещей #искусственный интеллект #нейронные сети #Носимая электроника #Eyeriss
Вместе с данным постом часто просматривают:

Автор Статьи


Зарегистрирован: 2019-12-10 15:07:06
Баллов опыта: 0
Всего постов на сайте: 0
Всего комментарий на сайте: 0
Dima Manisha

Dima Manisha

Эксперт Wmlog. Профессиональный веб-мастер, SEO-специалист, дизайнер, маркетолог и интернет-предприниматель.