И так далее.
Стартап Fathom Computing в ближайшие два года планы выпустить оптическое устройство, которое превзойдет GPU по скорости обучения крупных нейронных сетей.
Разработчики хотят разместить оптический компьютер в облачном дата-центре, чтобы к нему могли получить доступ создатели систем искусственного интеллекта со всего мира.
О решении Fathom и о том, кто еще занимается подобными разработками, мы расскажем ниже под катом.
/ Фото Европейское космическое агентство СС
Вычисления с ускорением на графическом процессоре реализован в Nvidia около десяти лет назад. Сейчас технология используется в дата-центрах научных лабораторий, IT-компаний и Поставщики IaaS , обеспечивающий работу с vGPU для реализации высокопроизводительных вычислений.
Однако рынок становится все более требовательным к скорости обработки больших объемов данных — около 90% всей информации было сгенерировано за последние 2–3 года, — по данным данные IBM, человечество генерирует 2,5 квинтиллиона байт в день.
Основатели Fathom Computing убежденный что оптические компьютеры помогут быстро адаптироваться к меняющимся требованиям к данным.
Прототип компании выполняет математические операции быстрее, поскольку закодированные значения передаются посредством световых лучей — последовательности линз и оптических элементов (например, интерферометров), изменяющих параметры света, на основе которых система генерирует результат. Проводные журналисты описал внешний вид устройства как «связки линз, кронштейнов и проводов, напоминающих разобранный телескоп».
Сейчас все эти компоненты помещены в большой черный ящик, но ученые работают над тем, чтобы «упаковать» все это в стандартный сервер, который поместится в стойку дата-центра.
Компьютер Fathom не является универсальным процессором; он «заточен» для выполнения определенных операций линейной алгебры.
В частности, Fathom используется для обучения рекуррентные нейронные сети с архитектурой ЛСТМ И нейронные сети прямого распространения .
Сейчас команда тестирует компьютер, обучая его распознавать рукописные цифры.
На данный момент системе удалось достичь точности распознавания 90%.
Разработчики на сайте проекта принес визуализация потока данных LSTM, который генерирует их система управления.
В Fathom Computing отмечают, что в ближайшие два года планируют создать первую готовую к производству систему, которая превзойдет компьютеры с графическими процессорами по скорости обучения сети.
/ Фото Уинделл Оскай СС
Другие разработки
Fathom — не единственная компания, создающая оптические чипы для ускорения глубокого обучения.Массачусетский технологический институт (MIT) проводит работы в этом направлении.
Ученые из Массачусетского технологического института развитый чип, который они называют «программируемым нанофотонным процессором».
Он выполняет матричные операции с помощью набора волноводов, связи между которыми настраиваются в зависимости от задачи.
Чип построен на основе Интерферометр Маха-Цендера , изменяющий свойства проходящих лучей и являющийся эквивалентом матричного умножения, и ряд аттенюаторов, немного снижающих интенсивность света.
Эти процессы обеспечивают обучение оптической нейронной сети.
Также работает над созданием кремниевого фотоэлектронного процессора для рынка искусственного интеллекта.
работает стартап Lightmatter. Разработчики используют технологию MIT. Летом прошлого года был испытан прототип 56 программируемых интерферометров Маха-Цендера, реализованных на интегральной схеме.
Система научилась распознавать гласные звуки по набору аудиозаписей.
В ходе эксперимента удалось добиться точности распознавания 75%.
Системы на базе «классического» оборудования достигают порога в 90%, поэтому ученые продолжат развивать и совершенствовать архитектуру чипов.
Еще один стартап LightOn в середине февраля объявлено о начале испытаний прототипа оптического модуля Optical Processing Unit (OPU) в дата-центре.
В компании отметили, что им удалось сократить время, необходимое для выполнения задачи.
Передача обучения от 20 минут на классических графических процессорах до 3,5 минут.
Открытое бета-тестирование установки начнется весной на облачной платформе LightOn Cloud. В настоящее время система работает под управлением PyTorch и совместима с Scikit-Learn. В будущем будет добавлена поддержка других популярных фреймворков машинного обучения, таких как TensorFlow.
P.S. Еще несколько свежих постов из Первого блога о корпоративном IaaS:
- NetApp от А до Я: обзор технологий вендоров, используемых в современных системах хранения данных
- Организация блокчейна на VMware vSphere: от теории к практике
- IaaS: Первые шаги после аренды облачной инфраструктуры
- Системы хранения данных NetApp в 2017 году: обзор продуктов компании
- Балансировка нагрузки в облаке IaaS: как работает DRS
-
Чип И Дейл Больше Не Могут Прийти На Помощь
19 Oct, 24 -
Редкие Подставки
19 Oct, 24 -
Сбербанк. Ффд 1.05
19 Oct, 24 -
Настройка Jenkins Для Проекта Django С Нуля
19 Oct, 24