Идея объединения квантовых вычислений и машинного обучения находится в период своего расцвета.
Сможет ли она оправдать большие ожидания? 
В начале 90-х ? Лизабет Берман [Элизабет Берман], профессор физики Университет Уичито начал работать над слиянием квантовой физики с искусственным интеллектом — в частности, в области тогда еще непопулярной технологии нейронных сетей.
Большинство людей думали, что она пытается смешать масло с водой.
«Мне было чертовски тяжело, когда меня публиковали», — вспоминает она.
«В журналах, посвященных нейронным сетям, говорилось: «Что это за квантовая механикаЭ», а в физических журналах говорилось: «Что это за чушь, связанная с нейронными сетямиЭ» Сегодня смесь этих двух понятий кажется самой естественной вещью в мире.
Нейронные сети и другие системы машинного обучения стали самой неожиданной технологией XXI века.
Они лучше справляются с человеческими задачами, чем люди, и они превосходят нас не только в задачах, с которыми большинство из нас и так не справляется, таких как шахматы или глубокий анализ данных, но и в тех задачах, для решения которых мозг эволюционировал — например , распознавание лиц, языковой перевод и определение права проезда на четырехстороннем перекрестке.
Такие системы стали возможными благодаря огромной вычислительной мощности, поэтому неудивительно, что технологические компании начали искать компьютеры, которые были бы не просто больше, но принадлежали к совершенно новому классу.
Квантовые компьютеры после десятилетий исследований почти готовы выполнять вычисления быстрее, чем любой другой компьютер на Земле.
Их главным преимуществом обычно называют факторизацию больших чисел, ключевую операцию современных систем шифрования.
Правда, до этого момента осталось еще как минимум десять лет. Но даже сегодняшние элементарные квантовые процессоры загадочным образом хорошо подходят для нужд машинного обучения.
Они манипулируют огромными объемами данных за один проход, ищут тонкие закономерности, невидимые для классических компьютеров, и не уклоняются от неполных или неопределенных данных.
«Существует естественный симбиоз между статистическим характером квантовых вычислений и машинным обучением», — говорит Иоганн Оттербах, физик из Rigetti Computing, компании по квантовым вычислениям в Беркли, Калифорния.
Если уж на то пошло, маятник уже качнулся до нового максимума.
Google, Microsoft, IBM и другие технологические гиганты вкладывают деньги в квантовое машинное обучение (QML) и инкубатор стартапов, посвященный этой теме, в Университете Торонто.
«Машинное обучение становится модным словечком», — говорит Джейкоб Биамонт , квантовый физик из Сколковский институт науки и технологий .
«А когда вы смешиваете это с понятием «квант», вы учите мегамодное слово».
Но понятие «квант» никогда не означает именно того, что от него ожидают. Хотя вы можете подумать, что система CMO будет мощной, она страдает от замкнутости.
Она работает с квантовыми состояниями, а не с человек читаемый данных, а перевод между этими двумя мирами может нейтрализовать все его очевидные преимущества.
Это как iPhone X со всеми его впечатляющими возможностями оказывается не быстрее старого телефона из-за ужасной локальной сети.
В некоторых особых случаях физики могут преодолеть это узкое место ввода-вывода, но появятся ли такие случаи при решении практических задач ML, еще неизвестно.
«У нас пока нет четких ответов», — говорит Скотт Ааронсон , ученый-компьютерщик из Техасского университета в Остине, который всегда старается реалистично смотреть на вещи в области квантовых вычислений.
«Люди весьма осторожны в отношении того, дадут ли эти алгоритмы какое-либо преимущество в скорости».
Квантовые нейроны
Основная задача нейронной сети, будь то классической или квантовой, — распознавание закономерностей.Он создан по образу человеческого мозга и представляет собой решетку основных вычислительных единиц – «нейронов».
Каждый из них может быть не сложнее, чем выключатель.
Нейрон отслеживает выходные данные многих других нейронов, как если бы они голосовали по определенному вопросу, и переключается в положение «включено», если достаточное количество нейронов проголосовали «за».
Обычно нейроны расположены слоями.
Первый уровень принимает входные данные (например, пиксели изображения), средние слои создают различные комбинации входных данных (представляющие такие структуры, как края и геометрические фигуры), а последний слой создает выходные данные (высокоуровневое описание того, что содержится).
на изображении).
Глубокие нейронные сети обучаются, регулируя веса своих связей, чтобы лучше передавать сигналы через несколько слоев к нейронам, связанным с желаемыми обобщенными понятиями.
Важно то, что вся эта схема не прорабатывается заранее, а адаптируется в процессе обучения методом проб и ошибок.
Например, мы можем передать в сеть изображения с пометкой «котенок» или «щенок».
Каждой картинке она присваивает метку, проверяет, правильно ли она получилась, а если нет, корректирует нейронные связи.
Сначала это работает почти случайным образом, но затем улучшает результаты; после, скажем, 10 000 примеров она начинает понимать домашних животных.
Серьезная нейросеть может иметь миллиард внутренних связей, и все их нужно настраивать.
На классическом компьютере эти связи представлены потрясающей матрицей чисел, и управление сетью означает выполнение матричных вычислений.
Обычно эти операции с матрицей отдаются на обработку специальному чипу - например, графический процессор .
Но никто не выполняет матричные операции лучше, чем квантовый компьютер.
«Обработка больших матриц и векторов на квантовом компьютере происходит экспоненциально быстрее», — говорит Сет Ллойд, физик Массачусетского технологического института и пионер квантовых вычислений.
Чтобы решить эту проблему, квантовые компьютеры могут воспользоваться экспоненциальной природой квантовой системы.
Большая часть информационной емкости квантовой системы содержится не в ее отдельных единицах данных — кубитах, квантовых аналогах битов классического компьютера, — а в совместных свойствах этих кубитов.
Два кубита вместе имеют четыре состояния: оба включены, оба выключены, включены/выключены и выключены/включены.
Каждый имеет определенный вес, или «амплитуду», которая может играть роль нейрона.
Если вы добавите третий кубит, вы теперь сможете представлять восемь нейронов; четвертый – 16. Мощность машины растет в геометрической прогрессии.
По сути, нейроны распределены по всей системе.
Когда вы меняете состояние четырех кубитов, вы обрабатываете 16 нейронов одним махом, тогда как классическому компьютеру пришлось бы обрабатывать эти числа по одному.
По оценкам Ллойда, 60 кубитов было бы достаточно, чтобы закодировать тот объем данных, который человечество производит за год, а 300 могли бы содержать классический информационный контент всей Вселенной.
Самый большой квантовый компьютер, доступный сегодня, созданный IBM, Intel и Google, имеет около 50 кубитов.
И это только если предположить, что каждая амплитуда представляет собой один классический бит. «На самом деле амплитуды — это непрерывные величины (и представляют собой комплексные числа), и каждая из них может хранить до 15 бит с точностью, подходящей для решения практических задач», — говорит Ааронсон.
Но способность квантового компьютера хранить информацию в сжатой форме не делает его быстрее.
Вам нужно уметь использовать эти кубиты.
В 2008 году Ллойд, физик Арам Харроу из Массачусетского технологического института и Авинатанские хасиды , ученый-компьютерщик из Университета Бар-Илан в Израиле.
показал , как можно выполнить важную алгебраическую операцию обращения матрицы.
Они разбили его на последовательность логических операций, которые можно выполнить на квантовом компьютере.
Их алгоритм работает для огромного количества технологий машинного обучения.
И это не требует такого количества шагов, как, скажем, факторизация большого числа.
Компьютер способен быстро выполнить задачу классификации до того, как шум — большой ограничивающий фактор в современных технологиях — может все испортить.
«Пока у вас не появится полностью универсальный, устойчивый к ошибкам квантовый компьютер, у вас может быть какое-то квантовое преимущество», — сказал Кристан Темм из компании J. Thomas Watson из IBM.
Пусть природа решит проблему
До сих пор машинное обучение, основанное на квантовых матричных вычислениях, было продемонстрировано только на четырехкубитных компьютерах.В большинстве экспериментальных успехов квантового машинного обучения используется другой подход, согласно которому квантовая система не просто моделирует сеть, а сама является сетью.
Каждый кубит отвечает за один нейрон.
И хотя об экспоненциальном росте здесь говорить не приходится, такое устройство могло бы воспользоваться и другими свойствами квантовой физики.
Самое большое из этих устройств, содержащее около 2000 кубитов, было изготовлено компанией D-Wave Systems, расположенной недалеко от Ванкувера.
И это не совсем то, что люди представляют себе, когда думают о компьютере.
Вместо того, чтобы принимать какие-то входные данные, выполнять серию вычислений и отображать выходные данные, он работает путем поиска внутренней согласованности.
Каждый из кубитов представляет собой сверхпроводящую электрическую петлю, работающую как крошечный электромагнит, ориентированный вверх, вниз или одновременно вверх и вниз, то есть в суперпозиции.
Кубиты связаны друг с другом магнитным взаимодействием.
Чтобы запустить эту систему, сначала необходимо применить горизонтально ориентированное магнитное поле, инициализируя кубиты с одинаковой суперпозицией вверх и вниз — эквивалент чистого листа.
Есть несколько способов ввода данных.
В некоторых случаях можно зафиксировать слой кубитов на требуемых начальных значениях; чаще входные данные включаются в результате взаимодействия.
Затем вы позволяете кубитам взаимодействовать друг с другом.
Некоторые пытаются выстроиться одинаково, некоторые – в противоположном направлении и под действием горизонтального магнитного поля переключаются на предпочтительную ориентацию.
В этом процессе они также могут вызывать переключение других кубитов.
Поначалу это происходит довольно часто, потому что многие кубиты расположены неправильно.
Со временем они успокаиваются, после чего можно отключить горизонтальное поле и зафиксировать их в этом положении.
На этом этапе кубиты выстроились в последовательность верхних и нижних позиций, представляя выход на основе входных данных.
Не всегда очевидно, каким будет окончательное расположение кубитов, но в этом-то и суть.
Система, просто ведя себя естественно, решает проблему, с которой классический компьютер мог бы бороться долгое время.
«Нам не нужен алгоритм», — объясняет Хидетоши Нисимори , физик из Токийского технологического института, разработавший принципы работы машин D-Wave. – Это совершенно другой подход, чем обычное программирование.
Природа решает проблему».
Переключение кубитов происходит из-за квантового туннелирования — естественного стремления квантовых систем достичь оптимальной конфигурации, наилучшей из возможных.
Можно было бы построить классическую сеть, работающую на аналоговых принципах, используя случайный джиттер вместо туннелирования для переворота битов, и в некоторых случаях это действительно работало бы лучше.
Но что интересно, для задач, возникающих в области машинного обучения, квантовая сеть, похоже, быстрее достигает оптимума.
Аппарат D-Wave также имеет свои недостатки.
Он чрезвычайно чувствителен к шуму и в своей текущей версии может выполнять лишь множество типов операций.
Но алгоритмы машинного обучения по своей природе устойчивы к шуму.
Они полезны именно потому, что могут различить смысл в неопрятной реальности, отделяя котят от щенков, несмотря на отвлекающие факторы.
«Нейронные сети известны своей устойчивостью к шуму», — сказал Берман.
В 2009 году коллектив под руководством Хартмут Нивен , ученый-компьютерщик Google и пионер дополненной реальности (он был соучредителем проекта Google Glass), который занялся областью квантовой обработки информации, показал, как ранний прототип машины от D-Wave может выполнять вполне реальную задачу машинного обучения.
Они использовали машину как однослойную нейронную сеть, сортируя изображения на два класса: «автомобиль» и «неавтомобиль» в библиотеке из 20 000 фотографий, сделанных на улицах.
В машине было всего 52 рабочих кубита, чего недостаточно для полного ввода изображения.
Поэтому команда Нивена объединила машину с классическим компьютером, который анализировал различные статистические параметры изображений и рассчитывал, насколько чувствительны эти значения к присутствию автомобиля на фотографии — обычно они не были особенно чувствительными, но, по крайней мере, отличались от случайных.
.
Некоторая комбинация этих значений могла достоверно определить наличие автомобиля, вот только не было очевидно, какая именно комбинация.
А за определение необходимой комбинации отвечала нейросеть.
Команда присвоила каждому значению кубит. Если кубиту было присвоено значение 1, соответствующее значение отмечалось как полезное; 0 означало, что это не нужно.
Магнитные взаимодействия кубитов кодируют требования этой задачи — например, необходимость учитывать только наиболее сильно различающиеся величины, чтобы окончательный выбор был максимально компактным.
Получившаяся система смогла распознать автомобиль.
В прошлом году группа под руководством Марии Спиропулу, физика элементарных частиц из Калифорнийского технологического института, и Дэниела Лидара, физика из Университета Южной Калифорнии, использовала алгоритм для решения практической физической задачи: классификации столкновений протонов на хиггсовские и нехиггсовские категории.
Хиггс».
Ограничивая свои оценки только столкновениями, в результате которых рождаются фотоны, они использовали базовую теорию частиц, чтобы предсказать, какие свойства фотона будут указывать на короткоживущую частицу Хиггса - например, импульс выше определенного порога.
Они рассмотрели восемь таких свойств и 28 комбинаций из них, что в общей сложности дает 36 сигналов-кандидатов и позволяет чипу D-Wave найти оптимальную выборку.
Он определил 16 переменных как полезные и три как лучшие: «Учитывая небольшой размер обучающего набора, квантовый подход. обеспечило преимущество в точности по сравнению с традиционными методами, используемыми в сообществе физиков высоких энергий», — сказал Лидар.
Мария Спиропулу, физик из Калифорнийского технологического института, использовала машинное обучение для поиска бозонов Хиггса.
В декабре Ригетти продемонстрировал способ автоматической группировки объектов с помощью универсального 19-кубитного квантового компьютера.
Исследователи предоставили машине список городов и расстояний между ними и попросили ее разделить города на два географических региона.
Сложность этой задачи в том, что распределение одного города зависит от распределения всех остальных, поэтому нужно искать решение для всей системы сразу.
По сути, команда компании присвоила каждому городу кубит и отметила, к какой группе он отнесен.
За счет взаимодействия кубитов (в системе Ригетти оно не магнитное, а электрическое) каждая пара кубитов стремилась принять противоположные значения, поскольку в этом случае их энергия была минимизирована.
Очевидно, что в любой системе, содержащей более двух кубитов, некоторые пары должны будут принадлежать к одной группе.
Ближайшие города охотнее соглашались на это, поскольку для них энергетическая стоимость принадлежности к одной группе была ниже, чем в случае с удаленными городами.
Чтобы довести систему до минимально возможного уровня энергии, команда Ригетти применила подход, несколько похожий на подход D-Wave. Они инициализировали кубиты суперпозицией всех возможных групповых распределений.
Они позволили кубитам ненадолго взаимодействовать друг с другом, и это склонило их к принятию определенных значений.
Затем они применили аналог к горизонтальному магнитному полю, которое позволяло кубитам менять ориентацию, если они были склонны к этому, слегка подталкивая систему к состоянию с самой низкой энергией.
Затем они повторили этот двухэтапный процесс – взаимодействие и переключение – до тех пор, пока система не свела к минимуму потребление энергии, распределив города на два разных региона.
Подобные задачи классификации, хотя и полезны, но довольно просты.
Настоящие прорывы в области машинного обучения происходят благодаря генеративным моделям, которые не просто распознают щенков и котят, но и могут создавать новые архетипы — животных, которых никогда не существовало, но которые настолько же милы, насколько и реальны.
Они даже способны самостоятельно определить такие категории, как «котята» или «щенки», или реконструировать изображение, у которого отсутствует лапа или хвост. "Эти технологии способны на многое и очень полезны в Минобороны, но их очень сложно внедрить", - сказал он.
Мохаммед Амин , главный научный сотрудник D-Wave. Здесь пригодилась бы помощь квантовых компьютеров.
D-Wave и другие исследовательские группы взялись за эту задачу.
Обучение такой модели означает настройку магнитных или электрических взаимодействий кубитов, чтобы сеть могла воспроизводить некоторые тестовые данные.
Для этого вам необходимо объединить сеть с обычным компьютером.
Сеть выполняет сложную работу — определяет, что означает данный набор взаимодействий с точки зрения окончательной конфигурации сети, — а равноправный компьютер использует эту информацию для корректировки взаимодействий.
На одной демонстрации в прошлом году Алехандро Пердомо-Ортис , исследователь из Лаборатории квантового искусственного интеллекта НАСА, и его команда предоставили D-Wave систему изображений, состоящую из рукописных цифр.
Она определила, что всего существует десять категорий, сопоставила числа от 0 до 9 и создала свои собственные рисунки с числами.
Узкие места, ведущие к туннелям
Это все хорошие новости.Плохая новость заключается в том, что не имеет значения, насколько хорош ваш процессор, если вы не можете предоставить ему данные для выполнения своей работы.
В алгоритмах матричной алгебры одна операция может обрабатывать матрицу из 16 чисел, но для загрузки матрицы все равно требуется 16 операций.
«Проблема подготовки состояния — перевода классических данных в квантовое состояние — избегается, и я думаю, что это одна из самых важных частей», — сказала Мария Шульд, исследователь стартапа квантовых вычислений Xanadu и один из первых ученых, заработавших степень в области QMO. Физически распределенные системы машинного обучения сталкиваются с параллельными проблемами: как внедрить задачу в сеть кубитов и заставить кубиты взаимодействовать по желанию.
Как только вы сможете вводить данные, вам необходимо сохранить их таким образом, чтобы квантовая система могла взаимодействовать с ними, не прерывая текущие вычисления.
Ллойд и его коллеги предложили квантовую память с использованием фотонов, но ни у кого пока нет аналогового устройства для сверхпроводящих кубитов или захваченных ионов — технологий, используемых в ведущих квантовых компьютерах.
«Это еще одна огромная техническая проблема помимо проблемы создания самого квантового компьютера», — сказал Ааронсон.
– При общении с экспериментаторами у меня создается впечатление, что они напуганы.
Они понятия не имеют, как подойти к созданию этой системы».
И наконец, как отобразить данные? Это означает измерение квантового состояния машины, но это измерение не только возвращает по одному числу, выбранному случайным образом, но также разрушает все состояние компьютера, стирая остальные данные, прежде чем вы сможете их заявить.
.
Вам придется запускать алгоритм снова и снова, чтобы извлечь всю информацию.
Но еще не все потеряно.
Для некоторых типов задач можно использовать квантовую интерференцию.
Можно контролировать ход операций так, чтобы неправильные ответы нейтрализовали друг друга, а правильные подкрепляли себя; таким образом, когда вы измеряете квантовое состояние, вам будет возвращена не просто случайная величина, а искомый ответ. Но только некоторые алгоритмы, такие как перебор методом перебора, могут воспользоваться помехами, и ускорение обычно невелико.
В некоторых случаях исследователи обнаружили обходные пути ввода и вывода данных.
В 2015 году Ллойд, Сильвано Гарнероне из Университета Ватерлоо в Канаде и Паоло Дзанарди из Университета Южной Калифорнии показали, что при некоторых видах статистического анализа нет необходимости вводить или хранить весь набор данных.
Аналогично, вам не нужно читать все данные, если достаточно нескольких значений ключей.
Например, технологические компании используют МО, чтобы давать рекомендации по телешоу для просмотра или продуктам для покупки на основе огромной матрицы человеческих привычек.
«Если вы делаете подобную систему для Netflix или Amazon, вам нужна не сама матрица, где-то написанная, а рекомендации для пользователей», — говорит Ааронсон.
Все это вызывает вопрос: если квантовая машина показывает свои возможности в особых случаях, может быть, и классическая машина сможет хорошо работать и в этих случаях? Это главный нерешенный вопрос в этой области.
Ведь обычные компьютеры тоже могут многое.
Обычный метод обработки больших наборов данных — случайная выборка — на самом деле по духу очень похож на квантовый компьютер, который, что бы ни происходило внутри него, в конечном итоге выдаёт случайный результат. Шульд отмечает: «Я реализовал множество алгоритмов, на которые отреагировал типа: «Это так круто, это такое ускорение», а затем, просто ради развлечения, я написал технологию выборки для классического компьютера и понял, что то же самое этого можно было бы достичь с помощью выборки».
Ни один из успехов КМО, достигнутых на сегодняшний день, не является незамеченным.
Давайте возьмем аппарат D-Wave. При классификации изображений автомобилей и частиц Хиггса он был не быстрее классического компьютера.
«Одна из вещей, которые мы не обсуждаем в нашей работе, — это квантовое ускорение», — сказал Алекс Мотт, ученый-компьютерщик из проекта Google DeepMind, который работал в команде, изучавшей частицу Хиггса.
Подходы матричной алгебры, такие как алгоритм Харроу-Хассидими-Ллойда, показывают ускорение только тогда, когда разреженные матрицы – почти полностью заполнено нулями.
«Но никто не задается вопросом: интересны ли разреженные данные для машинного обученияЭ» – отметил Шульд.
Квантовый интеллект
С другой стороны, даже редкие улучшения существующих технологий могут понравиться технологическим компаниям.«Полученные улучшения скромны, не экспоненциальны, а, по крайней мере, квадратичны», — говорит Натан Вейеб , исследователь квантовых вычислений в Microsoft Research. «Если мы возьмем достаточно большой и быстрый квантовый компьютер, мы сможем произвести революцию во многих областях машинного обучения».
И в процессе использования этих систем ученые-компьютерщики, возможно, смогут решить теоретическую загадку: являются ли они по определению быстрее и каким образом.
Шульд также считает, что в области программного обеспечения есть место для инноваций.
ML — это не просто набор вычислений.
Это набор задач, имеющий свою особую, определенную структуру.
«Алгоритмы, которые создают люди, отличаются от того, что делает ML интересным и красивым», — сказала она.
– Поэтому я начал работать с другого конца и подумал: если у меня уже есть квантовый компьютер – небольшой – какую модель машинного обучения можно на нем реализовать? Возможно, эта модель еще не изобретена».
Если физики хотят произвести впечатление на экспертов по машинному обучению, им придется сделать больше, чем просто создать квантовые версии существующих моделей.
Подобно тому, как многие нейробиологи пришли к выводу, что структура мыслей человека отражает потребности тела, так и системы МО материализуются.
Изображения, язык и большая часть данных, проходящих через них, происходят из реального мира и отражают его свойства.
КМО также материализуется – но в более богатом мире, чем наш.
Одна из областей, в которой он, несомненно, проявит себя, — это квантовая обработка данных.
Если эти данные не изображение, а результат физического или химического эксперимента, одним из его элементов станет квантовая машина.
Проблема ввода исчезает, и классические компьютеры остаются далеко позади.
Как будто в порочном круге, первые директора по маркетингу могут помочь развитию своих преемников.
«Один из способов, которым мы действительно можем захотеть использовать эти системы, — это создание самих квантовых компьютеров», — сказал Вейбе.
«Для некоторых процедур устранения ошибок это единственный подход, который у нас есть».
Возможно, они даже смогут исправить наши ошибки.
Не вдаваясь в вопрос о том, является ли человеческий мозг квантовым компьютером (а это очень спорная тема), иногда он действительно ведет себя именно так.
Человеческое поведение чрезвычайно контекстуально; наши предпочтения формируются посредством представленного нам выбора и не подчиняются логике.
В этом мы похожи на квантовые частицы.
«То, как вы задаете вопросы и в каком порядке, имеет значение, и это типично для наборов квантовых данных», — сказал Пердомо-Ортис.
Таким образом, система КМО может быть естественным методом изучения когнитивных искажений человеческого мышления.
У нейронных сетей и квантовых процессоров есть кое-что общее: удивительно, что они вообще работают. Возможность обучения нейронной сети никогда не была очевидна, и на протяжении десятилетий большинство людей сомневалось, что это вообще возможно.
Точно так же не очевидно, что квантовые компьютеры когда-либо будут адаптированы к вычислениям, поскольку отличительные черты квантовой физики так хорошо скрыты от всех нас.
И все же они оба работают — не всегда, но чаще, чем мы могли бы ожидать.
И учитывая это, вполне вероятно, что их союз найдет место под солнцем.
Теги: #Квантовые технологии #искусственный интеллект #квантовые компьютеры #кубиты
-
Linux И Wysiwyg
19 Oct, 24 -
Graphql — Новый Взгляд На Api. Часть 1
19 Oct, 24 -
5 Идей Для Игровой Аналитики
19 Oct, 24 -
Как Мы Писали Антикликовую Систему
19 Oct, 24
