Apache Ignite 2.0 — Машинное Обучение, Новая Модель Хранения Данных, Ddl

В мае вышла новая основная версия.

Апач Игнит — это распределенная платформа, оптимизированная для памяти, которая сочетает в себе хранилище ключей и базу данных, совместимую с SQL99, обеспечивая полное соответствие ACID, высокую доступность и почти линейное масштабирование от нескольких узлов до тысяч, которые можно разместить на вашем собственном оборудовании или в облаке.

.

Ядро Apache Ignite написано на Java, но платформа, помимо экосистемы Java, поддерживает встроенную интеграцию с приложениями на .

СЕТЬ И С++ .

Apache Ignite эластично масштабируется в пределах одного или нескольких географически распределенных кластеров, обеспечивая гибко настраиваемое сегментирование и автоматическую ребалансировку при динамическом добавлении или удалении узлов, обеспечивая прозрачный и быстрый доступ к данным и вычислениям с использованием собственного API или классического SQL. В версии 2.0 многие вещи «под капотом» были существенно переработаны, в результате чего появилась возможность реализации ряда существенных функциональных изменений, некоторые из которых заметны уже сейчас, а некоторые появятся в следующих версиях.

Забегая вперед, мы проведем 2 мероприятия, связанных с Apache Ignite, подробнее о них вы можете прочитать в конце статьи.



Apache Ignite 2.0 — машинное обучение, новая модель хранения данных, DDL



Новая архитектура хранения

Apache Ignite по умолчанию работает с оперативной памятью, хранит в ней данные в распределенном виде и выполняет там вычисления.

Одним из ключевых нововведений версии 2.0 является полностью переработанная архитектура памяти под названием Page Memory. И это очень важно.

Новый подход к хранению данных гораздо сложнее и продуманнее старого, позволяет избежать проблем с фрагментацией памяти, существенно ускоряет работу с SQL и минимизирует влияние пауз GC на функционирование системы.

Более того, новая архитектура обеспечивает бесперебойную работу как оперативной памяти, так и диска.

Эта функция пока недоступна в версии 2.0, но вскоре вы сможете узнать больше о наших планах по развитию в этой области.

Новую архитектуру в общих чертах можно увидеть на рисунке ниже, а также на специальный раздел документации .



Apache Ignite 2.0 — машинное обучение, новая модель хранения данных, DDL



Машинное обучение

Цель Apache Ignite — построить платформу, включающую в себя множество тесно интегрированных модулей, а не только распределенное хранилище Data Grid, с помощью которой разработчики смогут решать задачи разной степени сложности, от очень легких (хочу быстрый распределенный кеш) до очень тяжелых.

(Я хочу, чтобы распределенные HTAP-вычисления в реальном времени работали с большими данными, которые хранятся в центрах обработки данных в разных частях Земли, и я хотел бы интегрироваться с Cassandra, Spark, Hadoop и т. д.).

К сожалению, в Apache Ignite отсутствовала связка компонентов для одной из самых горячих областей современных ИТ — машинного обучения.

До этого момента.

В Apache Ignite 2.0 добавлена поддержка базовая алгебра машинного обучения , адаптированный для распределенных вычислений.

Мы понимаем, что сейчас предлагаем инструменты очень низкого уровня, и не собираемся останавливаться на достигнутом.

В будущих версиях эта базовая алгебра станет основой, на которой мы будем строить распределенные реализации основных алгоритмов машинного обучения: регрессий, деревьев классификации и т. д. А пока вы можете проверить примеры на GitHub и попробуйте пощупать руками текущий продукт.

Язык определения данных

В этом выпуске Apache Ignite добавляет в DML начальную поддержку DDL. Теперь вы можете создавать и, что немаловажно, изменять индексы, не прерывая работу узлов кластера, используя классический синтаксис SQL. Это одна из самых ожидаемых функций, которую очень просили наши пользователи.

И это только начало! В последующих выпусках будет появляться все больше и больше DDL-операций, включая CREATE TABLE, ALTER TABLE и т. д. Подробнее о текущих возможностях можно узнать здесь.

читайте в документации .



Также среди изменений



Вебинар и встреча

В честь выхода Apache Ignite 2.0 мы планируем провести 2 мероприятия: — вебинар 7 июня , где расскажут о нововведениях версии 2.0 на английском языке — Ignition.meetup(), которая пройдет в Москве в ближайшее время (будет анонсировано отдельно), где вы сможете обменяться опытом на русском языке, задать вопросы и послушать реальные кейсы построения решений на платформе Теги: #apache ignite #распределенные вычисления #сетка данных #вычислительная сетка #релизы #java #.

NET #Большие данные #Машинное обучение

Вместе с данным постом часто просматривают:

Автор Статьи


Зарегистрирован: 2019-12-10 15:07:06
Баллов опыта: 0
Всего постов на сайте: 0
Всего комментарий на сайте: 0
Dima Manisha

Dima Manisha

Эксперт Wmlog. Профессиональный веб-мастер, SEO-специалист, дизайнер, маркетолог и интернет-предприниматель.