В настоящее время публичные мероприятия практически не проводятся, но мы надеемся, что ситуация скоро изменится (и мы прилагаем к этому усилия).
Мы ожидаем, что перенесенные мероприятия пройдут на другие даты, а будущие не будут отменены, так как необходимости их отмены не будет. В том числе десятки крупных конференций по машинному обучению, которые пройдут в 2020 году.
NeurIPS (ранее NIPS) считается самым престижным из них.
Ежегодно NeurIPS объединяет тысячи исследователей и инженеров, которые представляют свои научные результаты в различных областях МО: глубокое обучение, обучение с подкреплением, масштабируемая оптимизация, байесовские методы и многое другое.
По итогам NeurIPS, прошедшего несколько месяцев назад в Ванкувере, мы провели дискуссию, на которую пригласили экспертов из научного и IT-мира.
Каждый из них интересуется разными вещами в области машинного обучения, и опыт посещения NeurIPS тоже разный.
Ниже приводится краткое изложение тех частей дискуссии, которые касаются причин посетить конференцию.
Участники
Дмитрий Ветров .Кандидат физико-математических наук, профессор-исследователь факультета компьютерных наук ВШ?, заведующий лабораторией Samsung в ВШ? и преподаватель ШАД.
Автор более 130 научных работ. Дима неоднократно представлял публикации на топовых конференциях по ML, в том числе NeurIPS. С 2011 года я был на конференции пять раз: как спикер и как участник.
Михаил Бурцев .
Кандидат физико-математических наук, заведующий лабораторией нейронных систем и глубокого обучения МФТИ.
Соавтор более 20 научных работ. С 2017 года проводит соревнования по диалоговым системам в NeurIPS и интересуется всем, что связано с диалоговым искусственным интеллектом.
Сергей Колесников Сцитатор .
Руководитель R&D в Тинькофф, руководитель проектов в Catalyst, научный сотрудник в Яндексе и МФТИ.
Последние пять лет он занимался DL и RL. Впервые я посетил NeurIPS в 2019 году.
Михаил Биленко .
Руководитель отдела машинного интеллекта и исследований Яндекса, ранее работал в Microsoft. Область интересов: распределенное обучение.
Участвовал в NeurIPS с 2005 года, пропустил всего три раза.
Константин Лахман клахман .
Руководитель отдела компьютерного зрения и ML-приложений Яндекс.
Интересуюсь CV и НЛП.
Он ходит в NeurIPS каждый год, начиная с 2014 года.
Алексей Натекин натекин .
Создатель и диктатор Наука открытых данных (ODS) — крупнейшее онлайн-сообщество дата-сайентистов в СНГ.
Областями интересов в ML являются мета-обучение, федеративное обучение, трансферное обучение и все, что связано с автоматическим ML. Впервые я побывал на NeurIPS в 2016 году, дважды был участником и дважды помогал в организации соревнований.
Отдых с математической и инженерной нагрузкой
Почему вы используете NeurIPS? Сергей Колесников : Я продвигаю RL последние три года, и это одна из причин, почему я хотел туда попасть.Я выигрывал соревнования, меня приглашали, но визу в Канаду за месяц получить сложно.
И в 2019 году мне наконец-то дошли руки: у меня еще была виза предыдущего НейрИПС, на получение которой ушло полгода.
Это история успеха и трёх пропущенных виз.
Михаил Биленко : Там я нахожу статьи и людей, которых иначе не нашел бы, и общаюсь с коллегами.
В 2016 году я пришел в NeurlPS не по работе, и тогда мы познакомились с Костей Лахманом.
Конференция представляет собой отличный инженерно-научный туризм: релаксационный, но с математической и инженерной нагрузкой.
Позволяет не набирать вес, улучшать фигуру и быть в тонусе.
Вам не придется отвлекаться на рабочие задачи – вы просто получите чистое интеллектуальное удовольствие.
Дмитрий Ветров : Когда я был моложе и умнее, я путешествовал, чтобы изучить новые тенденции и новые методы машинного обучения.
Спустя десять лет стало казаться, что доклады уже не такие крутые, и скоро я не смогу узнать для себя ничего ценного.
Но каждый раз я всё равно уношу с конференции много интересного — того, что не прочитаешь на arXiv. Михаил Бурцев : Я присоединяюсь к Диме.
С одной стороны, кажется странным прийти и послушать то, о чем давно читаешь.
С другой стороны, конференция помогает привлечь внимание к работам, которые вы, возможно, не заметили.
Общаясь с другими людьми, вы сможете совершенно по-новому взглянуть на свою работу, увидеть то, чего раньше не видели самостоятельно.
И в отличие от статей, здесь люди еще и обсуждают, что они сейчас делают или планируют делать.
Это помогает корректировать ход работы и не допускать ошибок.
Вы можете внезапно обнаружить, что вам не нужно делать то, что вы планировали.
Константин Лахман : Помимо нетворкинга, есть еще один важный момент – конференция помогает проверить, в какую сторону дует ветер.
Когда NIPS был немного меньше, направление ветра было более ясным.
Сначала ветер дул в паруса сетей GAN, потом в паруса NLP, потом в RL. Сейчас иногда кажется, что ветер дует во все паруса одновременно, но не так сильно.
Однако полезно сравнивать себя с тем, что происходит в мире в вашей сфере.
Не обязательно совпадать, но сравнить интересно.
Современная наука устроена таким образом, что отрицательные результаты не публикуются.
К сожалению, публикуются только положительные.
Подобные конференции — отличный способ выяснить, что не сработало и почему.
Алексей Натекин : В помещении средняя температура: о чем говорят на самой конференции и о чем говорят в кулуарах на after-party. Разговоры за кулисами, пожалуй, интереснее, чем в зале.
Что-то по-настоящему новое можно найти в основном на мастер-классах, ведь заявки на участие в них подаются за месяц, а заявки на участие в самой конференции — за полгода.
Из года в год конференция разрастается и немного меняется, но ничего принципиально нового не добавляется.
Вам не кажется, что научной новизны стало меньше? Дмитрий Ветров : Цитируя аксиому Коула: «Количество разума на планете постоянно, но население постоянно растет».
Мне кажется, научная новизна на конференции – это тоже постоянная ценность, и конференций становится все больше.
Поэтому, на мой взгляд, средний уровень отчетов по NeurIPS падает. Михаил Биленко : Дима правильно сказал, но для меня всегда важно вынести что-то полезное из того процента материала, который все же остается интересным.
Закон Стерджена гласит, что 90% всего — полная ерунда.
Я сосредотачиваюсь на оставшихся десяти.
А в количественном отношении ерунда больше, согласен.
Константин Лахман : Кстати, мне кажется, что с NeurlPS происходит не так, как со всеми конференциями.
В силу административных рамок он пытается быть заповедником, где искусственно поддерживается минимально необходимая численность населения всех территорий.
CV-конференции устроены по-разному: нет статей на определенную тему — хорошо, много статей на другую тему — тоже хорошо.
Михаил Биленко : Я был в программном комитете NeurIPS несколько лет, и тем не менее распределение направлений на самом деле довольно органичное.
Давайте не будем заниматься теориями заговора.
Академия и ИТ-компании
Насколько заметна проблема NeurlPS, заключающаяся в том, что модели необходимо обучать на множестве графических процессоров, и это могут делать компании, а не академические круги? Михаил Биленко : Последние несколько лет организаторы проводят открытые встречи.На нем учёные говорят, что товарищи из крупных ИТ-компаний пишут статьи только потому, что у них крутое железо и они могут проводить гигантские эксперименты.
Наши ресурсы действительно не равны.
Это предъявляет высокие требования к воспроизводимости результатов.
Вопрос к учёным.
Как вы относитесь к тому, что на конференцию приходит много людей из индустрии, слушают доклады, общаются, но сами ничего нового не привносят? Дмитрий Ветров : Я испытываю огромный кайф, когда могу рассказать о том, что я сделал, множеству людей, будь то ученые или люди из промышленности.
Главное, что моя работа нравится им так же, как и ученым.
Михаил Бурцев : Для меня также не имеет значения, кто из промышленности, а кто из ученых, тем более, что сейчас многие ученые перешли в промышленность, и все перепуталось.
Важно, чтобы с человеком было интересно общаться.
В этом плане мне больше нравятся мастер-классы — там ограничен круг людей и больше возможностей для общения.
Всегда существует некоторый разрыв между тем, что делает наука, и тем, что идет в производство.
Насколько доклады, представленные на конференции, близки к тому, что можно быстро внедрить в производство? Константин Лахман : Неверно так говорить о NeurIPS, потому что изначально на нем нет практически ничего, что можно было бы сразу применить в производстве.
Бюджет конференции состоит из взносов спонсоров и участников.
Большинство участников – представители отрасли.
Оказывается, за научную конференцию платят ИТ-компании.
И тут возникает интересный вопрос – должно ли научное сообщество это как-то учитывать? Его работа в значительной степени оплачивается промышленностью.
Может быть, ему тоже нужно чем-то помочь отрасли? NeurlPS – это поиск вдохновения и понимание того, в каком направлении движется машинное обучение.
Сергей Колесников : Да, NeurIPS интересен именно тем, что за неделю ты успеваешь пообщаться с большим количеством людей, можешь погрузиться в различные промышленные и академические кейсы, получить широкий взгляд на все происходящее.
Все идеи оттуда можно положить в черный ящик и потом периодически открывать.
А на следующей конференции проверим, что сработало, а что нет. Божественно в этом плане.
Лучшие конференции по ML
Если бы у вас была возможность посещать только две конференции в год, какую бы вы выбрали? Алексей Натекин : Дата Фест и Дата Фест в Минске! Константин Лахман : НейрИПС и ЦВПР.Михаил Бурцев : НейрИПС и НЛП.
Михаил Биленко : ICML и NeurlPS. Сергей Колесников : NeurlPS и Data Fest. Дмитрий Ветров : ICML и NeurlPS. Давайте их поменяем местами, когда на NeurlPS не будет пробок! видео Теги: #Машинное обучение #Исследования и прогнозы в ИТ #Конференции #учёные #научные публикации #исследователи #идеи и реализация #плакаты
-
В Webmoney Одна Из Худших Техподдержек
19 Oct, 24 -
Проект «Энциклопедия Жизни»
19 Oct, 24
