Книга "Информация, кодирование и предсказание" представляет собой учебник и монографию по теории информации. Она состоит из двух независимых частей, написанных на основе лекций, читаемых в Школе анализа данных Яндекса.
Первая часть, написанная Е. В. Щепиным, рассматривает понятия теории информации как базу для решения задач машинного обучения, в частности задач построения классификатора по эмпирическим данным. Особое внимание уделяется изучению случаев многомерных ограниченных данных, когда прямые методы оценки функций распределения вероятностей неприменимы. В книге изложены практические методы решения этих вопросов.
Вторая часть, написанная Н. К. Верещагиным, исследует задачи поиска на базе понятия информации по Хартли. Описываются различные применения теории
Книга, автор которой занимает место Н.К. Верещагина, представляет из себя одно из лучших произведений по самой актуальной на сегодняшний день теме: "информация", "кодирование" и "предсказание".
В ней можно найти нечто полезное и ценное занимающимся в различных областях данных направлений, например, в машинном обучении, анализе данных и других. Вопреки названию, книга содержит достаточно разноплановый материал: учебник, включающий множество теоретических понятий и их обсуждение, оригинальную монографию,которая написана на основе лекций Яндекс.Школа анализа данных и предлагает изучение вероятностей многомерных данных, а так же рассматривает поиск информации Дж.Хартли и некоторые другие вопросы. Внимание уделяется также рассмотрению концепций классической теории чисел Шеннона, позволяющих изучать кодирование информации, ее оценки и прогнозирования данных, кодированию неопределенности, теории Колмогорова.
Электронная Книга «Информация, кодирование и предсказание» написана автором Н. К. Верещагин в 2012 году.
Минимальный возраст читателя: 0
Язык: Русский
ISBN: 978-5-94057-920-5
Описание книги от Н. К. Верещагин
Предлагаемая книга – это одновременно учебник и оригинальная монография по теории информации. Две независимые друг от друга части, составляющие книгу, написаны авторами на основе собственных лекций, читающихся в Школе анализа данных Яндекса. Автор первой части, Е. В. Щепин, рассматривает понятия теории информации как базу для решения задач машинного обучения, и прежде всего – задач построения классификатора по эмпирическим данным. Специальное внимание автор уделяет изучению случаев многомерных ограниченных данных, когда прямые методы оценки функций распределения вероятностей неприменимы. Обсуждение этих вопросов редко встречается в работах по теории информации. В предлагаемой книге изложение доведено до описания практических методов. Во второй части, написанной Н. К. Верещагиным, исследуются задачи о поиске на базе понятия информации по Хартли. В этой части описаны различные применения теории колмогоровской сложности (сложности описаний), даны основы логики знаний и теории коммуникационной сложности. К теоретическому материалу прилагается множество задач для самостоятельного решения. В обеих частях отводится много места основам классической теории информации Шеннона и её применению к кодированию информации. В первой части это изложение ведется с позиций конструирования алгоритмов решения проблем, во второй части большое внимание уделено концептуальным аспектам классической теории Шеннона. Книга завершается дополнением, взятым из выдающейся книги М.М. Бонгарда «Проблема узнавания» (1967), где с позиций теории информации изучается вопрос об оценке степени истинности описания. Эта важная тема, непосредственно примыкающая к рассматриваемым в книге проблемам, служит подтверждением перспективности теории информации для развития новых методов анализа данных.
