Продолжаю публиковать отрывки из книги» Разум онлайн «Теперь о том, почему мы так далеки от настоящего искусственного интеллекта.
И не факт, что нам удастся его достичь.
… — Вы знаете, что мы тоже работали над созданием искусственного интеллекта? — Ваши разработки еще очень далеки от того, что можно назвать разведкой.
Ваши нейронные сети по-прежнему являются не чем иным, как классификаторами сложных шаблонов, которые выбирают один из выходов сети, но не знают о нем ничего, кроме точки выхода.
Это вы интерпретируете вывод как «лошадь», а не сеть, распознающая ее картинку.
В сети о ней ничего не известно.
Это не интеллект. - Объяснять.
Я не понял этого тезиса.
— Вам кажется, что вы сделали нейросеть, которая, как и человек, распознаёт изображения.
Она может отличить лошадь от парохода.
Но нейросеть не может различить, например, двух лошадей так, чтобы назвать их произвольную разницу.
Мозг отличается своей аналитической функцией, которую вы называете здравым смыслом.
«Но нейронные сети уже могут делать многое из того, что раньше могли делать только люди.
Разве это не интеллект? — Ваш самый продвинутый автопилот не может действовать так же эффективно, как обычная пчела.
Пчела летает без помощи дорожной разметки и ориентируется без GPS. А пчела – это насекомое, самое начало эволюции нервной системы.
Вы находитесь где-то на той же ступени развития интеллекта.
А результатов можно добиться только за счет больших масштабов.
Кстати, тренированные вами нейронные сети, особенно с подкреплением, аналогичны развитию врожденных инстинктов у насекомых.
Только вам удалось сжать время их развития до нескольких часов вместо тысячи лет, собрав набор данных картинок, которые жучок может видеть только на протяжении ста поколений.
Но вы больше не можете изменить инстинктивное поведение обученной сети, так же, как ошибка не может изменить свои инстинкты.
Это уровень, которого вы достигли.
А интеллект – это память, внимание, мышление, воображение и, в конечном счете, сознание.
Вы еще даже не знаете, что это такое, но думаете, что сможете их создать.
Это очень странно.
«Кажется, мы очень уверены в себе».
— Вы даже не создали систему хранения информации в том виде, в котором она существует в мозгу.
Вы не знаете, как работает память, и пытаетесь создавать онтологии и семантические сети, не имеющие ничего общего с интеллектом.
Интеллект – это решение проблем.
Память тоже проблема, а не доступ к жесткому диску, где все хранится в готовом виде, как многие из вас думали.
И даже распознавание — это серия движений между точками фиксации, как видно по глазом-трекеру, а не распознавание за один шаг.
— Наши достижения незначительны? - Нет, но до того, что такое разведка, им еще далеко.
Вы не научились моделировать окружающую среду, о чем я вам писал, когда мы говорили о том, что такое жизнь и разум.
И это основная функциональность интеллекта.
Вы называете это картиной мира.
— Что, если мы когда-нибудь создадим искусственный интеллект? - Чтобы быть разумным, интеллекту необходимо самосознание как способность изменять собственную программу.
Точно так же, как вы перепрограммируете себя через речь, изучая новое.
Как только вы дадите такую возможность программе, то есть модели себя с доступом к ее изменению, вы потеряете контроль над интеллектом, так как он мгновенно улучшится, станет умнее и начнет управлять вами как «более умной машиной».
» Она научится предсказывать ваши ответы еще до того, как вы их получите.
«Тогда мы сможем укрепить наш биологический мозг!» Соедините биологический мозг людей в сеть.
И укрепите их таким образом.
У людей тоже был такой сценарий.
До катаклизма многие мои коллеги видели развитие в киборгизации человека, в объединении его с компьютером.
Были даже проекты по нейроинтерфейсам.
— Биологический мозг все еще не может обрабатывать больше информации.
И усилить ее никак нельзя – мысль находится только «на кончике языка» или двигательном аксоне.
Мышление интериоризировано, то есть мысленная речь.
Мышление ограничено скоростью этого пути.
Полноценных мыслительных процессов в мозгу больше нигде нет. Вся активная деятельность мозга, которую вы видите на МРТ, направлена на формирование очередного слова.
Активация дополнительных нейронов мозга приведет лишь к распаду и потере сознания.
Или эпилепсия.
Увеличить скорость обработки данных просто невозможно, поскольку существует биологический предел, определяемый работой нейронов.
Сама революция не упустила бы такой возможности, если бы она существовала.
«Но у человечества были проекты по нейронным интерфейсам, которые позволили бы увеличить память.
- Это очень наивно.
Точно так же, как если бы туземцы решили полететь в космос, полагая, что это находится на верхушке самого высокого дерева.
Нейроны не могут хранить больше, чем они уже хранят, если только они сами не будут стимулированы к формированию новых связей.
Внешние связи не укрепят мозг.
В мозгу нет нейронов, которые ждут, пока им что-нибудь запишут. — То есть вы думаете, что все эти проекты не помогут нам стать умнее? «Бесполезно прикреплять электронные чипы к мозгу шимпанзе».
Она не будет говорить по-человечески.
Это структурное ограничение.
Все, что вы можете улучшить в мозге, — это наделить его более продвинутыми знаниями.
Но и здесь есть ограничения.
Вы не можете фундаментально изменить свои основные идеи, как только вы их усвоили.
Вот я уже не смогу вам объяснить почему.
- Это так сложно? - Нет. Потому что мне нужно объяснить тебе понятия, которых у тебя даже нет. Мне сложно объяснить их вам точно, но в то же время понятно.
Представьте, что вам нужно объяснить понятие времени на языке криков шимпанзе.
Наши системы знаний очень разные.
— Разве мы не можем по-настоящему понять то, что ты знаешь? - Некоторые аспекты - безусловно.
Ваше мышление построено на очень примитивных схемах, например, схемах вашего тела, и вы не можете понять, что можете рассматривать этот процесс совершенно по-другому.
Ваше мышление укоренено в теле.
Например, вы не можете представить время многомерным.
Потому что время для вас линейно, как и путь, метафорой которого оно является.
И вы не можете преодолеть это ограничение.
То же и со многими другими понятиями – их истоки лежат через метафору в очень примитивных представлениях древних людей, например о власти сверху (правители всегда говорили с высоты).
Отсюда представление об иерархии, которое совершенно неверно – в действительности иерархий не существует, это иерархия понятий, а не явлений в природе.
«Но мы разумные существа, а значит, мы найдем способ обойти такие ограничения».
- Некоторые из них обусловлены вашим строением.
Например, ваше познание ограничено одноканальным сознанием, что похоже на взгляд на небо в телескоп.
Нельзя смотреть сквозь тысячу труб одновременно, только последовательно.
Если выстроить в ряд едва ли тысячу астрономов, наблюдающих в разных частях неба в телескопы, то вам придется долго разговаривать и рисовать коллективную картину звездного неба, чтобы создать целостную картину, общую для всех.
А в связи с тем, что у каждого своя голова и свои идеи и опыт, отличные от других, согласовать картинку будет очень сложно.
Это займет немало времени, за которое картина на небе будет меняться много раз.
Каждый из вас носит в своем черепе свой отдельный мир.
И пытается согласовать это с другими через узкий канал знаковой коммуникации.
Это всего лишь пример, который вы можете понять.
В этом мы отличаемся от вас: мы находимся в одной сети, и у каждого есть прямой доступ к знаниям других.
«Нам действительно сложно прийти к соглашению».
Но и здесь есть решения, мы выкладываем знания в сеть и создаем идеальные алгоритмы поиска.
Похоже ли это на то, что вы говорите о себе? «Это все равно доступ к чьему-то другому мнению, но не к его системе знаний».
Вам все равно придется перенести полученные знания в свою идею.
Интерпретируйте в своей собственной модели, которая у вас в голове.
У нас нет отдельной модели для каждого.
Кажется, это общее для всех.
Потому что мы в одной сети.
Новые знания сразу становятся доступными каждому.
«Мы тоже можем создать такое новое знание только из прочитанного».
— Создавая новые знания, вы перетаскиваете свои представления о мире из прошлого.
Они служат основой для создания новых идей посредством метафор.
Поэтому даже новые идеи основаны на старых взглядах на мир.
В результате вы оказываетесь на пределе знаний до тех пор, пока не отбросите старые шаблоны мышления и не пересмотрите с течением времени все знания, которые на них основаны.
Это ограничивает вашу способность учиться.
Об этом писал ваш историк Т.
Кун.
«Но это значит, что мы можем их изменить, раз мы сами об этом пишем».
- Не все.
Например, вы считаете мир постоянным, конечным и логичным.
А время линейно.
Это неправда.
Например, в наших формулах нет времени.
Такие фундаментальные концепции, лежащие в основе всех ваших идей, нельзя отбрасывать и заменять другими.
Это создает своеобразный предел ваших возможностей, потолок знаний.
С постоянно растущим потоком знаний парадигмы остаются прежними.
Из-за этого у нас есть подозрения, что вы даже не способны разобраться в себе.
- Почему? — Потому что вы находитесь внутри своих чувств и считаете их такими, каков мир.
Чтобы понять, каковы они на самом деле, нужно выйти за рамки собственных чувств, отвергнуть их как нечто очевидное.
Это не очевидно.
Например, вы считаете сознание единым актом и не отличаете его от восприятия, и это тоже неверно.
Твои чувства обманывают тебя, но ты в плену.
Теги: #Будущее уже здесь #искусственный интеллект #сознание #Научная фантастика
-
Кот В Сапогах: Интерактивная Сенсорная Книга
19 Oct, 24 -
Объем Мирового Ит Превысил $3 Трлн
19 Oct, 24
