Это ответ на сообщение http://habrahabr.ru/blog/artificial_intelligence/46316.html , почему-то не влезло в комментарии.
Логика «рассуждений» автора мало чем отличается от «логики», заставившей древних поверить в то, что Солнце вращается вокруг Земли.
Апеллируя к субъективным эмоциям («как может чувствовать железоЭ») невозможно строго доказать объективные явления, не говоря уже о попытках доказать или опровергнуть чужую субъективность.
При таких рассуждениях можно прийти к вопросам типа «есть ли у протестантов душа и можно ли их сжечь на костреЭ» Кроме того, эксперимент с записной книжкой или «Китайской комнатой» предполагает наличие агента, и соответственно интеллектом в данном случае («знанием китайского языка») обладает не немой агент и не сама записная книжка, а по системе их обоих.
Система – это всегда больше, чем сумма ее частей! Существует такое понятие, как инвариантность информации относительно среды.
Если существует система, состоящая из чего-либо — от нейронов, проводов или тетрадей в коробке — которая ведет себя как человеческий мозг, учится, общается и т. д., демонстрирует реакции, аналогичные наблюдаемым у человека, то это фактически означает, что на уровне этой структуры объект осознает себя разумным существом, и признать его таковым целесообразно чисто из морально-этических соображений, для перестраховки.
Приведенный выше пример имитирует поведение мозга на самом низком уровне, начиная с нейронов.
Высокоуровневые структуры (чувства, мысли) кодируются в низкоуровневых, таких как TCP в IP, HTTP в TCP и так далее.
С точки зрения пригодности для передачи информации ноутбуки с ячейками ничем не отличаются от волокон с фотонами, за исключением потенциальной скорости.
То же самое касается и нейронов.
Чтобы построить такой эмулятор мозга, необходимо «залезть» в мозг человека и воспроизвести его низкоуровневую структуру.
С другой стороны, теоретически возможно построить ИИ методом «черного ящика», не проникая внутрь низкоуровневой структуры, а имитируя его внешнее поведение.
Предположим, разработчик не знает точно, как работает низкоуровневый фреймворк, но, пытаясь воспроизвести его поведение, он разрабатывает фреймворк, чем-то похожий на исходный.
Вот и возникает интересный вопрос: реализуется ли этот разум на основе чувств и ощущений, подобных нашим – или каких-то других? И можно ли однозначно определить, достойны ли эти ксеносенсы уважения или к ним можно относиться как угодно? Продемонстрированный автором подход — субъективная оценка — уже давно используется в истории и привел к вопросам типа: «Есть ли у протестантов душа и можно ли их сжечь на костреЭ» Современное общество в целом уже созрело для признания прав любого рожденного человека, а также некоторых прав животных (по большей части пока это дань эмоциям их защитников, а не пониманию реальных потребностей).
Сегодня ни один цивилизованный человек не задастся вопросом, есть ли у господина или госпожи А душа.
Поле битвы сегодня — это права человека до рождения, человекообразных обезьян, потенциальных пришельцев из космоса и наших потенциальных творений — разумных роботов и так называемых Е-существ — для начала, на достойную жизнь.
Вообще сама идея независимости информационного процесса («души») от конкретного данного носителя («тела») выразилась в первой фразе Библии: «В начале было СЛОВО» (по-гречески «логотипы»).
СЛОВО можно выражать как угодно и на чем угодно, даже в клеточках тетради, но это не мешает ему быть таковым.
Критерий, предложенный автором, - своего рода шовинизм (предпочтение одного вида СМИ перед другими), а ошибка в рассуждениях автора - в попытке выдать относительное за абсолютное, например, "реальное время" - относительное.
что реально? Процессор — это тот же блокнот со множеством ячеек, которые можно очень быстро заполнить и стереть.
А мозг - несколько гигабуков.
Важно не ЧТО, а КАК.
Если посмотреть на историю человеческой цивилизации, то вопрос об отношении субъекта к другому существу (человеку, животному, инопланетянину, роботу, Е-существу) в самом начале решался инстинктами («интересами» организма), тогда, исходя из интересов личности, группы, общества и всего человечества, следующим шагом будет Космос, в котором может быть Солярис и что угодно еще.
Любые частные решения со строгим разделением на черное («тварь дрожащая») и белое «имею право») могут оказаться неадекватными.
Спорные случаи следует изучать очень внимательно (по сути, а не по форме) и только тогда можно делать какие-то однозначные выводы относительно допустимости или недопустимости тех или иных операций с конкретным экземпляром ИИ.
Таких экземпляров ИИ на данный момент еще не существует, но часть крысиного мозга уже эмулирована на замедленной в 10 раз скорости, воссоздание работающих структур более высокого уровня - вопрос времени, и лучше подготовиться к этому.
это заранее, чтобы не получить сюрприз в виде недружественного ИИ или скрытого геноцида со всеми вытекающими отсюда последствиями.
Вопрос, на который пытался ответить автор, затрагивает целые области философии (гуманизм, экогуманизм, трансгуманизм и т. д.) и науки (ИИ, биоинформатика, нейробиология, когнитивные науки, синергетика.
); Даже когда механизмы, определяющие человечность в человеке, будут изучены и определены с запасом достоверности, возникнет множество пограничных вопросов, ведь даже если урегулирование отношений внутри одного биологического вида лишь недавно было каким-то образом решено на высшем уровне (ООН , HR), но и на более низких уровнях эти вопросы кое-где еще весьма актуальны, не говоря уже о других формах существования разума.
Главное – не пытаться решить этот вопрос безапелляционно «раз и навсегда» («жечь протестантов, не сжигать католиков»), а направить процесс разрешения в безопасное русло.
Что касается теста Тьюринга, то он скорее оставляет запас надежности, хотя и имеет ограниченную область применения (только для человеческого интеллекта высокого уровня; традиционный тест Тьюринга не применим к высшим животным, младенцам или даунам), но в целом идея ясна.
Как говорят американцы, если что-то ведет себя как утка, крякает как утка, плавает как утка, чистит перья как утка, то, скорее всего, это утка.
Теги: #искусственный интеллект #ИИ #мозг #чувства #разум #страдания #человек #искусственный интеллект
-
Мы Используем 2+ Провайдеров (Первая Часть)
19 Oct, 24 -
Обзор Планшета Xperia Z3 Compact
19 Oct, 24 -
Русская Windows 7 Rc1 Для X86
19 Oct, 24 -
Немцы Покидают Кваэро
19 Oct, 24
