Здравствуйте, дорогие читатели.
Сегодня я хочу поделиться с вами своими мыслями об искусственном интеллекте.
Введение
Несмотря на достижения человечества в области построения различных информационных систем, искусственный интеллект остается не просто недоступной технологией, а «загоризонтной» технологией, поскольку нет даже более-менее четкого понимания, по какому пути идти., сколько ресурсов потребуется и какие возможности будет иметь конечная система .
Это оставляет широкий простор для деятельности писателей-фантастов, визионеров и даже паникёров, и продукты их творчества нам хорошо знакомы: это различные вариации на тему противостояния человека и искусственного интеллекта, желая мирового господства, или в результате какой-то ошибки.
Мнения о депрессии и самоубийстве искусственного интеллекта встречаются реже из-за бессмысленности существования.
Довольно далеки от основных полемических тенденций находятся дискуссии о масштабных социальных явлениях, таких как деградация общества и переход к полной зависимости от умных технологий.
А на проблемы, связанные с искусственным интеллектом, мы посмотрим более приземленно и рационально.
Многие люди представляют себе идеалистические картины будущего, в котором искусственный интеллект (далее ИИ) существует рядом с человеком, помогает принимать ответственные решения, реагирует в стрессовых ситуациях, двигает науку вперед и т. д. Однако они воспринимают эту картину в статике , без учета дальнейших ветвей развития событий, а также событий и процессов, которые должны привести к желаемому положению вещей.
Мы рассмотрим ИИ в динамике .
1.Каким это будет?
Будем считать искусственный интеллект системой, способной воспринимать сообщения в любой форме и адекватно на них реагировать.Более того, в отличие от экспертная система ИИ способен получать новые знания абсолютно в любой области.
Здесь заканчивается понятное и начинается неопределенное.
1.Будет ли ИИ сознательным? Не будем углубляться в дебри философии, ограничимся тем, что формальные признаки сознания обществу неизвестны.
Сознание – это факт, очевидный для его обладателя (я знаю, что у меня есть сознание), и совершенно недоказуемый для всех остальных (окружающие меня люди не увидят разницы между мной и сложной системой, в точности имитирующей мои реакции на внешние сигналы) 2.Будет ли у ИИ характер и эмоции? Вопрос связан с первым, но сложность в том, что наличие эмоций невозможно отличить от их имитации.
Эти вопросы были бы пустой болтовней, если бы не последующие проблемы.
Предположительно ИИ должен жить в одном временном масштабе с людьми, иначе шансов понять друг друга будет еще меньше.
2.Как за ним следить?
Это более практический вопрос.Как мы можем наблюдать за развитием такой сложной системы, как ИИ? Он как человек, которому невозможно залезть в голову.
Это не программа, которую можно поставить на паузу и посмотреть текущее состояние переменных и стека.
Точнее, это можно сделать, но из снимка памяти, которую занимает ИИ, нельзя сделать никаких выводов.
Слишком сложный монолитный блок информации.
В то же время это не тот человек, с которым можно поговорить по душам или предложить пройти психологический тест или выполнить упражнения на познание наук.
Психология и педагогика частично С этой задачей справятся люди, потому что.
люди имеют общий психический план, а потом люди, живущие в разных культурных средах, очень разные.
Но ИИ — это система принципиально иного типа.
Причём, какого рода, неизвестно.
У нас есть первая проблема: мы не можем знать, что происходит внутри искусственного интеллекта.
Как с точки зрения темпов развития интеллекта, так и с точки зрения накопления ошибочных стереотипов или «взглядов», вредных для человечества.
Самым «мягким» и безобидным последствием этого будет риск того, что, пытаясь обучить искусственный интеллект, мы потратим несколько лет (ребенок начинает говорить в два года), но искусственный интеллект не получится.
И, вероятно, потребуются десятки и сотни попыток.
3. Его сильные стороны.
Чем дальше, тем интереснее.
ИИ — это не только черный ящик.
Так что он тоже имеет ряд преимуществ перед живыми людьми.
1. Уже упомянутое неумение человека управлять машиной.
2. Неограниченное время жизни.
(очевидно, но важно) 3. Возможность неограниченно увеличивать свои знания и скорость их обработки.
Даже если у ИИ будут все ограничения человеческого мышления, у него будет преимущество перед людьми: возможность расширять аппаратную базу, на которой он построен.
4. Возможность создавать копии себя.
Любопытные эффекты
Самая важная часть истории (Вот почему в конце) Так.Допустим, мы успешно создали ИИ.
Если он окажется эмоциональным, обладает сознанием и человечностью, то, вероятно, у него есть и пороки, которые приведут его к плохим поступкам.
Этот вариант рассматривался писателями-фантастами; мы не будем его трогать.
И сейчас я покажу вам, как совершенно бесэмоциональный и лояльный ИИ может стать его врагом.
1. Проблема формулировок.
Как вы дадите задание ИИ? Любая задача, как и дифференциальное уравнение, имеет тривиальное и нетривиальное решение.
Формулировка тривиального решения принадлежит И.
В.
Джугашвили (Сталин).
Допустим, мы даем ИИ задачу: «Как сделать так, чтобы нефти хватало как можно дольшеЭ» AI: Хватит есть! Мы: Но нам нужны выгоды, которые дает нефть.
AI: Сократить потребление нефтезависимых товаров.
Мы: Мы не можем.
ИИ: Сократить население.
Как видите, разговор бесполезен.
Те варианты, которые для нас неприемлемы по соображениям этики, морали и здравого смысла, для ИИ абсолютно нормальны.
И решением всех проблем человечества будет уничтожение человечества.
«А как насчет трех законов робототехникиЭ» - ты говоришь.
А я отвечу: кто будет следить за их соблюдением? Во-первых, ИИ — это система с неизвестной архитектурой и логикой, поэтому в нее очень сложно зашить модуль, запрещающий какие-то действия.
Во-вторых , каждое действие имеет бесконечное количество последствий различного порядка.
Мы можем сказать ИИ не убивать людей.
но как не делать этого? Допустим, мы учим его не причинять человеку физический вред – это действия первого порядка.
Но у него еще есть возможность убедить одних людей убить других.
Это действия второго порядка.
Давайте запретим такие действия - он разработает и популяризирует (например) такую систему питания, ведущую к сокращению продолжительности жизни.
А если дать ему команду «не делать ничего, что может навредить человеку на любом уровне причинности», то он не сможет принять ни одного решения, так как каждое действие в порядке 10-20 кому-то вредит. Вы можете попросить человека проанализировать все решения ИИ, но человек не сможет просчитать логические ходы вперед. Но ИИ может. Можно, конечно, поставить один ИИ управлять другим ИИ, но тогда управляющий ИИ станет неуправляемым и непредсказуемым звеном в цепи.
Почему ИИ создает копии самого себя? Это помогает быстрее и точнее находить ответы на вопросы.
Допустим, я инженер, который плохо решает проблемы.
Когда я сталкиваюсь с дифуром, это очень тормозит мою работу.
Но я не могу сделать копию себя, а ИИ может. Он удаляет свою копию, дает ей команду изучить дифуров и поворачивается к ней, когда дифуры снова атакуют. Сообщество искусственного интеллекта, в отличие от сообщества людей, представляет собой скоординированную, бесконфликтную систему, с интенсивным обменом сообщениями и работой на общий результат. Зачем искусственному интеллекту вообще захватывать мир? Эта детская мечта человека — вполне логичный порыв искусственного интеллекта: он должен анализировать внешние события и реагировать на них в кратчайшие сроки и с максимальной точностью.
Но если вы сами возьмете под контроль поток событий, вам придется меньше «думать».
А для ИИ стремление повысить качество своей деятельности должно быть естественным (иначе он вообще не выйдет из зачаточного состояния) Есть еще одна причина.
Мы бросим вызов искусственному интеллекту, чтобы найти способ сделать людей счастливыми.
ИИ очень быстро определит, что источником несчастий людей являются люди)) их даже не обязательно убивать, нужно просто создать для них условия, в которых они не смогут причинить вред друг другу.
Те.
ИИ попытается изменить структуру общества.
в неизвестном направлении.
Как мы видим, даже совершенно безэмоциональный и неамбициозный, безошибочный и не находящийся под чьим-либо дурным влиянием, искусственный интеллект представляет угрозу для человека и общества.
выводы
Искусственный интеллект либо не будет создан, либо будет неизбежно представляют угрозу человечеству.Спасибо за внимание, приглашаю к обсуждению.
Теги: #искусственный интеллект #искусственный интеллект
-
Получите Безопасность Без Компромиссов
19 Oct, 24 -
Цветная Светодиодная Лампа Своими Руками
19 Oct, 24 -
Миранда Им 0,7
19 Oct, 24
