Однажды искусственный интеллект станет умнее человека.
В каких случаях это может быть опасно? Для изучения ситуации необходимо уточнить понятие ИИ, например, на основе сравнения с естественным интеллектом.
Может ли интеллектуал быть умным? Может ли умный человек не быть интеллектуалом? Приближение эпохи искусственного интеллекта заставляет задуматься над этими вопросами, поскольку остается еще один вопрос – «Как его распознатьЭ» - откуда ты знаешь, что он уже близко или уже прилетел - опасный для человечества искусственный интеллект? Так что ты можешь опоздать.
Вероятно, первым элементом опасности ИИ станет его независимость и неуправляемость в принятии решений.
Известно, что исследование проблемы опасности искусственного интеллекта для человечества уже финансируется [1].
Институт OpenAI изучает перспективы развития искусственного интеллекта.
Что можно сказать о текущем развитии систем искусственного интеллекта? Сегодня существует два типа опасности при использовании ИИ: — ошибки программного обеспечения; — самостоятельная деятельность искусственного интеллекта во вред человеку.
Первый тип опасности характерен для всего программного обеспечения, поэтому о нем мы здесь говорить не будем.
Искусственный интеллект может стать опасным, когда компьютер станет умным.
Далее я попытаюсь обосновать это утверждение.
Давайте проясним эти понятия и подумаем об измерении.
Было бы неплохо определить, какая степень интеллекта может быть приемлема для компьютера, а какая уже будет опасна для людей.
Неизбежное сближение интеллектуальных возможностей компьютеров и людей заставляет нас научиться точно измерять эти свойства.
Что измеряют известные тесты IQ[2]? Можно ли их применить к компьютеру? Что измеряют конкурсы эрудитов – знания или интеллект? Ум и интеллект – эти понятия связаны со способностью решать проблемы.
Чем сложнее задачу человек может решить, тем он умнее.
Кажется так.
Поэтому нам нужно измерить сложность задачи.
Интеллигент (не путать с интеллигентом!) — это человек, профессия которого — решение разного рода задач как в естественных, так и в гуманитарных науках.
Наверное, к таким людям можно отнести учёных, инженеров и писателей.
Продуктом работы интеллектуала является некая новая теория (ученый) или применение существующих теорий (инженер), результат его работы чаще всего документируется.
Писатель также создает новые идеи или применяет существующие, но преподносит их в форме, не требующей особых усилий для усвоения, поскольку книги хорошего писателя интересно читать.
Интеллектуал обладает специальными знаниями в области своей профессии и навыками, которые позволяют ему решать специальные задачи и создавать новые знания и новые теории.
Очевидно, что умных людей гораздо больше, чем интеллектуалов, поскольку большинство людей умственным трудом не занимаются.
Может ли интеллектуал быть глупым? Наверное, правильнее было бы сказать, насколько умным должен быть интеллектуал или насколько умным должен быть человек, чтобы считаться таковым? Как измерить интеллект? Как измерить интеллект? В качестве примера возьмем профессию программиста.
Их можно считать интеллектуалами, потому что они создают информационный продукт. Можем ли мы сказать, что все программисты умны? Этот вопрос требует дополнительного анализа.
Может быть, интеллект следует измерять длиной цепочки рассуждений, которую человек может построить для решения задачи, или правильнее будет измерять степень близости того или иного решения к оптимальному? А как насчет необходимого объема знаний? А как насчет сложности этих знаний? Как это измерить? Например, если интеллект можно измерить длиной цепочки утверждений, то интеллект можно измерить количеством знаний, которые необходимо применить для решения проблемы.
По-видимому, для полного сравнения различных умов (или интеллектов) людей или компьютеров потребуется несколько разных показателей, например, скорость решения задачи, способность решать «в голове» или на бумаге.
Как измерить остроту решения? Кто умнее – «умный» или «остроумный»? Также необходимо различать умственные и логические способности решения задач.
Если у человека есть способность решать сложные задачи в голове, значит ли это, что он умнее человека, который решает такие задачи с помощью бумаги и ручки? Как правило, люди, решающие проблемы в уме, производят впечатление более умных, поскольку быстро находят решение.
Можно даже предположить, что умнейшие люди, такие как Ньютон, Эйнштейн, Ломоносов и многие другие великие люди, обладали этой способностью решать в уме сложные задачи, но все же это чисто физиологическая способность, как и объем оперативной памяти на компьютере.
компьютер.
Считается, например, что только два процента людей обладают способностью «в уме» решить логическую задачу Эйнштейна о пяти домах и их обитателях.
Но сколько людей смогут решить ее с помощью бумаги и ручки — 10%, 50%? Можно подумать, что компьютер обладает интеллектом как минимум 2% самых умных людей, поскольку существуют программы, решающие задачу Эйнштейна.
Однако с этим нельзя согласиться, поскольку в данном случае компьютер выступает как человеко-машинная система, в которой наиболее интеллектуальную часть работы – концептуализацию и формализацию задачи – выполняет человек.
Я предлагаю следующие определения.
Интеллект – это способность решать проблемы на основе приобретенных знаний, относящихся к предметной области проблемы.
Сюда же входит способность учиться – приобретать знания, специально подготовленные для усвоения учеником.
Интеллект — это способность решать проблемы при отсутствии соответствующих знаний в предметной области.
Включает в себя способность самостоятельно создавать знания.
Можно сказать еще проще: интеллектуал применяет знания, умный человек создает знания.
Конечно, нужно понимать, что такое разделение условно, поскольку каждый человек какие-то знания применяет в готовом виде, а какие-то создает самостоятельно.
В этом плане люди различаются лишь степенью интеллекта и интеллекта.
Когда мы сможем сказать, что компьютер стал разумным? Если вы сделаете программу, решающую все возможные тесты на IQ, сможете ли вы сказать, что этот компьютер (программа) умнее человека? IQ-тесты созданы для того, чтобы предположить, что у человека недостаточно знаний для их решения.
Это означает, что мы можем предположить, что эти тесты предназначены для измерения (сравнения) интеллекта, а не интеллекта.
Однако компьютер, решающий подобные тесты, от этого не станет более полезным.
Ему необходимо решить любую задачу, сформулированную на естественном языке.
Если вместо традиционных прикладных систем, используемых сейчас, сделать полноценные экспертные системы (первое требование к ним — понимание задач, сформулированных на естественном языке) для всех предметных областей, то это станет первым шагом на пути к построению безопасного искусственного интеллекта.
.
Существующие информационные системы представляют собой человеко-машинные системы, поскольку они бесполезны без интеллекта пользователя и/или компьютерного эксперта.
Современные прикладные системы требуют от пользователя обучения – приобретения специализированных знаний.
Например, для использования системы 1С бухгалтеру необходимо пройти обучение, но этого будет недостаточно, так как в процессе работы бухгалтера с этой системой (как и с любой другой прикладной системой) всегда возникает необходимость обратиться за советом к эксперту.
Прикладную систему можно назвать экспертной, если специалист (например, бухгалтер) не требует специальной подготовки для работы с компьютерной прикладной системой, а также не нуждается в обращении к консультанту для разрешения нестандартных ситуаций.
Для этих типов компьютерных систем можно будет с уверенностью применять термин «безопасный (ограниченный) искусственный интеллект».
Даже если экспертная система полностью заменит человека-бухгалтера, она все равно останется в безопасности (если только не считать опасностью безработицу среди бухгалтеров).
Средства проверки принимаемых в бухгалтерском учете решений давно разработаны, поэтому ошибки в бухгалтерских программах будут своевременно обнаружены.
Если поднять уровень интеллекта компьютера еще выше — например, дать ему возможность самостоятельно создавать прикладные системы — это еще не будет опасно, хотя и будет существенным приближением к опасному уровню.
В каких случаях интеллектуальная система учета может стать опасной для человека – например, выдать неверную информацию? Опасность появится, если в системе искусственного интеллекта появятся элементы индивидуальности, появление, например, собственного интереса, отдельного от человеческого интереса.
Чтобы исключить такое развитие событий, возможно, придется запретить создание разумных систем, способных к эволюции.
Есть еще одна опасность — ИИ может содержать логические ошибки.
Поскольку решаемые им задачи могут быть очень сложными, а перечень задач заранее неизвестен, необходимо предусмотреть специальные меры для проверки полученного решения.
Например, для ЭC стандартным элементом технологии является подсистема объяснения и/или обоснования полученного решения.
Возможна ли ситуация, в которой метод решения проблемы, построенный искусственным интеллектом, окажется настолько сложным, что человек не сможет его понять? Сегодняшние интеллектуальные системы основаны на «человеческих» знаниях.
Когда ИИ начнет «извлекать» знания самостоятельно, мы не будем знать, «о чем он думает».
Это уже реальная опасность.
Возможно, такое программное обеспечение, когда возможность его создания станет реальной, придется запретить.
У С.
Лема есть такой рассказ о будущем Интернета – Всемирная паутина, основанная на объединении всей совокупности поступающей информации, стала предсказывать события.
Можно предположить, что следующим шагом в развитии такой сети станет управление мировыми событиями.
По всей видимости, нам придется разрабатывать всевозможные способы управления системами искусственного интеллекта, из которых наиболее очевидными являются специальные программные средства для проверки правильности решения в автоматическом режиме, без вмешательства человека.
Это будет доверие к искусственному интеллекту (или вера?) — «Я не понимаю, как он это делает, но есть программа, которая это проверяла».
В технике это происходит уже давно – мы не можем проверить все механизмы и устройства на основе собственных органов чувств, доверяя специальным средствам технической диагностики.
Ссылки 1. www.openai.com 2. www.en.wikipedia.org/wiki/Hans_Eysenck Теги: #искусственный интеллект #интеллект #разум #опасность искусственного интеллекта #искусственный интеллект
-
Ноутбук Acer Extensa Серии Ex5635G-652G25Mn
19 Oct, 24 -
Так Что Же Такое Pagerank?
19 Oct, 24 -
Электрический Генератор Внутри Обуви
19 Oct, 24 -
За Пределами Возможностей Взлома
19 Oct, 24 -
Переход С Mac Os X На Linux
19 Oct, 24 -
Сглаживание Шрифтов
19 Oct, 24
