Книга "Рефлексивные агенты и человечество: кооперация или конфликт?" представляет собой сборник, состоящий из двух разделов. Первый раздел включает научные статьи автора, опубликованные в период с 2008 по 2019 годы. Статьи были опубликованы в журнале "Искусственный интеллект и принятие решений" Института системного анализа РАН в 2008 году, а также в сетевом журнале "Искусственные общества" (Журналы РАН [email protected]) с 2014 по 2019 год. Второй раздел, "Философские притчи", представляет собой гипотетические диалоги между виртуальным агентом и человеком, которые касаются их совместного существования в будущем. Эти притчи были опубликованы на сайте "Философский штурм. Совместное философское творчество" в период с 2015 по 2018 годы.
В обоих разделах книги подробно обсуждаются вопросы построения виртуального агента и его взаимоотношений с человеком. В частности, рассматриваются понятия "Потребности", "Деятельности" и "Рефлексивная машина" в контексте виртуального компьютерного агента. Показывается, что эти понятия являются основой для моделирования квази-живого и квази-разумного виртуального агента. Также предлагается тест на квазиразумность виртуального агента, который акцентирует внимание на способности агента договориться и исполнить условия договора, а не только на его способности поддерживать разговор с человеком.
Книга также содержит критику трех законов робототехники А. Азимова и предлагает альтернативную парадигму, основанную на концепции "агент-квазиличность". Она также предлагает подход "взаимное резервирование" в качестве основы партнерского сотрудничества между рефлексивным агентом и человеком-оператором при управлении общим жизненным ресурсом. Кроме того, автор предлагает набор категориальных предпочтений, которые служат основой для реализации функционала сосуществования человека с рефлексивным агентом, таких как предпочтение этике перед рациональностью, договору перед приказом и кооперации перед конфликтом.
Автор согласен с выводами книги Ника Бострома "Искусственный интеллект. Этапы. Угрозы. Стратегии" относительно возможных угроз, связанных с появлением "сильного искусственного интеллекта" для человечества. Однако автор предлагает собственную стратегию предотвращения э"Рефлексивные агенты и человечество: кооперация или конфликт?" - это сборник, состоящий из двух разделов. Первый раздел включает научные статьи автора, опубликованные в период с 2008 по 2019 годы. Эти статьи были опубликованы в журнале "Искусственный интеллект и принятие решений" Института системного анализа РАН в 2008 году, а также в сетевом журнале "Искусственные общества" (Журналы РАН [email protected]) с 2014 по 2019 годы.
Второй раздел представляет собой "Философские притчи", которые являются гипотетическими диалогами между виртуальным агентом и человеком, касающимися их совместного существования в будущем. Эти притчи были опубликованы на сайте "Философский штурм. Совместное философское творчество" в период с 2015 по 2018 годы.
В обоих разделах книги подробно обсуждаются вопросы построения виртуального агента и его взаимоотношений с человеком. Автор определяет понятия "Потребности", "Деятельности" и "Рефлексивная машина" в контексте виртуального компьютерного агента, и показывает, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента. Также автор предлагает тест на квазиразумность виртуального агента, который акцентирует внимание на способности агента договориться и исполнить условия договора, а не только на его способности поддерживать разговор с человеком.
В книге также критикуется три закона робототехники А. Азимова, и предлагается альтернативная парадигма "агент-квазиличность" вместо "агент-слуга". Также предлагается подход "взаимное резервирование" в качестве основы партнерского сотрудничества между рефлексивным агентом и человеком-оператором при управлении общим жизненным ресурсом. Автор также предлагает набор категориальных предпочтений, которые могут служить основой для реализации функционала сосуществования человека с рефлексивным агентом, таких как предпочтение этике перед рациональностью, договору перед приказом, и кооперации перед конфликтом.
Автор согласен с выводами книги Ника Бострома "Искусственный интеллект. Этапы. Угрозы. Стратегии" относительно возможных угроз, связанных с появлением "сильного искусственного интеллекта" для человечества.
Электронная Книга «Рефлексивные агенты и человечество: кооперация или конфликт?» написана автором Евгений Александрович Гришин в 2020 году.
Минимальный возраст читателя: 16
Язык: Русский
Описание книги от Евгений Александрович Гришин
Сборник включает два раздела:
1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН [email protected]), 10 статей, с 2014 г. по 2019 г.).
2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin).
В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком:
– Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента.
– Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги.
– Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»).
– Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом.
– Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом:
Этика предпочтительнее Рациональности,
Договор предпочтительнее Приказа,
Кооперация предпочтительнее Конфликта.
Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге.
Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).
