Главный редактор контент-студии egorcompany.com Егор Коткин направил в редакцию vc.ru письмо с мыслями о будущем человечества, опасностях искусственного интеллекта и о том, что нужно сделать до наступления технологической сингулярности, чтобы не проиграть перед лицом прогресса.
Немного о двойных стандартах: когда Сергей Стиллавин требует от учёных остановить запуск Большого адронного коллайдера , потому что я слышал, что существует риск возникновения черной дыры, все находится над ней смеющийся .
Когда Стивен Хокинг предупреждает что искусственный интеллект может поработить человечество - все напряжены.
Результат, однако, в обоих случаях один и тот же — запускается БАК, нейронные сети развиваются в гонке с квантовыми компьютерами.
Можете меня упрекнуть в том, что не совсем корректно сравнивать суеверный ужас среднестатистического радиоведущего с осторожным предостережением мирового учёного - но в обоих случаях это как минимум повод задуматься о том, что готовит прогресс.
для нас.
Можно понять, почему предупреждение Хокинга мало повлияло на тех, кто заинтересован в разработке ИИ.
Дело не только в обычной инерции процессов – когда поставлены цели, составлены планы и распределены бюджеты, достаточно голоса заинтересованной общественности, чтобы остановить ускоряющийся поезд. На стороне исследователей и программистов здравый смысл и весь человеческий опыт: прогнозы паникёров так и не сбылись, а страхи луддитов сделали их посмешищем в исторической перспективе.
Города Европы не были покрыты конским навозом, дым паровозов не убивал посевы и не травил лошадей, гастарбайтеры не разрушили ни одну экономику, 7 миллиардов человек не умерли от голода и даже не погрязли в грязи и войне за ресурсы, ядерную оружие не привело к апокалипсису, 2000 год не уничтожил компьютерные системы, а БАК не привел к созданию черной дыры.
Нас продолжают пугать: ГМО заразит всех раком, качественная медицина приведет к вырождению человечества, однополые браки также приведут к вырождению человечества, а искусственный интеллект поработит всех, кто выживет после ГМО, высоко- качественная медицина и однополые браки.
Однако картина, нарисованная паникёрами, настолько безрадостна, что я не исключаю, что ИИ при таких исходных данных просто откажется нас порабощать — мол, ну вы вообще.
Это если паникеры правы.
А паникёры всегда неправы.
Люди могут не до конца понимать, как именно происходят те или иные процессы, даже если они непосредственно в них участвуют, но они понимают законы: самолеты летают, не взмахивая крыльями, но прогресс делает жизнь людей лучше.
И чем быстрее ускоряется прогресс, тем быстрее растёт качество жизни.
Главным образом потому, что они всегда видят одну сторону вещей, недооценивая тот факт, что любое движение приводит к последствиям не только напрямую, но и с противоположной стороны, охлаждая пыл любителей экстраполяции.
Допустим, более-менее очевидно, что, выйдя замуж, невеста на какое-то время успокаивается – наличие одного мужа отменяет необходимость в новых.
По крайней мере, в тот же момент времени.
Система сбалансировалась.
Менее очевидный, но, тем не менее, широко признанный факт: повышение уровня жизни не ведет к бесконечному воспроизводству.
Всплеск прироста населения наблюдается в течение сравнительно короткого исторического периода - 2-3 десятилетия жизни одного поколения, после чего увеличение продолжительности жизни и падение смертности уравновешиваются падением рождаемости.
Проще говоря, оценивая последствия события, надо задавать не только вопрос «что когда произойдет», но и «что когда не произойдет».
Как и та невеста, люди понимают, что им не нужно много детей, если они уверены, что тот, который у них уже есть, выживет.
Проще говоря, оценивая последствия события, надо задаваться не только вопросом «что когда произойдет», но и «что когда не произойдет».Свойство любой системы – стремление к равновесию.
Без этого система не может быть системой.
Какие бы сюрпризы ни преподносил прогресс, на том или ином уровне всегда восстанавливается баланс и гармония – на уровне отдельного человека, общества, цивилизации или человечества в целом.
Однако в любой системе есть вызов, погасить который можно только на более высоком уровне.
Скажем, считается, что глобальное потепление – это процесс, который не может быть уравновешено самим человечеством, и поэтому перед нами стоит задача балансировки на планетарном уровне – скажем, таяние арктических льдов и затопление промышленных территорий и мегаполисов, которые обычно расположены в нижних прибрежных районах – вроде удобно, правда? - значительно умерит пыл и способность человечества прогревать наш шар в будущем.
Бам, и баланс снова восстанавливается.
Многие считают, что климатические циклы вообще не зависят от деятельности человека, а проблема выбросов будет решена на цивилизационном уровне, не вызывая вмешательства планетарных сил.
Правда это или нет – вопрос спорный, но принцип, думаю, ясен.
Прогресс теоретически может породить вызовы, которые невозможно сбалансировать на цивилизационном уровне, сохраняя движение человечества к лучшему.
Лучше не будить Мать-Землю, если мы не хотим разделить участь динозавров.
Кстати, тот же Хокинг считает, что в ближайшие тысячу или десять тысяч лет произойдет глобальная техногенная катастрофа.
неизбежный - поэтому нам необходимо быстро обустроить жизненное пространство за пределами нашей родной планеты.
Кто бы спорил, мы все за.
Но это пока относительно отдаленная перспектива.
Возвращаясь к теме статьи, чтобы понять, грозит ли нам опасность порабощения искусственным интеллектом, нам необходимо понять, является ли ИИ одним из вызовов, который будет уравновешиваться цивилизацией, или он будет сбалансирован за счет цивилизация?
Шанс прокатиться по сингулярности на кривом козле
Но до наступления сингулярности человечество наверняка будет бороться с любым шансом ИИ наконец спасти или уничтожить его.Хокинг заметил, что человечество пытается улучшить себя генетически – но недостаточно быстро.
Однако это не единственный путь эволюции.
Помимо биологической эволюции, которая рано или поздно, а скорее рано, станет управляемой, существует еще и технологическая эволюция.
Когда-то писатели-фантасты верили, что киборги могут положить конец человечеству.
Но на практике киборгизация, скорее всего, станет следующим этапом развития человечества, чем-то, что описывается не словами «внедрение», «прорыв» или «следующий шаг», что по определению подразумевает некое усилие, насилие и надлом.
но в который человечество скатится легко и радостно, как оно сейчас погрузилось в социальные сети.
Более того, повсеместная айфонизация и социализация людей создают спрос на киборгизацию; возможность стать киборгами более ожидаема, чем новый iPhone. Конечно, ни одна фокус-группа вам этого не скажет. Как бы она не сказала, что ей нужен iPhone в 2006 году:
Действительно сложно создать продукт на основе фокус-групп.Однако теперь вам не придется долго искать новый iPhone или даже новый интернет: узкое место всей IT-индустрии — интерфейсы.Чаще всего люди не понимают, что им действительно нужно, пока им это не покажешь.
- Стив Джобс, BusinessWeek (25 мая 1998 г.
)
Вычислительная мощность и возможности наших устройств, способность программного обеспечения обрабатывать наши запросы значительно превышают нашу способность передавать им эти запросы.
Обработка простейших наборов данных — например, сбор статистики по всем статьям на Хабре и ранжирование их по просмотрам — требует навыков программирования, хотя понять, что нужно сделать, сможет даже ребенок, а среднестатистический компьютер справится с этой задачей за считанные секунды.
минут. Но на этапе между «понять» и «выполнить» возникает непреодолимый барьер в виде необходимости навыков программирования.
Узкое место, которое мешает нам воспользоваться теми возможностями, которые у нас есть.
В этом нас упрекает популярная цитата:
У нас в кармане есть устройство, позволяющее получить доступ к величайшим знаниям человечества, и мы используем его для просмотра фотографий кошек.Но доступ к знаниям не имеет особой ценности без возможности их использовать.
Еще до появления МВМ математиков учили, что важно не запоминать формулы — они все есть в справочниках, — а уметь их применять.
Сейчас величайшие знания человечества доступны основной массе людей в режиме только для чтения — без специальных знаний они ничего с ними сделать не могут, даже простейшей категоризации и анализа.
Изобретение способа общения с машинами без использования кода — или хотя бы его ручного ввода — могло бы стать прорывом на уровне создания Интернета как такового.
Человечество получит не просто неограниченный доступ к знаниям, а доступ к широчайшим возможностям оперировать этими знаниями и создавать новые знания.
То, что сейчас называется большими данными и кормит ограниченное число высокооплачиваемых специалистов, должно и станет доступно каждому — так же, как массовое образование когда-то искоренило профессию писца.
Взрывной рост интеллектуальной мощи человечества станет неизбежным.
Есть еще один популярный анекдот о том, что каждое кладбище заполнено непризнанными гениями.
Я не думаю, что это шутка.
Многие блестящие идеи, талантливые книги и полезные изобретения так и не увидели свет просто потому, что не каждый способен посвятить им свою жизнь, а иногда просто не умеет их правильно сформулировать.
Мотивационные статьи и книги полны примеров людей, которые потеряли руки и научились писать, программировать и играть музыку ногами.
Или вспомним еще раз того же Хокинга.
Но многие люди не способны даже обеими руками полностью использовать свой потенциал.
И не стоит их за это винить – глаза, руки, голос – это все интерфейсы.
Мощный, удобный, но несовершенный.
В той или иной степени они ограничивают творческие возможности человеческого мозга.
Есть много примеров того, что эти возможности на самом деле гораздо шире, чем может показаться.
Большинство из них связаны именно с технологическим прогрессом.
Одна из связанных с этим паникерских страшилок заключалась в том, что люди потеряют работу, когда машины начнут делать все за них.
Однако, как оказывается, с развитием технологий новые виды работ появляются быстрее, чем угасают старые.
И речь идет не только о сфере услуг, которую раньше считали уделом будущих людей – мол, пока машины нас кормят, одевают и лечат, людям останется только оказывать различные услуги другим людям.
Настоящей революцией, вызванной изобретением iPhone, стал не сенсорный смартфон, а открытая платформа для создания приложений.
Людям дали интерфейс — и сотни тысяч, если не миллионы, начали наполнять его своими идеями о том, как его можно использовать.
Приложения — это серьезный бизнес, поскольку они меняют не только нашу повседневную жизнь — они меняют сами принципы нашей жизни.
Они уже могли бы позаботиться о нашем здоровье и безопасности на уровне, который недоступен даже самым богатым людям мира, но все опять же упирается в интерфейсы.
Мы слишком оторваны от наших устройств.
Google Glass, голосовые помощники Siri, Cortana и Google Now и даже модные концепции клавиатуры пытаются решить эту проблему.
Но это все надстройки над надстройками — наши руки, глаза и голос со всеми их ограничениями.
Настоящее и очевидное решение лежит на поверхности: вам нужно приблизиться к мозгу.
Человечество созрело для киборгизации, оно жаждет киборгизации, ему нужна киборгизация, и оно скатится в это состояние так же естественно, как сейчас лезет в свой смартфон, чтобы проверить почту или новые лайки во ВКонтакте.
Самое лучшее, что люди даже не поймут, как они стали киборгами - они просто купят очередной Apple iMind или Google Thoughts, как бы они ни выглядели и подключатся к нашей нервной системе - как очередной гаджет, который затягивает нас глубже в Мир.
Интернет. Ведь 90% возможностей умных часов заключаются в том, чтобы информировать нас об уведомлениях из социальных сетей, электронной почты и мессенджеров – и только потом считать время, шаги и пульс.
Под этим соусом люди примут любой мозговой интерфейс — лишь бы он был упакован в красивую коробку.
Еще одна прелесть киборгизации в том, что она устранит растущее неравенство между поколениями, которое в будущем может оказаться хуже социального неравенства – если вдуматься, все эти «бабушкины телефоны» для старшего поколения просто унизительны.
А теперь представьте себя через 30 лет перед будущими 10-летними – готовы ли вы к «дедушкам»? Но проблема не в разнице интеллекта (хотя интеллектуальное ускорение тоже существует), а в необходимости осваивать новые, постоянно меняющиеся интерфейсы взаимодействия с компьютерами.
Призывы обучать детей программированию решают лишь часть проблемы — те, кто уже научился чему-то раньше, всегда будут в положении догоняющих тех, кто изучает самое новое и актуальное из состояния tabula rasa. Это похоже на изучение иностранных языков – все мы знаем, что их нужно учить, и учимся, по мере возможности, один за другим – иногда забывая, что дело не в знании новых языков как таковых, а в в общении и обмене знаниями и мыслями, чувствами и идеями с людьми другой культуры.
С этой точки зрения язык оказывается не средством общения, а еще одним барьером, еще одним интерфейсом, ограничивающим возможности человека и человечества, и задача прогресса состоит не в том, чтобы научиться скакать через этот барьер, как образцовая скаковая лошадь.
, а полностью устранить его.
Сведите его значимость в общении к нулю.
Нейронные интерфейсы для людей и машин должны делать то же самое.
А сделать быстро — возвращаясь к теме войны человека и машин, точнее, будущего человека в реальности существующего и действующего ИИ — пожалуй, лучшей гарантией того, что мы никогда не проиграем эволюционную гонку машинам, будет сами станем машинами.
Или хотя бы научитесь говорить с ними на одном языке.
Конечно, на стороне ИИ будет большая вычислительная мощность.
Но каналы связи с материальным миром будут те же.
-
Фригийский Язык
19 Oct, 24 -
Штраф В $1,5 Млрд В Пользу Alcatel-Lucent
19 Oct, 24 -
Хабр Придумал Новый Способ Рекламы Или Глюк?
19 Oct, 24
