Допустим, у нас есть два варианта.
- Все, кроме 1000 человек, умрут. Это 7 миллиардов смертей.
- последние 1000 человек умрут. Это всего лишь 1000 смертей.
Почему? Ну вымрет человечество и что? Не ахти какое дело.
Проблема не в этом, а проблема в том, что если умрут последние 1000 человек, то мы потеряем триллионы и триллионы жизней, которые могли бы родиться и жить с сегодняшнего дня до тепловой смерти Вселенной.
Наша Солнечная система, Млечный Путь, Сверхскопление Девы и вообще вся Вселенная останутся неисследованными и необитаемыми.
Мы живем в интересный момент истории.
У нас есть возможность эпично облажаться и уничтожить человечество за считанные часы.
Если все пойдет хорошо, рано или поздно человечество выйдет за пределы Земли и колонизирует сотни и тысячи миров.
Тогда просто уничтожить человечество уже будет невозможно.
Те.
Мы, как человечество, сейчас переживаем самую опасную фазу роста и взросления, и если мы ее пройдем, то человечество ждет интересное и прекрасное будущее.
Чтобы попасть в это большое и светлое будущее, нам нужны технологии, новые открытия и оптимизация потребления ресурсов.
Самая лучшая надежда в этих вопросах – помощь искусственного интеллекта.
Сейчас тысячи и тысячи людей бьются над проблемами создания ИИ.
На данный момент имеется значительный прогресс.
ИИ оторвался от нулевой отметки и начал набирать силу.
До человека ему еще очень далеко, но расслабляться ему не стоит. ИИ уже вышел намного дальше, чем разница между глупостью и гениальностью.
По абсолютной шкале интеллекта человек очень умен, но относительная разница между особями не так уж и велика.
Если (когда) ИИ достигнет уровня интеллекта глупого человека, он очень быстро станет умнее гения и мы станем не венцом творения, а лишь вторым.
Большим преимуществом ИИ является то, что физиологически он намного быстрее человека.
Тактовая частота нашего мозга составляет всего около 100 Герц.
Все основано на массовом параллелизме.
Если просто тупо скопировать человеческий мозг на транзисторах, он будет работать в тысячи раз быстрее.
Второе преимущество ИИ заключается в том, что он способен самомодифицироваться.
Человек умеет учиться, но не знает, как перестроить свой мозг.
ИИ будет на это способен и обязательно это сделает. Таким образом, когда ИИ достигнет интеллектуального уровня своих создателей, он сможет переписать себя лучше, чем это сделали его создатели.
Он перепишет, станет умнее и найдет способ переписать себя еще лучше.
Результатом является петля положительной обратной связи, которая позволит ИИ стрелять на космические расстояния интеллекта.
Это явление получило название «взрыв интеллекта».
ИИ получит власть даже через текстовую консоль, но сможет контролировать внешний мир.
К нам придет старший брат. Что будет делать этот ИИ? Мы не можем это предсказать, потому что мы недостаточно умны.
Возможно, он решит уничтожить человечество, возможно, он решит осыпать нас всеми благами, о которых мы только можем подумать.
Возможно, именно он отправит нас в Космос и откроет путь во Вселенную.
Вопрос в том, как мы это программируем.
И тут начинается самое интересное.
Вы не можете просто так запрограммировать ИИ, чтобы сделать всех людей счастливыми.
Это может закончиться лоботомией ИИ всех людей.
Мы будем рады, но это не то, чего нам хотелось бы.
Стандартный подход в машинном обучении — программирование для максимизации определенного набора функций.
f(счастье) -> макс, f(ИЧР) -> макс.
Но мы не можем перечислить все параметры того, что мы хотим, чтобы ИИ максимизировал.
Мы не можем перечислить эти параметры даже для себя.
Кроме того, наше представление о том, чего мы хотим и какой миропорядок нас устраивает, претерпело множество изменений.
Только за последние 200 лет человечество отменило рабство, уравняло права женщин, изобрело права человека и т. д. Было бы глупо взять наш нынешний моральный кодекс и запрограммировать ИИ следовать ему.
ИИ должен следовать вектору нашего морального кодекса, а не самому кодексу.
Как его этому научить, вообще не понятно.
Разве что через наблюдение за людьми и обучение.
Существует огромное пространство возможного ИИ.
И нам нужно сделать такой, который не приведет нас к разрушению и не превратит нас в лоботомированных идиотов.
Оказывается, в мире есть люди, которые думают над этой проблемой, организуют конференции и целые институты.
Теги: #ИИ #дружественный ИИ #искусственный интеллект #космос #футуристика #программирование
-
Фитцпатрик Опубликовал Api Social Graph
19 Oct, 24
