Выступая на этой неделе в подкасте «Дневник генерального директора» Стивена Бартлетта, звезды шоу Dragon’s Den, доктор Роман В. Ямпольский, профессор компьютерных наук и инженерии Университета Луисвилля, предупредил, что ИИ может положить конец человечеству, и заявил, что мы движемся к глобальному коллапсу.
Профессор, который ранее получал финансирование от миллиардера Илона Маска для изучения передовых интеллектуальных систем и является автором книги «ИИ: необъяснимый, непредсказуемый, неуправляемый», заявил, что «мы почти наверняка живем в симуляции».
Он утверждал, что ИИ будет обладать силой, способной вызвать вымирание человечества, если попадет не в те руки.
Доктор Ямпольский сказал в подкасте: «Я могу предсказать, что еще до того, как мы достигнем суперинтеллекта, кто-то создаст очень продвинутый биологический инструмент – новый вирус, и этот вирус поразит всех или почти всех; я это представляю.
Существует множество психопатов, террористов, культов судного дня. Мы исторически видели, как они пытаются убить как можно больше людей. Обычно им это не удается. Они убивают сотни тысяч.
Он даже объяснил, почему считает, что ИИ достиг такого уровня, при котором мы вполне можем жить в симуляции.
Сторонники теории симуляции утверждают, что наша Вселенная и все, что в ней находится, — не более чем компьютерная симуляция, созданная технологически развитой цивилизацией.
Теория была популяризирована философом Ником Бустромом, который выделяет три варианта: развитые цивилизации вымирают до того, как успевают разработать технологию для создания таких симуляций; они предпочитают их не создавать; или, если они их создают, то количество продвинутых симуляций значительно превзошло бы количество базовых реальностей.
Доктор Ямпольский добавил: «ИИ достигает уровня создания человекоподобных агентов, а виртуальная реальность становится неотличимой от нашей.
Как только это станет доступным, я проведу миллиарды симуляций именно этого интервью».
Он добавил: «Если у вас есть такая технология, мы определенно будем запускать множество симуляций для исследований, развлечений, игр – по всевозможным причинам.
И их количество значительно превышает количество реальных миров, в которых мы живем. Посмотрите на все видеоигры, в которые играют дети.
Каждый ребенок играет в 10 разных игр. В мире, как известно, миллиард детей. Значит, в одном реальном мире существует 10 миллиардов симуляций».
Доктор Ямпольский ответил: «Очень близко к уверенности».
Поскольку системы ИИ продолжают наращивать интеллект с постоянно растущей скоростью, многие считают, что настанет день, когда «сверхразумный ИИ» станет мощнее своих создателей.
Однако ключевые фигуры в области ИИ, такие как Сэм Альтман, генеральный директор OpenAI, который когда-то призывал к более жесткому регулированию развивающейся технологии, теперь борются против «чрезмерного регулирования».
Помимо этого, профессор, опубликовавший более 100 работ об опасностях ИИ, заявил, что ИИ к 2027 году займет 99 процентов рабочих мест.
Он объяснил: «Посмотрите на компьютерные науки. Два года назад мы говорили людям: учитесь кодировать. Вы художник, не можете заработать? Учитесь кодировать. А потом мы поняли: о, ИИ вроде как умеет кодировать и становится все лучше.
Станьте инженером по запросам. Вы можете разрабатывать запросы для ИИ. Это будет отличная работа. Получите четырехлетнюю степень в этой области. Но потом мы подумали: ИИ намного лучше разрабатывает запросы для других ИИ, чем любой человек. Так что и это исчезло.
Так что прямо сейчас я не могу вам сказать. Самое сложное — это проектирование ИИ-агентов для практических приложений. Я гарантирую, что через год или два это тоже исчезнет».
Выступая в подкасте, ученый продолжил утверждать, что религия является еще одним показателем того, что мы потенциально можем жить в симуляции, указывая на то, что большинство вероисповеданий включают «сверхразумное» существо, ответственное за создание мира.
Доктор Ямпольский объяснил: «Если приглядеться, каждая религия, по сути, описывает сверхразумное существо, инженера, программиста, создающего фальшивый мир для испытаний или по какой-либо другой причине.
Но если вы возьмете статью о гипотезе симуляции, отправитесь в джунгли, поговорите с примитивными людьми, местным племенем и на их языке расскажете им об этом.
Вернитесь через два поколения. У них будет религия. По сути, в этом и заключается история. Религия».
Хотя профессор считает, что все мы могли быть «созданными персонажами» другим видом, он утверждает, что, если он прав, это на самом деле ничего не меняет в том, как мы должны жить.
Он сказал: «Итак, все, что вас волнует, остается прежним. Боль все еще причиняет боль. Любовь все еще любовь, верно? Эти вещи не меняются. Так что это не имеет значения.
Они по-прежнему важны. Вот что имеет значение. Небольшая однопроцентная разница заключается в том, что меня волнует то, что находится за пределами симуляции.
Я хочу узнать об этом. Я пишу статьи об этом. Так что это единственное влияние».
Однако доктор Ямпольский отметил, что не все так мрачно, поскольку правительство может вмешаться, чтобы обеспечить «базовые потребности людей».
Он сказал: «Экономическая часть кажется легкой. Если вы создаете много бесплатного труда, у вас появляется много свободного богатства, изобилия — вещи, которые сейчас не очень доступны, становятся очень дешевыми, и поэтому вы можете обеспечить каждого базовыми потребностями.
Некоторые говорят, что можно обеспечить не только базовые потребности. Можно обеспечить очень хорошее существование для каждого. Сложная проблема в том, что делать со всем этим свободным временем?
Теперь у вас есть люди, которые бездельничают весь день. Что происходит с обществом? Как это влияет на уровень преступности, уровень рождаемости, всевозможные проблемы? Об этом никто не думает».
