Тревожные исследования предупреждают, что ИИ может быть «Великим фильтром», который уничтожает человеческую цивилизацию

Усовершенствованный ИИ может вести себя как «второй разумный вид», с которым люди в конечном итоге разделят Землю

Найдите свои закладки в разделе «Независимый премиум» в моем профиле.

Видео по теме: Он помог создать ИИ. Теперь он обеспокоен тем, что это уничтожит человечество.

Новое исследование предупреждает, что продвинутый искусственный интеллект может представлять катастрофический риск для человечества и уничтожить целые цивилизации.

ИИ может стать потенциальным «Великим фильтром» в ответ на парадокс Ферми, способным уничтожить разумную жизнь во Вселенной, прежде чем она сможет вступить в контакт с другими, предполагает еще не рецензируемое исследование, опубликованное в arXiv. сервер препринтов.

Парадокс Ферми, широко известный фразой «Где все?», десятилетиями озадачивал ученых. Это относится к тревожной идее о том, что если во Вселенной возможна внеземная жизнь, то почему люди до сих пор с ней не столкнулись.

Было предложено множество теорий, предлагающих различные объяснения нашего одиночного присутствия в космосе.

Несмотря на то, что вероятностные расчеты, такие как популярное уравнение Дрейка, предполагают, что в галактике может существовать множество разумных цивилизаций, все еще существует загадочная космическая тишина.

Одна популярная гипотеза, известная как «Великий фильтр», предполагает, что какое-то событие, необходимое для возникновения разумной жизни, крайне маловероятно, отсюда и космическое молчание.

Логическим эквивалентом этой теории является то, что какое-то катастрофическое космическое явление, вероятно, препятствует распространению жизни во Вселенной.

«Это может быть естественное событие или, что еще более сбивает с толку, то, что разумные существа делают с собой, что приводит к их собственному вымиранию», — пишет автор исследования Марк Бэйли из Национального университета разведки (NIU) в США.

Новое исследование предположило, что развитие ИИ может быть именно тем катастрофическим событием, которое потенциально может уничтожить целые цивилизации.

В своем исследовании доктор Бэйли рассматривает контекст Великого фильтра как потенциальный долгосрочный риск, связанный с такими технологиями, как искусственный интеллект, который мы до конца не понимаем.

«Люди плохо умеют интуитивно оценивать долгосрочный риск», — сказал учёный NIU, добавив, что мы не до конца понимаем ИИ, но «он быстро проникает в нашу жизнь».

«Будущий ИИ, скорее всего, будет стремиться к более обобщаемым, целенаправленным системам с более значимым контролем, где последствия непредвиденных результатов станут значительно более серьезными», — предупредил он.

Доктор Бэйли выдвинул то, что он называет «аргументом второго вида», который повышает вероятность того, что продвинутый ИИ может эффективно вести себя как «второй разумный вид», с которым мы в конечном итоге разделим эту планету.

Учитывая то, что произошло, когда современные люди и неандертальцы сосуществовали на Земле, исследователи NIU заявили, что «потенциальные последствия мрачны».

«Разумеется, что вышедшая из-под контроля технология, особенно целенаправленная, такая как искусственный интеллект, могла бы стать хорошим кандидатом на роль Великого фильтра», — пишет доктор Бэйли в своем исследовании.

«Мы должны спросить себя: как нам подготовиться к такой возможности?»

Присоединяйтесь к беседам, заставляющим задуматься, подписывайтесь на других независимых читателей и смотрите их ответы.

Основатель DeepMind Демис Хассабис утверждает, что до искусственного общего интеллекта человеческого уровня осталось всего несколько лет.

iStock/Getty Images

Хотите добавить в закладки свои любимые статьи и рассказы, чтобы прочитать или обратиться к ним позже? Начните подписку Independent Premium сегодня.