Эксперт по безопасности ИИ и автор книги «AI: Unexplainable, Unpredictable, Uncontrollable» Роман Ямпольский утверждает, что вероятность того, что мы живем в симуляции, близка к 100%. Он также считает, что ИИ поможет человечеству узнать это наверняка и найти способ выйти из нее. Такое заявление он сделал во время подкаста с Лексом Фридманом.
В своей статье «Как выбраться из симуляции» эксперт отмечает, что сверхразумный искусственный интеллект может помочь избавиться от ограничений нашего мира.
«Мы использовали “бокс” для ИИ как возможный инструмент контроля над ним и поняли, что нейросеть всегда будет убегать. Этот навык можно использовать, чтобы выбраться из виртуальной коробки, если мы в ней находимся», — сказал Ямпольский.
Ямпольский обращает внимание, что интеллект наших симуляторов будет играть ключевую роль в этом процессе.
«Если симуляторы значительно умнее нас и созданного нами сверхразума, вероятно, они могут нас контролировать, так как более высокий интеллект способен управлять более низким интеллектом, по крайней мере, на некоторое время. Однако, если наш суперинтеллект, несмотря на ограниченность локальных ресурсов, каким-то образом сможет подняться на два уровня выше, возможно, ему удастся», — сказал он.
Ямпольский привел один из способов сбежать из симуляции. По его словам, нужно создать имитационную копию нашей вселенной, поместить в нее ИИ и наблюдать за тем, как он сбегает. Потом можно скопировать метод нейросети или присоединиться к ней.
Помимо рассуждений на тему симуляций эксперт также отметил, что ИИ приведет к вымиранию человечества в течение следующих 100 лет с вероятностью 99,9%. Он не назвал конкретных причин для этого сценария, отметив лишь, что это неизбежно, потому что сверхинтеллект начнет обладать самосознанием.
Ранее соучредитель Near Protocol Илья Полосухин заявил, что ИИ не уничтожит человечество, если не будет запрограммирован на это.
Напомним, в мае Илон Маск назвал искусственный интеллект своим главным страхом.