Идея о том, что люди будут уничтожены искусственным интеллектом, обсуждается уже давно. Ученые поделились своим мнением о том, смогут ли люди контролировать действительно высокий уровень компьютерного сверхинтеллекта.
Проблема в том, что для управления настоящим ИИ, который находится далеко за пределами человеческого понимания, необходима симуляция сверхинтеллекта, которую мы могли бы анализировать (и контролировать). Но невозможно создать такую симуляцию, если у нас нет возможности понять ее.
В этом случае люди не смогут установить ограничительные правила для ИИ, такие как “не причинять вреда людям”. Однако люди пока не способны создать такой ИИ, и неизвестно, в какой момент этот порог будет преодолен.
Источник новости Ferra.