Если настоящий искусственный интеллект действительно будет создан, то управлять им будет невозможно

Автор · 11:12 18.09.20220


Идея о том, что люди будут уничтожены искусственным интеллектом, обсуждается уже давно. Ученые поделились своим мнением о том, смогут ли люди контролировать действительно высокий уровень компьютерного сверхинтеллекта.

Проблема в том, что для управления настоящим ИИ, который находится далеко за пределами человеческого понимания, необходима симуляция сверхинтеллекта, которую мы могли бы ировать (и контролировать). Но невозможно создать такую симуляцию, если у нас нет возможности понять ее.


В этом случае люди не смогут установить ограничительные правила для ИИ, такие как "не причинять вреда людям". Однако люди пока не способны создать такой ИИ, и неизвестно, в какой момент этот порог будет преодолен.

Источник Ferra.

Мы в соцсетях:0