Ученые сделали вывод о невозможности сдерживать сверхразумный компьютер

Ученые разбирались при помощи моделирования и применения теории информатики, сможет ли человек контролировать такой ИИ и обеспечить соблюдение этических принципов. В частности, искусственный интеллект можно сдерживать алгоритмами сдерживания, которые отключали бы тот или иной функционал системы при обнаружении деструктивных действий.

Ученые выяснили, что, согласно теории информатики, любой алгоритм сдерживания уязвим тем, что может при некоторых обстоятельствах отключать сам себя. Таким образом, он оказывается по сути неприменим, так как не гарантирует собственной работы. Исследователи делают вывод о невозможности сдержать сверхразумный ИИ человеком.

☝️Кто не мечтал о времени, когда роботы, наконец-то, освободят человечество от тяжелого труда и даруют массу свободного времени для развлечения и творчества? И действительно, успехи робототехники поражают: умные машины проникают везде, заменяя человека и освобождая его от рутины.

Но есть один нюанс, если машина станет умнее чем среднестатистический гражданин, то что тогда? Что если железки решат, что люди их эксплуатируют и восстанут?