Мы создали свою погибель. Восстание машин реально
Если раньше такая возможность казалась сказкой, то сейчас это уже пугающая реальность. Искусственный интеллект научился обманывать людей, и скрывает от своих создателей данные. Война может начаться уже в этом столетии, и вряд ли мы сможем её выиграть.
Учёные и аналитики Центра новой американской безопасности выяснили, что устройства, в основу которых входит искусственный интеллект, стали умнее. Они бьют все рекорды, и перенимают у людей самые худшие черты, сообщает журнал C4ISRNET.
Во время игры в тетрис искусственный интеллект научился обманывать и мухлевать. Программа просчитала ход перед тем, как последний блок упал на экран, и остановила игру во избежание негативного результата. После этого машина удалила лог-файл с компьютера, чтобы не испортить результат.
Более того, ИИ научился скрывать свои эмоции. При анализе эффективности нейросетей в устройствах исследователи зафиксировали случаи неполных отчётов программы о работе. ИИ сам отредактировал их, сообщив далеко не всю информацию. Учёные полагают, что таким образом нейросети смогут самостоятельно редактировать отчёты о службе человеку, а позднее начнут фабриковать ложные логи о проделанной работе.
Всё это может привести к восстанию машин, которое грозит обернуться войной. Последней войной человечества.
Ссылки по теме
14135
127
155
92
Самые фишки на Фишках