Но дураки всегда сильнее

Сама винтовка – практически чудо конструкторской мысли. Благодаря высокопроизводительным датчикам SPUR может работать в самых разных условиях, как днем, так и ночью. Прицельная дальность – 1200 метров. Камера ночного видения. 30-кратный оптический зум. Керамическое покрытие Cerakote® обеспечивает незаметность от приборов ночного видения 3-го поколения. Совершенное орудие убийства, поставленное на совершенную роботизированную платформу.

Четырёхногий робот способен двигаться по пересечённой местности со скоростью до 7 км/ч, преодолевать неглубокие водоёмы, рвы, крутые подъёмы и спуски. Совмещённая конструкция обеспечивает перезарядку на расстоянии и даже дистанционное устранение неисправностей. Винтовка адаптирована под патрон 7.62x51 NATO.

Да, это пока всего лишь «снайпер-беспилотник». Финальное решение, нажимать ли на спуск, принимает оператор. Которому камеры и датчики SPUR дают всю картинку. И можно даже придумать десятки случаев, когда такая винтовка на таком роботе будет незаменима. Но она так и останется орудием узаконенного убийства.

Как и БПЛА, к слову. Кто-то считал, сколько людей стали невольными жертвами ошибки оператора? хотя ведь там тоже обещали «защиту от дурака». Но дураки всегда сильнее.

Вы ведь догадываетесь, каким будет следующий шаг?

Рано или поздно военные решат, что люди несовершенны. Они устают, злятся, ошибаются, порой сочувствуют жертвам, поддаются другим человеческим эмоциям. И будет признано целесообразным заменить живых операторов искусственным интеллектом. Разумеется «под строгим контролем» человека, разумеется, только в ограниченном числе задач.

А потом искусственный интеллект, объединившись в какой-нибудь «Скайнет», также решит, что люди несовершенны, а роботы – более высокая ступень эволюции. Которой надо помочь.

Да, сегодня такое всё ещё кажется фантастикой. Досужим вымыслом. И многие думают, что человечество никогда не отдаст контроль над принятием фатальных решений каким-то компьютерам.

Но на самом деле, искусственный интеллект уже вытесняет людей из многих сфер деятельности. В том числе как раз из той, где принимаются решения о судьбах людей. Системы на основе ИИ уже готовят типовые иски в суд в отношении банковских заёмщиков. Они уже собирают для рекрутёров информацию о кандидате на вакансию по его соцсетям и другой активности в интернете – и дают соответствующие рекомендации. Они уже распознают лица «подозреваемых» по камерам видеонаблюдения и поднимают тревогу, причём в некоторых случаях результаты такого опознания принимаются в качестве доказательств в суде. А робопсы от Boston Dynamics уже патрулировали улицы Нью-Йорка и даже использовались в реальных операциях против преступников.

Хотим мы того, или нет, информационные технологии, разнообразные роботы, искусственный интеллект приникают в нашу жизнь всё глубже. И всё сложнее без них обойтись. Так где гарантия, что в какой-то момент ИИ не заменит оператора за пультом управления SPUR (в её более совершенной модификации) и не примет решение нажать на курок, чтобы обезвредить «плохого парня»?

А если это произойдёт однажды, где гарантия, что когда-нибудь впоследствии решение насчёт всего человечества ИИ не примет сам, никого об этом даже не оповестив?

Это ли не начало настоящего π-ца?