Китайский ИИ-антикоррупционер пал жертвой своих принципов

С 2012 года с её помощью было поймано более 8700 госслужащих, занимавшихся растратой, злоупотреблением властью и государственными средствами, продвижением близких и другими противозаконными действиями. Несмотря на эффективность системы, в большинстве округов отказались от её использования.
Zero Trust была разработана и введена в эксплуатацию Академией наук и подразделением внутреннего контроля Коммунистической партии Китая. Для мониторинга и оценки работы и личной жизни госслужащих нейросеть получила доступ к более чем 150 защищённым базам данных в центральных и местных органах власти. Это позволило составлять сложные многоуровневые карты социальных отношений при анализе поведения чиновников. В частности, система позволяет обнаружить подозрительные передачи собственности, незаконные стройки, приобретения земли, снос домов, растрату средств и другие подобные действия.

«Искусственный интеллект может быстро указать на коррумпированного чиновника, но он не очень хорошо объясняет, как он пришёл к такому выводу. И хотя в большинстве случаев результаты правильные, вам нужен человек, чтобы тесно работать с ними», — рассказал один из исследователей.

Нейросеть также способна мгновенно зафиксировать необычное увеличение сбережений в банке, покупку нового автомобиля или проведение торгов по государственному контракту на имя чиновника или одного из членов его семьи или знакомых. После этого проводится расчёт вероятности: может ли госслужащий быть коррумпированным. Если результат превышает установленное значение, власти получают предупреждение.

По словам одного из разработчиков системы, после выявления вероятного нарушения начальник может связаться с человеком и постараться помочь ему избежать совершения непоправимой ошибки. И хотя с помощью Zero Trust некоторые чиновники всё же были приговорены к тюремному заключению, большинству было разрешено сохранить свою работу после предупреждения или незначительного наказания. Дело в том, что одна из ключевых задач этой программы — не поймать вора, а предупредить преступление.

Zero Trust была запущена в экспериментальном режиме в 30 округах и городах, что составляет около 1% от общей административной территории Китая. Спустя некоторое время ряд населённых пунктов прекратил использование системы, так как новая технология заставляла чиновников чувствовать себя дискомфортно. Представители властей даже подвергли сомнению право нейросети на доступ к конфиденциальным базам данных, поскольку нет ни закона, ни нормативного акта, разрешающего это делать компьютеру или роботу.

Чжан И, член дисциплинарной комиссии Коммунистической партии Китая в Нинсяне, провинция Хунань, заявил, что его ведомство остаётся одним из немногих, которое всё ещё использует эту систему.

«Это нелегко… мы испытываем огромное давление. Основной целью программы было не наказать чиновников, а спасти их на ранней стадии коррупции. Мы просто используем результаты машины в качестве эталона. Нам нужно проверить и подтвердить их. Аппарат не может взять трубку и позвонить человеку, у которого возникла проблема. Окончательное решение всегда принимают люди», — отметил Чжан И.