Ещё один прогноз из Терминатора сбылся
Я уже представляю, как Яндекс выкатит умную версию Алисы в конце года. Привык, допустим, таксист общаться с нынешней Алисой, у которой диалоги на уровне потешных болталок эпохи модемного интернета:
— Привет, Алиса, меня зовут Вася!
— Привет от старых штиблет!
— Как меня зовут?
— Разве вы сами не помните? У вас же такое красивое имя.
Понятно, что это и близко не диалог, но в некоторых ситуациях всё же лучше, чем совсем ничего. И тут вдруг хоп — обновление Алисы до уровня ЧатЖПТ. Таксист жалуется Алисе, что у него проблемы с продлением патента, ожидая услышать в ответ что-то бессмысленное типа «Привет от старых штиблет!». А слышит вместо этого внятный и логичный анализ ситуации, вот как старшая сестра ответила бы. Таксист возгласом выражает сильное удивление, а Алиса… переходит на его родной таджикский язык! Будет весело, я уверен. И, да, если вы сомневались, я проверил: ЧатЖПТ умеет говорить на таджикском, равно как и на других подвидах персидского языка.
До нас шоковая волна ещё не докатилась, так как для подключения к ЧатЖПТ из России надо слегка напрячься, и так как к роботу «из коробки» не прикручен голос, как к Алисе. Однако ИИ — это не модная игрушка типа спиннера. Это переломный момент, что-то типа появления автомобиля или смартфона как минимум. Даже если новые ИИ не станут значительно умнее (а они наверняка станут), наша жизнь изменится кардинально.
Свежая новость — мошенники начали массово имитировать чужие голоса (ссылка). Теперь американскому пенсионеру звонит не подозрительный незнакомец, а вот прямо лично его сын, говорит, что попал в беду, и просит перевести денег. Американский пенсионер переводит, — голос-то знакомый, — и банк попадает на деньги. Я пишу «банк», так как в США в таких случаях банк возвращает деньги пенсионеру. Очень мудрые порядки, к которым, спасибо Эльвире Сахипзадовне, в последние годы движемся и мы.
Криминалист в статье говорит, что речь идёт про «идеальный шторм», так как люди склонны терять бдительность, когда слышат в трубке родной голос. Однако, думаю, он ошибается, пока что это не идеальный шторм, а всего лишь идеальная рябь на спокойной воде. Идеальный шторм на 9 баллов из 12 ещё впереди. Потому что следующий очевидный мошенникам шаг — подключить ИИ к массовому обзвону клиентов. В первый заход ИИ при помощи социальной инженерии собирает максимум информации о собеседнике и делает слепок его голоса. Во второй заход робот звонит контактам жертвы, подделывая её номер телефона и её голос, и выманивает у них деньги. И всё это легко масштабируется до любого уровня, хоть до 10 миллионов звонков в день.
Откуда мошенники возьмут ИИ? Ну вот на днях у Марка Цукерберга стянули модель LLaMA-65B на 65 миллиардов параметров. Теоретически её уровень даже выше, чем у знаменитого ЧатЖПТ, изменившего правила игры. На практике пока не выше, ибо модель нуждается в тонкой настройке, однако это решаемая задача, и огромное сообщество любителей машинного обучения уже работает над этим не покладая рук. Модель уже выложена на торрентах, умельцы уже запускают её на домашних компьютерах — в урезанном виде на обычных игровых видеокартах, в полном виде — на старых майнинговых фермах. По моим прикидкам, для запуска Лламы-65Б во всей её мощи нужно или железо стоимостью в миллион рублей, или аренда сервера за 1000 рублей в день. Вполне доступный для мошенников бюджет.
Некоторые наивные души ставят запрет на приём входящих с незнакомых номеров. Ха! В новой реальности так можно будет защититься разве что от заблудившегося курьера с горячей пиццей. Потому что ИИ позвонит вам не только голосом вашего брата Николая, но и с его номера телефона. Робот скажет, что ваш племянник Аркадий связался с нигилистами, вляпался в плохую историю, и прямо сейчас нужно 50 тысяч рублей, чтобы его спасти. А так как вы будете хорошо знать всех действующих персонажей, вам и в голову не придёт усомниться в легенде.
Откуда робот будет знать подробности жизни ваших родственников? Ну так он до того позвонит Анечке, подруге Аркадия, представившись сослуживцем её покойного мужа, и выведает у неё всю нужную информацию, включая номера телефонов. Позвонит Аркадию. Позвонит Николаю. И от каждого контакта будет получать или новые данные, или слепок голоса для мошенничества, или денежный перевод.
До последнего времени мошенников сдерживал кадровый голод и низкий КПД звонков. Умный робот, умеющий подделывать голоса, устраняет оба препятствия. Один-единственный чёрный девопс, преступник с навыками системного администратора, может теперь развернуть схему любого масштаба. Добро пожаловать в будущее, знаменитая сцена из Терминатора 2 с телефонным разговором стала реальностью в 2023 году:
Источник:
Как защититься от такого мошенничества на личном уровне — понятно. Перезвонить собеседнику, если он попросит вас сделать денежный перевод или, вообще, будет вести себя странно. Как защититься на уровне своих близких? Никак. Вы не сможете объяснить друзьям и родственникам, что им надо быть осторожнее. Ваши близкие всё равно будут переводить мошенникам деньги, запускать файл ВЫ_ВЫИГРАЛИ_МИЛЛИАРД.exe и ставить к банковским счетам пароль qwerty123.
Как защититься на уровне государства? Вздрючить операторов сотовой связи, чтобы те начали банить мошенников на взлёте, да поработать вместе с банками над ускоренным закрытием каналов мошеннической обналички. Заставить банки и сотовых операторов вскладчину компенсировать обманутым гражданам 100% потерь. Но не факт, что даже это поможет, так как корень уязвимости заключается в автоматическом применении социальной инженерии, а голосовые звонки на традиционный телефонный номер — всего лишь один из каналов, которым могут воспользоваться злодеи.
Что реально защитит обывателей, так это ИИ-секретарь, который будет требовать от каждого звонящего представиться по всей форме, через аккаунт на Госуслугах — вот кто-то типа телефонного секретаря Тинькофф, только на основе современного ИИ и с государственной поддержкой.
Кстати, телефонный секретарь, он же верный слуга, он же близкий друг и хранитель секретов, скоро будет у нас в любом случае — у 95% взрослого населения как минимум, если не у 98%. Как я уже указал выше, наша жизнь изменится кардинально. Станет ли она от этого лучше или хотя бы безопаснее — большой вопрос.
Источник:
10 комментариев
2 года назад
нейросети это не ИИ и даже не близко к нему
Удалить комментарий?
Удалить Отмена2 года назад
Все это решается на уровне операторов сотовой связи. Уже сейчас введена регистрация симок на владельца, но пока она еще не развернута в полную силу, это скорее начало процесса. Очень скоро вместе с цифровизацией грядет полная регистрация ВСЕХ продаваемых симок. и телефонов Т.е. при покупке телефона или симки они будут оставаться кирпичом и кусочком пластика до того момента, пока владелец не зарегистрирует их как положено - а скорее всего, это будут делать прямо в точках продажи телефонов и в авторизованных центрах сотовых операторов. После чего телефон и симка намертво привязываются к владельцу и все сведения, собранные воедино, хранятся в базе данных оператора. При любом звонке будет легко определить, кому принадлежит конкретный телефон и номер. Мало того - при проблемах с левыми звонками легко сделать так, чтобы при звонке сразу высвечивалось ФИО владельца номера и телефона, его местоположение, дата регистрации, место работы, должность и так далее, т.е. звонок был полностью прозрачным. Не хочешь раскрываться? В шпиона играешь? А для каких таких грязных делишек тебе нужен анонимный обзвон? Ну и пошел нафиг, не звони тогда, тебя просто заблокируют. Как только остро встанет вопрос о деанонимизации телефонных звонков - ее тут же введут. Мало того, есть еще более простой способ: например, при покупке телефона и симки вы вводите настройки, которые показывают вам только звонки пользователей, которые позволяют предоставлять свои данные при звонке. И вуаля! - все анонимные звонки без указания номера или звонки без указания данных просто до вас не доходят. А нормальные люди, с которыми вы и собираетесь общаться, не будут против того, чтобы их данные видели такие же нормальные люди, которые также предоставляют свои данные. Таким образом, желающие звонить анонимно и скрывать номера будут общаться только между собой.
Звонки с телефонов ваших знакомых и родных - полная чушь. У каждой сим-карты уникальный номер и позвонить с него можно только с этой же сим-карты. Чтобы реализовать такой обзвон через ИИ, как рассказывает автор, нужно взломать всех сотовых операторов и действовать напрямую через их серверы, вот тогда можно имитировать подобный обзвон. Но это уже ситуация эпических масштабов, угроза национальной безопасности, если ВСЕ сотовые сети взломаны, и я думаю, что на поиски подобных "вумников" будут брошены все силы, а размажут их таким тонким слоем, что и следов потом не найти.
Миллионы звонков миллионам абонентов - тоже чушь. Сейчас технологии мошенничества основаны на том, что звонки происходят в обычном режиме. Т.е. сотовый оператор не может отличить, звонит это мошенник или нормальный человек, потому что мошенник звонит в обычном режиме, происходит какой-то разговор, идет время - все как при обычном звонке, и у оператора нет повода заподозрить, что это мошенничество. Но представьте себе, что ИИ проводит миллионы звонков одновременно. Скрыть эту активность не получится по следующим причинам:
1. Резко увеличится активность в сети, а число абонентов останется таким же. Это будет указывать, что в сети появились какие-то пользователи, которые генерируют огромное количество звонков из одного центра. Это уже насторожит оператора.
2. Вычислить место, откуда генерируются звонки - пара пустяков. Они либо должны будут исходить из какой-то точки на местности (она вычисляется по сигналам сотовых вышек и даже если это кочующий трейлер с ИИ, то его будет легко отследить по камерам и сигналам вышек), либо это подключение непосредственно на сервере оператора связи (и тогда моментально перетрясут сотрудников и прошерстят весь сервер). Словом, вычисление такой мощной генерации звонков - дело несложное.
3. Подмена номеров возможна только в том случае, если полностью взломан сервер оператора, а это уже катастрофа, и тогда сервер просто вырубят, базу перезальют на новый сервер, перезапустят ее там, и ужесточат безопасность - и так уровень безопасности будет повышаться до тех пор, пока уже никакой взлом не станет возможным. Внедрение изнутри - тоже не вариант, поскольку найти "кротов" и вычистить их дело несложное, а дальше все то же самое: ужесточение безопасности до наивысшего уровня.
4. Да, возможно, в результате всех этих мер связь станет дороже, анонимность будет полностью потеряна, а контроль будет очень жестким. Но если люди начнут терять свои деньги не просто массово, а в огромных размерах, они просто начнут отказываться от связи вообще или вообще перестанут воспринимать любые сообщения по телефону как достоверные, а решать все важные вопросы станут лишь при личных встречах - кстати, многие сейчас так и делают, не полностью доверяя телефонам. Т.е. эффект от массовых мошеннических действий с применением ИИ будет очень простым: телефон станет токсичным средством общения и до тех пор, пока не будет придумана система защиты, люд просто перестанут решать по нему любые важные вопросы и будут просто болтать в стиле "Привет-пока".
Так что страшилки автора про ИИ - выдуманная ерунда. Любые масштабные действия ИИ или полный взлом сотовых сетей с подменой номеров тут же приведут к ответным действиям правительств и сотовых компаний, которые прихлопнут все это безобразие мгновенно.
Удалить комментарий?
Удалить Отмена2 года назад
Удалить комментарий?
Удалить Отмена2 года назад
--------------------
то люди станут значительно глупее
Удалить комментарий?
Удалить Отмена2 года назад
Удалить комментарий?
Удалить Отмена