Искусственный интеллект начали применять для подделки документов

В интернете появился сайт OnlyFake, с помощью которого любой пользователь может создать фотографию поддельных документов, сообщают Известия. При этом данных о создателях сервиса нигде нет.

Об этом «Русской Весне» сообщили в пресс-службе депутата Госдумы Антона Немкина.

Сервис функционирует на основе нейросети и может создавать поддельные фотографии как паспорта, так и водительских прав. Генерация изображения занимает минуты, при этом стоимость услуги относительно невысока — всего порядка 1,4 тысяч рублей.

На сегодняшний день с помощью нейросети можно получить фотографии паспортов и водительских прав 26 государств, в том числе России, США, Великобритании, Австралии, Канады и ряда стран Евросоюза.

«Для генерации изображения достаточно выбрать шаблон, написать необходимую информацию и загрузить фото. Затем ИИ обрабатывает запрос и за короткое время создает документ, который для большей убедительности можно замаскировать под „неудачное” фото», — рассказал руководитель компонента R-Vision Endpoint компании R-Vision Петр Куценко.

Фотографии документов, подделанных с помощью нейросетей, могут стать опасным инструментом в руках злоумышленников.

Например, таким образом можно попробовать записать на имя пользователя сайт, распространяющий противоправную информацию, взять небольшой кредит (в случае перехвата контроля над каналами коммуникации жертвы), оформить SIM-карту и даже попробовать зарегистрировать фирму-однодневку, предупреждают эксперты.

По данным «Известий», сейчас сервис недоступен. Так, открытие интернет-страницы сопровождается надписью — Site is down. Everything will be restored soon («Сайт не работает. Скоро всё будет восстановлено»).

Аналоги сервиса OnlyFake давно есть на рынке, отметил депутат.

«Не так давно эксперты зафиксировали новую мошенническую схему, при которой злоумышленники подделывают фотографии как паспортов, так и банковских карт владельцев взломанных ими аккаунтов. Впоследствии поддельные фотографии используются для повышения доверия у пользователей, с которыми общается мошенник от чужого имени», — подчеркнул Немкин.

По словам депутата, подобные вызовы неизбежны в условиях развития цифровизации.

«Искусственный интеллект, прежде всего, инструмент. В одних руках он может привести к благу, в других — к нарушению закона. На последнее мы должны своевременно реагировать. Например, посредством запрета подтверждения личности через фотографию паспорта», — рассказал Немкин.

Парламентарий также отметил, что отсутствие регулирования искусственного интеллекта может привести к серьезным вызовам в будущем. «При этом необходим баланс. Избыточное регулирование может привести к тому, что развитие технологии если не остановится, то значительно замедлится. С этим уже столкнулись некоторые страны. Правовая рамка должна быть гибкой, но ограничивающей использование технологии в противоправных целях», — добавил он.

Сейчас уже идет активная проработка вопроса о маркировке контента, созданного при помощи ИИ.

«Думаю, это первое с чего мы должны начать. Пользователь всегда должен знать, кто стоит за созданием контента: реальный человек или робот», — считает он.