Матьяш Богачек: 22-летний чех из Стэнфорда создал стартап, который ловит дипфейк-мошенников

22-летний чешский исследователь искусственного интеллекта Матьяш Богачек, учёный Стэнфорда, вместе с CEO Лукашем Форалом развивает стартап Synhawk. Его технология определяет, не является ли голос, видео, фото или счёт подделкой. Первым крупным клиентом стал Vodafone.

Богачек изучает ИИ в Стэнфордском университете, занимался поиском фейковых видео и голосов вместе с экспертами из Беркли и во время стажировки в Google. Теперь он переносит эти знания в практику. По его словам, такой инструмент сегодня нужен почти каждому: сгенерировать фальшивое видео или изображение может любой, это занимает несколько минут и почти ничего не стоит. Многие ИИ-сервисы в интернете лишены защитных ограничений, которые есть у моделей крупных технологических компаний, и позволяют создавать контент, пригодный для злоупотреблений.

Мошенничества становятся всё убедительнее. Преступники могут клонировать голос ничего не подозревающего человека и использовать его в телефонном обмане против его близких. Получить нужную запись несложно: «Вы берёте трубку с незнакомого номера, а на другом конце тишина», — рассказывает Богачек. Человек начинает выяснять, кто звонит, и этих десяти-пятнадцати секунд речи мошенникам вполне хватает.

К чему это может привести, показало итальянское дело февраля этого года. Паоло Молезини, тогдашний председатель банка Fideuram из группы Intesa Sanpaolo, получил в WhatsApp сообщение, якобы от главы всей группы Карло Мессины, с просьбой срочно провести переводы из-за зарубежной сделки. Распоряжение по телефону «подтвердил» известный юрист из международной конторы, но его голос мошенники клонировали с помощью ИИ. Из банка ушло около 95 миллионов евро, в основном в Китай и Гонконг. Больше половины удалось перехватить, но не менее 36 миллионов евро, по данным следователей, исчезли в криптовалютах.

Ещё два года назад Чехию от мошенников во многом защищал языковой барьер: ИИ плохо справлялся с чешским. Сегодня это уже не так, и чешский входит в число языков, которые модели хорошо понимают «из коробки». Поэтому Vodafone выбрал технологию Богачека для своих систем безопасности.

Приложение Vodafone Verify, созданное на её основе, выйдет 22 октября для iOS и Android. Пользователь отправляет в него подозрительный контент: ссылку на видео из Instagram, пересланное голосовое из WhatsApp, фото или документ. Вместо вердикта «правда или ложь» он получает вероятностную оценку с объяснением найденных признаков риска. Клиенты с отдельными тарифами, например BezLimitu Black, и с большинством корпоративных тарифов получат приложение без доплаты, остальные заплатят 59 крон в месяц без НДС.

Кроме поддельных лиц и голосов приложение должно находить и текстовые мошенничества. Оно анализирует только то, что пользователь сам ему передал, и не сканирует телефон в фоне. Компании смогут применять его, например, при проверке платёжных запросов или рекламаций.

От обычных детекторов решение отличается тем, что не использует отдельную модель для звука и другую для видео. «Мы опираемся на базовые модели, которые умеют работать с разными типами контента», — объясняет Богачек. Поэтому схему обмана, найденную в видео, система может применить и при анализе аудио или текста.

Насколько надёжно всё работает в боевых условиях, независимо пока никто не проверил. На июльской презентации в Карловых Варах прозвучало, что фальшивые видео распознаются с точностью 99,8 %, но на каких данных это измерялось и как часто система принимает настоящий контент за подделку, компания, судя по доступной информации, не раскрыла. Сам Богачек сбивает завышенные ожидания: «Инструменты, которые мы создаём, — это не стопроцентная гарантия и не патент на истину».