Матьяш Богачек: чех зі Стенфорда створив стартап проти дипфейк-шахраїв

22-річний чеський дослідник штучного інтелекту Матьяш Богачек, науковець зі Стенфорда, разом із CEO Лукашем Форалом розвиває стартап Synhawk. Його технологія визначає, чи не є голос, відео, фото або рахунок підробкою. Першим великим клієнтом став Vodafone.

Богачек вивчає ШІ в Стенфордському університеті, займався пошуком фейкових відео та голосів разом з експертами з Берклі та під час стажування в Google. Тепер він переносить ці знання на практику. За його словами, такий інструмент сьогодні потрібен майже кожному: згенерувати фальшиве відео чи зображення може будь-хто, це займає кілька хвилин і майже нічого не коштує. Багато ШІ-сервісів в інтернеті позбавлені захисних обмежень, які є в моделей великих технологічних компаній, і дозволяють створювати контент, придатний для зловживань.

Шахрайство стає дедалі переконливішим. Злочинці можуть клонувати голос людини, що нічого не підозрює, і використати його в телефонному обмані проти її близьких. Отримати потрібний запис нескладно: «Ви піднімаєте слухавку з невідомого номера, а на іншому кінці тиша», — розповідає Богачек. Людина починає з’ясовувати, хто телефонує, і цих десяти-п’ятнадцяти секунд мовлення шахраям цілком вистачає.

До чого це може призвести, показала італійська справа лютого цього року. Паоло Молезіні, тодішній голова банку Fideuram із групи Intesa Sanpaolo, отримав у WhatsApp повідомлення, нібито від голови всієї групи Карло Мессіни, з проханням терміново здійснити перекази через закордонну угоду. Розпорядження телефоном «підтвердив» відомий юрист із міжнародної контори, але його голос шахраї клонували за допомогою ШІ. З банку пішло близько 95 мільйонів євро, здебільшого до Китаю та Гонконгу. Понад половину вдалося перехопити, але щонайменше 36 мільйонів євро, за даними слідчих, зникли в криптовалютах.

Ще два роки тому Чехію від шахраїв значною мірою захищав мовний бар’єр: ШІ погано справлявся з чеською. Сьогодні це вже не так, і чеська входить до мов, які моделі добре розуміють «з коробки». Тому Vodafone обрав технологію Богачека для своїх систем безпеки.

Застосунок Vodafone Verify, створений на її основі, вийде 22 жовтня для iOS і Android. Користувач надсилає до нього підозрілий контент: посилання на відео з Instagram, переслане голосове з WhatsApp, фото чи документ. Замість вердикту «правда чи неправда» він отримує імовірнісну оцінку з поясненням виявлених ознак ризику. Клієнти з окремими тарифами, наприклад BezLimitu Black, і з більшістю корпоративних тарифів отримають застосунок без доплати, решта платитимуть 59 крон на місяць без ПДВ.

Крім підроблених облич і голосів, застосунок має виявляти й текстове шахрайство. Він аналізує лише те, що користувач сам йому передав, і не сканує телефон у фоновому режимі. Компанії зможуть застосовувати його, наприклад, під час перевірки платіжних запитів чи рекламацій.

Від звичайних детекторів рішення відрізняється тим, що не використовує окрему модель для звуку й іншу для відео. «Ми спираємося на базові моделі, які вміють працювати з різними типами контенту», — пояснює Богачек. Тому схему обману, знайдену у відео, система може застосувати й під час аналізу аудіо чи тексту.

Наскільки надійно все працює в бойових умовах, незалежно поки ніхто не перевірив. На липневій презентації в Карлових Варах прозвучало, що фальшиві відео розпізнаються з точністю 99,8 %, але на яких даних це вимірювалося і як часто система приймає справжній контент за підробку, компанія, судячи з доступної інформації, не розкрила. Сам Богачек збиває завищені очікування: «Інструменти, які ми створюємо, — це не стовідсоткова гарантія і не патент на істину».