Діпфейк – технологія обробки контенту, яка підміняє обличчя і голос людини за допомогою штучного інтелекту. Тільки подумайте: тепер можна подивитися на акторів у нових ролях або почути улюбленого співака, який розмовляє з нами.
Діпфейки часто трапляються в рекламі, але є в них і зворотний бік – використання в злочинах. Наприклад, жертву можуть підставити в компрометуюче відео. Або використати голос у телефонному дзвінку, щоб обдурити співрозмовника і вкрасти особисті дані або гроші.
Крадуть гроші не тільки підробляючи особистість, а й зламуючи чат-ботів у банках. Усе це належить до кіберзлочинів. У статті ми розповімо, як злочинці використовують діпфейки та лазівки в банківських чат-ботах, і дамо поради, як захиститися від цих небезпек.
Що таке діпфейк
Термін “діпфейк” з’явився 2017 року на інтернет-майданчику Reddit, а 2020-го вже офіційно потрапив до словників.
Слово deepfake розкриває принцип дії: це слова deep (скорочення від deep machine learning – розумне машинне навчання) і fake (підробка). Діпфейком може бути відео або аудіо.
Що потрібно для створення діпфейк-відео:
- вихідне відео в хорошій якості;
- фото або відео людини, яку потрібно впровадити в діпфейк;
- програмне забезпечення для обробки даних.
Для підробки голосу потрібен лише файл-зразок і правильне програмне забезпечення. ШІ достатньо запису в 10 хвилин, щоб відтворити і синтезувати мову.
Ситуація ускладнюється тим, що вже є ресурси, де можна створити діпфейки онлайн без спеціальних знань.
Наприклад, Deepfakes або мобільний додаток ZAO.
Чим небезпечні діпфейки
Британські криміналісти визнали цей вид кіберзлочинів одним із найнебезпечніших на найближчі 15 років. Це підтвердила зібрана ними група фахівців зі штучного інтелекту, яка визначила три групи злочинів із використанням ШІ:
- найнебезпечніші: діпфейки, злам безпілотних машин і систем під управлінням ШІ, підробка новин і шантаж;
- середньої небезпеки: аналіз систем безпеки та історії дій у мережі для подальшого продажу;
- найменш небезпечні: проникнення в будинок за допомогою керованих роботів через двері для тварин.
Ситуація з підробкою відео настільки серйозна, що 2018-го Конгрес США випустив “Акт про заборону зловмисного використання діпфейків”.
Експерти з Університетського коледжу Лондона вважають, що з часом діпфейки ставатимуть дедалі якіснішими. Злочинці зможуть застосовувати їх, щоб дискредитувати відомих людей і вимагати гроші у жертв, вдаючи з себе їхніх родичів через відеодзвінок.
Як крадуть гроші за допомогою ШІ
Уже зареєстровано кілька великих злочинів, скоєних за допомогою ШІ. У всіх випадках злочинці підробляли голоси начальників компаній і вимагали з підлеглих перевести великі суми грошей на сторонні рахунки. Збитки обчислюються мільйонами доларів, але лише один випадок набув розголосу.
У 2019-му співробітник британської енергетичної компанії отримав дзвінок від начальника, в якому той доручив вивести 220 000 євро на рахунок іншої компанії. Людина повірила і відправила кошти, насторожившись лише під час повторного дзвінка “директора”, коли той зажадав перевести ще одну суму.
Розслідування показало, що злочинці відтворили голос керівника компанії, підробивши не тільки інтонації та темп мови, а й навіть німецький акцент.
Системи відтворення голосу з’явилися з найкращих спонукань. Наприклад, щоб німі люди могли друкувати текст і тим самим “говорити”. Тепер же, коли ці системи використовують шахраї, IT-компанії змушені створювати ресурси, які аналізують аудіо та визначають, реальний це запис чи підробка.
Як захиститися від діпфейків
Існує програмне забезпечення, яке вміє порівнювати голоси та визначати, справжні вони чи ні. Наприклад, Resemblyzer від компанії Resemble. Головний мінус – такі програми працюють тільки з готовим відео або аудіо. Вони не вміють аналізувати голос під час телефонного дзвінка.
Приклад програми, яка аналізує тільки відео, – Deepware. Це безкоштовне ПЗ, доступне будь-якому користувачеві.
Крім того, Google активно сприяє створенню ПЗ, яке визначає діпфейки. Для цього компанія відкрила доступ до тисяч фраз, озвучених їхніми голосовими ботами. Компанія сподівається, що це допоможе розробити більше рішень проти голосових фейків.
Як визначити діпфейк без допомоги програм
Існує кілька ознак, за якими можна визначити підроблене відео. Ми розділили їх на чотири групи:
- Обличчя. Відблиски в очах не збігаються, самі очі не рухаються або рухаються неприродно. Людина не моргає, обличчя завмирає на частки секунди – це відбувається під час штучного склеювання кадрів. Сюди ж належить збита артикуляція, коли дикція діпфейка не відповідає вимовленим словам.
- Емоції. Обличчя не відображає емоції, які мають відповідати мовленню. Наприклад, людина на відео розповідає жарт, але з абсолютно серйозним обличчям.
- Поза та рухи. Неприродна поза – легкий спосіб відрізнити підробку. ШІ більше концентрується на обличчі об’єкта, ніж на тілі. З цієї ж причини рухи людини можуть бути смиканими, такими, що відстають від природних.
- Якість картинки. Неприродний тон шкіри, освітлення, неправильні тіні – все це властиво діпфейкам. Також підробки не зможуть точно відтворити волосся і зуби – найчастіше вони будуть статичними і розмитими. Важливий критерій – розмазана картинка на стику голови та шиї. Будь-який блюр на відео – привід задуматися про його оригінальність.
ШІ настільки добре вчиться, що підробку голосу вже неможливо розібрати без допомоги вищезазначених програм.
Чим допоможе природний “імунітет”
Оптимістичний прогноз щодо діпфейків – люди з часом отримають до них “імунітет”. Дослідження показали, що людина вчиться на власних помилках. Якщо показати користувачеві слабкі місця підроблених відео та аудіо, через кілька спроб він почне визначати фейковий контент.
Це довела група вчених зі США та Німеччини. Вони давали людям порівнювати схожі картинки, пояснивши, як визначити відредаговані варіанти. За статистикою, фейки починали визначати з восьмої спроби.
Важливий фактор – ситуації, коли у жертви немає часу на роздуми. Жоден софт чи “імунітет” не допоможуть у стресових ситуаціях, які створюють шахраї. Наприклад, коли людині телефонує “начальник” і терміново вимагає відправити гроші на рахунок іншої компанії.
Як крадуть гроші через чат-ботів
Грошам загрожують не тільки підроблені особистості, а й канали комунікації з банками – чат-боти. Вони стають дедалі популярнішими з кожним роком. Це безпосередньо пов’язано з тим, що клієнти очікують від чат-ботів максимально швидкої відповіді на свої запитання.
Найпопулярніші сценарії злочинів з використанням банківських чат-ботів – збір інформації про користувача, розсилка шкідливих програм і підміна робота на шахрая.
Фахівці з безпеки виявили в банківських ботах уразливості, які дають доступ до персональних даних клієнтів і листування в чаті. Злочинці можуть:
- дізнатися номер і термін дії банківської картки;
- отримати доступ до балансу рахунку та номера телефону;
- підтвердити переказ грошей на інший рахунок, якщо код підтвердження приходить у чат.
При цьому доступ до банківського чат-бота не дасть злочинцям повного доступу до особового рахунку жертви.
Боти використовуються в банківських додатках, месенджерах, соцмережах і контакт-центрах.
Найбезпечнішим вважається спілкування через офіційний додаток або особистий кабінет на сайті банку, якщо користувач пройшов у них аутентифікацію.
Як боротися з лазівками в чат-ботах
Користуйтеся двофакторною аутентифікацією. Налаштуйте переказ платежів із додатковим підтвердженням за смс або в пуш-повідомленнях. Тоді злам чат-бота не допоможе шахраям.
Використовуйте чат-ботів тільки в захищених каналах – офіційному застосунку банку та особистому кабінеті на сайті. Бота, налаштованого через месенджер або соцмережу, легше зламати.
Будьте пильні – насторожіться, якщо чат-бот почав запитувати особисту інформацію, яку ніколи раніше не запитував. Можливо, шахрай отримав доступ до програми і видає себе за бота.
Що важливо пам’ятати, щоб не стати жертвою кіберзлочинів
Відео та аудіо з діпфейками і злом чат-ботів – небезпечний формат кіберзлочинів. З їхньою допомогою можна виставити людину в поганому світлі, зіпсувати репутацію, обдурити і вкрасти гроші та особисті дані.
Щоб не стати жертвою, будьте уважні в будь-яких сумнівних ситуаціях. Якщо вас просять переказати гроші або передати особисті дані, не поспішайте. Навіть якщо це знайомий голос телефоном або банківський чат-бот. Шахраї часто створюють ситуації, коли у жертви немає часу обміркувати дії.
