Digital democracy Ukraine
Share

Діпфейки в політиці

Щодня з’являються нові повідомлення про те, що технологія 'deepfake' використовується для обману політиків і громадян. Незважаючи на численні позитивні випадки використання синтетичних медіа, створених штучним інтелектом, діпфейки також можуть становити значну небезпеку для демократії та стати новим стандартом майстерного маніпулювання. З огляду на це, DRI в Україні, у співпраці з Комітетом з питань розвитку штучного інтелекту при Міністерстві цифрової трансформації України провели круглий стіл «Діпфеки в політиці». Він відбувся 14 грудня 2021 року онлайн, із трансляцією англійською та українською мовами.

Дискусія була зосереджена навколо використання дипфейків у політиці та проходила за участю лідерів у даній сфері та політиків.

Доповідачі:

Віталій Гончарук, голова Експертного комітету з розвитку штучного інтелекту при Міністерстві цифрової трансформації України, генеральний директор та засновник Augmented Pixels; 

Олександр Сердюк, генеральний директор компанії Respeecher;

Анна Булах, політична радниця Reface;

Уляна Полтавець, координаторка програми Democracy Reporting International, координаторка Експертного комітету з розвитку ШІ.

Під час обговорення було використано визначення діпфейків, запропоноване Європарламентом:

"Діпфейки — це маніпуляційні або синтетичні аудіо- або/та візуальні медіа, що виглядають автентичними, зображуючи людей, які говорять або роблять те, чого вони ніколи не говорили або робили. Діпфейки створюються за допомогою штучного інтелекту, машинного та глибокого навчання.

Уляна Полтавець показала приклади та випадки використання діпфейків. Діпфейки не завжди використовуються зловмисно. Існують і нешкідливі сфери використання цієї технології. Це, звичайно, телебачення і кіно, а також політична сатира. Однак у центрі обговорення були наслідки діпфейків для суспільства та демократії – наприклад, загроза виборам, судовій системі, для втрати довіри громадян до влади. На індивідуальному рівні вони несуть у собі ризик дискредитації та наклепу, шантажу, порнографії та крадіжки особистих даних. На рівні безпеки — це загроза національній безпеці, міжнародним відносинам, зростаюча загроза кіберзлочинності, загроза економічній стабільності тощо.

Віталій Гончарук зазначив, що технологія 'deepfake' вже дуже зріла і дуже дешева. Це питання часу, коли вона у повній мірі буде використовуватися для маніпулювання політичними процесами.

Анна Булах заперечує визначення Європарламенту, кажучи, що синтетичні медіа-технології та будь-які маніпуляції є нейтральними. Що робить їх «глибоким» і зловмисним, так це намір (чому і для чого) і приписування (ким). Сучасні технологічні компанії, такі як Reface, несуть споживачеві демократизацію технологій, що робить їх доступнішими для будь-кого та для будь-яких намірів.

Олександр Сердюк стверджує, що візуальні синтетичні медіа випереджають звукові синтетичні технології. Він не сумнівається, що ці технології будуть використані для шкоди – це лише питання часу. У той же час більшість експертів сходяться на думці, що ефективного способу виявлення діпфейку за допомогою автоматизованої системи не існує.

Вочевидь, діпфейки будуть широко використовуватися на виборах. Серед цікавих тенденцій у виборчому процесі – так зване «глибокий мікротаргетинг», коли кандидати можуть звертатися безпосередньо до своїх виборців за допомогою маніпульованих відео. Виникає питання регулювання такого змісту.

Хоча етичні компанії, такі як Reface і Respeecher, мають чіткі вказівки щодо своєї діяльності та продуктів, зловмисники, очевидно, не дотримуються тих самих етичних кодексів і не обмежуються ними. Тому будь-яких юридичних заходів може бути недостатньо, щоб виявляти та протидіяти цим суб’єктам. Однак, на думку всіх представників галузі, саморегулювання на етапі проектування продукту є необхідною передумовою; це добре не тільки для суспільства та споживача, але й для бізнесу. Саморегулювання також може здійснюватися через професійні асоціації на галузевому рівні.

Одним із рішень, пропонованих політичним акторам/кандидатам, є цифрове маркування/маркування їх відео/аудіоконтенту. Будь-який відеоконтент без такого цифрового підпису автоматично вважається фейком. Це, однак, залишає багато свободи для політиків та дозволяє легко уникати відповідальності за трансльовані ними меседжі.

Усі експерти погоджуються, що підвищення обізнаності, виховання та навчання критичного мислення в суспільстві є надзвичайно важливими. Для галузі також важливо, щоб вона продовжувала розвиватися, тому бізнес також зацікавлений у співпраці з громадянським суспільством та урядами у даній сфері. 

100% учасників зазначили, що необхідно актуалізувати тему діпфейків у політиці. 100% учасників такогож погодилися з тим, що обговорювані на заході питання є важливими та актуальними. Всі учасники заходу зазначили, що їхня обізнаність з темою після заходу зросла.

Ця робота підтримується