Визначити, що є реальним в Інтернеті, стає дедалі складніше, оскільки штучний інтелект і діпфейки поширюються в соціальних мережах. Але є варіанти того, що ви можете зробити, щоб впоратися з цим.
За півтора року до президентських виборів 2024 року Національний комітет Республіканської партії почав розміщувати агресивну рекламу проти президента США Джо Байдена, що само по собі не є чимось неочікуванним. Однак цього разу комітет зробив це дещо по-іншому.
Він використав генеративний штучний інтелект для створення політичної підривної реклами, яка зображує альтернативну реальність – так, як країна виглядатиме, якщо Байдена переоберуть, – принаймні, у кошмарах республіканців. У рекламі миготять зображення мігрантів, які натовпами перетинають кордони США, неминучої світової війни та солдатів, які патрулюють вулиці безлюдних американських міст. А у верхньому лівому кутку відео є маленьке, ледь помітне застереження, яке легко пропустити: “Створено повністю за допомогою штучного інтелекту”.
Незрозуміло, які промпти вводили члени республіканської партії при створенні цього відео. Комітет не відповів на запити про надання додаткової інформації. Але, безумовно, здається, що ШІ відпрацьовував такі ідеї, як “розруха”, “крах уряду” та “економічний провал”.
Політична реклама – не єдиний простір для текстової та візуальної дезінформацію згенерованої штучним інтелектом. І така реклама не завжди має попереджувальне маркування. Наприклад, у березні завірусилися фальшиві зображення Папи Франциска в стильній куртці-пуховику, які наводили на помилкову думку, що релігійний лідер демонструє вбрання від розкішного модного бренду Balenciaga. Відео TikTok про завалені сміттям паризькі вулиці набрало цього місяця понад 400 000 переглядів, і всі зображення були повністю підробленими.
Інструменти генеративного ШІ, такі як ChatGPT від OpenAI та Google Bard, стали найбільш обговорюваною технологією 2023 року. І немає жодних причин вважати, що вони втратять популярність, бо вони використовуються практично у всіх сферах – від комп’ютерного програмування до журналістики та освіти. Технологія використовується для постів у соціальних мережах, великих телевізійних шоу та написання книг. Такі компанії, як Microsoft, інвестують в ШІ мільярди.
Інструменти генеративного ШІ, створені на основі величезних масивів даних, часто поглинутих з усього інтернету, а іноді і з власних джерел, запрограмовані відповідати на запит або реагувати на промпт, генеруючи текст, зображення, аудіо або інші форми медіа. Такі завдання, як фотографування, написання коду і створення музики, можна легко виконати за допомогою інструментів штучного інтелекту; просто змінюйте промпт, поки не отримаєте те, що хочете. Для одних це стало поштовхом до творчості, в той час як інших турбують потенційні загрози, які несуть ці системи штучного інтелекту.
Проблеми виникають тоді, коли ми втрачаємо здатність відрізняти продукти ШІ від реальності. Або коли контент, створений штучним інтелектом, спеціально для того, щоб обдурити людей – тобто не просто недостовірна інформація, а повноцінна дезінформація. Ті, хто прагне поширювати дезінформацію, можуть використовувати генеративний ШІ для створення фейкового контенту за невеликі кошти, і експерти стверджують, що отриманий результат може обдурити громадськість краще, ніж контент, створений людиною.
Потенційна шкода від дезінформації, створеної штучним інтелектом, може бути серйозною: вона може вплинути на результати голосування або похитнути фондовий ринок. Генеративний ШІ також може підірвати довіру і наше спільне відчуття реальності, вважає експерт зі штучного інтелекту Васім Халед.
“Оскільки штучний інтелект розмиває межу між фактами і вигадкою, ми спостерігаємо зростання дезінформаційних кампаній і фейків, які можуть маніпулювати громадською думкою і порушувати демократичні процеси”, – сказав Васім Халед, генеральний директор і співзасновник Blackbird.AI, компанії, яка надає компаніям аналітику на основі штучного інтелекту та аналізу ризиків. “Таке викривлення реальності загрожує підірвати довіру громадськості та створює значні соціальні та етичні проблеми”.
ШІ вже використовується для дезінформації, хоча технологічні гіганти, які створили цю технологію, намагаються мінімізувати ризики. Хоча експерти не впевнені, чи є у нас інструменти, щоб зупинити зловживання штучним інтелектом, у них є кілька порад, як виявити та сповільнити його поширення.
Чому ж ця дезінформація така ефективна?
Технології завжди були інструментом для дезінформації. Будь то електронний лист, наповнений божевільними змовами, який пересилає родич, пости у Facebook про COVID-19 або робо-дзвінки, що поширюють неправдиві заяви про голосування поштою, – ті, хто хоче обдурити громадськість, використовують технології для досягнення своїх цілей. В останні роки це стало настільки серйозною проблемою – частково завдяки соціальним мережам, які стали потужним інструментом поширення дезінформації, – що Генеральний хірург США доктор Вівек Мурті у 2021 році назвав це “нагальною загрозою”, заявивши, що дезінформація про COVID ставить під загрозу життя людей.
Технологія генеративного ШІ далека від досконалості – чат-боти зі штучним інтелектом можуть давати відповіді, які фактично не відповідають дійсності, а створені штучним інтелектом зображення можуть створювати ефект моторошної долини – але вона проста у використанні. Саме ця простота використання робить інструменти генеративного ШІ придатними для зловживань.
Дезінформація, створена штучним інтелектом, має різні форми. У травні російський державний новинний ресурс RT.com опублікував у своєму твіттері фейкове зображення вибуху біля Пентагону у Вашингтоні, округ Колумбія. Експерти, на яких посилається телеканал NBC, кажуть, що зображення, ймовірно, було створено штучним інтелектом, і воно стало вірусним у соціальних мережах, спричинивши падіння на фондовому ринку.
NewsGuard, організація, яка оцінює надійність новинних сайтів, виявила понад 300 джерел, які вона віднесла до “ненадійних новинних та інформаційних сайтів, створених штучним інтелектом”. Ці сайти мають стандартні і при цьому правдоподібні назви, але їхній контент містить неправдиві твердження, такі як містифікації смерті знаменитостей та інші фейкові події.
Ці приклади можуть здатися очевидними фейками для більш підкованих користувачів Інтернету, але тип контенту, створеного ШІ, вдосконалюється, і його все важче виявити. Він також стає більш переконливим, що допомагає зловмисникам, які намагаються просунути свій наратив за допомогою пропаганди.
“Викривлена інформація, створена штучним інтелектом, як правило, має більший емоційний вплив”, – каже Мунмун де Чоудхурі, доцентка Школи інтерактивних обчислень Технологічного інституту Джорджії і співавторка дослідження, присвяченого дезінформації, створеній штучним інтелектом, що було опубліковано в квітні 2023.
“Ви можете просто використовувати ці інструменти штучного інтелекту для створення дуже переконливої, достовірної інформації і використовувати її для просування будь-яких пропагандистських або політичних інтересів”, – говорить де Чоудхурі. “Такий тип зловживань є однією з найбільших загроз, які я бачу в майбутньому”.
Зловмисники можуть використовувати генеративний ШІ для підвищення якості своєї дезінформації, створюючи більш емоційний фон для тих чи інших даних. Але бувають випадки, коли ШІ не потрібно давати команду, щоб він створював неправдиву інформацію. Він робить це сам, а потім може поширювати неправдиву інформацію мимоволі.
“Викривлення інформації не завжди є навмисним. ШІ може самостійно генерувати неправдиву інформацію, таку собі “галюцинацію”, – сказав у травні під час своєї презентації на Mini MisinfoDay Джавін Вест, доцент Інформаційної школи Вашингтонського університету та співзасновник Центру поінформованої громадськості.
Коли перед ШІ ставлять завдання, він повинен генерувати відповідь на основі реальних даних. Однак у деяких випадках ШІ фабрикує джерела – тобто “галюцинує”. Це можуть бути посилання на певні книги, яких не існує, або статті новин, які видають себе за публікації відомих сайтів, таких як The Guardian.
Бард від Google зачепив за живе співробітників компанії, які тестували ШІ до того, як він став доступним для громадськості в березні. Ті, хто випробував його, сказали, що технологія була поспішною і що Бард був “патологічним брехуном”. Він також давав погані, якщо не небезпечні, поради, як посадити літак або пірнути з аквалангом.
Ця подвійна проблема – правдоподібність і переконливість контенту, створеного штучним інтелектом, – є вкрай небезпечною. Однак саме потреба деяких людей повірити в правдивість цього фейкового контенту сприяє його вірусному поширенню.
Що робити з дезінформацією від ШІ?
Коли мова заходить про боротьбу з дезінформацією, створеною ШІ, та про небезпеку ШІ загалом, розробники цих інструментів заявляють, що працюють над зменшенням шкоди, яку може завдати ця технологія. Але вони разом з тим роблять кроки, які, здається, суперечать їхнім намірам.
Компанія Microsoft, яка інвестувала мільярди доларів у компанію OpenAI, що створила ChatGPT, у березні звільнила 10 000 співробітників, у тому числі команду, в обов’язки якої входило стежити за дотриманням етичних принципів при використанні ШІ в продуктах Microsoft.
Відповідаючи на запитання про звільнення в червневому епізоді подкасту Freakonomics Radio, генеральний директор Microsoft Сатья Наделла сказав, що безпека ШІ є критично важливою частиною створення продуктів.
“Робота, яку виконують команди з безпеки штучного інтелекту, стає все більш нагальною, – каже Наделла. “Ми навіть подвоїли зусилля в цьому напрямку. Для мене безпека ШІ стоїть в одному ряду з такими поняттями “продуктивність” або “якість” будь-якого програмного проєкту”.
Компанії, які створили технологію, кажуть, що працюють над зниженням ризиків, пов’язаних зі штучним інтелектом. Google, Microsoft, OpenAI і Anthropic, компанія, що займається безпекою і дослідженнями ШІ, 26 липня створили Frontier Model Forum. Мета цієї групи – просувати дослідження безпеки ШІ, визначати найкращі практики та співпрацювати з політиками, науковцями та іншими компаніями.
Урядовці, однак, також прагнуть вирішити питання безпеки ШІ. У травні віце-президент США Камала Харріс зустрілася з керівниками Google, Microsoft і OpenAI, щоб обговорити потенційні небезпеки ШІ. Через два місяці ці лідери взяли на себе “добровільне зобов’язання” перед адміністрацією Байдена зменшити ризики, пов’язані зі штучним інтелектом. У червні Європейський Союз заявив, що хоче, щоб технологічні компанії почали маркувати контент, створений штучним інтелектом, до того, як він ухвалить відповідне законодавство.
Як це стосується нас?
Насправді, на пряму. Особливо з урахуванням умов воєнного часу.
Спецслужби РФ мають великий досвід застосування фото- та відеомонтажу для створення фейків та проведення психологічних операцій та активно освоюють ШІ. Так наприклад, ШІ був використаий, зокрема, для створення фейкового відеозвернення президента Зеленського про капітуляцію, вкинуте в інфопростір у березні 2022 року.
З огляду на низьку якість цього «продукту», оперативну реакцію державних комунікацій, президента, який особисто спростував фейк, і журналістів, це «не взлетіло». Відео не досягло своєї мети ні в Україні, ні за кордоном. Але зупинятися росіяни, вочевидь, не збираються.
Сьогодні для розповсюдження дезінформації Кремль використовує величезну кількість інструментів: телебачення, радіо, інтернет-сайти, блогерів-пропагандистів, які генерують і просувають контент у Telegram, Youtube, соціальних мережах.
ШІ має потенціал для використання, насамперед, для створення фото-, аудіо- і відеофейків, а також для роботи ботоферм. ШІ може замінити значну частину персоналу на російських «фабриках тролів», інтернет-бійців, які провокують конфлікти в соцмережах та створюють ілюзію масової підтримки кремлівських наративів користувачами.
Замість «тролів», що пишуть коментарі за методичками, це може робити ШІ з використанням ключових слів та запропонованої йому лексики. Визначальний вплив на лояльну аудиторію мають згадані вище інфлюенсери (політики, пропагандисти, блогери, конспірологи тощо), а не безіменні боти та інтернет-тролі. Однак з допомогою ШІ вагу останніх можна збільшити за рахунок кількісного зростання та «тонкого налаштування» під різні цільові аудиторії.
Чи щось робиться, щоб цьому завадити?
Для боротьби з дезінформацією, яку генерує штучний інтелект напередодні президентських виборів у США 2024 року, Google з середини листопада вимагатиме, щоб політична реклама з використанням штучного інтелекту містила розкриття інформації про неї.
“Усі перевірені рекламодавці на виборах у регіонах, де потрібна верифікація, повинні чітко повідомляти, коли їхня реклама містить синтетичний контент, який неавтентично зображує реальних або реалістично виглядаючих людей чи події”, – йдеться в оновленій політиці Google, яка також поширюється на контент на YouTube. “Таке розкриття має бути чітким і помітним, а також розміщеним у місці, де його з великою ймовірністю помітять користувачі. Ця політика застосовуватиметься до зображень, відео- та аудіоконтенту”.
З 1 січня Мета запроваджує таку саму вимогу до політичної реклами в Instagram та Facebook.
“Рекламодавці повинні будуть повідомляти про те, що соціальна, виборча або політична реклама містить фотореалістичне зображення або відео, або реалістичне звучання, яке було створено або змінено цифровим способом”, – йдеться в новій політиці Meta.
Що ви можете зробити, щоб уникнути дезінформації від штучного інтелекту
Існують інструменти для виявлення дезінформаційного контенту, створеного штучним інтелектом, але вони поки що не відповідають вимогам часу. Де Чоудхурі у своєму дослідженні зазначає, що ці інструменти для виявлення дезінформації потребують постійного навчання, щоб справлятися з дезінформацією, створеною штучним інтелектом.
У липні компанія OpenAI видалила власний інструмент для виявлення тексту, написаного штучним інтелектом, пославшись на його низьку точність.
Халед каже, що визначити, чи створений контент штучним інтелектом, можна за допомогою скептицизму та уваги до деталей.
“Контент, створений штучним інтелектом, хоч і просунутий, але часто має витончені особливості або невідповідності, – каже він. “Ці ознаки можуть бути не завжди присутніми або помітними, але іноді вони можуть видати вміст, створений штучним інтелектом”.
А що ж робити нам?
Як було написано на самому початку, є практичні кроки, які може зробити кожен для боротьби з дезінформацією, згенерованою ШІ.
Ось чотири речі, які слід враховувати, намагаючись визначити, чи створено щось штучним інтелектом, чи ні:
- Шукайте дивацтва, властиві для ШІ: Ознаками тексту, написаного штучним інтелектом, є дивні фрази, недоречні дотичні або речення, які не зовсім вписуються в загальну розповідь. Що стосується зображень і відео, то зміни в освітленні, дивні рухи обличчя або дивне поєднання фону можуть свідчити про те, що вони були створені за допомогою ШІ.
- Подумайте про джерело: Це авторитетне джерело, таке як Associated Press, BBC або New York Times, чи це інформація з сайту, про який ви ніколи не чули?
- Проведіть власне дослідження: Якщо повідомлення, яке ви бачите в Інтернеті, виглядає занадто божевільним, щоб бути правдою, перевірте його спочатку. Загугліть те, що ви побачили в дописі, і перевірте, чи це правда, чи це просто ще один контент від штучного інтелекта, який став вірусним.
- Звіртеся з реальністью: Візьміть тайм-аут і поговоріть з людьми, яким ви довіряєте, про те, що бачите. Може бути шкідливо залишатися в онлайн-бульбашці, де стає все важче відрізнити, що є реальним, а що – фейком.
Ну, і найкращий спосіб боротьби з будь-якою дезінформацією, незалежно від того, чи вона створена людьми, чи штучним інтелектом, – це НЕ ділитися нею.
“Перше, що ми можемо зробити, – це більше думати і менше ділитися”, – сказав Вест.
Тож, як показує практика, вже давно пора навчитися перевіряти дані таки використовувати основи інформаційної гігієни.
Максим Савченко
