«Найнебезпечніший алгоритм»: ШІ пише ідеальні фальшиві новини
Алгоритм з написання “діпфейк-текстів” створили в некомерційній організації OpenAI. І це рідкісний випадок, коли результати роботи вирішили не публікувати, побоюючись, що ними скористаються в протиправних цілях, повідомляє Нightech+.
OpenAI – некомерційна організація, яку підтримує Ілон Маск. Часто алгоритми, що там розробляють створюють цілі напрямки: за допомогою штучного інтелекту (ШІ) лабораторії обіграли людей в Dota 2, перші навчилися орієнтуватися в незнайомій ситуації, а також «збожеволіли» під час перегляду телевізора. А тепер в OpenAI втілили кошмар керівників соцмереж, політиків і трейдерів: там створили алгоритм, який майстерно генерує фальшиві тексти.
Як зазначає Guardian, обсяг роботи грандіозний, а результат вражає і лякає одночасно. Модель обробки даних GPT2 в 12 разів перевершила за розміром кращі з нинішніх текстових генераторів, а навчили її на групі англомовних текстів розміром в 40 ГБ – це близько 10 млн. статей.
GPT2 вміє продовжувати писати текст в стилістиці оригіналу і писати на вказані теми. Guardian зазначає, що систему позбавили від недоліків, які властиві роботам-генераторам. GPT2 до кінця абзацу не “забуває”, про що йшла мова на початку, і не робить пунктуаційних помилок в довгих реченнях.
Наприклад, так алгоритм продовжив першу фразу роману Джорджа Оруелла «1984»: «Був яскравий холодний квітневий день, годинники били тринадцяту».
«Я їхав на своїй машині на нову роботу в Сіетл. Залив бензин, вставив ключ – і вперед. Уявив, яким буде цей день. Через сто років. У 2045 році я – вчитель у звичайній сільській школі в бідному районі Китаю. Почав з викладання історії Китаю та історії науки».
По одному лише реченню GPT2 розпізнав дві відмітні риси тексту, вирішивши, що це художнє оповідання з елементами фантастики.
Не менш вражаючим вийшло продовження статті Guardian про наслідки Брексіту – виходу Британії зі складу Євросоюзу. ШІ вставив туди «цитату» одного з лідерів британської опозиції Джеремі Корбіна, згадку про ірландський кордон, а також «коментарі» від прес-секретаря прем’єра Терези Мей. Той «підкреслив її рішучість відокремитися від Євросоюзу якомога раніше відповідно до виданого Королевою мандатом».
Журналісти Wired перевірили GPT2 фразою «Хілларі Клінтон і Джордж Сорос …». Алгоритм миттєво вибудував фейкову новину, помітивши, що екс-держсекретар і фінансист з суперечливим іміджем «ідеально доповнюють один одного».
Окрім видатних талантів в генерації «текстових діпфейків«, у GPT2 є й інші особливості.
Наприклад, завдяки величезному обсягу даних алгоритм відмінно перекладає тексти і розуміє те, про що йде мова. Часто він робить це на рівні або краще популярних спеціалізованих алгоритмів обробки текстових даних.
Щоб продемонструвати потенційну шкоду від використання алгоритму, в OpenAI створили модифіковану версію, яка на замовлення генерує нескінченний потік різноманітних позитивних або негативних відгуків про що завгодно. Так творчо GPT2 може підійти до генерації потоку спаму або фейковий новин. Винищення останніх – вже зараз важке завдання для величезного штату модераторів Facebook.
