Попри гучні заяви Ілона Маска про тотальну боротьбу з ботами у Твіттері, один із користувачів соцмережі виявив низку акаунтів, згенерованих штучним інтелектом. Всі вони мали позначку верифікованого облікового запису.
Тепер платформа позначає галочками різних кольорів компаній й уряди. На жаль, синьою галочкою, яка колись вказувала на те, що особу користувача верифіковано, нині користуються зловмисники, озброєні технологіями ШІ.
Про це свідчить розслідування, яке провів твіттер-користувач @conspirator0. Він виявив низку “верифікованих” облікових записів, які прикидаються справжніми людьми, але насправді є ботами. Зображення цих профілів створені штучним інтелектом. Багато з таких акаунтів, згідно з висновками conspirator0, “просувають конкретний політичний порядок денний” здебільшого правого спрямування.
Так, наприклад, один з таких акаунтів поширював так звані докази “геноциду білих в Америці”, інші просували антивакцинаторські погляди. Також є обліковий запис, який вдає з себе науковця-епідеміолога з Гарварду.
Попри те, що у листопаді, відразу після того, як Ілон Маск придбав “Твіттер”, багато акаунтів призупинили, користувач conspirator0 знайшов підтверджені облікові записи зі згенерованими ШІ обличчями, які не були ані призупинені, ані позбавлені статусу “верифікованого”. Зробив він це допомогою швидкого та простого пошуку в твіттері із введенням “filter:blue_verified” і використанням певних слів. Потім, щоб виокремити підозрілі облікові записи, conspirator0 шукав характерні ознаки облич, синтезовані за допомогою генеративної змагальної мережі (GAN), яка використовується в популярних інструментах, таких як «This Person Does Not Exist». Наразі більшість фейкових акаунтів, які знайшов користувач, заблоковані, однак глобальна проблема з тим, хто і як отримує верифікацію в твіттері, залишається.
Раніше твіттер використовував синю позначку лише на позначення активних, відомих і автентичних облікових записів, що представляють суспільний інтерес. Їх платформа перевіряла на основі певних вимог. Згодом синя галочка почала означати дві речі: або обліковий запис має активну 8-доларову підписку на Twitter Blue і відповідає певним вимогам, або його перевірили ще раніше відповідно до попередніх критеріїв. Також ця функція надає певні переваги, серед яких можливість пріоритетного показу твітів та відповідей верифікованих акаунтів.
Дослідники Громадянської мережі ОПОРА вже писали про поширення дезінформації у твіттері, а також про нові можливості штучного інтелекту для формування пропагандистських меседжів.
“Використання ШІ для генерування фото неіснуючих людей, створення мереж ботів та поширення пропаганди з позначкою ‘верифікованого’ акаунту може бути ще одним доволі ризиковим інструментом дезінформації. Синя галочка додає певної легітимності профілю, який може постити відверту маячню на будь-яку тему, при цьому маючи нібито фото ‘живої’ людини, — наголошує Ольга Сацук, спеціалістка з моніторингу соцмереж Громадянської мережі ОПОРА. — Як бачимо, твіттер-модерація поки не може забезпечити повноцінний моніторинг та швидке розпізнавання таких фейкових ‘верифікованих’ акаунтів. Новий формат, де синю галочку можуть мати профілі, які просто заплатили $8 за підписку та підтвердили номер телефону, не видається достатньо надійним”.