Інструменти для виявлення текстів, створених штучним інтелектом, демонструють високу точність, проте вони не здатні дати стовідсоткову гарантію. Ефективність таких систем залежить від еволюції мовних моделей, оскільки алгоритми постійно еволюціонують. Про це повідомляє видання Gizmodo.
Такі детектори, як Pangram та Originality.ai, здійснюють аналіз сотень мініатюрних закономірностей усередині тексту. Вони оцінюють не лише лексику, а й взаємне розташування слів. Завдяки цьому алгоритми здатні виявляти математичні закономірності, непомітні для людського ока.
Водночас творці подібних систем відкрито визнають їхню потенційну помилковість. Макс Сперо, генеральний директор компанії Pangram, підкреслив, що їхня мета полягає у підвищенні рівня впевненості завдяки залученню масивів даних, проте досягти абсолютної точності неможливо.
Аналогічну позицію висловлює Джон Гіллгам, який керує Originality.ai. Він проводить паралель між ідентифікацією ШІ-текстів та метеорологічним прогнозом: алгоритм оперує ймовірностями, а не абсолютною впевненістю. Отже, навіть гранично високий показник не є стовідсотковою гарантією.
Ситуація ускладнюється стрімким прогресом ChatGPT, Claude, Gemini та інших масштабних мовних моделей. Характерні маркери, що сьогодні видають використання штучного інтелекту, можуть повністю зникнути після чергового оновлення. Ба більше, існують спеціалізовані сервіси для рерайтингу ШІ-текстів, які адаптують їх під людський стиль.
Окрім того, детектори функціонують за принципом «чорної скриньки»: розробники не завжди здатні детально пояснити, які саме комбінації ознак стали вирішальними для висновків алгоритму.
Альтернативним методом визначення походження контенту є цифрові водяні знаки. Закон Європейського Союзу про штучний інтелект вимагає маркування окремих видів контенту, згенерованого чи модифікованого ШІ, а також впровадження машинозчитуваних водяних знаків. Проте ці захисні механізми піддаються обходу та видаленню.
Наприклад, компанія Anthropic запровадила водяні знаки для матеріалів, створених за допомогою Claude, проте дослідники оперативно виявили методи їх обходу. Своєю чергою, Google використовує невидиму технологію SynthID та метадані C2PA для маркування походження згенерованих ШІ зображень, відеоматеріалів і музичних треків.
Хані Фарід, експерт у галузі цифрової криміналістики та професор Дартмутського коледжу, переконаний, що недосконалість зазначених інструментів не є приводом для відмови від них. На його думку, детектори та водяні знаки мають бути лише елементами комплексної захисної системи, яку доводиться безперервно вдосконалювати.
Додаткові труднощі виникають під час аналізу контенту із частковим залученням ШІ. У ситуаціях, коли автор самостійно пише матеріал, а згодом звертається до нейромережі за редагуванням, водяний знак здатний лише констатувати факт втручання ШІ, але не здатний визначити масштаб цього впливу.
З цієї причини фахівці рекомендують не покладатися виключно на вердикт єдиного ШІ-детектора. У реаліях, коли ідентифікація штучного інтелекту стає дедалі складнішою задачею, критично важливими залишаються верифікація джерел інформації, дотримання редакційних стандартів і розвиток критичного мислення.
