У 1818 році світ познайомився з дивовижною історією Мері Шеллі «Франкенштейн, або Сучасний Прометей». Англійська письменниця не просто започаткувала жанр науково-фантастичного роману — вона ніби створила попередження людству про наслідки наукових досягнень та спонукала осмислити етику використання штучного інтелекту.

Минуло понад 200 років, і нащадки перших читачів «Франкенштейна» завзято користуються ChatGPT — чат-ботом на основі штучного інтелекту, що створений компанією Open AI.

Від редакції. Перевірені поради та найцікавіші кейси – зібрали для вас в одному місці! Підписуйтесь на наш телеграм-канал та отримуйте щотижня нову порцію знань та порад!

Чи безпечно використовувати ChatGPT?

Нейромережа ChatGPT працює в режимі онлайн: відповідає на питання, пише тексти та коди, дає поради, створює рецепти й маршрути подорожей, ділиться жартами та знаходить цікаві приклади з різних галузей знань.

Звучить перспективно, але... за умови правильного та відповідального користування цією новою «іграшкою» людства. Бо штучний інтелект, хоч і навчений на величезній базі інформації, поки не вміє думати, аналізувати та відчувати як людина.

Ми в MK:translations хоч і використовуємо ChatGPT для розв’язання робочих задач, до згенерованих результатів ставимося обережно та прискіпливо. Щоб не потрапити в неприємну історію, як це сталося з «Новим каналом» та його публікацією про Олеся Гончара.

Скрін посту з вибаченнями від Нового каналу через публікацію неправдивих фактів про Олеся Гончара

Розгляньмо ознаки, завдяки яким можна відрізнити згенерований в нейромережі ChatGPT текст від написаного людиною.

Сім ознак того, що автор тексту — ChatGPT

Про те, що чат-бот може генерувати неправдиві чи безглузді відповіді, попереджають й самі розробники. Бо навіть найновітніша технологія недосконала. А ще нейромережа ChatGPT працює з матеріалами, зібраними до вересня 2021 року, що теж позначається на якості та точності відповідей.

Відповідь ChatGPT стосовно катофа

Зібрала ознаки, які можуть свідчити про «штучне» походження тексту. Знаючи їх, будете застраховані від неприємних «сюрпризів» і зможете перевірити подану інформацію, факти чи приклади.

1. Неординарні фрази або вирази

В тексті від ChatGPT часто можна зустріти нетипові й незвичні для повсякденного людського спілкування вирази.

Скрін згенерованого в ChatGPT тексту

2. Повторення слів або фраз

Штучний інтелект не вміє критично оцінювати текст, тому не замінює слова синонімами для милозвучності та кращого сприйняття.

Скрін згенерованого в ChatGPT тексту

3. Відсутність емоцій

Згенерований текст зазвичай не містить емоції, такі як захват, радість або експресія. Тому не викликає відчуття автентичності.

Скрін згенерованого в ChatGPT тексту

4. Відсутність особистого досвіду

Текст, що написаний штучним інтелектом, не розкриває особистого досвіду та конкретних деталей, які зазвичай присутні в розповідях людей. Тому що не враховує власні враження, почуття та думки.

Скрін згенерованого в ChatGPT тексту

5. Використання надмірних технічних термінів

Згенерована відповідь може містити надмірну кількість технічних термінів, які здаються нетиповими та неприродними для звичайного тексту, написаного людиною.

Скрін згенерованого в ChatGPT тексту

6. Відсутність варіативності в структурі речень

Тексти від чат-бота часто мають однотипну структуру речень, і це повинно викликати підозру. Бо людині притаманне використання різноманітних виразів та конструкцій, що робить текст природнішим та легшим для сприйняття.

Скрін згенерованого в ChatGPT тексту

7. Надмірне використання вставного слова «може»

Це пов’язано зі стратегією збільшення різноманітності відповідей та забезпечення гнучкого й адаптивного результату на різні запити користувачів. І дозволяє враховувати можливість різних сценаріїв або точок зору, не стверджуючи чітко одну позицію.

Скрін згенерованого в ChatGPT тексту

Перелічені ознаки можуть вказувати на вірогідну автоматичну генерацію тексту. Але вони не є абсолютними правилами. Кінцева оцінка того, чи текст згенерований ШІ, потребує комплексного аналізу різних ознак і контексту.

Сервіси, які допоможуть визначити згенерований штучним інтелектом текст

Розробники вже кілька років працюють над сервісами, які допомагають відрізнити «штучний» текст від «людського». Та з цим є дві проблеми:

• Поки йде навчання алгоритмів сервісу під одну модель ШІ, вже з’являється оновлена та ускладнена версія чат-бота, тому точність перевірок не надто висока.
• Програми для перевірки розроблені під англомовні тексти, тому слід з обережністю ставитися до результатів аналізу українських текстів. А деякі з них взагалі не розпізнають українську мову.

Ось перелік найпопулярніших сервісів:

1. GPT-2 Output Detector — перевіряє україномовні тексти

2. GLTR v0.5 — не розпізнає українську мову

3. GPTZero — при перевірці українського тексту видає помилку

4. AI Text Classifier від OpenAI — перевіряє україномовні тексти

5. AI Content Detector — при перевірці українського тексту видає помилку

Для експерименту я перевірила власний текст в сервісі GPT-2 Output Detector: з ймовірністю 98,78% він вважає його реальним, тобто написаним людиною. А потім попросила проаналізувати згенерований текст: знову вгадав, щоправда, впевненість трохи менша — 92,07%.

Результати перевірки написаного людиною тексту в GPT-2 Output Detector

Результати перевірки згенерованого тексту в GPT-2 Output Detector

А коли попросила ChatGPT проаналізувати ці тексти та дійти висновку щодо їхнього походження, отримала неочікувану відповідь. Написаний мною текст він оцінив як 50/50:

Скрін відповіді ChatGPT стосовно написаного людиною тексту

А свій текст, що був згенерований кількома днями раніше, взагалі не впізнав, і схилився до думки, що він скоріш за все «людський».

Скрін відповіді ChatGPT стосовно згенерованого ним самим тексту

Резюмуємо

Як бачите, ШІ не варто ідеалізувати. Він схожий на нас: так само помиляється, забуває, що написав, та намагається виплутатися з важких ситуацій завдяки розпливчатим фразам та вставному слову «може». Та це поки. Пройде час, і сучасні мовні моделі стануть настільки реалістичними, що буде дуже складно відрізнити згенеровані продукти від створених людиною.

Бажаєте стати королем інтернету? Курс Контент-маркетинг – саме для вас. Ви навчитеся створювати цікавий та контент, що залучає. Навчіться працювати із заголовками, зробите матеріали сайту віральними. Ви зможете аналізувати дієвість контент-маркетингу. Ми включили в програму окрему лекцію, присвячену роботі зі штучним інтелектом. Наш курс допоможе вам оволодіти цими навичками та підготує вас до майбутнього, де співпраця зі штучним інтелектом буде ключовим фактором успіху в галузі контенту.

Детальніше про курс