Тому що для людей ШІ виглядає “найлюдянішою людиною”. Новий “стенфордський експеримент” виявив непереборну вразливість мовної інтуїції людей. Через неї ймовірність виявлення нами авторства ШІ приблизно така сама, що й для зустрічі блондинки з динозавром.
Революція ChatGPT стала для світу каталізатором найрізноманітніших ризиків. Найочевидніший і найзрозуміліший із них – здатність ШІ типу ChatGPT настільки майстерно генерувати фейки, що люди не в змозі відрізнити їх від правди.
Проведені досліди показали колосальну міць цієї суперздатності ChatGPT до обману. Однак механізм цієї надздібності був незрозумілий – чим таким володіє ШІ, що здатний задурити голову вельми недурним і освіченим людям?
Новий “стенфордський експеримент”, з метою відповісти на це питання, було проведено Стенфордською лабораторією соціальних мереж спільно з дослідницьким центром Корнельського університету.
Результат серії з 6 експериментів (4600 осіб) сенсаційний і гнітючий.
- Люди визначали за текстом вербальної самопрезентації, хто її написав: людина чи ШІ. Самопрезентація є одним із найбільш особистих і важливих елементів мовного спілкування, бо наше ставлення до будь-якого висловлювання багато в чому залежить від того, хто (як ми вважаємо) його автор.
- В основі мовного сприйняття людей лежать так звані інтуїтивні мовні евристики (типу зв’язування займенників від першої особи, використання скорочень, згадування особистої інформації тощо).
- Експерименти показали, що під час сприйняття тексту, автором якого є ШІ, люди автоматом використовують ті самі інтуїтивні мовні евристики, що й у спілкуванні з іншими людьми. А це принципова помилка!
- Річ у тім, що це для нас такі евристики інтуїтивні, а ШІ зчитує їх запросто й оперує ними, як таблицею множення.
- У результаті ШІ може використовувати такі евристики для створення тексту, що сприймається людьми, як “більш людський, ніж людський”. Це значно підвищує обманний потенціал текстів і мови ШІ, стимулюючи нас довіряти цій “найлюдянішій людині” більше, ніж висловлюванням справжніх людей.
ПІДСУМОК ТАКИЙ: вірогідність виявлення нами авторства ШІ приблизно та сама, що й для зустрічі блондинки з динозавром (приблизно 50 на 50).
У романтичних комунікаціях людей ситуація ще гірша – майже 70% дорослих не можуть відрізнити любовний лист, написаний ChatGPT, від листа, написаного людиною.
