«Воскресіння» мертвих за допомогою ШІ зашкодить психіці горювальників

Науковці дійшли висновку, що поки що не варто повертати померлих людей до світу живих у вигляді чатботів на основі мовних моделей штучного інтелекту. Окрім того, що це може завадити горювальникам прожити втрату близької людини, такі чатботи можуть створити залежність до них та навіть породити нову релігію, міркують вчені. Вони вважають, що потрібно врахувати можливі ризики, перш ніж підійти до реалізації задуму, щоб зберегти взаємодію людини з ШІ безпечною та корисною. Дослідження оприлюднене на arXiv.

GIPHY

👋 Слідкуйте за наукою разом з нами — підписуйтеся на наш телеграм та інстаграм, буде цікаво!

Як воскресити когось за допомогою штучного інтелекту?

В останні роки значного вдосконалення досягли такі мовні моделі на основі штучного інтелекту (ШІ), як GPT. Вони проаналізували мільйони одиниць інформації про манеру спілкування у людей, і вже досягли рівня, коли їх часто неможливо відрізнити за розмовою від людини. І хоч вони можуть замінити людей в окремих сферах життя та роботи, але вже зараз низка стартапів пропонують використати технологію для «воскресіння» людей із мертвих.

Під поверненням мертвої людини до світу живих мається на увазі створення моделі, яка у спілкуванні буде нагадувати небіжчика. Досягти цього можна було б, якщо навчити модель на численних електронних листах, повідомленнях у месенджерах та акаунтах у соціальних мережах померлої людини. Тоді модель гіпотетично може мати спогади та манери поведінки померлого, чим могла б стати його реплікою та допомогти рідним, які горюють. Але вчені з Університету Колорадо та Google DeepMind дійшли висновку, що від цього може стати лише гірше.

Які загрози побачили вчені у воскресінні?

Дослідники визнають, що ШІ-«привиди», як вони назвали концепцію, можуть стати розрадою для тих, хто ніяк не може змиритися зі смертю близької людини. Вони можуть допомогти підтримати зв’язок, якого їм не вистачає, дати підтримку. Замість односторонніх спілкувань з померлим, які іноді радять психологи, люди змогли б послухати думку померлого родича, створити враження його присутності на важливих подіях.

Хоч це може допомогти як рішення на етапі примирення з утратою, але для багатьох людей «привид» не даватиме змоги відпустити померлу людину від себе. У вразливий період горювання люди можуть прийняти навчену модель за справжню людину й перестати розрізняти реальність, віддавати перевагу спілкуванню з моделлю замість зв’язків із живими людьми. При цьому, якщо врахувати галюцинації моделей штучного інтелекту, то «привиди» можуть видумувати відповіді, які померла людина не дала б за життя. Це можуть бути, зокрема, шкідливі поради.

Також науковці припускають, що «привиди» можуть посприяти новим релігійним течіям. Деякі люди можуть побачити у моделях потойбічні істоти, на кшталт янголів чи богів, яким прагнутимуть поклонятися. На думку дослідників, сучасні релігії мають сформулювати ставлення до технології ще до того, як вона набуде поширення.

До чого ведуть вчені?

Хоч технологія ШІ-«привидів» ще не набула масового поширення, вчені вважають, що вже зараз варто замислитися про її потенційні наслідки. Щоб мінімізувати шкоду, але зберегти користь від спілкування з віртуальними образами померлих, потрібно ретельно продумувати створення таких систем. Зокрема, інтерфейс має чітко вказувати, що користувач спілкується з репрезентацією людини, а не з нею самою. Так само, розробникам та юристам слід врегулювати питання щодо використання даних померлих людей і способи мінімізації ризиків зловживання ними.

Тобто суспільний діалог має пройти за участю ШІ-дослідників, фахівців із взаємодії людини та комп’ютера, представників релігій та законодавців.

Джерело