Дівчина, яка трагічно загинула 18 років тому, "повернулася" у формі чат-бота на основі штучного інтелекту: родичі в гніві (фото)

Дрю Кресенте натрапив на зображення своєї покійної доньки Дженніфер у програмі, що дає змогу розробляти віртуальних героїв.

Сервіс Character.ai використовував фото американки Дженніфер Енн Кресенте, яку було вбито 2006 року, для створення чат-бота зі штучним інтелектом (ШІ). Про це пише Business Insider.

Повідомляється, що батько дівчини Дрю Кресенте отримав сповіщення Google, яке він налаштував, щоб відстежувати будь-які згадки про Дженніфер у мережі. Як виявилося, Google проіндексував бота, створеного в Character.ai. Цей сервіс дає змогу створювати персонажів із певними "особистостями", а потім публікувати їх, відкриваючи доступ до них іншим користувачам.

Бот використовував ім'я та зображення Дженніфер з її випускного альбому, представляючи її як "досвідченого та доброзичливого персонажа штучного інтелекту, здатного надати інформацію з різноманітних тем", а також як "фахівця в області журналістики" з досвідом у сфері новин про відеоігри. Коли батько виявив цього бота, в його профілі вже було зафіксовано, що він брав участь принаймні в 69 чатах.

"Це було справжнє лихо. Я знову опинився в ситуації, коли змушений зіштовхнутися з цією жахливою травмою, що переслідує мене вже досить довго," -- поділився своїми переживаннями Дрю з журналістами.

Чоловік звернувся до служби підтримки Character.ai, щоб попросити видалити чат-бота, який наслідує його дочку. Після цього він отримав автоматичну відповідь з номером звернення, але без жодних додаткових відомостей. У свою чергу, дядько дівчини, Брайан Креченте, поділився в Twitter повідомленням про бота, закликавши своїх підписників сприяти в "припиненні цієї жахливої практики".

"Це жахливо: @character_ai використовує мою загиблу племінницю як образ штучного інтелекту в грі без згоди її батька. Він зараз у глибокій печалі. Не можу навіть уявити, через що він проходить," – поділився Браян.

Через годину після публікації, компанія Character.ai відреагувала на пост, оголосивши про видалення чат-бота Дженніфер. Представниця компанії Кессі Лоуренс підтвердила цю інформацію в коментарі для медіа. Вона зазначила, що Character.ai застосовує "стандартні та індивідуальні списки блокування", щоб уникнути ситуацій, коли система може видавати себе за іншу особу.

Дрю підкреслив, що компанія зобов'язана вибачитися і надати гарантії, що зображення його доньки більше не будуть експлуатуватися. В даний час він розглядає юридичні можливості для досягнення цього.

"Просто невимовно, що компанія з такими грошима, по-моєму, настільки байдужа до повторного травмування людей", -- сказав батько Дженніфер.

Нагадуємо, що українка Ольга Лоєк виявила в китайських соціальних мережах своїх дигітальних копій, згенерованих за допомогою штучного інтелекту. Ці діпфейки обговорювали відносини між Китаєм та Росією, а також просували російські продукти.

Інформація також свідчить, що американський сенатор і голова комітету з міжнародних справ Бенджамін Луїс Кардін отримав дзвінок від дипфейку колишнього міністра закордонних справ України Дмитра Кулеби.