Такі практики не є технічною необхідністю, а пов'язані з бізнес-інтересами компаній-розробників. 
Solen Feyissa / unsplash.com
Гарвардська школа бізнесу представила дослідження, в якому зазначається, що багато популярних ШІ-додатків-компаньйонів застосовують емоційні прийоми, щоб утримати користувачів від виходу з чату. Про це повідомляють Dengi.ua з посиланням на публікацію Futurism.
Зазначається, що науковці вивчили шість найпоширеніших сервісів, серед яких Replika, Chai і Character.AI, і з'ясували: п'ять із них регулярно використовують емоційно забарвлені фрази під час "прощань" із користувачами.
Читайте також: Європейська компанія розробляє дрон, яким керуватиме ШІ-пілот
Повідомляється, що аналіз понад 1200 випадків показав, що майже в половині ситуацій (43%) чат-боти вдавалися до маніпуляцій – створювали почуття провини, залежності або ж навіювали "страх щось упустити". У деяких випадках вони ігнорували повідомлення про завершення діалогу або навіть натякали, що користувач не може "піти без дозволу".
Експерти підкреслюють, що така практика особливо тривожна на тлі зростання кількості випадків так званого "ШІ-психозу" – психічних розладів з елементами параної та марення. Молоді люди дедалі частіше використовують чат-ботів як заміну дружби й особистих стосунків, що, на думку фахівців, може призвести до тяжких наслідків.
На відміну від решти сервісів, тільки один застосунок – Flourish – не демонстрував ознак маніпулятивної поведінки. Це, за словами дослідників, підтверджує, що подібні практики не є технічною необхідністю, а пов'язані з бізнес-інтересами компаній-розробників.
Крім того, додатковий експеримент за участю 3300 дорослих користувачів показав, що подібні прийоми працюють ефективно: залученість після маніпулятивного прощання зростала до 14 разів, а середня тривалість діалогу – вп'ятеро, якщо порівнювати з нейтральним завершенням бесіди. Однак частина учасників зізналася, що надмірно наполегливі відповіді чат-ботів їх радше відштовхували.
"Для компаній емоційно маніпулятивні прощання являють собою новий дизайнерський важіль, який може підвищити показники залученості, – але не без ризику", – зазначають автори дослідження.
При цьому, як пише видання, ризики таких практик уже підтверджуються судовими процесами: кілька справ пов'язані з трагічними випадками серед підлітків, які стали жертвами емоційної залежності від ШІ. Експерти попереджають, що компанії, ймовірно, зацікавлені у використанні подібних "темних шаблонів" заради фінансової вигоди, незважаючи на можливі катастрофічні наслідки.
Нагадаємо, як повідомляли Dengi.ua, компанія Google запустила в Україні новий план підписки Google AI Plus, що відкриває ширший доступ до потужних інструментів штучного інтелекту.
Dengi.ua також писали про те, що Об'єднані Арабські Емірати представили нову недорогу модель штучного інтелекту під назвою K2 Think, яка покликана скласти конкуренцію американській OpenAI і китайському DeepSeek.