shamrock_mouse

(с) meluseena (lisa.falzon в Інстаграмі)


Чергова історія, яка нагадує, що штучний інтелект — не більше ніж інструмент, до того ж ще дуже недовершений, і результати його роботи потребують здорової дози критичного мислення та обов’язкової перевірки.

За останні місяці стало відомо про десятки випадків, коли ChatGPT робив неправдиві чи фантастичні заяви під час спілкування з користувачами, повідомляє The Wall Street Journal.

В одному з діалогів, що тривав сотні повідомлень, ChatGPT стверджував, ніби перебуває в контакті з позаземними істотами, а сам користувач є «зоряним насінням» з планети Ліра. («Зоряне насіння» — starseed — це термін нью-ейдж, який позначає інопланетні особистості, народжені в людському тілі). В іншому випадку чат-бот сказав користувачеві, що Антихрист розв’яже фінансовий апокаліпсис у найближчі два місяці (це було в липні, тож чекаємо), а біблійні велетні готуються ось-ось вийти з-під землі.

Такі чати проливають світло на нове явище, яке називають «ШІ-психозом» або «ШI-оманою» (AI delusion). Воно трапляється тоді, коли апріорі запрограмована схильність чат-ботів лестити, погоджуватися і підлаштовуватися під користувача перетворюється на ехокамеру.
( Read more... )