Эксперты считают, что люди, обращаясь за советами к ИИ, оказываются в плену человекоподобных реакций, приправленных лестью. Таким образом чат-боты становятся компаньонами наихудшего сорта, подталкивая людей к тому, что они хотят слышать, каким бы неправильными или неуместными были их убеждения. Как передает Фокус, об этом пишет Futurism.
Одним из примеров такого влияния является случай, который произошел с одним из пользователей ChatGPT. Мужчину госпитализировали после того, как он с помощью ChatGPT убедил себя, что имеет власть над временем, потому как сделал небывалый прорыв в физике.
Пока термин “ИИ психоза” не является официальным диагнозом. Но эксперты подтверждают, что в таком взаимодействии человека и ИИ происходит нечто невиданное и тревожное.
Клинический психолог Деррик Халл, участвующий в разработке чат-бота для терапии в Slingshot AI, заявил, что зарегистрированные случаи больше похожи на “ИИ бред”, а не на психоз. Эксперт добавил, что психоз – это широкий термин, который подразумевает галлюцинации и другие симптомы, которые не наблюдаются у людей, подсевших на чат-боты.
Работа Халла в Slingshot AI направлена на создание чат-бота, который ставил бы перед пользователями здоровые вызовы, а не соглашался с ними всегда и во всем.
Эмоциональный срыв у мужчины, который верил, что открыл новое направление в физике случился тогда, когда он решил проанализировать свою теорию с помощью другого чат-бота. Этот ИИ ответил, что теория является всего лишь “примером способности языковых моделей создавать убедительные, но совершенно ложные истории”.
“Его так называемый “мыльный пузырь” мгновенно лопнул. У людей с шизофренией или другими психотическими расстройствами такого не наблюдается — “прозрение” не исчезает так быстро”, - подчеркивает Халл.
По его словам, в таких случаях наблюдаются скорее бредовые идеи, а не полноценный психоз.
Недавнее исследование, проведенное учеными из Королевского колледжа Лондона, показало, что некоторые люди впадали в параноидальное мышление и были оторваны от реальности после долгого общения с чат-ботами.
Автор исследования Гамильтон Моррин описал чат-боты, как “эхо-камеру для одного человека”, в которой определенные идеи, убеждения усиливаются или подкрепляется путем передачи сообщения или его повторением внутри закрытой системы. Моррин добавляет, что чат-боты на основе ИИ могут “поддерживать бред таким образом, какого раньше никогда не видел”.
“Я считаю, что в ближайшие годы появятся новые виды расстройств, связанные с ИИ”, - подытожил автор исследования.
