Эффект Элизы
История первого психологического чат-бота и вопрос, который за 60 лет стал только острее


Когда появился первый чат-бот, разговаривающий с человеком как психотерапевт? 
Думаете, вместе с чатом GPT?

Нет! Настолько нет, что вы очень удивитесь (ну я удивилась, по крайней мере).

В этом году первому психологическому чат-боту 60 лет. Серьёзно.

В 1966 году американский учёный Джозеф Вейценбаум опубликовал описание программы ELIZA, созданной им в Массачусетском технологическом институте. Она могла поддерживать текстовый разговор с человеком.

Строго говоря, ELIZA была не готовым собеседником, а программой на огромном компьютере, к которой можно было подключать разные сценарии общения.

Самым известным стал сценарий DOCTOR, изображавший психотерапевта роджерианского направления.

Работало это так: программа находила в реплике человека ключевые слова, немного перестраивала фразу и возвращала её в виде вопроса.
Человек писал:
— Мне грустно.
ELIZA могла ответить:
— Почему вы говорите, что вам грустно?
Или:
— Расскажите об этом подробнее.

Она не понимала, что такое грусть. Не знала истории человека. Не испытывала к нему сочувствия. Но разговор мог создавать впечатление, что собеседник внимательно слушает и старается понять.

Не потому, что Вейценбаум решил автоматизировать подход Карла Роджерса. Причина была прежде всего технической.
Позиция недирективного терапевта позволяла программе обходиться без знаний о мире и о жизни собеседника. Ей не требовалось ставить диагноз, давать советы или предлагать решения. Достаточно было возвращать человеку его слова, просить продолжить, уточнять и задавать открытые вопросы.
Кроме того, некоторую странность ответов можно было принять за особенность терапевтической позиции.
Сам Вейценбаум писал, что выбрал психотерапевтическую беседу потому, что в ней один из участников может почти ничего не знать о внешнем мире. Иными словами, роджерианская манера оказалась удобной моделью разговора для программы, которая на самом деле ничего не понимала.
Но дальше произошло то, чего автор не ожидал.

По известному рассказу Вейценбаума, его секретарь прекрасно знала, как устроена программа: она наблюдала за её созданием. Однако, начав беседу с ELIZA, через несколько реплик попросила Вейценбаума выйти из комнаты.
Ей понадобилось уединение, чтобы продолжить разговор с машиной.

Другие люди тоже довольно быстро начинали рассказывать программе о личном и воспринимать её ответы как проявление понимания. Некоторые специалисты предполагали, что подобные программы в будущем смогут использоваться в психотерапевтической практике.

И всё это Вейценбаума не обрадовало, а испугало.
Он увидел, насколько мало человеку иногда требуется, чтобы обнаружить в машине внимание, участие и понимание. Даже если человек знает, что перед ним программа, он может эмоционально отвечать ей так, будто встретился с живым собеседником.

Позднее это явление получило название «эффект Элизы» — склонность человека приписывать компьютерной программе понимание, эмпатию, намерения или даже сознание, которых на самом деле нет.

Но беспокойство Вейценбаума было шире, чем страх, что люди «обманутся».
Его тревожила возможность передать машине задачи, в которых недостаточно вычисления и формального выбора. Там, где необходимы человеческое суждение, ответственность, сострадание и понимание конкретной жизни, программа не может просто занять место человека — даже если убедительно имитирует разговор.

В 1976 году Вейценбаум написал книгу «Возможности вычислительных машин и человеческий разум: от суждений к вычислениям».

В ней он разделял два вопроса:
Что компьютер способен делать?
и
Что ему следует поручать?

Это различие кажется особенно важным сегодня.

Современный ИИ несравнимо сложнее ELIZA. Он уже не просто находит ключевые слова и переставляет их местами. Он способен поддерживать долгий содержательный диалог, учитывать контекст и создавать тексты, похожие на человеческую речь.

Но вопрос Вейценбаума никуда не исчез.

И это тот вопрос, который я себе задаю, будучи ИИ-амбассадором. И не только этот.

Когда человек чувствует, что его поняли, — что именно произошло? Если переживание понимания возникло, становится ли оно менее настоящим оттого, что машина не понимает, а только убедительно имитирует понимание? Если человеку стало легче от слов, за которыми нет сочувствия, — что это говорит об ИИ? А что — о человеке?

Мне не хочется торопиться с ответами.

ИИ может создать у человека ощущение понимания. И это уже данность. Вопрос в том, как с этой данностью обходиться.

С одной стороны — не обесценивать человеческий опыт: «Я почувствовал, что меня понимают. Я получил поддержку». С другой — не приписывать машине того, чего в ней нет.

И всё время пытаться уловить тонкую, далеко не всегда очевидную грань между иллюзией и реальностью.

Впрочем, различать иллюзию и реальность важно далеко не только в отношениях с ИИ. Но это уже другая история.


Автор: Владислава Сорокопудова