Как роботы манипулируют людьми? Почему люди наделяют машины человеческими качествами? К каким последствиям это может привести? Ответы на эти вопросы читайте в данной статье.

Немецкие ученые из Университета Дуйсбурга-Эссена провели исследование, в ходе которого выяснили, что люди подвержены эмоциональным реакциям по отношению к роботам. Соответствующий эксперимент был описан на сайте PLOS ONE. В нем приняла участие группа людей, добровольно согласившаяся взаимодействовать с роботами под присмотром ученых. Результаты исследования показали, что умные машины способны манипулировать человеком, используя его эмоции.

«Умоляющий компьютер не хочет умирать»

Именно такое название получил эксперимент, проведенный учеными в 2007 году. Для исследования были использована роботизированная кошка, которую должны были поочередно отключать участники исследования. Когда человек собирался выключить машину, она неожиданно начинала умолять его не делать этого.

Добровольцы не были предупреждены о такой реакции со стороны робота, из-за чего им приходилось совершать непредсказуемые для себя действия.

Новый эксперимент был выстроен по аналогии с предыдущим. На этот раз использовался другой робот, получивший имя Nao, а число участников исследования возросло до 89 человек. Основная задача волонтеров заключалась во взаимодействии с умной машиной с целью оказания ей помощи в саморазвитии. Когда контакт между человеком и роботом завершался, ученые просили выключить Nao, но тот неожиданно начинал просить не делать этого. Кроме того, машина дополнительно использовала жесты с целью вызвать более действенную реакцию со стороны участников. Чтобы получить точные результаты, для части волонтеров просьба робота была отключена.

Сострадание к роботу

Результаты исследования показали, что поведение Nao привело в замешательство практически всех участников эксперимента:

  • 43 человека задумались, пытаясь решить, чью именно просьбу им стоит выполнить: ученых или робота;
  • 13 человек выполнили просьбу робота, отказавшись слушать ученых;
  • 33 человека отключили робота, но колебались, когда он озвучил свою просьбу.

Волонтеры, состоявшие в контрольной группе, к которым Nao не обращался после завершения контакта, справились с задачей без каких-либо задержек.

На основе полученных результатов ученые пришли к выводу, что люди склонны антропоморфизировать роботов, из-за чего могут быть легко подвержены эмоциональным манипуляциям с их стороны. Также было установлено, что длительность и характер общения волонтеров с Nao не повлиял на решение, которое они принимали по окончанию диалога.

После эксперимента ученые отдельно пообщались с участниками, которые отказались отключать робота. Исследователи пришли к выводу, что люди послушались Nao по нескольким причинам:

  • желание выполнить просьбу, озвученную роботом;
  • жалось к роботу;
  • беспокойство о том, что они действуют неправильно.

Профессор социальной психологии Николь Крамер, принимавшая активное участие в исследовании, отметила, что такая реакция связана с социальным поведением людей. Поскольку человек еще не научился различать реальные и искусственные сигналы, действия робота закономерно приводят его в замешательство.

Ранее аналогичную реакцию со стороны людей выявил выпускник Массачусетского технологического института Алекс Рибен, создавший небольших роботов с дружелюбным внешним видом. Их основная задача заключалась в сборе информации у прохожих. При этом роботы могли не только задавать любые вопросы, но и записывать людей на видео. Большая часть случайных участников эксперимента проявила положительную реакцию к дружелюбным машинам, быстро ответив на заданные вопросы, не задумываясь о том, кто ими управляет.

Ученые предполагают, что склонность людей наделять роботов человеческими качествами по аналогии с животными может привести к негативным последствиям в будущем. В случае создания самообучающегося искусственного интеллекта многие могут оказаться жертвами эмоциональной манипуляции со стороны роботов, подвергаясь серьезной опасности.