Отношения строятся на доверии, и новое исследование показывает, что разговоры с помощью искусственного интеллекта могут помочь установить взаимопонимание между двумя людьми - но только до тех пор, пока никто не подозревает, что другой использует искусственный интеллект.
Согласно результатам исследования группы ученых Корнельского университета, опубликованным на этой неделе в журнале Scientific Reports, использование ответов с помощью ИИ (т.е. "умных ответов") может изменить тон разговора и социальные отношения, а также увеличить скорость общения. И хотя в таких случаях часто используется более позитивный эмоциональный язык, люди, которые просто подозревают, что на ответы влияет ИИ, часто более недоверчиво относятся к своим собеседникам, независимо от того, используются ли они на самом деле.
В ходе исследования ученые собрали 219 пар участников и попросили их поработать с программой, созданной по образцу Google Allo (в переводе с французского - "привет"), первой, ныне не существующей платформы умных ответов. Затем пары попросили обсудить политические вопросы в трех условиях: обе стороны могли использовать смарт-ответы, только одна сторона могла их использовать, и ни одна из сторон не могла их использовать. В результате команда увидела, что использование смарт-ответов (примерно в каждом седьмом сообщении) повысило эффективность беседы, язык был позитивно направлен, а также положительные оценки участников. При этом те, кто подозревал партнеров в использовании умных ответов, часто оценивались более негативно.
Между тем, исследование показало, что вы также можете пожертвовать своей индивидуальностью ради скорости и удобства, обеспечиваемых искусственным интеллектом. В другом эксперименте с участием 299 случайных парных собеседников участникам предлагалось поговорить друг с другом по одному из четырех сценариев: "умные" ответы Google по умолчанию, "положительные" "умные" ответы, "отрицательные" ответы и полное отсутствие "умных" ответов. Как и следовало ожидать, положительные умные ответы вызвали более позитивный общий тон, чем разговоры с отрицательными умными ответами или нулевыми умными ответами.
"Хотя ИИ может помочь вам писать, он изменяет ваш язык так, как вы, возможно, не ожидаете, особенно заставляя вас звучать более позитивно", - сказал в своем заявлении Джесс Хоэнштейн, постдокторский исследователь и ведущий автор исследования. "Это говорит о том, что, используя ИИ, генерирующий текст, вы жертвуете частью своего личного голоса".
Мальте Юнг, один из соавторов исследования и доцент информатики, добавил, что это означает, что компании, контролирующие технологические алгоритмы ИИ-помощи, могут легко влиять на "взаимодействие, язык и восприятие друг друга" многих пользователей.
Это может стать особенно актуальным, поскольку крупные программы языковых моделей, такие как поисковая система Bing от Microsoft с поддержкой ChatGPT и Google Bard, продолжают быстро интегрироваться в пакет соответствующих продуктов компаний, к большому беспокойству критиков.
"Технологические компании, как правило, подчеркивают полезность инструментов ИИ для более быстрого и качественного выполнения задач, но игнорируют социальный аспект", - говорит Юнг. "Мы не живем и не работаем в изоляции, и системы, которые мы используем, влияют на наше взаимодействие с другими людьми".