사람들은 괴롭힘을 당하는 AI 봇에 공감한다

임페리얼 칼리지 런던의 연구에 따르면, 인간은 놀이 시간에서 배제된 AI 봇에 동정심을 보이고 보호했습니다.

연구진은 가상의 볼 게임을 이용한 연구에서 인간이 AI 에이전트를 사회적 존재로 대하는 경향을 강조했습니다. 이러한 경향은 AI 봇을 설계할 때 고려해야 할 사항입니다.

해당 연구는 Human Behavior and Emerging Technologies 에 게재되었습니다.

Imperial의 Dyson School of Design Engineering 소속이자 주저자인 Jianan Zhou는 "이것은 인간이 AI와 상호작용하는 방식에 대한 독특한 통찰력이며, AI의 디자인과 우리의 심리에 흥미로운 의미를 갖습니다."라고 말했습니다.

사람들은 서비스에 액세스할 때 AI 가상 에이전트와 상호 작용해야 하는 경우가 점점 더 많아지고 있으며, 많은 사람들이 이를 소셜 상호 작용을 위한 동반자로 사용합니다. 그러나 이러한 결과는 개발자가 에이전트를 지나치게 인간과 비슷하게 설계하는 것을 피해야 함을 시사합니다.

Imperial의 Dyson School of Design Engineering의 수석 저자인 Nejra van Zalk 박사는 "작지만 증가하는 연구 결과에 따르면 인간이 AI 가상 에이전트를 사회적 존재로 대하는지 여부에 대한 상충되는 결과가 나타났습니다. 이는 사람들이 이러한 에이전트를 어떻게 인식하고 상호 작용하는지에 대한 중요한 질문을 제기합니다.

"저희의 결과는 참가자들이 AI 가상 에이전트를 사회적 존재로 취급하는 경향이 있음을 보여줍니다. 왜냐하면 AI가 배제된다고 느낄 경우 공 던지기 게임에 포함시키려고 했기 때문입니다. 이는 인간 대 인간 상호작용에서 흔히 볼 수 있는 현상이며, 저희 참가자들은 가상 에이전트에게 공을 던진다는 것을 알고 있었음에도 불구하고 동일한 경향을 보였습니다. 흥미롭게도 이 효과는 나이가 많은 참가자들에게 더 강했습니다."

사람들은 AI에 대해서도 배척을 좋아하지 않습니다.

공감을 느끼고 불공평에 대해 시정 조치를 취하는 것은 대부분의 인간이 본능적으로 하는 일인 듯합니다. AI가 관여하지 않은 이전 연구에 따르면 사람들은 배척당한 대상에게 공을 더 자주 던져 보상하는 경향이 있었고, 사람들은 또한 대상에 대한 선호와 동정심을 느끼면서도 배척적 행동을 한 사람을 싫어하는 경향이 있었습니다.

연구를 수행하기 위해 연구원들은 244명의 인간 참가자가 '사이버볼'이라는 게임에서 다른 인간이 AI 가상 에이전트를 플레이에서 제외하는 것을 보았을 때 어떻게 반응하는지 살펴보았습니다. 이 게임에서 플레이어는 화면에서 서로에게 가상 공을 패스합니다. 참가자들의 연령은 18세에서 62세 사이였습니다.

어떤 게임에서는 참여하지 않은 인간이 봇에게 공을 여러 번 던졌고, 다른 게임에서는 참여하지 않은 인간이 참가자에게만 공을 던져 봇을 노골적으로 배제했습니다.

참가자들의 반응을 관찰한 후, 불공정하게 대우받은 로봇에게 공을 던지는 것을 선호하는지 여부와 그 이유를 테스트하기 위해 설문조사를 실시했습니다.

그들은 대부분의 경우 참가자들이 봇에 대한 불공평을 바로잡기 위해 봇에게 공을 던지는 것을 선호한다는 것을 발견했습니다. 나이가 많은 참가자는 불공평을 인식할 가능성이 더 높았습니다.

인간의 주의

연구자들은 AI 가상 에이전트가 협업 작업에서 더 인기를 얻으면서 인간과의 참여가 증가하면 친숙도가 높아지고 자동 처리가 트리거될 수 있다고 말합니다. 즉, 사용자는 가상 에이전트를 실제 팀원으로 직관적으로 포함하고 사회적으로 참여할 가능성이 높습니다.

그들은 이것이 업무 협업에 이점이 될 수 있지만, 가상 에이전트가 인간 관계를 대체하는 친구로 사용되거나 신체적 또는 정신적 건강에 대한 조언자로 사용되는 경우에는 문제가 될 수 있다고 말합니다.

지아난은 "너무 인간과 비슷한 에이전트를 설계하지 않음으로써 개발자는 사람들이 가상과 실제 상호작용을 구별하도록 도울 수 있습니다. 또한, 예를 들어, 다양한 인간적 특성이 지각에 미치는 영향을 고려하여 특정 연령대에 맞게 디자인을 조정할 수도 있습니다."라고 말했습니다.

연구자들은 사이버볼이 사람들이 실제 상황에서 상호작용하는 방식을 나타내지 못할 수 있다고 지적합니다. 실제 상황은 일반적으로 챗봇이나 음성 조수와 함께 서면 또는 구두로 이루어집니다. 이는 일부 참가자의 사용자 기대와 충돌하여 이상함을 느끼게 하여 실험 중에 반응에 영향을 미칠 수 있습니다.

따라서 그들은 이제 실험실이나 보다 캐주얼한 환경과 같은 다양한 맥락에서 에이전트와 대면 대화를 사용하여 유사한 실험을 설계하고 있습니다. 이런 식으로 그들은 자신의 발견이 얼마나 멀리까지 확장되는지 테스트할 수 있습니다.

출처: https://www.sciencedaily.com/releases/2024/10/241017113151.htm