인공 지능에서의 도덕성 문제와 관련된 실험

인공 지능 기술이 발전함에 따라, 도덕적으로 모호한 상황에서 기계가 어떻게 행동할 것인가에 대해서 장기간 사회적 우려가 제기되어 왔었다.

이러한 우려들은 기계 행동에 대한 원칙 개발에 대한 가이드를 했었다. 자율 주행 자동차의 행동 방식에 대한 사회적인 기대와 관련된 논의를 위해서, Iyad Rahwan과 공동연구원들은 인터넷을 기반으로 한 실험적인 플랫폼인 도덕적인 기계(Moral Machine)를 통해서 글로벌 행동 방식과 자율 주행 자동차와 관련된 도덕적인 시나리오에 대한 반응과 관련하여 2백만 명 이상의 사람들이 참여하였다.

이번 연구 결과를 통해서 서로 다른 문화로부터 예상하지 못했던 선호도가 나타나는 것이 확인되었으며, 이들 중에서 일부는 공통적인 사항, 예를 들어 좀 더 많은 사람들을 살리거나, 어린 개인을 선호하는 것과 같은 것들이었다.

도덕적 선호도에서는 문화적 윤리적 차이가 관찰되었다. 저자들은 이러한 데이터가 사회적으로 수용 가능한 자율 주행 자동차의 윤리적인 원칙을 적용하는데 사회적 및 정치적 논의를 고민하게 만들 수 있을지에 대해서 고민하고 있다.

이 내용은 2018.11.01 네이처에 게재된 내용이다.