내 로봇 치료사: 어린이를 위한 AI 정신 건강 챗봇의 윤리

미국에서는 정신 건강 치료를 받기가 어려울 수 있습니다. 보험 적용 범위는 제한적이며, 국민의 요구를 충족시킬 만큼 정신 건강 전문가가 충분하지 않아 대기 시간이 길고 치료 비용도 많이 듭니다.

인공지능(AI)이 등장했습니다.

기분 추적기부터 인간 치료사를 모방하는 챗봇까지 다양한 AI 정신 건강 앱이 시장에 넘쳐나고 있습니다. 이러한 앱은 우리 시스템의 격차를 메우는 저렴하고 접근 가능한 방법을 제공할 수 있지만, 정신 건강 관리에 AI에 지나치게 의존하는 것에 대한 윤리적 우려가 있습니다. 특히 어린이의 경우 더욱 그렇습니다.

대부분 AI 정신 건강 앱은 규제되지 않고 성인을 대상으로 설계되었지만, 어린이에게 사용하는 것에 대한 논의가 커지고 있습니다. 로체스터 대학교 의료 센터(URMC)의 건강 인문학 및 생명윤리학 조교수인 브라이언나 무어 박사는 이러한 대화에 윤리적 고려 사항이 포함되도록 하기를 원합니다.

"아이들의 다른 점, 즉 아이들의 마음이 어떻게 작동하는지, 가족 단위에 어떻게 자리 잡고 있는지, 의사 결정이 어떻게 다른지에 대해 아무도 이야기하지 않습니다." 최근 Journal of Pediatrics 에 실린 논평에서 이러한 우려를 공유한 무어의 말이다 . "아이들은 특히 취약합니다. 그들의 사회적, 정서적, 인지적 발달은 단지 성인과는 다른 단계에 있을 뿐입니다."

사실, AI 정신 건강 챗봇은 어린이의 사회적 발달을 저해할 수 있습니다. 증거에 따르면 어린이는 로봇이 "도덕적 지위와 정신적 삶"을 가지고 있다고 믿으며, 이는 어린이, 특히 어린 자녀가 사람들과 건강한 관계를 구축하는 대신 챗봇에 애착을 가질 수 있다는 우려를 불러일으킵니다.

아이의 사회적 맥락(가족 및 친구들과의 관계)은 정신 건강에 필수적입니다. 그렇기 때문에 소아과 치료사는 아이를 고립시켜 치료하지 않습니다. 그들은 아이의 안전을 보장하고 치료 과정에 가족 구성원을 포함시키기 위해 아이의 가족과 사회적 관계를 관찰합니다. AI 챗봇은 이 중요한 맥락적 정보에 접근할 수 없으며 아이가 위험에 처했을 때 개입할 기회를 놓칠 수 있습니다.

AI 챗봇과 일반적인 AI 시스템은 기존의 건강 불평등을 악화시키는 경향이 있습니다.

"AI는 훈련된 데이터만큼만 좋습니다. 모든 사람에게 효과적인 시스템을 구축하려면 모든 사람을 대표하는 데이터를 사용해야 합니다." 철학과 건강 인문학 및 생명윤리학과 조교수이자 논평 공동 저자인 조나단 헤링턴 박사가 말했습니다.

"불행히도, 대표적 데이터 세트를 구축하기 위한 정말 신중한 노력이 없다면 이러한 AI 챗봇은 모든 사람에게 서비스를 제공할 수 없습니다."

어린이의 성별, 인종, 민족, 거주지, 가족의 상대적 부는 모두 학대, 방치, 사랑하는 사람의 투옥 또는 가정이나 지역 사회에서 폭력, 약물 남용 또는 정신 질환을 목격하는 것과 같은 불리한 아동기 사건을 경험할 위험에 영향을 미칩니다. 이러한 사건을 경험하는 어린이는 집중적인 정신 건강 관리가 필요할 가능성이 더 높고 이를 이용할 가능성이 낮습니다.

"소득이 낮은 아이들은 인간 대 인간 치료를 받을 여유가 없어 인간 대 인간 치료 대신 AI 챗봇에 의존하게 될 수 있습니다." 헤링턴이 말했습니다. "AI 챗봇은 귀중한 도구가 될 수 있지만 결코 인간 치료를 대체해서는 안 됩니다."

대부분의 AI 치료 챗봇은 현재 규제되지 않습니다. 미국 식품의약국은 성인의 주요 우울증을 치료하기 위해 AI 기반 정신 건강 앱을 하나만 승인했습니다. 규제가 없다면 오용, 보고 부족 또는 교육 데이터나 사용자 액세스의 불평등을 방지할 방법이 없습니다.

무어는 "답이 없거나 명확하게 표현되지 않은 미해결 문제가 너무 많습니다."라고 말했습니다. "우리는 이 기술을 없애자고 주장하지 않습니다. AI나 치료 로봇을 없애자고 말하는 것이 아닙니다. 특히 어린이와 그들의 정신 건강 관리와 같은 인구와 관련하여 이를 사용하는 방법에 대해 신중하게 생각해야 한다고 말하고 있습니다."

Moore와 Herington은 이 논평에서 SUNY Upstate Medical의 생명윤리 및 인문학 센터의 준교수인 Serife Tekin 박사와 협력했습니다. Tekin은 정신과와 인지과학의 철학과 의학에서 AI를 사용하는 생명윤리를 연구합니다.

앞으로 팀은 개발자와 협력하여 AI 기반 치료 챗봇을 개발하는 방법을 더 잘 이해하기를 바랍니다. 특히 개발자가 윤리적 또는 안전 고려 사항을 개발 프로세스에 통합하는지 여부와 어떻게 통합하는지, 그리고 AI 모델이 어린이, 청소년, 부모, 소아과 의사 또는 치료사와의 연구 및 참여를 통해 어느 정도 정보를 얻는지 알고 싶어합니다.

출처: https://www.sciencedaily.com/releases/2025/03/250331151256.htm