연구자들은 인공지능이 환자 안전을 강화할 수 있다고 말한다

생성적 인공 지능(genAI)은 수억 개, 때로는 수십억 개의 데이터 포인트를 사용하여 인간이 만든 콘텐츠를 모방할 수 있는 현실적이고 혁신적인 결과물을 생성하도록 스스로를 훈련시킵니다. 그 응용 분야에는 온라인 쇼핑객을 위한 개인화된 추천, 오디오 및 비주얼 콘텐츠 생성, 엔지니어링 설계 가속화가 있습니다. 의료 분야에서 genAI의 가능한 용도에는 영상 기술 향상, 개별 환자의 질병 경과 예측, 새로운 백신 발견이 있습니다.

BU 연구원들은 환자 안전 전문가를 위한 표준화된 객관식 인증 시험인 Certified Professional in Patient Safety(CPPS) 시험의 50개 질문으로 구성된 자체 평가에서 환자 안전의 5개 핵심 영역에 대한 질문에 답할 수 있는 능력을 확인하기 위해 고급 공개 genAI 모델인 GPT-4를 테스트했습니다. GPT-4는 88%의 질문에 올바르게 답하여 높은 수준의 성과를 보여주었습니다.

"다른 연구에서는 지난 1년 동안 다양한 의료 전문 분야의 시험에서 genAI의 성과를 살펴봤지만, 우리 연구는 환자 안전에 대한 genAI의 능력을 구체적으로 조사한 최초의 견고한 테스트입니다." BU Chobanian & Avedisian 의대의 의학 조교수이자 해당 저자인 Nicholas Cordella 박사(MD, MSc)가 말했습니다.

미시간주 코어웰 헬스에서 소아과 조교수로 재직하였고, 현재 품질, 안전 및 환자 경험 책임자를 맡고 있는 제임스 모세스 박사(의학박사, 공중보건학 석사)가 이 연구의 공동 저자입니다.

연구자들은 추가 교육이나 의학적 미세 조정 없이 CPPS 자체 평가 시험의 문제를 GPT-4 모델에 제시했습니다. 그런 다음 다양한 시험 범주에서 모델의 성능을 평가했습니다. 그들은 GPT-4가 환자 안전 및 솔루션, 성과 측정 및 개선, 시스템 사고 및 디자인/인적 요인 분야에서 특히 좋은 성과를 거두었다는 것을 발견했습니다. 연구자들은 이러한 결과의 강점을 바탕으로 환자 안전 전문가가 AI의 실제 강점과 약점에 대한 추가 테스트를 수행할 수 있는 영역을 설명했습니다.

"저희 연구 결과에 따르면 AI는 의사가 병원과 진료소에서 실수를 더 잘 인식하고, 해결하고, 예방하는 데 도움이 될 수 있습니다. 현재 AI가 환자 안전에 어떤 역할을 할 수 있는지 완전히 이해하기 위해서는 더 많은 연구가 필요하지만, 이 연구는 AI가 임상의가 예방 가능한 피해를 해결하는 데 도움을 줌으로써 의료를 개선할 수 있는 잠재력이 있음을 보여줍니다." 보스턴 메디컬 센터의 품질 및 환자 안전 의료 책임자이기도 한 코델라의 말입니다.

그는 AI를 사용하면 환자 안전 시스템을 개선하고 매년 약 40만 명이 사망하는 것으로 추정되는 난제인 의료 실수를 더 잘 해결할 수 있을 것이라고 믿었습니다.

코델라는 이 연구가 AI가 의사를 포함한 전문가들이 업무를 개선하는 데 도움이 될 수 있다는 더 광범위한 생각과 일치한다고 말했습니다. AI를 사용하여 업무를 지원함으로써 임상의는 다른 지식 근로자가 성과를 높이기 위해 AI를 적용하는 방식과 유사하게 의료의 안전성과 효율성을 개선할 수 있습니다.

이 연구에서는 또한 현재 AI 기술의 한계를 밝히고, 사용자들은 대규모 언어 모델(GPT-4와 같은) 응답에서 편견, 허위 확신, 조작된 데이터 또는 환각에 대해 계속 경계해야 한다고 경고했습니다.

"저희의 연구 결과는 AI가 환자 안전을 크게 향상시킬 수 있는 잠재력이 있음을 시사하며, 이는 이 기술을 활용하여 예방 가능한 피해를 줄이고 더 나은 의료 결과를 달성하는 데 도움이 되는 단계입니다. 그러나 이를 초기 단계로 인식하는 것이 중요하며, 환자 치료에 진정한 이점을 제공하기 위해 AI 애플리케이션을 엄격하게 테스트하고 개선해야 합니다."라고 Cordella는 말했습니다.

이러한 연구 결과는 품질 및 환자 안전에 관한 공동위원회 저널 에 온라인으로 게재되었습니다.

출처: https://www.sciencedaily.com/releases/2024/09/240926132001.htm