AI 전문가들이 의료 분야에 강력한 AI를 통합하는 방법, 학제 간 협력이 중요한 이유, 그리고 연구에서 생성형 AI의 잠재력에 대해 논의합니다.
리페이페이와 로이드 마이너는 5월 14일 스탠포드 대학교 의과대학에서 열린 제1회 RAISE 건강 심포지엄에서 개회사를 했습니다. (사진: 스티브 피시)
인공지능에 매료된 대부분의 사람들은 일종의 "아하!" 하는 깨달음을 얻으며 무한한 가능성의 세계에 눈을 뜨게 됩니다. 5월 14일에 열린 제1회 RAISE 건강 심포지엄에서 스탠포드 대학교 의과대학 학장이자 스탠포드 대학교 의료 담당 부총장인 로이드 마이너 박사는 이러한 관점을 공유했습니다.
호기심 많은 한 십대 소년이 내이에 대한 연구 결과를 요약해 달라는 요청을 받았을 때, 그는 생성형 인공지능을 활용했습니다. 마이너는 약 4,000명의 심포지엄 참가자들에게 "제가 '상반고리관 열개 증후군이란 무엇인가요?'라고 물었더니, 몇 초 만에 몇 단락의 답변이 나타났습니다."라고 말했습니다.
"정말 훌륭합니다."라고 그는 말했다. "이 정보가 간결하고, 대체로 정확하며, 우선순위가 명확하게 정리된 질병 설명으로 정리되었다는 것은 정말 놀라운 일입니다."
많은 사람들이 마이너 교수와 마찬가지로 이 반나절 행사에 대한 기대감을 공유했습니다. 이 행사는 스탠포드 의과대학과 스탠포드 인간 중심 인공지능 연구소(HAI)가 생의학 연구, 교육 및 환자 치료 분야에서 인공지능의 책임 있는 사용을 안내하기 위해 시작한 RAISE Health 이니셔티브 프로젝트에서 비롯되었습니다. 연사들은 의사와 과학자에게 유용할 뿐만 아니라 환자에게도 투명하고 공정하며 형평성 있는 방식으로 의학에 인공지능을 구현하는 것이 무엇을 의미하는지 살펴보았습니다.
스탠포드 공과대학 컴퓨터 과학과 교수이자 RAISE Health with Minor 프로젝트 책임자, 그리고 HAI 공동 책임자인 페이페이 리는 “우리는 인공지능이 인간의 능력을 향상시키는 기술이라고 믿습니다.”라고 말했습니다. 세대가 거듭될수록 새로운 기술들이 등장하고 있습니다. 항생제의 새로운 분자 서열 발견부터 생물 다양성 지도 작성, 기초 생물학의 숨겨진 부분 규명에 이르기까지, 인공지능은 과학적 발견을 가속화하고 있습니다. 하지만 이러한 기술 발전이 모두 유익한 것만은 아닙니다. 리는 “이러한 모든 응용 프로그램은 의도치 않은 결과를 초래할 수 있으며, 의사, 윤리학자, 보안 전문가 등 다양한 이해관계자들과 협력하여 인공지능을 책임감 있게 개발하고 구현하는 컴퓨터 과학자들이 필요합니다.”라고 강조하며, “RAISE Health와 같은 프로젝트는 이러한 우리의 노력을 보여줍니다.”라고 덧붙였습니다.
스탠퍼드 의과대학, 스탠퍼드 헬스케어, 스탠퍼드 대학교 아동의학대학 등 세 부문이 통합되고 스탠퍼드 대학교의 다른 부서들과 연계되면서, 전문가들은 의료 및 의학 분야에서 인공지능 개발, 관리 및 통합 문제에 고심하고 있습니다. (노래 가사처럼 말이죠.)
그는 "우리는 기초적인 생물학적 발견부터 신약 개발 개선, 임상 시험 과정의 효율성 향상, 그리고 실제 의료 서비스 제공에 이르기까지 인공지능 개발과 책임 있는 구현에 있어 선구자가 될 수 있는 유리한 위치에 있다. 의료 시스템의 구조 자체가 근본적으로 바뀌었다"고 말했다.
여러 발표자들이 간단한 개념을 강조했습니다. 바로 사용자(이 경우에는 환자 또는 의사)에게 집중하면 나머지는 저절로 따라온다는 것입니다. 브리검 앤드 위민스 병원의 생명윤리 책임자인 리사 레만 박사는 "이는 우리가 하는 모든 일의 중심에 환자를 두는 것입니다."라고 말하며, "우리는 환자의 필요와 우선순위를 고려해야 합니다."라고 강조했습니다.
왼쪽부터 STAT 뉴스 앵커 모하나 라빈드라나트, 마이크로소프트 리서치의 제시카 피터 리, 생의학 데이터 과학 교수 실비아 플레브리티스가 의학 연구에서 인공지능의 역할에 대해 논의하고 있다. 스티브 피시
레만, 스탠퍼드 대학교 의학 생명윤리학자 밀드레드 초 박사, 구글 최고 임상 책임자 마이클 하웰 박사를 포함한 패널 토론 참가자들은 병원 시스템의 복잡성을 지적하며, 어떠한 개입에 앞서 시스템의 목적을 이해하는 것이 중요하다고 강조했습니다. 또한, 이를 실행에 옮길 때는 개발된 모든 시스템이 포용적이며, 도움을 주고자 하는 사람들의 의견에 귀 기울여야 한다고 강조했습니다.
핵심은 투명성입니다. 투명성을 통해 알고리즘 학습에 사용된 데이터의 출처, 알고리즘의 원래 목적, 그리고 향후 환자 데이터가 알고리즘 학습에 계속 활용될지 여부 등을 명확히 할 수 있습니다.
"윤리적 문제가 심각해지기 전에 예측한다는 것은 기술에 대해 충분히 알고 있어야 어느 정도 확신을 가질 수 있지만, 문제가 더 확산되기 전에 해결해야 하는 최적의 균형점을 찾는 것을 의미합니다."라고 소아 마취과, 수술 전후 의학 및 통증 의학과 부교수이자 의학 박사 과정생인 덴튼 차(Denton Char)는 말했습니다. 그는 핵심 단계 중 하나는 기술의 영향을 받을 수 있는 모든 이해관계자를 파악하고 그들이 스스로 어떤 방식으로 질문에 답하고 싶어하는지 알아보는 것이라고 덧붙였습니다.
미국 의사협회 회장인 제시 에렌펠드 박사는 인공지능 기반 도구를 포함한 모든 디지털 의료 도구의 도입을 좌우하는 네 가지 요인에 대해 논의합니다. 효과적인가? 우리 기관에서 사용할 수 있는가? 비용은 누가 부담하는가? 책임은 누가 지는가?
스탠포드 헬스케어의 최고정보책임자(CIO)인 마이클 페퍼 박사는 최근 스탠포드 병원의 간호사들을 대상으로 여러 문제점을 시험해 본 사례를 언급했습니다. 의료진은 환자 메시지에 대한 초기 주석을 제공하는 대규모 언어 모델의 지원을 받습니다. 이 프로젝트가 완벽하지는 않지만, 기술 개발에 참여한 의사들은 이 모델이 업무 부담을 줄여준다고 보고했습니다.
"우리는 항상 안전, 효율성, 포용성이라는 세 가지 중요한 요소에 집중합니다. 우리는 의사입니다. '해를 끼치지 않겠다'는 맹세를 했습니다."라고 Char와 Pfeffer가 그룹에 합류한 정신의학 및 행동과학 임상 조교수 Nina Vasan 박사는 말했습니다. "이러한 도구를 평가하는 첫 번째 방법은 바로 이러한 원칙을 따르는 것이어야 합니다."
의학 및 생의학 데이터 과학 교수인 니감 샤(Nigam Shah, MBBS, Ph.D.)는 청중에게 미리 경고했음에도 불구하고 충격적인 통계를 제시하며 토론을 시작했습니다. 그는 "저는 일반적인 용어와 수치를 사용하는데, 때로는 그 내용이 매우 직설적일 수 있습니다."라고 말했습니다.
샤 교수에 따르면, AI의 성공은 확장성에 달려 있습니다. "모델에 대한 제대로 된 과학적 연구를 수행하는 데는 약 10년이 걸립니다. 만약 123개의 펠로우십 및 레지던트 프로그램 각각이 그 수준의 엄격함으로 모델을 테스트하고 배포하려고 한다면, 현재 우리가 노력하는 방식으로는 정확한 과학적 연구를 수행하기가 매우 어려울 것입니다. 모든 기관이 제대로 작동하는지 확인하는 데 1,380억 달러가 소요될 것입니다."라고 샤 교수는 말했습니다. "우리는 이 비용을 감당할 수 없습니다. 따라서 확장할 방법을 찾아야 하고, 확장하면서 좋은 연구를 수행해야 합니다. 엄격한 연구는 한 곳에 있고, 확장 기술은 다른 곳에 있으므로, 이러한 유형의 파트너십이 필요할 것입니다."
부학장 Yuan Ashley와 Mildred Cho(접수처)가 RAISE 건강 워크숍에 참석했습니다. Steve Fish
심포지엄에 참석한 일부 연사들은 이러한 목표는 최근 백악관의 '인공지능의 안전하고 신뢰할 수 있는 개발 및 사용에 관한 행정 명령'과 의료 인공지능 컨소시엄(CHAI)과 같은 민관 협력을 통해 달성할 수 있다고 말했습니다.
미국 국립의학원 선임 자문위원인 로라 애덤스는 “가장 큰 잠재력을 지닌 민관 협력은 학계, 민간 부문, 그리고 공공 부문 간의 협력”이라고 말했습니다. 그녀는 정부가 국민의 신뢰를 확보하고, 학술 의료기관이 정당성을 부여하며, 민간 부문이 기술 전문성과 컴퓨터 자원을 제공할 수 있다고 지적했습니다. “우리 모두는 각자보다 더 나은 존재이며, 인공지능의 잠재력을 실현하기 위해서는 서로 어떻게 상호작용해야 하는지 이해해야 한다는 것을 알고 있습니다.”
여러 발표자들은 인공지능이 연구에도 영향을 미치고 있다고 언급했는데, 과학자들이 인공지능을 활용하여 생물학적 원리를 탐구하거나, 새로운 치료법을 뒷받침하기 위해 합성 분자의 새로운 서열과 구조를 예측하거나, 심지어 과학 논문을 요약하거나 작성하는 데 도움을 받고 있다는 것입니다.
스탠포드 의과대학 심장 전문의이자 알파벳의 자회사 베릴리(Verily) 공동 창립자인 제시카 메가 박사는 “이것은 미지의 영역을 들여다볼 수 있는 기회입니다.”라고 말했습니다. 메가 박사는 인간의 눈에는 보이지 않는 이미지 특징을 포착하는 초분광 이미징 기술을 언급했습니다. 이 기술의 목표는 인공지능을 활용하여 사람이 볼 수 없는 병리 슬라이드의 패턴을 감지하고 질병의 징후를 파악하는 것입니다. 메히아 박사는 “저는 사람들이 미지의 영역을 받아들이기를 권장합니다. 여기 계신 모든 분들은 현재 우리가 제공할 수 있는 것 이상의 치료가 필요한 질병을 앓고 있는 사람을 알고 계실 거라고 생각합니다.”라고 말했습니다.
패널들은 또한 인공지능 시스템이 인간이든 인공지능이든 간에 편향된 의사결정을 식별하고 퇴치하는 새로운 방법을 제공할 것이며, 편향의 근원을 파악할 수 있을 것이라는 데 동의했습니다.
패널 참석자들은 "건강은 단순히 의료 서비스 그 이상이다"라는 데 동의했습니다. 발표자들은 연구자들이 포괄적인 데이터를 수집하고 연구 참여자를 모집할 때 사회경제적 지위, 거주 지역, 교육 수준, 인종 및 민족과 같은 건강의 사회적 결정 요인을 간과하는 경우가 많다고 강조했습니다. 하버드 대학교 역학 교수이자 스탠퍼드 의과대학 역학 및 인구 보건학 부교수인 미셸 윌리엄스는 "인공지능은 모델 학습에 사용되는 데이터만큼만 효과적이다"라며, "우리가 목표로 하는 건강 결과 개선과 불평등 해소를 달성하려면 인간 행동과 사회 및 자연 환경에 대한 고품질 데이터를 수집해야 한다"고 말했습니다.
소아과 및 내과 임상 교수인 나탈리 파겔러 박사는 집계된 암 데이터에서 임산부 데이터가 제외되는 경우가 많아 모델에 불가피한 편향이 발생하고 기존의 의료 불평등이 악화된다고 말했습니다.
소아과 및 내과 교수인 데이비드 매그너스 박사는 모든 신기술과 마찬가지로 인공지능 또한 여러 면에서 상황을 개선할 수도 있고 악화시킬 수도 있다고 말했습니다. 매그너스 박사는 인공지능 시스템이 사회적 건강 결정 요인으로 인한 불평등한 건강 결과를 학습하고, 그 결과를 통해 이러한 불평등을 더욱 심화시킬 위험이 있다고 지적했습니다. 그는 "인공지능은 우리가 사는 사회를 비추는 거울과 같다"며, "우리가 어떤 문제에 대해 관심을 갖고 우리 자신을 되돌아볼 기회가 있을 때마다, 그것이 상황을 개선하기 위한 동기가 되기를 바란다"고 말했습니다.
RAISE Health 워크숍에 참석하지 못하신 분들을 위해, 워크숍 녹화본을 여기에서 확인하실 수 있습니다.
스탠포드 대학교 의과대학은 스탠포드 대학교 의과대학과 성인 및 소아 의료 서비스 시스템으로 구성된 통합적인 학술 의료 시스템입니다. 이들은 협력적인 연구, 교육 및 임상 환자 치료를 통해 생의학의 잠재력을 최대한 실현하고 있습니다. 더 자세한 정보는 med.stanford.edu를 방문하십시오.
스탠퍼드 병원의 의사와 간호사들이 환자 치료를 개선하기 위해 협력하는 데 도움이 되는 새로운 인공지능 모델이 개발되었습니다.
게시 시간: 2024년 7월 19일