打印
식약처는 2025년 5월 7일자로 ‘인공지능기술이 적용된 디지털의료기기의 허가·심사 가이드라인’을 제정하였습니다. 이미 2022년 5월에 ‘인공지능 의료기기의 허가·심사 가이드라인’ 이 나왔지만 2025년부터 디지털의료제품법이 의료기기법의 특별법으로 시행되고 있기 때문에 그에 맞춰 기술변화 등을 반영, 새롭게 제정된 것입니다. 법적 구속력이 없는 문서이지만 의료기기의 허가·심사부처인 식약처는 인공지능 기반의 디지털의료기기 시장이 발전하고 있는 추세에 맞춰 2025년 1월, ‘생성형 인공지능 의료기기 허가·심사 가이드라인’을 세계 최초로 만들 정도로 우리의 디지털의료환경이 글로벌시장에서 앞서 나가고 있음을 보여주고 있습니다.
이하에서는 AI 의료기기를 둘러싼 주요 현안 이슈들을 살펴보고 관련 의료보험시장의 변화 또한 소개합니다.
1. AI 의료기기와 법적 쟁점들
1-1. 정의 문제
가. 2025년 5월의 식약처 ‘인공지능기술이 적용된 디지털의료기기의 허가·심사 가이드라인’ 은 2022년 5월에 식약처가 ‘인공지능 의료기기의 허가·심사 가이드라인’에서 정의한 ‘기계학습 가능 의료기기’(Machine Learning-enabled Medical devices; 이하 ‘MLMD’) 개념을 그대로 사용, 기계학습 방식으로 의료용 데이터를 학습하고 특정 패턴을 인식하여 질병을 진단 예측하거나 환자에게 적합한 맞춤 치료법을 제공하는 기기를 대상으로 해당 가이드라인이 적용됨을 밝히고 있습니다.
현행 디지털의료제품법은 지능정보기술, 로봇기술, 정보통신기술 등 총리령으로 정하는 첨단 기술이 적용된 의료기기법상의 의료기기로 ‘디지털의료기기’를 정의하는 기술기반 방식을 택함에 따라 MLMD는 기존의 의료영상 분석·검출 또는 진단보조에 사용하는 의료용 소프트웨어와는 다르며 또한 기계학습 기술을 활용하는 소프트웨어가 법상 디지털의료기기에 해당되는 지의 여부는 사용목적, 기능 및 사용 시 인체에 미치는 잠재적 위해성(危害性) 등의 차이에 따라 판단된다고 설명하고 있습니다.
즉 소프트웨어 만으로도 디지털의료제품법상의 디지털의료기기로 분류, 식약처의 허가·심사를 받아야만 하는 경우가 있음을 전제로 1) 의료용 데이터를 기반으로 의료영상, 체외진단기기로부터 나온, 신호 획득시스템(심전계, 뇌파계 등)에서 나오는 패턴 또는 신호를 분석하여 질병의 진단·치료·예후 관찰에 필요한 임상 정보를 제공하는 소프트웨어, 2) 의료용 데이터를 기반으로 의료정보를 분석하여 얻은 임상 정보(예: 종양 병변 크기·위치 등)를 이용하여 환자의 질병 유무, 상태 등에 대한 가능성 정도를 자동으로 진단·예측, 모니터링하거나 치료하는 소프트웨어는 그런 디지털의료기기가 될 수 있음을 예시하고 있습니다.
나. 식약처의 이러한 가이드라인 입장은 미국 식품의약국 (FDA)의 2022년 9월28일, 임상 의사결정 지원 (Clinical Decision Support, CDS) 소프트웨어에 대한 최종 가이드라인 내용에서도 똑같이 확인됩니다. 특히 의료전문가 (HCP; Healthcare Professionals)가 사용하는 비의료기기 (non-device) SW에 대한 판별기준을 구체적으로 제시하고 있다는 점에서 우리 실무에서도 참조가 될 수 있습니다.
구체적으로 1) 의료 영상, 체외 진단 기기(IVD)의 신호, 또는 신호 획득 시스템의 패턴이나 신호를 획득, 처리 또는 분석할 목적이 아닐 것, 2) 환자에 대한 의료정보 또는 기타 의료정보를 표시, 분석 또는 인쇄할 목적일 것, 3) 질병이나 상태의 예방, 진단 또는 치료에 관해 HCP에게 권고를 지원하거나 제공할 목적일 것, 4) HCP가 소프트웨어가 제시하는 권고의 근거를 독립적으로 검토할 수 있도록 하여, HCP가 개별 환자에 대한 임상 진단이나 치료 결정을 내릴 때 주로 해당 권고에 의존하도록 의도되지 않았을 것의 4가지 기준을 ‘모두’ 충족하면 비로소 ‘비의료기기 SW’로 판단되어 미국 FDA의 디지털의료기기 규제에서 제외시키고 있습니다.
실무적으로 주목해야 할 부분은 세 번째와 네 번째 기준입니다. 즉 세 번째 기준은 의료용 SW가 특정하고 단일한 결과나 지시를 제공하여 HCP의 판단을 ‘대체 ‘하는 것이 아니라, 권고 (정보/옵션으로 정의됨)를 제공함으로써 HCP의 판단을 ‘지원’ 해야 하며, 예측을 위해 위험 확률, 위험 점수 또는 환자가 특정 상태의 ‘징후를 보일 수 있다’는 제안을 제공하는 SW의 경우 특정 결과를 제공하는 것으로 간주하여 세 번째 기준을 충족하지 못한다고 미국 FDA는 구체적으로 적시하고 있습니다. 또한 네 번째의 기준은 HCP가 SW 기반의 권고에 도달한 방법을 이해하고 자신의 판단을 적용할 수 있을 만큼 충분히 투명해야 한다는 것으로서 결국 의료행위의 주체인 HCP로 하여금 SW 활용결과물에 ‘주로’ 의존하도록 해서는 안 되며 이 기준을 충족하지 못하면 역으로 미국 FDA 규제를 받는 의료기기로 분류되어진다는 의미가 됩니다.
이런 입장은 AI 의료기기가 의료행위의 주체인 의사를 보조하는 도구로 기능하여야만 한다는 의미이고 우리의 현행 의료법 체계는 물론 글로벌 의료AI의 기술수준도 반영한 결과물이라고 할 수 있습니다.
1-2. 생성형 인공지능 의료기기와 의사의 설명의무
가. 식약처가 2025년 1월 발표한 ‘생성형 인공지능 의료기기 허가·심사 가이드라인’ 은 기존의 기계적 학습(machine learning) 기반의 AI모델과 달리 방대한 데이터의 패턴기반의 확률적 추론을 통해 새로운 콘텐츠를 끊임없이 생성하기 때문에 기존 방식으로 성능 및 임상적 유효성을 평가하는 데 어려움이 있음을 전제로 그러한 ‘생성형 인공지능 의료기기’에 대한 특성 중 하나로 ‘설명불가능성 (inexplicability)을 들고 있습니다.
즉 생성형의료기기 출력 값에 대한 근거 (rationale)는 잘 훈련된 임상의와 기타 의료진도 잘 이해하지 못하는 생성형 AI 자체의 기술적 특성이라는 점을 지적한 것입니다.
문제는 의료행위의 주체인 의료인은 의료법상 설명의무를 부담하고 있고 전통적으로 의료과오소송 (medical malpractice)에서 중요한 쟁점이라는 점입니다.
나. 구체적으로 의료법 제24조의2는 의료인이 환자에게 치료 방법과 위험을 설명할 의무를 규정하고 있고 대법원은 “환자가 인공지능을 활용한 의료행위에 응할 것인지를 합리적으로 결정할 수 있도록 의사의 설명의무는 의료행위가 행해질 때까지 적절한 시간적 여유를 두고 이행되어야 하며, 환자에게 충분한 숙고와 상의의 시간을 제공해야 한다” 고 상세하게 판결하고 있습니다. (대법원 2022. 1. 27. 선고 2021다265010 판결)
예를 들어, 폐질환 병변 판독을 생성형 의료기기가 한 뒤 이를 바탕으로 수술여부를 의사가 결정, 설명의무를 이행한다고 할 때 의사는 의료법에 따라 환자에게 ‘수술 등의 필요성, 방법 및 내용’을 설명하여야만 하기 때문에 논리적으로는 질병 관련 사항은 물론이고 생성형 의료기기의 역할, 신뢰성과 한계 등도 설명하여야만 환자는 ‘충분한 숙고와 상의의 시간’을 확보할 수 있다는 결론이 되지만 정작 AI 기반 진단이나 치료 과정은 알고리즘의 복잡성 등으로 인해 의사가 현실적으로 이를 완전히 이해하거나 설명하는 것이 힘들다는 점입니다.
다. 의사의 설명의무는 불법행위법상 ‘주의의무’(duty of care)를 구체화한 것이기 때문에 생성형 AI 의료기기를 사용하여 수술 필요성 여부를 최종 판단한 의사는 의료행위 주체 로서의 판단근거, AI 의료기기의 신뢰성, 한계 등을 설명할 수 있으면 (explainable) 족한 것이지 AI 의료기기의 판단 근거에 대한 설명까지 할 (interpretable) 필요는 없다고 해석됩니다.
즉 AI의 작동과정에 대한 Black Box 부분은 AI 의료기기 사용에 따른 신뢰성, 한계 등에 대한 기술적 쟁점일 뿐 의사의 법적 설명의무와는 무관한 것으로 볼 수 있습니다.
1-3. 의료기기법상의 ‘위험등급’ 체계와 허가·심사
가. 의료기기는 EU, 미국, 우리나라 모두 위험 (risk) 기반의 차별적 규제를 통해 제품사용을 통제하면서 안전을 확보하는 대표적 영역이고, 위험(위해성) 분류 기준은 EU와 우리나라가 4단계, 미국 FDA는 3단계 구분을 하는 등 구체적 차이를 보이고 있지만, 대부분의 국가들이 의료기기에 대해서는 ‘위험기반의 규제방식’(risk-based approach)을 공통으로 택하고 있습니다.
위험등급을 정하기 위한 첫 단추에 해당되는 것은 의료기기의 ‘사용목적’ (intended use)이지만 AI를 활용하는 디지털의료기기는 그 특성상 자율적으로 데이터의 학습, 훈련을 하면서 진화하기 때문에 ‘사용목적’을 통한 위험등급관리체제가 과연 유효한 지에 대한 의문이 제기될 수 있습니다. 이런 점을 반영, 식약처의 2025년 ‘인공지능기술이 적용된 디지털의료기기의 허가·심사 가이드라인’ 은 MLMD의 특성을 반영하여 적용된 알고리즘 (기계학습 포함)에 관해 작성한 자료를 제출하여 허가·심사를 받도록 하고 있습니다.
나. AI 디지털의료기기 제작업체는 시장에서의 제품 경쟁력을 유지하기 위해 데이터 학습에 따른 버전 업데이트를 필수적 사항으로 생각하게 되지만 미국 FDA는 ‘Predetermined Change Control Plan (PCCP)’이라는 개념을 도입, 사전에 허가 받은 변경 범위 내의 변경만을 인정함으로써 제조업계와 변경허가 여부를 둘러싸고 갈등을 빚고 있습니다.
우리의 디지털의료제품법 제11조는 “디지털의료기기의 안전성ㆍ유효성에 영향을 미치는 총리령으로 정하는 중요한 사항이 변경된 경우에는 식품의약품안전처장에게 변경허가 또는 변경인증을 받거나 변경신고를 하도록” 하고, 경미한 사항인 경우에는 식약처장에게 보고하도록 하고 있습니다.
구체적으로 식약처장은 고시를 통해 1) 디지털의료기기 소프트웨어에 대해서는 가. 사용목적 또는 이와 관련된 핵심적인 성능, 나. 생체신호·의료영상과 같은 분석 대상이나 분석기법 등 알고리즘(분석방법), 다. 소프트웨어 개발 언어 또는 운영환경, 라. 법 제14조에 따른 전자적 침해행위로부터의 보호 조치에 영향을 미치는 통신기능 등, 마. 사용 사양서 또는 사용자 인터페이스의 변경 중 총괄평가 (혹은 이와 동등 이상의 평가)를 수반하는 변경을 핵심적인 성능에 대한 변경으로 보고 있고, 2) 하드웨어의 변경 중 성능 또는 전기·기계적 안전에 영향을 미치지 않는 해당 디지털의료기기의 외관, 치수, 버튼의 형태 및 위치, 손잡이 등의 변경을 제외한 변경 또한 핵심적인 성능에 대한 변경으로 폭넓게 열거함으로써 모두 식약처장의 변경허가를 받는 대상이 되도록 운영하고 있습니다.
즉 디지털의료기기에 대해서는 소프트웨어는 물론이고 하드웨어 부분의 사후 변경도 핵심적인 성능에 대한 변경으로 넓게 추정, 보수적으로 변경 허가·심사시스템을 시행하고 있습니다.
2. 의료로봇과 AI
의료서류를 정리, 보고서를 작성하거나 영상을 합성, 변화함으로써 진단의 정확도를 높이거나 통계적으로 유사한 합성데이터를 생성해 임상시험, 연구, 환자건강개선 등을 지원하거나 새로운 화합물 구조를 생성하여 약물개발을 가속화하는 등 가상공간에서의 AI가 아니라 의료로봇에 탑재되어 활용되어지고 있는 AI는 진단시 실시간 데이터 분석과 최적의 수술경로 등의 의사결정, 더 나아가 수술시 작업보조, 재활 등에 초점을 맞춰 상용화로 발전시킨 것이기 때문에 특정 작업, 특화된 데이터와 알고리즘, 복잡한 작업순서 등의 성격상 더 고차원적인 기술개발, 또한 이에 상응하는 복잡한 규제가 따라오게 됩니다.
특히 진단이나 검사가 아닌 외과수술에 사용되는 물리적 로봇은 FDA가 분류한 기술등급에 따르면 현재 대부분 (세계적으로 압도적 시장점유율을 보이고 있는 da Vinci 시스템 포함) 레벨1 수준이며 (da Vinci는 의사가 조종간을 직접 움직이면 로봇수술기가 이 동작을 동시에 재현하는 마스터-슬레이브 방식)에 그치고 있고 관절수술 등의 일부에서 활용되는 Mako 시스템의 경우 의사가 로봇 팔을 작동시키면 정해진 범위내의 수술을 로봇이 그대로 실행하는 식의 레벨 2 기술단계에 이르고는 있지만 결국 의료현장에서의 수술로봇은 현재 기술적으로, 또 법적으로 인간 의사의 ‘보조적 도구’에 머물고 있다고 평가할 수 있습니다.
인간의 신체와 생명을 대상으로 한다는 의료의 특성상 AI를 장착한 로봇이 질병의 진단, 검사, 환자의 재활 등의 영역을 벗어나 수술 등의 의료행위를 자율적으로 할 수 있도록 하기 위해서는 법적으로만 볼 때 향후 현 의료법체계는 물론이고 수술로봇에 법인격을 부여할 것인지의 근본적 문제부터 검토가 필요하다고 할 수 있습니다.
3. 의료보험 시장의 변화
3-1. AI가 의료기기, 데이터처리 등에 접목, 확산되어짐에 따라 보험상품 설계시 예상할 수 없었고 따라서 대처할 수 없게 된 새로운 위험에 대비한 복합보험상품도 등장하고 있지만 (InsurTech보험사로 알려진 Relm 보험사가 올 1월 출시한 PONTAAI 상품이 대표적) 의료보험시장에서도 관련 특화된 상품들이 속속 등장하고 있습니다. 다만 2024년 8월부터 시행되고 있는 EU AI법이 진단, 진료에서의 의사결정 등 의료분야에서의 AI 활용을 고위험 (high-risk)영역으로 간주하면서 위험관리시스템을 활성화하여야만 하고, 고품질의 데이터관리체제와 이용자에 대한 정보제공의 투명성과 정확성, 인간에 의한 감시체제 등을 의무화하고 있으며, 이런 의무이행의 최종 시한이 늦어도 EU AI 법 시행 후 2년내인 내년 8월까지로 정해져 있습니다.
보험사기를 탐지하고, 가입자의 신용평가, 행동패턴 분석 등에도 물론 AI는 활용되어질 수 있지만, 특히 비용절감차원에서 보험사가 관심을 가지게 되는 ‘보험가입자의 행동패턴을 AI가 분석해 사기 가능성을 측정’하는 행위는 고위험 AI로 분류되어 엄격한 규제를 받기 때문에 현재까지 대체로는 개인 맞춤형 보험상품개발 및 제공, 개인건강정보 기반의 위험평가와 보험료 할인, 환급 내지 기존 의료과실책임보험 (medical malpractice insurance) 약관에서 AI관련 특정 위험을 추가하거나 면책하는 등의 특약을 첨가하거나 기술수준을 고려하여 ‘의사의 최종 검토’ 프로세스를 중요하게 강조하는 것 정도가 의료보험상품의 대체적 변화모습이라고 할 수 있습니다.
물론 AI가 빨리 확산되고 있는 AI 의료기기 제조사 및 개발사를 대상으로 하는 새로운 관련 보험상품도 경쟁적으로 개발되고 있고 의료기관이 보유한 민감한 환자의료정보를 AI를 활용하여 처리, 진단, 수술 등에 활용함에 따른 사이버 책임보험 상품도 등장하고 있습니다. 또한 Anthem, Aetna 등 미국의 대형 보험사들이 웨어러블데이터, 전자건강기록, 생활패턴 데이터등을 AI로 분석해 개인별 위험도를 정확히 평가, 건강한 생활을 지속하는 가입자에게는 보험료 할인 혜택을 제공하고 있으며, AI 챗봇이 1차 건강상담을 제공하고 필요시 의료진과 연결하여 주는 서비스가 포함된 영국의 Babylon Health사 보험상품처럼 텔레메디슨과 연계된 보험상품들도 시장에서 판매되고는 있습니다.
3-2. 현대적 사회보장제도의 일환으로 독일에서 19세기말 노동자들을 위한 건강보험제도가 처음 시작된 이래 공공보험과 민영보험의 역할분담을 둘러싼 기여비중의 차이는 있을지 언정 ‘진료 이후의 비용부담을 사후 보전하는 방식’을 공통으로 각국의 의료보험제도는 오랫동안 운영되어 왔습니다. 이에 따라 보험사고와 보험요율을 결정하기 위해 과거의 데이터를 모아 보험상품을 개발하고 판매하여 왔었지만 디지털과 AI의 영향으로 이제 의료보험 자체가 ‘사전에 예측하고 예방하는’ (Predict & Prevent) 방향으로의 변화를 보이고 있습니다.
즉 질병이 발생하기 전에, 치료가 시작되기 전에 거의 실시간으로 웨어러블 건강보조도구 등을 통해서 개인의 전자건강데이터를 체크할 수 있음은 물론 식사, 흡연, 음주, 일 패턴, 습관 등의 관련 변수까지 고려한 정기적 온라인 건강진단도 간편하게 할 수 있게 되고 유전자 정보까지 활용되어지면서 노후의 건강 관리 또한 체계적으로 가능하게 됨에 따라 위험을 예측하고 사전 예방하는 디지털의료보험 시스템 도입이 실제로 이뤄지게 된 것입니다. 특히 AI의 접목으로 학습데이터 기반의 보험가입자별 잠재적 질병 가능성, 수술후의 후유증, 부작용을 예측하는 개인 맞춤형 서비스 제공은 물론이고 분야별 관련 데이터의 정밀화를 바탕으로 약 복용여부, 낙상, 만성질병 가능성의 경고와 음식, 운동, 정기 검사권고 등의 다양한 보험관련 서비스 개발, 제공도 현실적으로 가능하게 되었습니다.
이런 결과는 보험가입자는 물론이고 보험회사에게도 비용지출의 감소와 위험관리의 체계화 등 공통 이익을 준다는 점 때문에 개인은 물론이고 의료기관, 의료데이터를 활용하는 관련 기관 등까지 이용할 수 있는 AI 관련 종합 의료보험 내지 특화된 상품개발로 나타나게 되고 특히 민간의료보험시장의 변화는 더욱 경쟁적으로 나타날 것으로 전망됩니다.
보험시장의 이러한 혁명적 변화를 가능하게 하는 대전제는 AI를 접목하여 의료데이터의 공유와 활용을 가능하게 하는 개인 디지털건강기록의 통합, 관리 및 활용시스템 구축, 활용이고 현재 진행되고 있는 우리나라의 My Healthway 사업, 또한 올 3월에 발효된 유럽의 EHDS (European Health Data Space)법이 그런 시스템 구상의 구체적 추진 예들입니다. (이들 내용에 대해서는 지난 AID 5호를 참조)
이하에서는 AI 의료기기를 둘러싼 주요 현안 이슈들을 살펴보고 관련 의료보험시장의 변화 또한 소개합니다.
1. AI 의료기기와 법적 쟁점들
1-1. 정의 문제
가. 2025년 5월의 식약처 ‘인공지능기술이 적용된 디지털의료기기의 허가·심사 가이드라인’ 은 2022년 5월에 식약처가 ‘인공지능 의료기기의 허가·심사 가이드라인’에서 정의한 ‘기계학습 가능 의료기기’(Machine Learning-enabled Medical devices; 이하 ‘MLMD’) 개념을 그대로 사용, 기계학습 방식으로 의료용 데이터를 학습하고 특정 패턴을 인식하여 질병을 진단 예측하거나 환자에게 적합한 맞춤 치료법을 제공하는 기기를 대상으로 해당 가이드라인이 적용됨을 밝히고 있습니다.
현행 디지털의료제품법은 지능정보기술, 로봇기술, 정보통신기술 등 총리령으로 정하는 첨단 기술이 적용된 의료기기법상의 의료기기로 ‘디지털의료기기’를 정의하는 기술기반 방식을 택함에 따라 MLMD는 기존의 의료영상 분석·검출 또는 진단보조에 사용하는 의료용 소프트웨어와는 다르며 또한 기계학습 기술을 활용하는 소프트웨어가 법상 디지털의료기기에 해당되는 지의 여부는 사용목적, 기능 및 사용 시 인체에 미치는 잠재적 위해성(危害性) 등의 차이에 따라 판단된다고 설명하고 있습니다.
즉 소프트웨어 만으로도 디지털의료제품법상의 디지털의료기기로 분류, 식약처의 허가·심사를 받아야만 하는 경우가 있음을 전제로 1) 의료용 데이터를 기반으로 의료영상, 체외진단기기로부터 나온, 신호 획득시스템(심전계, 뇌파계 등)에서 나오는 패턴 또는 신호를 분석하여 질병의 진단·치료·예후 관찰에 필요한 임상 정보를 제공하는 소프트웨어, 2) 의료용 데이터를 기반으로 의료정보를 분석하여 얻은 임상 정보(예: 종양 병변 크기·위치 등)를 이용하여 환자의 질병 유무, 상태 등에 대한 가능성 정도를 자동으로 진단·예측, 모니터링하거나 치료하는 소프트웨어는 그런 디지털의료기기가 될 수 있음을 예시하고 있습니다.
나. 식약처의 이러한 가이드라인 입장은 미국 식품의약국 (FDA)의 2022년 9월28일, 임상 의사결정 지원 (Clinical Decision Support, CDS) 소프트웨어에 대한 최종 가이드라인 내용에서도 똑같이 확인됩니다. 특히 의료전문가 (HCP; Healthcare Professionals)가 사용하는 비의료기기 (non-device) SW에 대한 판별기준을 구체적으로 제시하고 있다는 점에서 우리 실무에서도 참조가 될 수 있습니다.
구체적으로 1) 의료 영상, 체외 진단 기기(IVD)의 신호, 또는 신호 획득 시스템의 패턴이나 신호를 획득, 처리 또는 분석할 목적이 아닐 것, 2) 환자에 대한 의료정보 또는 기타 의료정보를 표시, 분석 또는 인쇄할 목적일 것, 3) 질병이나 상태의 예방, 진단 또는 치료에 관해 HCP에게 권고를 지원하거나 제공할 목적일 것, 4) HCP가 소프트웨어가 제시하는 권고의 근거를 독립적으로 검토할 수 있도록 하여, HCP가 개별 환자에 대한 임상 진단이나 치료 결정을 내릴 때 주로 해당 권고에 의존하도록 의도되지 않았을 것의 4가지 기준을 ‘모두’ 충족하면 비로소 ‘비의료기기 SW’로 판단되어 미국 FDA의 디지털의료기기 규제에서 제외시키고 있습니다.
실무적으로 주목해야 할 부분은 세 번째와 네 번째 기준입니다. 즉 세 번째 기준은 의료용 SW가 특정하고 단일한 결과나 지시를 제공하여 HCP의 판단을 ‘대체 ‘하는 것이 아니라, 권고 (정보/옵션으로 정의됨)를 제공함으로써 HCP의 판단을 ‘지원’ 해야 하며, 예측을 위해 위험 확률, 위험 점수 또는 환자가 특정 상태의 ‘징후를 보일 수 있다’는 제안을 제공하는 SW의 경우 특정 결과를 제공하는 것으로 간주하여 세 번째 기준을 충족하지 못한다고 미국 FDA는 구체적으로 적시하고 있습니다. 또한 네 번째의 기준은 HCP가 SW 기반의 권고에 도달한 방법을 이해하고 자신의 판단을 적용할 수 있을 만큼 충분히 투명해야 한다는 것으로서 결국 의료행위의 주체인 HCP로 하여금 SW 활용결과물에 ‘주로’ 의존하도록 해서는 안 되며 이 기준을 충족하지 못하면 역으로 미국 FDA 규제를 받는 의료기기로 분류되어진다는 의미가 됩니다.
이런 입장은 AI 의료기기가 의료행위의 주체인 의사를 보조하는 도구로 기능하여야만 한다는 의미이고 우리의 현행 의료법 체계는 물론 글로벌 의료AI의 기술수준도 반영한 결과물이라고 할 수 있습니다.
1-2. 생성형 인공지능 의료기기와 의사의 설명의무
가. 식약처가 2025년 1월 발표한 ‘생성형 인공지능 의료기기 허가·심사 가이드라인’ 은 기존의 기계적 학습(machine learning) 기반의 AI모델과 달리 방대한 데이터의 패턴기반의 확률적 추론을 통해 새로운 콘텐츠를 끊임없이 생성하기 때문에 기존 방식으로 성능 및 임상적 유효성을 평가하는 데 어려움이 있음을 전제로 그러한 ‘생성형 인공지능 의료기기’에 대한 특성 중 하나로 ‘설명불가능성 (inexplicability)을 들고 있습니다.
즉 생성형의료기기 출력 값에 대한 근거 (rationale)는 잘 훈련된 임상의와 기타 의료진도 잘 이해하지 못하는 생성형 AI 자체의 기술적 특성이라는 점을 지적한 것입니다.
문제는 의료행위의 주체인 의료인은 의료법상 설명의무를 부담하고 있고 전통적으로 의료과오소송 (medical malpractice)에서 중요한 쟁점이라는 점입니다.
나. 구체적으로 의료법 제24조의2는 의료인이 환자에게 치료 방법과 위험을 설명할 의무를 규정하고 있고 대법원은 “환자가 인공지능을 활용한 의료행위에 응할 것인지를 합리적으로 결정할 수 있도록 의사의 설명의무는 의료행위가 행해질 때까지 적절한 시간적 여유를 두고 이행되어야 하며, 환자에게 충분한 숙고와 상의의 시간을 제공해야 한다” 고 상세하게 판결하고 있습니다. (대법원 2022. 1. 27. 선고 2021다265010 판결)
예를 들어, 폐질환 병변 판독을 생성형 의료기기가 한 뒤 이를 바탕으로 수술여부를 의사가 결정, 설명의무를 이행한다고 할 때 의사는 의료법에 따라 환자에게 ‘수술 등의 필요성, 방법 및 내용’을 설명하여야만 하기 때문에 논리적으로는 질병 관련 사항은 물론이고 생성형 의료기기의 역할, 신뢰성과 한계 등도 설명하여야만 환자는 ‘충분한 숙고와 상의의 시간’을 확보할 수 있다는 결론이 되지만 정작 AI 기반 진단이나 치료 과정은 알고리즘의 복잡성 등으로 인해 의사가 현실적으로 이를 완전히 이해하거나 설명하는 것이 힘들다는 점입니다.
다. 의사의 설명의무는 불법행위법상 ‘주의의무’(duty of care)를 구체화한 것이기 때문에 생성형 AI 의료기기를 사용하여 수술 필요성 여부를 최종 판단한 의사는 의료행위 주체 로서의 판단근거, AI 의료기기의 신뢰성, 한계 등을 설명할 수 있으면 (explainable) 족한 것이지 AI 의료기기의 판단 근거에 대한 설명까지 할 (interpretable) 필요는 없다고 해석됩니다.
즉 AI의 작동과정에 대한 Black Box 부분은 AI 의료기기 사용에 따른 신뢰성, 한계 등에 대한 기술적 쟁점일 뿐 의사의 법적 설명의무와는 무관한 것으로 볼 수 있습니다.
1-3. 의료기기법상의 ‘위험등급’ 체계와 허가·심사
가. 의료기기는 EU, 미국, 우리나라 모두 위험 (risk) 기반의 차별적 규제를 통해 제품사용을 통제하면서 안전을 확보하는 대표적 영역이고, 위험(위해성) 분류 기준은 EU와 우리나라가 4단계, 미국 FDA는 3단계 구분을 하는 등 구체적 차이를 보이고 있지만, 대부분의 국가들이 의료기기에 대해서는 ‘위험기반의 규제방식’(risk-based approach)을 공통으로 택하고 있습니다.
위험등급을 정하기 위한 첫 단추에 해당되는 것은 의료기기의 ‘사용목적’ (intended use)이지만 AI를 활용하는 디지털의료기기는 그 특성상 자율적으로 데이터의 학습, 훈련을 하면서 진화하기 때문에 ‘사용목적’을 통한 위험등급관리체제가 과연 유효한 지에 대한 의문이 제기될 수 있습니다. 이런 점을 반영, 식약처의 2025년 ‘인공지능기술이 적용된 디지털의료기기의 허가·심사 가이드라인’ 은 MLMD의 특성을 반영하여 적용된 알고리즘 (기계학습 포함)에 관해 작성한 자료를 제출하여 허가·심사를 받도록 하고 있습니다.
나. AI 디지털의료기기 제작업체는 시장에서의 제품 경쟁력을 유지하기 위해 데이터 학습에 따른 버전 업데이트를 필수적 사항으로 생각하게 되지만 미국 FDA는 ‘Predetermined Change Control Plan (PCCP)’이라는 개념을 도입, 사전에 허가 받은 변경 범위 내의 변경만을 인정함으로써 제조업계와 변경허가 여부를 둘러싸고 갈등을 빚고 있습니다.
우리의 디지털의료제품법 제11조는 “디지털의료기기의 안전성ㆍ유효성에 영향을 미치는 총리령으로 정하는 중요한 사항이 변경된 경우에는 식품의약품안전처장에게 변경허가 또는 변경인증을 받거나 변경신고를 하도록” 하고, 경미한 사항인 경우에는 식약처장에게 보고하도록 하고 있습니다.
구체적으로 식약처장은 고시를 통해 1) 디지털의료기기 소프트웨어에 대해서는 가. 사용목적 또는 이와 관련된 핵심적인 성능, 나. 생체신호·의료영상과 같은 분석 대상이나 분석기법 등 알고리즘(분석방법), 다. 소프트웨어 개발 언어 또는 운영환경, 라. 법 제14조에 따른 전자적 침해행위로부터의 보호 조치에 영향을 미치는 통신기능 등, 마. 사용 사양서 또는 사용자 인터페이스의 변경 중 총괄평가 (혹은 이와 동등 이상의 평가)를 수반하는 변경을 핵심적인 성능에 대한 변경으로 보고 있고, 2) 하드웨어의 변경 중 성능 또는 전기·기계적 안전에 영향을 미치지 않는 해당 디지털의료기기의 외관, 치수, 버튼의 형태 및 위치, 손잡이 등의 변경을 제외한 변경 또한 핵심적인 성능에 대한 변경으로 폭넓게 열거함으로써 모두 식약처장의 변경허가를 받는 대상이 되도록 운영하고 있습니다.
즉 디지털의료기기에 대해서는 소프트웨어는 물론이고 하드웨어 부분의 사후 변경도 핵심적인 성능에 대한 변경으로 넓게 추정, 보수적으로 변경 허가·심사시스템을 시행하고 있습니다.
2. 의료로봇과 AI
의료서류를 정리, 보고서를 작성하거나 영상을 합성, 변화함으로써 진단의 정확도를 높이거나 통계적으로 유사한 합성데이터를 생성해 임상시험, 연구, 환자건강개선 등을 지원하거나 새로운 화합물 구조를 생성하여 약물개발을 가속화하는 등 가상공간에서의 AI가 아니라 의료로봇에 탑재되어 활용되어지고 있는 AI는 진단시 실시간 데이터 분석과 최적의 수술경로 등의 의사결정, 더 나아가 수술시 작업보조, 재활 등에 초점을 맞춰 상용화로 발전시킨 것이기 때문에 특정 작업, 특화된 데이터와 알고리즘, 복잡한 작업순서 등의 성격상 더 고차원적인 기술개발, 또한 이에 상응하는 복잡한 규제가 따라오게 됩니다.
특히 진단이나 검사가 아닌 외과수술에 사용되는 물리적 로봇은 FDA가 분류한 기술등급에 따르면 현재 대부분 (세계적으로 압도적 시장점유율을 보이고 있는 da Vinci 시스템 포함) 레벨1 수준이며 (da Vinci는 의사가 조종간을 직접 움직이면 로봇수술기가 이 동작을 동시에 재현하는 마스터-슬레이브 방식)에 그치고 있고 관절수술 등의 일부에서 활용되는 Mako 시스템의 경우 의사가 로봇 팔을 작동시키면 정해진 범위내의 수술을 로봇이 그대로 실행하는 식의 레벨 2 기술단계에 이르고는 있지만 결국 의료현장에서의 수술로봇은 현재 기술적으로, 또 법적으로 인간 의사의 ‘보조적 도구’에 머물고 있다고 평가할 수 있습니다.
인간의 신체와 생명을 대상으로 한다는 의료의 특성상 AI를 장착한 로봇이 질병의 진단, 검사, 환자의 재활 등의 영역을 벗어나 수술 등의 의료행위를 자율적으로 할 수 있도록 하기 위해서는 법적으로만 볼 때 향후 현 의료법체계는 물론이고 수술로봇에 법인격을 부여할 것인지의 근본적 문제부터 검토가 필요하다고 할 수 있습니다.
3. 의료보험 시장의 변화
3-1. AI가 의료기기, 데이터처리 등에 접목, 확산되어짐에 따라 보험상품 설계시 예상할 수 없었고 따라서 대처할 수 없게 된 새로운 위험에 대비한 복합보험상품도 등장하고 있지만 (InsurTech보험사로 알려진 Relm 보험사가 올 1월 출시한 PONTAAI 상품이 대표적) 의료보험시장에서도 관련 특화된 상품들이 속속 등장하고 있습니다. 다만 2024년 8월부터 시행되고 있는 EU AI법이 진단, 진료에서의 의사결정 등 의료분야에서의 AI 활용을 고위험 (high-risk)영역으로 간주하면서 위험관리시스템을 활성화하여야만 하고, 고품질의 데이터관리체제와 이용자에 대한 정보제공의 투명성과 정확성, 인간에 의한 감시체제 등을 의무화하고 있으며, 이런 의무이행의 최종 시한이 늦어도 EU AI 법 시행 후 2년내인 내년 8월까지로 정해져 있습니다.
보험사기를 탐지하고, 가입자의 신용평가, 행동패턴 분석 등에도 물론 AI는 활용되어질 수 있지만, 특히 비용절감차원에서 보험사가 관심을 가지게 되는 ‘보험가입자의 행동패턴을 AI가 분석해 사기 가능성을 측정’하는 행위는 고위험 AI로 분류되어 엄격한 규제를 받기 때문에 현재까지 대체로는 개인 맞춤형 보험상품개발 및 제공, 개인건강정보 기반의 위험평가와 보험료 할인, 환급 내지 기존 의료과실책임보험 (medical malpractice insurance) 약관에서 AI관련 특정 위험을 추가하거나 면책하는 등의 특약을 첨가하거나 기술수준을 고려하여 ‘의사의 최종 검토’ 프로세스를 중요하게 강조하는 것 정도가 의료보험상품의 대체적 변화모습이라고 할 수 있습니다.
물론 AI가 빨리 확산되고 있는 AI 의료기기 제조사 및 개발사를 대상으로 하는 새로운 관련 보험상품도 경쟁적으로 개발되고 있고 의료기관이 보유한 민감한 환자의료정보를 AI를 활용하여 처리, 진단, 수술 등에 활용함에 따른 사이버 책임보험 상품도 등장하고 있습니다. 또한 Anthem, Aetna 등 미국의 대형 보험사들이 웨어러블데이터, 전자건강기록, 생활패턴 데이터등을 AI로 분석해 개인별 위험도를 정확히 평가, 건강한 생활을 지속하는 가입자에게는 보험료 할인 혜택을 제공하고 있으며, AI 챗봇이 1차 건강상담을 제공하고 필요시 의료진과 연결하여 주는 서비스가 포함된 영국의 Babylon Health사 보험상품처럼 텔레메디슨과 연계된 보험상품들도 시장에서 판매되고는 있습니다.
3-2. 현대적 사회보장제도의 일환으로 독일에서 19세기말 노동자들을 위한 건강보험제도가 처음 시작된 이래 공공보험과 민영보험의 역할분담을 둘러싼 기여비중의 차이는 있을지 언정 ‘진료 이후의 비용부담을 사후 보전하는 방식’을 공통으로 각국의 의료보험제도는 오랫동안 운영되어 왔습니다. 이에 따라 보험사고와 보험요율을 결정하기 위해 과거의 데이터를 모아 보험상품을 개발하고 판매하여 왔었지만 디지털과 AI의 영향으로 이제 의료보험 자체가 ‘사전에 예측하고 예방하는’ (Predict & Prevent) 방향으로의 변화를 보이고 있습니다.
즉 질병이 발생하기 전에, 치료가 시작되기 전에 거의 실시간으로 웨어러블 건강보조도구 등을 통해서 개인의 전자건강데이터를 체크할 수 있음은 물론 식사, 흡연, 음주, 일 패턴, 습관 등의 관련 변수까지 고려한 정기적 온라인 건강진단도 간편하게 할 수 있게 되고 유전자 정보까지 활용되어지면서 노후의 건강 관리 또한 체계적으로 가능하게 됨에 따라 위험을 예측하고 사전 예방하는 디지털의료보험 시스템 도입이 실제로 이뤄지게 된 것입니다. 특히 AI의 접목으로 학습데이터 기반의 보험가입자별 잠재적 질병 가능성, 수술후의 후유증, 부작용을 예측하는 개인 맞춤형 서비스 제공은 물론이고 분야별 관련 데이터의 정밀화를 바탕으로 약 복용여부, 낙상, 만성질병 가능성의 경고와 음식, 운동, 정기 검사권고 등의 다양한 보험관련 서비스 개발, 제공도 현실적으로 가능하게 되었습니다.
이런 결과는 보험가입자는 물론이고 보험회사에게도 비용지출의 감소와 위험관리의 체계화 등 공통 이익을 준다는 점 때문에 개인은 물론이고 의료기관, 의료데이터를 활용하는 관련 기관 등까지 이용할 수 있는 AI 관련 종합 의료보험 내지 특화된 상품개발로 나타나게 되고 특히 민간의료보험시장의 변화는 더욱 경쟁적으로 나타날 것으로 전망됩니다.
보험시장의 이러한 혁명적 변화를 가능하게 하는 대전제는 AI를 접목하여 의료데이터의 공유와 활용을 가능하게 하는 개인 디지털건강기록의 통합, 관리 및 활용시스템 구축, 활용이고 현재 진행되고 있는 우리나라의 My Healthway 사업, 또한 올 3월에 발효된 유럽의 EHDS (European Health Data Space)법이 그런 시스템 구상의 구체적 추진 예들입니다. (이들 내용에 대해서는 지난 AID 5호를 참조)
의료과실, 제조물책임, 데이터보호 등과 같은 전통적 쟁점외에 생성형 AI를 이용자가 검색과 상담의 도구로 자주 사용하게 되면서 환각 (hallucination)을 통해 가짜 의학정보를 생성해내고 잘못된 진료와 처방까지 만들어내는 등 새로운 법적 이슈도 등장하고 있습니다. 반면, MS가 6월 30일 숙련된 의사 그룹보다 4배 높은 진단 정확도를 자랑하는 AI 진단 오케스트레이터 ‘MAI-DxO’를 공개함으로써 의료AI의 또 다른 혁명적 변화를 예고하기도 했습니다. <매월 발간하는 법무법인(유) 린 TMT그룹 AI산업센터의 뉴스레터인 AID에 대한 질문, 조언 등은 구태언 TMT 전문그룹장 (tekoo@law-lin.com), 방석호 AI 산업센터장 (shbang@law-lin.com), 설기석 구성원 변호사 (ksseol@law-lin.com)에게 보내주십시오.> |
