Ⅰ. 서론

인공지능(AI) 기반 모빌리티는 자율주행차, 도심 항공 모빌리티(UAM) 등을 통해 교통 시스템의 혁명적 변화를 이끌며 우리의 삶과 산업 전반에 새로운 가능성을 제시하고 있습니다. AI는 스스로 학습하고 때로는 예측 불가능한 결정을 내리기도 하며, 지속적인 소프트웨어 업데이트를 통해 그 기능과 성격이 변화하는 특성을 지닙니다. 이러한 AI의 특성은 전례 없는 편익을 제공하는 동시에, 사고 발생 시 책임 소재 규명을 둘러싼 복잡하고 새로운 법적 과제들을 야기합니다.

이번 Tech Legal Insights에서는 AI 모빌리티 기술의 발전이라는 '혁신'의 가치와 이용자의 안전 및 권익 보호라는 '책임'의 가치가 어떻게 조화를 이룰 수 있을지에 대한 근본적인 질문에서 출발합니다. AI 모빌리티 산업의 건전한 성장을 지원하면서도 발생 가능한 위험에 효과적으로 대응하고 소비자 신뢰를 확보할 수 있는 제조물 책임 법제의 미래 방향을 국내외 동향과 주요 쟁점 분석을 통해 모색하고자 합니다.

Ⅱ. 국내 법제 현황

국내에서 AI 기반 모빌리티 관련 사고 발생 시 일차적으로 현행 「제조물책임법」, 「자동차손해배상보장법」, 「자동차관리법」 등이 적용될 수 있습니다. 그러나 이들 법규는 AI 기술의 특수성을 충분히 반영하지 못하여 몇 가지 한계를 드러내고 있습니다.

* 소프트웨어의 '제조물' 해당 여부 : 현행 「제조물책임법」은 '제조되거나 가공된 동산'을 제조물로 정의하고 있어(제2조 제1호), AI 소프트웨어나 데이터 자체가 이에 명확히 포함되는지에 대한 해석상 논란이 있습니다. 과거 서울중앙지방법원은 저장매체에 담겨 유통되는 소프트웨어를 제조물로 인정한 바 있으나(서울중앙지방법원 2006. 11. 3. 선고 2003가합32082 판결), 이는 무형물인 소프트웨어 자체가 아니라 해당 소프트웨어가 저장된 매체를 동산으로 보고 판단한 것이었습니다. 소프트웨어를 제조물책임법의 적용 대상이 되는 동산으로 보기는 어렵고 이에 소프트웨어 자체에 대하여 제조물책임법을 적용한 사례는 없습니다. 현행 제조물책임법으로는, 네트워크 기반으로 지속 업데이트되는 AI의 특성을 고려하기에 한계가 있고 AI의 결함에 대해서는 적용하기 어려운 한계가 있습니다.

* 결함 및 인과관계 입증의 어려움 : AI의 복잡성과 의사결정 과정의 불투명성(블랙박스 현상)으로 인해 피해자가 제조물의 결함 및 손해와의 인과관계를 입증하는 것은 매우 어려운 과제입니다. 이는 제조물책임법의 실효성을 저해하는 요인으로 작용합니다.

* 최근 입법 동향 : 정부와 국회는 AI 기술의 발전을 지원하는 동시에 안전과 신뢰를 확보하기 위한 입법적 노력을 기울이고 있습니다. 2025년 3월 20일부터 시행 중인 개정 「자율주행자동차 상용화 촉진 및 지원에 관한 법률」(자율주행자동차법)은 자율주행차 성능인증제도 도입, 소프트웨어 업데이트를 포함한 안전 관련 사후관리 책임 강화 등을 내용으로 합니다. 또한, 2026년 1월 22일 시행 예정인 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(인공지능기본법)은 고위험 AI 관리체계 및 AI 시스템의 안전성·투명성 확보 원칙 등을 규정하여, 향후 AI 모빌리티 제조사의 주의의무 수준 판단이나 결함 평가에 간접적인 영향을 미칠 것으로 보입니다.

이러한 국내 법제는 AI 모빌리티 산업의 혁신을 지원하면서도 안전이라는 사회적 가치를 담보하려는 노력을 보여주지만, 제조물 책임의 구체적인 적용에 있어서는 여전히 명확한 기준 정립이 요구되는 상황입니다.

Ⅲ. 해외 주요국의 입법 동향

AI 모빌리티 제조물 책임 법제 정비는 세계 각국의 주요 과제로 부상했으며, 각국은 자국의 산업 환경과 법체계를 고려하여 혁신과 책임의 균형점을 찾기 위한 다양한 접근 방식을 취하고 있습니다.

1. 유럽연합(EU)

EU는 AI 기술 규제 및 관련 책임 법제 정비에 가장 적극적인 모습을 보이며, AI법(AI Act), 새로운 제조물책임법(New Product Liability Directive, 이하 'New PLD'), 일반제품안전법(General Product Safety Regulation, GPSR)을 패키지로 추진하고 있습니다.

* New PLD : 2024년 12월 9일 발효되었으며, 2026년 12월까지 EU 회원국들이 국내법으로 전환해야 합니다. 이 법은 무과실책임(엄격책임) 원칙을 유지하면서, '제조물'의 정의에 소프트웨어(AI 시스템 포함), 디지털 제조 파일 등을 명시적으로 확대했습니다. 또한 AI의 자기 학습, 소프트웨어 업데이트, 사이버 보안 취약성 등을 '결함' 판단 시 고려 요소로 포함시켰습니다. '제조업자'의 범위도 소프트웨어 개발자, 온라인 플랫폼 등으로 확장되었습니다. 특히 제품 출시 후 지속적인 업그레이드와 학습 과정에서 발생한 사후 결함에 대해서도 원칙적으로 제조업자의 책임을 인정합니다. 손해의 범위에는 의학적으로 인정된 정신적 손해와 데이터 손상이 포함되었으나, 순수 경제적 손해는 제외되었습니다. 결함 판단은 '소비자의 안전에 대한 합리적 기대'와 'EU 또는 각국 법의 안전 기준'을 함께 고려하며, 이는 2024년 12월 발효된 GPSR의 새로운 안전 기준(사이버보안 등)과 연계됩니다. 피해자의 입증 부담을 완화하기 위해, 기술적 복잡성으로 입증이 '지나치게 어려운 경우' 법원이 결함 또는 인과관계를 추정할 수 있도록 하고, 법원의 증거개시명령 제도를 도입하여 제조업체의 불응 시 결함을 추정할 수 있게 했습니다. 다만, 제조업자는 당시 과학·기술 수준으로 결함을 발견할 수 없었다는 '개발위험의 항변'을 할 수 있어, 혁신과 책임 간의 균형을 꾀하고 있습니다.

* AI 책임법안(AI LD안) : 당초 EU 집행위원회는 AI 시스템으로 인한 특수한 손해배상 문제를 다루기 위해 별도의 AI 책임법(AI LD) 제정을 추진했으나, AI 시스템 확산 억제 및 혁신 저해 우려로 인해 아직 법으로 최종 채택되지는 않았습니다. 이 제안은 AI의 혁신과 발전을 고려하여 과실책임주의를 기반으로 하되, AI법상 고위험 영역에서의 의무 위반 시 인과관계를 추정하는 방식을 통해 피해자 구제와의 균형을 찾고자 했습니다.

2. 미국

연방 차원의 통일된 AI 모빌리티 제조물 책임법은 없으며, 주로 각 주의 판례법(과실책임, 보증위반, 엄격책임 이론 등)과 일부 성문법을 통해 다뤄집니다. 연방 도로교통안전국(NHTSA)은 법적 구속력은 없지만 사실상 산업 표준으로 작용하는 자율주행시스템 안전 가이드라인을 지속적으로 발표하며, 유연한 접근을 통해 혁신을 지원하고 있습니다.

3. 영국

2024년 5월 20일 「자율주행자동차법」(Autonomous Vehicles Act)을 제정하여, 자율주행차 상용화에 필요한 안전 원칙과 책임 소재를 명확히 하고자 했습니다. 특히 사고 데이터 기록 및 시스템 업데이트를 책임질 '승인된 자율주행 법인(ASDE)' 개념을 도입하여 자동차 제조사 외에 소프트웨어 제공 기업 등도 책임 주체가 될 수 있도록 한 점이 특징입니다.
이처럼 각국은 AI 기술의 발전 양상과 자국 산업 환경을 고려하여 다양한 방식으로 책임 법제를 모색하고 있으며, 이는 국내 법제 개선 논의에 있어 혁신과 책임의 조화라는 목표 달성을 위한 중요한 참고자료가 됩니다.

Ⅳ. AI 모빌리티 제조물 책임의 핵심 쟁점

AI 모빌리티의 제조물 책임을 둘러싼 법적 쟁점들은 기술의 혁신성을 저해하지 않으면서도 공정한 책임을 부과하기 위한 섬세한 접근이 필요합니다.

* ‘결함'의 재구성 : AI 시스템의 학습 데이터 편향, 알고리즘의 예측 불가능하거나 차별적인 오작동 가능성, 사이버 보안 취약성 등을 기존의 제조·설계·표시상 '결함'으로 어떻게 명확히 규정하고, 그 판단 시점을 언제로 할 것인지가 핵심 과제입니다. 기술 발전을 저해하지 않는 합리적이고 구체적인 기준 마련이 필요합니다.

* '블랙박스'와 입증책임 : AI의 복잡성과 의사결정 과정의 불투명성으로 인한 피해자의 입증 곤란을 완화하기 위해, EU의 New PLD에서처럼 법원의 증거개시명령 또는 특정 조건 하에서의 결함·인과관계 추정 등 정보 비대칭성을 해소하고 피해자 구제의 실효성을 높이면서도 제조업체의 방어권을 보장하는 균형 잡힌 방안 모색이 중요합니다.

* 복합적 책임 관계 : AI 모빌리티 생태계는 완성차 제조사를 넘어 AI 알고리즘 및 소프트웨어 개발사, 데이터 공급자, 통신 사업자 등 매우 다양하고 분화된 주체들이 관여합니다. 이들 간의 복잡한 책임 소재를 어떻게 합리적으로 배분할 것인지에 대한 새로운 법적 기준과 계약적 책임 장치 마련이 시급합니다.

* 지속적 진화와 사후 관리 : AI는 시장 출시 이후에도 사이버 보안 위협 대응, 기능 개선, 안전 규제 충족 등을 위해 지속적인 소프트웨어 업데이트 및 자가 학습을 수행합니다. 이 과정에서 발생할 수 있는 문제에 대해 제조사가 제품의 전 생애주기에 걸쳐 어느 범위까지 사후 관리 및 안전 확보 의무를 부담해야 하는지 그 책임 범위를 명확히 정립하는 것이 혁신의 지속성과 안전 확보 의무를 조화시키는 데 중요합니다.

Ⅴ. 법제 정비 방향

AI 모빌리티 산업의 혁신을 촉진하고 동시에 국민적 신뢰를 구축하기 위한 조화점을 찾는 다각적인 분석과 논의를 통해 제조물 책임 법제의 발전적 정비가 이루어져야 할 것입니다.

* 「제조물책임법」의 현대화 : 소프트웨어 및 AI 시스템 자체를 '제조물'의 정의에 명확히 포함시킬지, 포함시킨다면 알고리즘의 체계적 오류, 학습 데이터의 결함, 부족한 설명가능성, 사이버 보안 취약성 등 AI 고유의 특성을 고려한 새로운 유형의 '결함' 판단 기준을 어떻게 구체화할지 심층적인 검토와 논의가 필요합니다.

* 입증부담 완화의 신중한 접근 : 기술적 복잡성과 정보 비대칭성을 감안하여 피해자의 입증책임을 합리적으로 완화하거나 전환하는 방안을 심도 있게 검토하되, 기업의 정당한 영업비밀 보호와 균형을 이루는 선에서 사고 원인 규명을 위한 피해자의 정보 접근권 강화 방안을 모색해야 합니다. 이는 AI 산업의 발전을 저해하지 않으면서도 실질적인 피해 구제를 가능하게 할 것입니다.

* 관련 법규 간 시너지 창출 : 개정 「자율주행자동차법」, 「인공지능기본법」 등 AI 모빌리티와 관련된 개별 법규들과의 역할 분담 및 상호 연계성을 명확히 하여 법체계 전반의 혼선 없는 정합성을 확보해야 합니다. 예를 들어, 「자율주행자동차법」상 성능인증 기준이나 「자동차관리법」상 안전 기준 위반이 제조물책임법상 결함 판단에 미치는 영향, 관련 기술 표준 준수 노력의 주의의무 판단 시 참작 등을 명확히 할 필요가 있습니다.

* 데이터 기반 책임 규명 : 사고 발생 시 객관적이고 신속한 책임 규명을 위해 EDR/DSSAD에 기록되는 정보의 표준화, 데이터의 위·변조 방지 및 신뢰성 확보, 관련 주체(사고조사위원회, 피해자, 제조사 등)의 정보 접근 및 분석 절차와 포괄적인 데이터 거버넌스 체계를 확립할 필요가 있습니다.

* 국제적 정합성과 산업 경쟁력 : EU의 New PLD 및 AI 법과 같은 선도적인 국제 규제 흐름과의 조화를 면밀히 고려하여 국내 기업의 글로벌 경쟁력을 유지하고 국제적 통상 마찰을 예방하는 방향이 되어야 할 것입니다.

* 자율적 책임 문화와 지원책 병행 : 기업 스스로 AI 윤리 원칙을 경영 전반에 내재화하고, 설계 단계부터 안전을 최우선으로 고려하는 개발 프로세스(Safety by Design)를 채택하며, AI 시스템의 투명성과 설명가능성을 높이기 위한 기술적·관리적 노력을 강화할 수 있도록 정부 차원의 인센티브 제공 및 명확한 가이드라인 개발 등의 지원책도 병행되어야 합니다.

Ⅵ. 결론

AI 기반 모빌리티 산업의 지속 가능한 발전을 위해서는 '혁신'과 '책임'이라는 두 축의 균형 있는 발전이 필수적입니다. 미래지향적인 법제는 기술의 혁신적 잠재력을 최대한 발휘할 수 있도록 유연성을 제공하는 동시에, 발생 가능한 위험으로부터 국민의 안전과 신뢰를 효과적으로 보호할 수 있는 기초가 되어야 할 것입니다.

제조물책임법 개정 논의를 필두로 AI 기반 모빌리티로 인한 피해 발생시 책임의 귀속 관계, AI 결함으로 인한 소비자의 피해에 대한 현실적인 구제 방안, AI 기반 모빌리티산업에 미치는 영향 등에 관하여 국회, 관계 부처, 학계, 산업계 등 다양한 이해관계자 간의 심도 있는 사회적 논의와 합의가 중요할 것입니다. 이를 통해 기술에 대한 국민적 신뢰를 구축하고 소비자를 두텁게 보호하며 AI 기반 모빌리티 산업의 책임 있는 성장을 담보할 수 있는 선진적인 법체계가 조속히 마련되기를 기대합니다.