[AID VOL.22] 조세 AI와 고영향 규제

국세행정은 방대한 과세자료를 처리하고 납세자의 신고내용을 검증하여야 하는 만큼 AI 도입의 효용이 큰 분야입니다. 반면 세무조사, 경정·부과, 체납처분 등은 국민의 재산권에 직접적인 영향을 미칠 수 있어 AI 활용에 따른 투명성과 책임성, 권리구제의 확보가 함께 요구되는 영역이기도 합니다.

현행 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “AI기본법”) 제2조 제4호는 “고영향 인공지능”을 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로 정의하면서, 그 적용 영역의 하나로 자목에서 “공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가기관등(국가, 지방자치단체, 공공기관 등)의 의사결정”을 규정하고 있습니다.

이에 따라 국민건강보험료, 각종 공공시설 이용료와 같이 공공서비스와 결부된 경제적 부담의 결정에 AI가 활용되는 경우에는 고영향 인공지능에 해당할 가능성이 있습니다. 조세 역시 국가 또는 지방자치단체가 국민에게 금전적 부담을 부과한다는 점에서 자목의 “비용징수 등 국민에게 영향을 미치는 의사결정”에 포함될 여지가 있습니다.

다만 조세는 특정한 공공서비스의 반대급부로 지급되는 수수료나 이용료와 달리 개별적인 반대급부 없이 법률에 따라 강제적으로 부과되는 공과금이라는 점에서, 일반적인 조세행정까지 모두 자목의 “공공서비스 제공”에 포함되는지는 별도의 해석 문제가 남습니다. EU AI법은 이 점에서 우리 법과 다른 규율체계를 취하고 있습니다. 즉 EU AI법은 필수적인 공공부조 급부 및 서비스의 수급자격 판단 등에 사용되는 AI는 고위험으로 분류하면서도, 세무·관세 당국이 행정절차에서 사용하는 AI는 법집행 분야의 고위험 AI로 보지 않는다는 점을 명시하고 있기 때문입니다(아래 I.1. 참조). 따라서 조세 AI는 우리 AI기본법과 EU AI법 사이에서 규율 범위의 차이가 가장 선명하게 나타날 수 있는 분야인 셈입니다.

Ⅰ. 조세행정과 AI법

1. EU AI법과 조세행정

EU AI법 부록 (Annex) III 제6호는 법집행(law enforcement) 목적으로 사용되는 일정한 AI를 고위험으로 분류합니다. 그러나 전문 (Recital) 59는 세무·관세 당국이 행정절차(administrative proceedings)에서 사용하는 AI와 자금세탁방지 관련 업무를 수행하는 금융정보분석기구의 AI를 법집행 분야의 고위험 AI로 보아서는 안 된다는 취지를 명시하고 있습니다. 따라서 세무조사 대상 선정, 신고 검증, 경정·부과, 체납관리 등 일반적인 세무 행정절차에서 사용되는 AI는 그러한 사정만으로 부록 III 제6호의 법집행 고위험 AI가 되지는 않습니다.

반면 EU AI법은 전문 58 및 부록 III 제5호 (a)를 통하여 의료, 사회보장 등 개인의 기본적 생활과 밀접한 필수 공공부조 및 서비스에 관한 수급자격의 판단, 급부의 부여·감액·취소·환수에 사용되는 AI를 고위험으로 규율합니다. 따라서 EU AI법은 세무당국의 일반적인 조세행정과 사회보장적 급부에 관한 의사결정을 비교적 뚜렷하게 구별하고 있습니다.

한편 2026년 7월 27일 발효된 이른바 ‘AI 옴니버스(AI Omnibus)’ 개정으로 EU AI법 제 6조2항 및 부록 III에 따른 고위험 AI에 관한 Chapter III Sections 1·2·3의 주요 의무 적용시점은 2027년 12월 2일로 연기되었습니다. (부록 I의 제품 관련 고위험 AI는 2028년 8월 2일). 따라서 EU에서도 부록 III 고위험 AI 관련 의무가 아직 본격 적용되기 전이라는 점을 함께 고려할 필요가 있습니다.

2. AI기본법에서는 조세가 “비용징수”인가

우리 AI기본법은 법 제2조 제4호 자목에서 EU AI법과 달리 적용대상을 “공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 의사결정”으로 폭넓게 규정하고 있습니다. 그러나 조세가 “공공서비스 제공에 필요한 비용징수”에 해당하는지에 대해서는 논란의 여지가 있습니다.

먼저 조세는 특정 서비스의 이용에 따른 반대급부가 아니라 법률에 따라 일반적으로 부과되는 금전급부의무라는 점에서는 수수료·사용료 등과 구별됩니다. 이러한 점을 강조하면 조세 자체를 “공공서비스 제공에 필요한 비용”으로 보기 어렵다는 해석도 가능합니다. 다른 한편으로는 과세대상·과세표준·세액·감면 여부 등을 결정하는 행위는 국민의 재산권과 직접 연결되는 국가기관의 의사결정이고, 자목은 “비용징수” 뒤에 “등 국민에게 영향을 미치는… 의사결정”이라는 문언을 두고 있습니다. 따라서 법률의 현재 문언만을 근거로 조세행정 전체를 자목에서 일률적으로 제외하기는 어렵습니다.

또한 고영향 인공지능이 되기 위해서는 단순히 자목의 어느 업무영역과 관계된다는 사실만으로는 충분하지 않습니다. AI기본법 제2조 제4호 본문에 따라 해당 AI가 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있어야 하고, 실제 AI가 어떤 의사결정에 어떠한 방식으로 사용되는지를 함께 보아야 하기 때문입니다.

Ⅱ. 조세업무별 고영향 판단

1. 세무상담 · 신고안내 AI

웹이나 앱에서 납세자가 입력한 정보를 토대로 신고절차, 적용 가능한 공제제도, 필요한 서류 등을 안내하는 AI는 원칙적으로 행정청의 의사결정을 하는 것이 아니라 정보를 제공하거나 신고를 지원하는 단계에 머무릅니다. 따라서 이러한 AI를 곧바로 고영향 인공지능으로 보기는 어렵습니다.

생성형 AI가 세무상담에 활용되는 경우에는 별도로 AI기본법 제31조 제1항의 투명성 확보 의무가 문제될 수 있습니다. 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 제품 또는 서비스가 AI에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 하기 때문입니다. (국가기관이 이 조항의 ‘인공지능사업자’에 해당하는지에 관하여는 아래 III.1. 참조). 결국 정보제공과 의사결정을 구별해야 하는 것입니다.

2. 세무조사 대상 선정

대법원은 세무조사결정이 납세자의 권리·의무에 직접적인 영향을 미칠 수 있다는 점을 들어 일정한 경우 그 처분성을 인정한 바 있습니다. (대법원 2011. 3. 10. 선고 2009두23617, 2009두23624 판결). 따라서 AI가 납세자의 거래정보, 신고내용, 업종별 평균, 자산변동 등을 종합하여 세무조사 대상자를 선정하는 경우에는 기본권에 미치는 영향이 상대적으로 클 수 있습니다. 다만 AI가 단순히 이상거래나 고위험 후보군을 추천하고 담당 공무원이 관련 자료를 독립적으로 검토하여 조사 여부를 결정하는 경우와 AI의 위험점수에 따라 사실상 자동으로 조사대상이 확정되는 경우는 구별되어야 합니다. 후자의 경우 AI가 국민에 대한 불리한 행정작용의 실질적 결정자에 가까워지므로 물론 고영향 해당 가능성이 커집니다.

3. 행정기본법 제20조의 “자동적 처분”과 고영향 AI

먼저 행정기본법 제20조와 AI기본법의 관계를 구별할 필요가 있습니다. 행정기본법 제20조는 “행정청은 법률로 정하는 바에 따라 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)으로 처분을 할 수 있다. 다만, 처분에 재량이 있는 경우는 그러하지 아니하다.”고 규정함으로써 행정청이 일정한 요건 아래 완전히 자동화된 시스템으로 행정처분을 할 수 있는 법적 근거와 한계를 정하고 있습니다.

다만 같은 조는 “법률로 정하는 바에 따라”라는 요건을 두고 있으므로, 자동적 처분을 하려면 개별 법률의 근거가 필요합니다. 현재 이를 명시적으로 규정한 예로는 「수입식품안전관리 특별법」 제20조의2 및 「위생용품 관리법」 제8조의2에 따른 수입신고의 자동화된 수리 등이 있으며, 세액의 산정·부과 등 조세처분을 완전자동화하려면 개별 세법에 그 근거를 마련하여야 할 것입니다. 반면 AI기본법의 고영향 여부는 AI가 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는지, 그리고 법 제2조 제4호 각 목의 영역에서 실제로 어떠한 방식으로 활용되는지를 판단하는 문제입니다.

따라서 두 법의 판단대상은 동일하지 않습니다. 즉 행정기본법 제20조의 “완전자동처분”에 해당하지 않는다는 이유만으로 AI기본법상 고영향 가능성이 당연히 배제되는 것도 아니고, 반대로 완전자동처분이라는 이유만으로 실무적으로 많은 오해가 있듯이 모든 시스템이 자동적으로 고영향 AI가 되는 것도 아닙니다. 예컨대 법령에 정해진 세율을 기계적으로 적용하여 세액을 산출하는 시스템은 완전자동화가 비교적 용이합니다. 그러나 단순한 규칙기반 프로그램이라면 애초 AI기본법상 “인공지능시스템”에 해당하는지부터 검토가 필요할 수 있습니다.

반면 탈세 가능성이나 거래의 실질, 비용의 사업관련성 등 여러 정황을 분석하여 조사 또는 과세 여부를 사실상 결정하는 AI는 인간의 전문적 판단이 요구되는 영역에 깊숙이 관여한다는 점에서 오히려 고영향 문제가 더욱 중요하게 나타날 수 있습니다.

따라서 “완전자동화 가능성”과 “고영향 해당 가능성”은 반드시 비례하지 않습니다. 권리구제 측면에서도 차이가 있습니다. 「개인정보 보호법」 제37조의2는 완전히 자동화된 결정에 대한 정보주체의 거부권 및 설명 등 요구권을 규정하면서도, 행정기본법 제20조에 따른 행정청의 자동적 처분은 그 적용대상에서 제외하고 있습니다. 따라서 조세 분야에 자동적 처분이 도입되는 경우 납세자의 권리구제는 주로 이의신청·심사청구·심판청구 등 기존의 조세불복절차를 통하여 이루어지게 되므로, 처분의 근거와 산출 과정을 설명할 수 있는 체계를 갖추는 것이 실무적으로 중요합니다.

4. 신고 검증 및 경정 · 부과

신고내용의 검증과 경정·부과는 납세자의 재산권에 직접적인 영향을 줄 수 있는 대표적 조세행정입니다. 그러나 AI가 신고서상의 단순 오류를 탐지하는 경우와 사실관계·법률관계를 평가하여 과세 여부 또는 세액을 사실상 결정하는 경우는 구별되어야 합니다. AI가 단순히 누락 가능성을 표시하거나 검토 필요성을 추천하는 데 그치고 담당 공무원이 관련 증빙과 법률관계를 실질적으로 재검토한다면 AI의 역할은 의사결정 지원에 가까울 수 있습니다.

반면 AI가 특정 비용의 손금 인정 여부, 부당행위계산 여부, 실질과세 여부 등을 사실상 결정하고 담당자가 형식적으로만 이를 승인하는 구조라면 “사람이 최종 결정하였다”는 외형만으로 고영향 가능성을 배제하기 어렵습니다.

따라서 실무에서 중요한 것은 최종 승인자의 존재 그 자체가 아니라 그 사람이 AI의 판단을 실질적으로 검토하고 변경할 수 있는 권한과 능력을 가지고 있는가입니다. 과학기술정보통신부의 「고영향 인공지능 판단 가이드라인」 역시 사람의 개입·통제 여부를 고영향 판단의 고려요소로 들고 있는데, 이때의 개입은 권한 있는 사람이 절차에 관여한다는 형식만으로는 부족하고 그 개입이 결정 결과에 실질적인 영향을 미칠 수 있어야 비로소 의미를 가진다고 보는 것이 타당합니다.

5. 체납처분 · 재산추적

체납자의 재산을 탐지하고 압류대상을 선정하거나 명단공개·출국금지 등 후속조치의 대상을 분석하는 AI는 국민의 재산권 및 기타 기본권에 상당한 영향을 줄 수 있습니다. 다만 체납처분이나 행정상 제재까지 “공공서비스 제공에 필요한” 의사결정으로 볼 수 있는지는 별도의 법 해석이 필요합니다. 따라서 이 분야에서는 고영향이라고 단정하기보다는 ① 자목의 적용영역 해당 여부와 ② AI가 결정과정에서 담당하는 실질적 역할을 단계적으로 판단하는 접근이 필요합니다.

6. 근로·자녀장려금

근로장려금·자녀장려금과 같이 국세청이 일정한 요건을 충족한 사람에게 급부를 지급하고 그 수급자격이나 지급액을 결정하는 업무에서는 고영향 문제가 보다 명확하게 나타날 수 있습니다. AI가 신청자의 소득·재산·가구요건 등을 분석하여 장려금의 지급 여부 또는 환수 여부를 결정한다면 이는 AI기본법 제2조 제4호 자목의 “공공서비스 제공에 필요한 자격 확인 및 결정”에 해당할 가능성이 높습니다.

특히 급부의 지급중단이나 환수가 저소득 가구의 생활에 직접 영향을 미치는 경우에는 기본권에 대한 중대한 영향 가능성도 커집니다. EU AI법에서도 필수 공공부조 급부 및 서비스의 수급자격을 평가하고 급부를 부여·감액·취소·환수하는 AI를 부록 III 제5호 (a)의 고위험 영역으로 규정하고 있습니다. 따라서 일반적인 과세행정과 사회보장적 성격의 조세 관련 급부를 구별하여 접근할 필요가 있습니다.

Ⅲ. 의무부담과 공공 AI

1. 국가·지방자치단체도 AI기본법상 의무주체가 되는가

조세는 국가 또는 지방자치단체가 법률에 따라 부과합니다. AI기본법은 인공지능사업자를 인공지능산업과 관련된 사업을 하는 자로서 개발사업자 또는 이용사업자에 해당하는 “법인, 단체, 개인 및 국가기관등”으로 정의하여 국가기관등도 인공지능사업자가 될 수 있음을 명시하고 있습니다. 그러나 국가나 지방자치단체가 AI를 이용한다는 이유만으로 항상 AI기본법상 “인공지능사업자”가 된다고 단정하기는 어렵습니다. 인공지능사업자 해당 여부는 “인공지능산업과 관련된 사업”을 하는 지와 개발사업자 또는 이용사업자의 요건을 충족하는지에 따라 판단되기 때문에 외부 사업자가 개발한 AI시스템을 세무공무원이 내부적인 업무지원 도구로 사용하는 경우와, 국가기관 등이 AI를 이용하여 국민에게 직접 AI 기반 행정서비스를 제공하는 경우를 구별할 필요가 있습니다.

특히 AI기본법상 이용사업자는 인공지능제품 또는 서비스를 이용하여 “자신의 제품 또는 서비스를 제공하는 자”라는 법적 구조를 갖고 있으므로, 공공기관의 AI 활용이 어느 단계에서 외부의 국민을 대상으로 하는 “서비스 제공”으로 평가되는지가 중요한 쟁점이 됩니다. 조세행정에서도 납세자에게 AI 기반 상담·신고·결정 서비스를 직접 제공하는 경우에는 AI기본법상 이용사업자 여부와 그에 따른 제31조·제34조 등의 의무를 검토할 필요가 있습니다. 반대로 순수한 내부 분석도구로 사용하는 경우라면 사업자 해당 여부는 부정적으로 보게 됩니다.

2. 공공 AI 법의 등장

2026년 8월 28일부터 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」(이하 “공공AI법”이라 함)이 시행되고 있습니다. 이 법은 기존 「데이터기반행정 활성화에 관한 법률」을 개정하여 공공부문의 AI 도입·활용에 관한 근거를 보강한 것입니다. 공공AI법은 행정안전부 소관 법률로서 공공기관의 AI 도입·활용을 위한 제도적 기반과 관리체계를 규정하고 있습니다. 구체적으로 공공기관의 AI 공동활용을 위한 공통기반, 공공기관 임직원의 AI 교육, 학습용 데이터 관리, AI 활용 서비스 목록 관리, AI 활용 윤리기준 등을 규정하고 있습니다. 따라서 AI기본법이 고영향 AI를 포함한 인공지능의 일반적 신뢰·책임 체계를 규정한다면, 공공AI법은 공공기관이 AI를 실제 행정과정에 어떻게 도입하고 관리할 것인지에 보다 직접적으로 초점을 맞추고 있습니다.

특히 공공AI법은 공공기관이 AI를 정책 수립이나 의사결정에 활용하는 경우에도 최종적인 권한과 책임이 해당 공공기관에 있음을 명확히 하도록 규정하고 있습니다(제5조). 이는 ‘실질적인 인간 검토’의 문제와 맞닿아 있는 것으로, 조세행정에서 AI를 활용하는 경우에도 최종 판단의 주체와 그 검토 과정을 분명히 해 둘 필요가 있음을 보여줍니다. 다만 공공AI법이 AI기본법의 규율을 전면적으로 대체하거나 AI기본법보다 항상 우선 적용되는 특별법이라기보다는, 두 법이 규율목적과 적용대상이 일부 중첩되지만 서로 다른 의무를 규정하고 있으므로, 실무적으로는 AI기본법과 공공AI법의 관련 규정을 함께 검토하는 병존·보완관계로 이해하는 것이 적절합니다.

3. 공공분야 AI 영향평가

AI기본법 제35조 제1항은 인공지능사업자가 고영향 AI를 이용한 제품 또는 서비스를 제공하는 경우 기본권에 미치는 영향을 사전에 평가하기 위하여 노력하여야 한다는 자율적 준수 규정입니다. 한편, 같은 조 제2항은 국가기관등이 고영향 AI를 이용한 제품 또는 서비스를 이용하려는 경우 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하도록 정하고 있으므로, 아직 관련 고시가 제정되지는 않았지만 조세행정용 AI를 조달하는 단계에서도 영향평가 실시 여부가 실질적인 고려요소가 될 수 있습니다.

반면 공공AI법 제32조는 2027년 2월 28일부터 시행될 예정인데, 공공기관의 장이 AI를 도입하려는 경우 원칙적으로 사전에 국민의 기본권에 미치는 영향을 평가하고 그 결과를 공표하도록 규정하고 있습니다. 또한 공공AI법 제32조는 AI기본법 제35조에 따른 영향평가를 이미 실시한 고영향 AI 또는 이를 이용한 서비스에 대해서는 행정안전부장관과 협의하여 별도의 공공분야 AI 영향평가를 실시하지 않을 수 있도록 함으로써 두 평가제도의 중복을 조정하고 있습니다.

따라서 향후 공공기관이 AI를 도입할 때에는 해당 시스템이 AI기본법상 고영향 AI인지 여부와 별개로 공공AI법상 영향평가 대상이 되는지를 함께 검토하여야 합니다.

Ⅳ. 결론

현재의 AI기본법 제2조 제4호 자목의 문언만 보면 조세 부과·징수에 사용되는 AI도 “비용징수 등 국민에게 영향을 미치는 국가기관등의 의사결정”에 포함될 여지가 있지만, 조세는 특정 공공서비스의 반대급부가 아니라 일반적이고 강제적인 금전부담이라는 특성이 있고, 법 조문 역시 “공공서비스 제공에 필요한” 의사결정이라는 한계를 두고 있습니다. 따라서 모든 조세 AI를 일률적으로 고영향 인공지능으로 볼 수는 없습니다.

특히 세무상담, 신고안내, 오류탐지와 같은 정보제공·업무지원 AI와 조사대상 선정, 경정·부과, 급부자격 판단처럼 국민의 권리·의무에 실질적인 영향을 미치는 AI를 구별하여야 합니다. 또한 행정기본법 제20조의 완전자동처분 여부와 AI기본법의 고영향 여부는 동일한 판단기준이 아닙니다. 사람의 최종 승인 절차가 존재한다는 사실만으로 고영향 가능성이 자동적으로 사라지는 것도 아닙니다.

결국 조세 AI의 고영향 판단에서는 “AI가 인간을 대신하여 최종결정을 하는가”만을 보는 것으로 충분하지 않고, AI의 결과가 이후 인간의 결정에 어느 정도 구속력을 갖는지, 담당자가 실제로 AI 결과와 다른 판단을 할 수 있는지, 그리고 AI의 판단이 국민의 권리·의무에 어떠한 결과를 발생시키는지를 전체적으로 검토하여야 합니다.

실무적으로 특히 주의하여야 할 점은 AI가 행정청의 의사결정 과정에서 어느 정도의 실질적인 영향력을 행사하고 있는가를 파악하는 것입니다. 향후 공공부문의 AI 활용이 확대되면 조세·보험료·각종 급부와 비용부담을 둘러싸고 AI기본법의 고영향 규제와 공공AI법의 관리·영향평가 제도가 동시에 작동하게 될 것입니다.

따라서 규제 대응 측면에서 공공기관과 AI 사업자 모두에게 필요한 것은 단순히 “사람이 최종 결정을 한다”는 형식적 설명이 아니라, AI의 판단이 실제 행정결정에 어떠한 영향을 미치는지를 업무 프로세스 단계별로 확인하고 이를 문서화하는 작업이라고 할 수 있습니다.

구체적으로는 ① 해당 AI가 정보제공·추천·결정 중 어느 단계에서 작동하는지, ② 담당자가 AI의 결과를 배척하거나 변경할 권한을 가지고 있고 그 이력이 기록되는지, ③ 납세자 등에게 AI 활용 사실과 판단의 근거를 설명할 수 있는지, ④ AI기본법상 고영향 해당 여부와 공공AI법상 영향평가 대상 여부를 각각 검토하였는지를 점검해 두는 것이 바람직합니다.