행정안전부는 공공부문 인공지능 도입 확대에 대응해 신뢰할 수 있는 인공지능 활용을 뒷받침하는 ‘공공 AI 윤리기준’을 최종 확정했다고 2026년 10월 1일 발표했다. 이번 기준은 인공지능이 복지대상자 선정이나 인허가 등 국민의 권리와 일상에 밀접한 행정 의사결정을 지원하는 과정에서 발생할 수 있는 편향과 프라이버시 침해를 방지하고, 최종 통제권을 공직자 등 인간 감독자에게 부여해 공공 신뢰성을 확보하는 것을 골자로 삼고 있다.
국민·행정·기술 관점의 6대 핵심가치 및 68개 세부 자율점검표 구축
행정안전부가 확정한 윤리기준은 ‘행정 혁신 촉진’과 ‘국민 신뢰 구축’을 두 축으로 하며, 국민·행정·기술의 세 가지 관점에 기반해 도출됐다. 정립된 6대 핵심가치는 공공성, 형평성, 투명성, 책임성, 안전성, 프라이버시 보호이다.
행정안전부는 지난 2025년 11월에 발표한 초안을 토대로 학계 전문가와 관계기관의 의견 수렴 및 면밀한 검토 과정을 거쳤다. 이를 통해 실제 행정 현장에서 실무자가 직접 점검하고 개선할 수 있도록 설계된 총 68개의 세부 자율점검 항목을 수립했다. 이 기준은 공공 이익과 국민 삶의 질 향상을 도모하고, 차별 없는 공정 서비스를 제공하며, 인공지능 도입과 활용 과정을 투명하게 공개하도록 지침을 제시한다.
공공 AI 윤리기준에 맞춘 ‘적용-응용-융합’ 3단계 자율점검 체계 차등 적용
각 공공기관의 원활한 제도 적응을 위해 기술 수준과 개입 정도에 따른 ‘3단계 자율점검 체계’가 도입된다. 구체적으로는 기초활용 중심인 1단계 ‘적용’, 의사결정을 지원하는 2단계 ‘응용’, 자율결정을 기반으로 하는 3단계 ‘융합’으로 분류된다.
기계적인 일률 적용에서 탈피해 기관별 인공지능 활용 수준에 맞춰 자율점검을 시행하도록 설계됐다. 이에 따라 단순 조작이나 기초 활용 수준인 1단계는 최소한의 기준을 준수하며, 사람의 의사결정을 보완하고 지원하는 2단계 ‘응용’은 총 57개 점검 항목이 적용된다. 인공지능이 스스로 자율적인 결정을 내리는 최종 3단계 ‘융합’ 수준에서는 68개 점검 항목 전체를 필수로 확인해야 한다. 인공지능이 갖는 권한과 행정적 비중이 커질수록 검증과 자율 점검의 촘촘함이 비례하여 강화되는 구조이다.
복지대상자 선정 및 인허가 오류 방지 위한 ‘인적 개입’과 사후구제 의무화
이번 윤리기준에서 가장 중요하게 부각된 영역은 ‘책임성’ 가치의 구체화이다. 인공지능이 복지 수혜 대상자의 선별, 각종 인허가 처분, 재난 및 치안 위험 예측 등 국민의 법적 지위와 생활에 직접적인 영향을 미치는 영역에 적용될 경우, 발생 가능한 판단 오류에 대한 통제 수단이 필수적이다.
이에 따라 윤리기준은 인공지능 서비스의 기획부터 실행 및 제공 단계에 이르기까지 단계별 책임 주체를 사전 지정하도록 규정했다. 또한, 시스템의 기계적 판단이 초래할 오류를 정정할 수 있도록 공직자 등 인간 감독자가 상시 모니터링하고 개입할 수 있는 인적 감독 체계를 구축하게 했다. 시스템 오작동 등으로 국민이 피해를 입었을 경우를 상정한 사후관리 프로그램 및 실질적 피해구제 절차 마련도 의무화함으로써 제도의 실효성을 뒷받침한다.
행정안전부는 이번 윤리기준이 단순한 선언적 권고에 그치지 않고 행정 현장에 정착할 수 있도록 공공부문 공무원 및 종사자 대상 맞춤형 교육 프로그램을 개설 및 운영할 방침이다.
기술 발전에 따라 파생되는 새로운 윤리적 쟁점을 능동적으로 포착하여 점검 기준에 신속히 반영하는 환류 체계 역시 구축된다. 이번 기준은 2026년 8월 제정 및 공표된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법) 제27조의 범정부적 윤리원칙과 궤를 같이하며, 공공 영역의 기술 수용성과 행정 신뢰도를 체계적으로 조율해 가는 제도적 이정표가 될 것으로 전망된다.
글 | 백승리 기자(report@senioredupro.com)
AI·디지털에 대한 다양한 소식은 [AI·디지털 섹션]에서 확인하실 수 있습니다.
* 본 기사의 일부 이미지는 생성형AI를 활용하여 제작되었습니다.