[아주사설 | 6·3 지방선거, AI 선수를 뽑자] ⑬ AI 행정의 실패, 기술이 아니라 판단의 문제다

― 오류를 숨기는 조직은 학습하지 못한다

AI 행정이 실패했을 때 가장 흔히 등장하는 설명은 “기술의 한계”다. 데이터가 부족했고, 알고리즘이 완벽하지 않았으며, 예외 상황을 반영하지 못했다는 말이 뒤따른다. 물론 AI는 불완전하다. 그러나 대부분의 실패는 기술 자체보다 그 기술을 어떻게 판단하고 관리했는지에서 비롯된다. 실패의 원인을 기술로만 돌리는 순간, 행정은 책임을 잃고 같은 실수를 반복한다.

AI는 판단을 대신하지 않는다. 판단을 돕는다. 이 단순한 원칙이 지켜지지 않을 때 문제가 발생한다. 분석 결과가 ‘참고’가 아니라 ‘전제’가 되는 순간, 정책은 자동으로 굴러가기 시작한다. 이때 오류는 갑작스럽게 드러나지 않는다. 작은 왜곡이 누적되고, 예외가 무시되며, 설명되지 않은 결정이 쌓인다. 실패는 사고가 아니라 과정의 산물이다.

지방행정에서 AI 실패의 전형적인 경로는 비슷하다. 첫째, 데이터의 한계를 충분히 설명하지 않는다. 둘째, 현장의 판단과 분석 결과가 충돌해도 재검토 절차가 없다. 셋째, 문제가 드러난 뒤에도 책임의 주체가 모호하다. “시스템이 그렇게 판단했다”는 말이 반복되면, 누구도 실패를 소유하지 않는다. 실패를 소유하지 않는 조직은 학습하지 못한다.

AI 리터러시의 핵심은 성공을 설계하는 능력이 아니라 실패를 관리하는 능력이다. 오류 가능성을 전제로 정책을 설계하고, 잘못된 결과가 나왔을 때 이를 드러내고 수정할 수 있는 구조를 만드는 일이다. 기술을 믿지 말라는 뜻이 아니다. 기술을 맹신하지 말라는 뜻이다. 판단의 마지막 책임은 언제나 사람에게 있다는 점을 분명히 하라는 요구다.

특히 지방행정에서는 이 원칙이 더 중요하다. 데이터는 수도권보다 부족하고, 지역 간 편차는 크며, 소수 집단은 쉽게 누락된다. 이런 조건에서 만들어진 AI 분석 결과를 절대적인 기준으로 삼는 것은 위험하다. 준비된 리더는 “틀릴 수 있다”는 전제를 정책의 출발점에 둔다. 그리고 그 가능성을 어떻게 통제할 것인지 설명한다.

그러나 지금의 선거 담론은 이 지점을 비켜 가고 있다. 후보들은 AI 도입을 미래 전략처럼 말하지만, 실패를 어떻게 다룰 것인지는 거의 언급하지 않는다. 감사 체계, 재검증 절차, 책임 소재, 주민 설명 방식은 공약집의 뒷부분에도 잘 등장하지 않는다. 기술은 전면에 나오지만, 판단의 구조는 숨겨진다.

이번 6·3 지방선거에서 유권자가 던져야 할 질문은 명확하다. AI 정책이 실패했을 때, 무엇을 점검하겠는가.
그 실패를 공개할 것인가, 덮을 것인가. 그리고 그 결과에 대해 누가 설명할 것인가. 이 질문에 답하지 못한다면, 그 후보는 아직 AI 시대의 행정을 맡을 준비가 되지 않았다.

실패를 말하지 않는 리더는 성공도 관리할 수 없다. 아주경제가 말하는 ‘AI 선수’는 기술적 완벽함을 약속하는 사람이 아니다. 실패를 숨기지 않고 학습으로 전환할 수 있는 리더다. 오류를 기술 탓으로 돌리지 않고, 판단의 문제로 끌어오는 리더다. 그럴 때만 AI는 행정을 약화시키지 않고 강화한다.

AI 행정의 성패는 시스템의 성능이 아니라, 실패를 대하는 태도에서 갈린다.
6·3 지방선거, 이제는 이렇게 물어야 한다.
“이 후보는 AI의 성공이 아니라, AI의 실패를 책임질 준비가 돼 있는가.”
AI 선수를 뽑는다는 것은, 바로 그 책임의 기준을 선택하는 일이다.
 

[그래픽=지피티]