정부가 인공지능(AI)을 행정 서비스 전반에 도입하며 ‘AI 민주정부’를 내세우고 있지만 일부 서비스는 여전히 단순 질의에도 틀린 답을 내놓는 것으로 나타났다. 정부 AI 서비스들이 동일 질문에 대해 서로 다른 답변을 내놓기도 해 이용자 혼란을 키울 수 있다는 지적도 나온다.
26일 서울경제신문이 행정안전부·국세청·법제처 등 정부가 운영하는 AI 서비스에 부가가치세·종합소득세, 생활 정보 등을 질의한 결과 일부 서비스는 2010년대에 폐지된 제도가 현재도 유효하다고 답변하고 있는 것으로 나타났다. 행정안전부가 운영하는 대화형 AI 서비스 ‘AI 정부24’에 개인사업자의 부가가치세 예정신고 의무 여부를 물은 결과다. 국세청의 ‘생성형 AI 홈택스 챗봇’은 같은 질문에 “개인사업자는 2026년 기준 부가세 예정신고 의무가 없다”고 답변한 반면 AI 정부24는 “개인사업자도 부가세 예정신고가 의무”라고 답한 것이다.
부가세 예정신고는 확정신고 전에 사업자가 일정 기간의 매출세액과 매입세액을 미리 계산해 신고한 뒤 세금을 납부하는 제도로 직전 과세 기간 공급가액 합계 1억 5000만 원 이상 법인사업자 등은 의무적으로 예정신고를 해야 한다. 개인사업자의 예정신고 의무는 2012년에 폐지됐다. 행안부의 AI 서비스는 과거 제도를 현행으로 인식한 셈이다.
문제는 틀린 답변에도 AI가 스스로 답변의 신뢰도가 높다고 판단하고 있다는 점이다. AI 정부24는 답변마다 신뢰도를 높음·중간·낮음 등으로 구분하는데 개인사업자에게 부가세 예정신고 의무가 있다는 잘못된 답변을 ‘신뢰도 높음’으로 표시하는 식이다. 이 서비스는 올해 5월 1일부터 6월 1일까지였던 2025년 귀속 종합소득세 신고 기간에 대해서도 “2025년 5월 1일부터 5월 31일까지”라는 틀린 답을 내놓으며 답변 신뢰도를 ‘높음’으로 표시했다.
법령 관련 질문에서는 각 AI 서비스들이 다른 답을 내놓기도 했다. 법제처의 AI 법령 검색 서비스 ‘로봇(Lawbot)’과 행안부 AI 정부24에 각각 ‘반려견이 사망했을 때 어떻게 처리해야 하는가’라고 질문하자 AI 정부24는 농림축산식품부의 동물 등록 변경 신고를 안내하는 반면 법제처 서비스는 안락사와 같은 동물의 인도적 처리에 관한 법령을 가장 상위에 추천하는 식이다. 정부는 현재 AI 서비스를 지속 고도화하겠다는 방침이다. 행안부는 “범부처 민원 데이터를 현행화하고 표준화·구조화해 AI의 오답을 최소화하겠다”고 말했다.