AI 컴플라이언스 솔루션은 어떤 기능이 필요한가요?

기준 1 — 결과마다 근거 조항이 보이는가

「확인 필요」라는 결과만 나오면 담당자는 무엇을 해야 할지 알 수 없습니다. 어떤 조항 때문에 그 상태가 나왔는지, 그 조항이 무엇을 정하는지가 결과 옆에 있어야 합니다.

근거를 보여주는 구조는 나중에 거래처 실사나 내부 감사에서 그대로 답변 자료가 됩니다.

기준 2 — 증적을 보관하고 만료를 알려주는가

시행령 제27조제2항의 5년 보관은 파일을 어딘가에 두는 것으로 끝나지 않습니다. 어떤 조치의 근거인지, 언제 만들었는지, 언제 갱신해야 하는지가 함께 관리되어야 실제로 지켜집니다.

문서가 개인 PC나 부서 드라이브에만 있으면 담당자가 바뀌는 순간 보관 상태를 확인할 수 없게 됩니다.

기준 3 — 변경 이력이 남는가

시행령 제27조제3항은 인공지능시스템을 제공받은 이용사업자가 본래 목적이나 용도를 현저하게 변경하는 등 중대한 기능 변경을 하지 않은 경우 조치를 이행한 것으로 본다고 정합니다. 즉 「무엇이 언제 바뀌었는가」가 판단의 전제입니다.

모델 교체, 사용 목적 변경, 고지 문구 수정 같은 사건이 날짜와 함께 남아야 합니다.

기준 4 — 여러 회사의 데이터가 섞이지 않는가

AI 사용 현황은 그 자체로 민감한 경영정보입니다. 다중 사용자 서비스라면 회사 간 데이터 격리가 화면 단계가 아니라 서버·데이터베이스 단계에서 강제되는지 확인해야 합니다.

「다른 회사 데이터가 보이지 않는다」와 「다른 회사 데이터를 요청해도 서버가 거부한다」는 다른 이야기입니다.

기준 5 — 결과 표기가 법적 판단처럼 보이지 않는가

자체점검 도구는 법률상담이나 법률자문을 제공하지 않습니다. 그런데 결과 화면이 점수나 등급으로 표기되면, 사용자는 그 표기를 법적 판단으로 읽게 됩니다.

확인 완료·확인 필요·정보 부족처럼 상태로만 표기하고, 결과에 면책 문구가 함께 붙는지 확인하는 편이 안전합니다.

기준 6 — 재현 가능한 판정인가

같은 답변을 넣었는데 점검할 때마다 다른 결과가 나오면 그 결과를 근거로 쓸 수 없습니다. 판정이 사전에 정의된 규칙으로 이뤄지는지, 아니면 매번 언어모델이 새로 판단하는지는 실무에서 큰 차이를 만듭니다.

감사·실사 자료로 쓰려면 「왜 이 결과가 나왔는가」를 언제든 같은 방식으로 설명할 수 있어야 합니다.

실무에서 자주 남는 확인 필요 상황

아래는 자주 관찰되는 상황의 예시이며, 특정 회사의 상태를 판단한 것이 아닙니다.

자주 묻는 질문

AI 컴플라이언스 솔루션에서 가장 중요한 기능은 무엇인가요?

진단 이후가 남는지입니다. AI기본법 시행령 제27조제2항은 고영향 인공지능 관련 조치 근거를 문서로 5년간 보관하도록 하고, 제27조제1항은 위험관리방안·설명 방안·이용자 보호 방안과 관리·감독자 정보를 게시하도록 합니다. 증적 보관, 변경 이력, 갱신 관리가 이어지지 않으면 점검 결과는 시간이 지나면서 쓸 수 없게 됩니다.

AI가 판단하는 솔루션이 더 정확하지 않나요?

정확도보다 재현성이 문제가 되는 경우가 많습니다. 같은 답변에 대해 점검할 때마다 다른 결과가 나오면 그 결과를 감사나 실사 자료로 쓰기 어렵습니다. xsoft comply는 사전에 정의된 규칙으로 매핑해 같은 답변이면 같은 결과가 나오도록 하고, 결과마다 근거 조항을 확인할 수 있게 합니다.

우리 회사 AI 현황 데이터가 다른 회사에 보일 수도 있나요?

xsoft comply는 회사 간 데이터 격리를 화면이 아니라 데이터베이스 단계에서 강제합니다. 다른 회사의 데이터를 요청하더라도 서버가 거부하는 구조입니다.