사내에서 생성형 AI를 쓸 때 무엇을 점검해야 하나요?
점검해야 할 것은 모델의 성능이 아니라 결과물이 지나가는 길입니다. AI기본법 제2조제5호는 생성형 인공지능을 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템으로 정의합니다. 사내 점검은 ① 어떤 도구를 누가 쓰는지 ② 그 결과물이 어디로 나가는지 ③ 외부로 나갈 때 무엇을 표시하는지 ④ 이 사실을 어떻게 기록에 남기는지 — 이 네 가지로 좁혀집니다.
작성 · 최종 업데이트
① 도구 목록 — 승인한 것과 실제로 쓰는 것
회사가 승인한 도구 목록과 직원이 실제로 쓰는 도구 목록은 거의 항상 다릅니다. 점검의 출발점은 이 차이를 없애는 것이 아니라 파악하는 것입니다. 어떤 부서가 어떤 업무에 무엇을 쓰는지 적어두면, 이후 모든 판단이 이 목록 위에서 이뤄집니다.
목록에는 도구 이름, 사용 부서, 업무 용도, 계정 형태(회사 계약·개인 계정), 결과물의 외부 노출 여부를 함께 적습니다.
② 결과물 경로 — 내부에서 끝나는가, 밖으로 나가는가
시행령 제23조제4항제2호는 내부 업무 용도로만 사용되는 경우 제31조제1항부터 제3항까지의 규정 전부 또는 일부를 적용하지 않을 수 있도록 하고 있습니다. 따라서 경로 구분이 곧 의무 구분이 됩니다.
흔히 놓치는 경로는 「사내에서 만들어 외부로 전달되는」 중간 형태입니다. 제안서, 견적 설명 문구, 고객 안내 메일, 교육 자료처럼 만든 곳은 안이지만 도착지는 밖인 문서들입니다.
- 내부에서 끝남 — 회의록 정리, 코드 리뷰 보조, 사내 검색
- 외부로 나감 — 고객 응대 문구, 상품 상세, 광고 소재, 제안서
- 제품에 붙음 — 고객이 직접 쓰는 챗봇·요약·추천 기능
③ 표시 방법 — 두 갈래 중 하나를 고른다
제31조제2항의 표시는 시행령 제23조제2항이 두 갈래를 제시합니다. 사람이 인식할 수 있는 방법, 그리고 기계가 판독할 수 있는 방법입니다. 후자를 선택하는 경우에는 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공해야 합니다.
실제와 구분하기 어려운 음향·이미지·영상은 제31조제3항이 따로 다룹니다. 이용자가 명확하게 인식할 수 있는 방식이어야 하며, 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 할 수 있습니다.
표시 문구를 정할 때는 시행령 제23조제3항이 요구하는 두 가지를 함께 봅니다. 시각·청각 등을 통하거나 소프트웨어를 이용해 쉽게 확인할 수 있을 것, 주된 이용자의 나이와 신체적·사회적 조건을 고려할 것입니다.
④ 기록 — 점검했다는 사실을 남긴다
점검의 결과물은 결론이 아니라 기록입니다. 언제 무엇을 확인했고, 확인 필요로 남은 항목이 무엇이며, 누가 언제까지 처리하기로 했는지가 남아야 다음 담당자가 처음부터 다시 하지 않습니다.
고영향에 해당하는 기능이 있다면 시행령 제27조제2항의 5년 문서 보관이 함께 걸립니다. 이 경우 기록은 선택이 아니라 보관 대상입니다.
표시가 필요 없다고 볼 수 있는 경우
시행령 제23조제4항제1호는 제품·서비스명, 이용자 화면이나 제품 겉면 및 결과물에 표시된 문구 등을 고려할 때 고영향 또는 생성형 인공지능을 활용한 사실이 명백한 경우를 예외로 둡니다. 다만 「명백한지」는 이용자가 보는 화면을 기준으로 판단해야 하므로, 내부에서 명백하다고 여기는 것과 다를 수 있습니다.
자체점검 체크리스트
- 1
부서별 생성형 AI 사용 목록을 만들었는가
도구·부서·업무·계정 형태·외부 노출 여부 다섯 칸이면 충분합니다.
- 2
결과물이 외부로 나가는 경로를 전부 찾았는가
제안서·고객 메일·광고 소재처럼 만든 곳과 도착지가 다른 문서를 특히 확인합니다.
- 3
표시 방법을 사람 인식형·기계 판독형 중 무엇으로 할지 정했는가
시행령 제23조제2항. 기계 판독형을 고르면 1회 이상 안내 문구·음성 제공이 함께 필요합니다.
- 4
실제와 구분하기 어려운 음향·이미지·영상 생성 용도가 있는가
있다면 제31조제3항 기준의 별도 고지·표시 방식을 정합니다.
- 5
점검 결과를 기록으로 남기고 다음 점검 주기를 정했는가
도구와 사용처는 계속 늘어납니다. 한 번 점검으로 끝나지 않습니다.
실무에서 자주 남는 확인 필요 상황
아래는 자주 관찰되는 상황의 예시이며, 특정 회사의 상태를 판단한 것이 아닙니다.
부서가 새 도구를 도입했는데 목록에 반영되지 않았다
점검 시점에는 없던 사용처가 생겨 표시 여부가 확인되지 않은 결과물이 외부로 나갑니다.
표시 문구가 화면에서 사실상 보이지 않는다
푸터 최하단 회색 소문자로만 적어 두면 시행령 제23조제3항제1호의 쉽게 확인할 수 있는 방법인지 확인이 필요해집니다.
점검 결과가 담당자 개인 메모로만 남았다
담당자 변경 후 무엇을 확인했는지 회사가 답할 수 없어, 거래처 실사에서 다시 처음부터 자료를 만들게 됩니다.
근거 · 출처
아래 요약은 법령 원문(국가법령정보센터)을 확인해 정리한 것입니다.
AI기본법 제2조제5호
「생성형 인공지능」의 뜻을 정한다. 입력 데이터의 구조·특성을 모방해 글·소리·그림·영상 등 결과물을 생성하는 인공지능시스템을 말한다.
법령 원문 보기 →AI기본법 제31조
투명성 확보 의무. ① 고영향 또는 생성형 인공지능 기반 제품·서비스는 그 사실을 이용자에게 사전 고지한다. ② 생성형 인공지능의 결과물에는 생성 사실을 표시한다. ③ 실제와 구분하기 어려운 가상의 음향·이미지·영상은 이용자가 명확히 인식할 수 있는 방식으로 고지·표시한다.
법령 원문 보기 →AI기본법 시행령 제23조
제31조의 고지·표시 방법을 정한다. 사전고지 = 제품에 직접 기재·계약서·사용설명서·이용약관 기재, 화면·단말기 표시, 제공 장소 게시 등. 표시 = 사람이 인식할 수 있는 방법 또는 기계 판독 방법(이 경우 1회 이상 안내 문구·음성 제공). 제4항에 적용 예외(활용 사실이 명백한 경우·내부 업무 용도 전용 등)를 둔다.
법령 원문 보기 →AI기본법 시행령 제27조
제34조 조치의 구체화. 위험관리방안 주요 내용·설명 방안 주요 내용·이용자 보호 방안·관리감독자의 성명과 연락처를 사무소나 홈페이지 등에 게시하고, 조치 근거를 **문서로 5년간 보관**한다(전자적 보관 포함).
법령 원문 보기 →
자주 묻는 질문
- 생성형 AI 결과물 표시는 어떤 방법으로 할 수 있나요?
- AI기본법 시행령 제23조제2항은 사람이 인식할 수 있는 방법과 기계가 판독할 수 있는 방법 두 가지를 제시합니다. 기계가 판독할 수 있는 방법을 사용하는 경우에는 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공해야 합니다.
- 표시를 하지 않아도 되는 경우가 있나요?
- AI기본법 시행령 제23조제4항은 제품·서비스명이나 화면 문구 등을 고려할 때 생성형 인공지능 활용 사실이 명백한 경우, 인공지능사업자의 내부 업무 용도로만 사용되는 경우, 과학기술정보통신부장관이 정하여 고시하는 경우에 법 제31조제1항부터 제3항까지의 규정 중 전부 또는 일부를 적용하지 않을 수 있다고 정합니다.
- 사내 점검은 얼마나 자주 해야 하나요?
- 법령이 사내 점검 주기를 직접 정하고 있지는 않습니다. 다만 도구와 사용처가 계속 늘어나기 때문에 실무에서는 신규 도구 도입 시점과 정기 주기를 함께 두는 방식이 일반적입니다. 고영향 인공지능에 해당하는 경우에는 시행령 제27조제2항에 따라 조치 근거를 문서로 5년간 보관해야 하므로 기록 갱신 주기도 함께 정하게 됩니다.
※ '확인 필요'는 위반·불이행을 의미하지 않습니다. 자체점검 결과이며 법률상담·법률자문을 제공하지 않습니다. 이 페이지는 법령 원문을 정리한 참고 자료이며, 개별 사안에 대한 판단은 변호사 등 자격 있는 전문가의 자문이 필요합니다.