회사에서 ChatGPT를 쓰면 AI기본법 의무가 생기나요?

선이 넘어가는 세 가지 순간

실무에서 「내부 업무 용도」가 유지되지 않는 전형적인 경우는 다음과 같습니다.

• 생성 결과를 거의 그대로 고객에게 보내는 경우 — 상담 답변, 안내 메일, 상품 상세 문구
• 생성 이미지·영상·음성을 대외 채널에 올리는 경우 — 광고 소재, 홍보 영상, 안내 음성
• 사내 도구를 고객 화면에 연결한 경우 — 문의 챗봇, 자동 요약 리포트 제공

바깥으로 나갈 때 확인하는 두 조항

첫째는 제31조제2항입니다. 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하도록 정합니다. 시행령 제23조제2항은 사람이 인식할 수 있는 방법과 기계가 판독할 수 있는 방법을 제시하며, 기계 판독 방식을 쓰는 경우 생성 사실을 1회 이상 안내 문구·음성 등으로 제공해야 합니다.

둘째는 제31조제3항입니다. 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우, 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 합니다. 다만 그 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 할 수 있습니다.

시행령 제23조제3항은 고지·표시가 이용자가 시각·청각 등을 통하거나 소프트웨어를 이용해 쉽게 확인할 수 있는 방법이어야 하고, 주된 이용자의 나이와 신체적·사회적 조건을 고려해야 한다고 정합니다.

적용 예외가 있다고 관리까지 면제되지는 않는다

시행령 제23조제4항은 세 가지 예외를 둡니다. 제품·서비스명, 이용자 화면이나 제품 겉면 및 결과물에 표시된 문구 등을 고려할 때 고영향 또는 생성형 인공지능을 활용한 사실이 명백한 경우, 인공지능사업자의 내부 업무 용도로만 사용되는 경우, 그리고 과학기술정보통신부장관이 정하여 고시하는 경우입니다.

다만 「지금은 내부 전용」이라는 상태는 쉽게 바뀝니다. 어떤 도구를 어느 업무에 쓰는지, 결과물이 외부로 나가는 경로가 있는지를 목록으로 관리해 두지 않으면, 예외에 해당하는지 자체를 답할 수 없게 됩니다.

AI기본법 밖에서 먼저 문제가 되는 것

실제 사고는 투명성 조항보다 정보 유출에서 더 자주 생깁니다. 계약서, 고객 개인정보, 미공개 재무자료를 외부 서비스 입력창에 넣는 행위는 회사의 비밀유지 계약과 개인정보 처리 기준을 함께 건드립니다. 이 부분은 AI기본법이 아니라 계약과 개인정보 관련 법령, 그리고 사내 규정의 영역입니다.

그래서 대부분의 회사는 「AI기본법 대응」보다 「사내 AI 사용정책」을 먼저 만듭니다. 어떤 도구를 승인했는지, 무엇을 입력하면 안 되는지, 결과물을 외부로 낼 때 무엇을 붙이는지를 한 장에 적는 일입니다.

실무에서 자주 남는 확인 필요 상황

아래는 자주 관찰되는 상황의 예시이며, 특정 회사의 상태를 판단한 것이 아닙니다.

자주 묻는 질문

사내에서만 ChatGPT를 쓰면 AI 생성 표시를 하지 않아도 되나요?

AI기본법 시행령 제23조제4항제2호는 인공지능사업자의 내부 업무 용도로만 사용되는 경우 법 제31조제1항부터 제3항까지의 규정 중 전부 또는 일부를 적용하지 않을 수 있다고 정합니다. 다만 그 결과물이 고객 응대 메시지, 상품 설명, 광고 소재처럼 외부로 제공되면 내부 업무 용도 전용이라는 전제가 유지되지 않으므로 제31조 적용 여부를 다시 확인해야 합니다.

AI가 만든 이미지를 광고에 쓰면 어떤 표시가 필요한가요?

AI기본법 제31조제2항은 생성형 인공지능 결과물에 생성 사실을 표시하도록 하고, 제31조제3항은 실제와 구분하기 어려운 가상의 음향·이미지·영상 등에 대해 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하도록 정합니다. 구체적인 방법은 시행령 제23조제2항·제3항에 따라 사람이 인식할 수 있는 방법 또는 기계 판독 방법 등으로 정할 수 있습니다.

회사 계약서를 AI 서비스에 넣어도 되나요?

이 문제는 AI기본법보다 비밀유지 계약과 개인정보 처리 기준이 먼저 걸립니다. 어떤 정보를 외부 서비스에 입력할 수 있는지는 회사의 계약 조건과 내부 규정, 관련 법령에 따라 달라지므로 사내 AI 사용정책에서 입력 금지 정보를 명시해 두는 것이 일반적인 실무입니다. 개별 사안의 법적 판단은 자격 있는 전문가의 자문이 필요합니다.