사내에서 생성형 AI를 쓸 때 무엇을 점검해야 하나요?

① 도구 목록 · 승인 도구와 실제 사용 도구

회사가 승인한 도구 목록과 직원이 실제로 쓰는 도구 목록은 다를 수 있습니다. 점검의 출발점은 이 차이를 없애는 것이 아니라 파악하는 것입니다. 어떤 부서가 어떤 업무에 무엇을 쓰는지 적어두면, 이후 모든 판단이 이 목록 위에서 이뤄집니다.

목록에는 도구 이름, 사용 부서, 업무 용도, 계정 형태(회사 계약·개인 계정), 결과물의 외부 노출 여부를 함께 적습니다.

② 결과물의 이용·제공 경로 · 내부 사용과 외부 제공

시행령 제23조제4항제2호는 내부 업무 용도로만 사용되는 경우 제31조제1항부터 제3항까지의 규정 전부 또는 일부를 적용하지 않을 수 있도록 하고 있습니다. 따라서 경로 구분이 곧 의무 구분이 됩니다.

누락되기 쉬운 경로는 내부에서 작성한 뒤 외부에 제공되는 문서입니다. 제안서, 견적 설명 문구, 고객 안내 메일, 교육 자료가 여기에 해당합니다. 표시 의무 적용 여부는 사업자 지위와 제공 방식에 따라 검토합니다.

• 내부에서 끝남 · 회의록 정리, 코드 리뷰 보조, 사내 검색
• 외부로 나감 · 고객 응대 문구, 상품 상세, 광고 소재, 제안서
• 제품에 포함 · 고객이 직접 쓰는 챗봇·요약·추천 기능

③ 표시 방식 선택 · 사람 인식 방식과 기계 판독 방식

제31조제2항의 표시 방법으로 시행령 제23조제2항은 두 가지를 제시합니다. 사람이 인식할 수 있는 방법, 그리고 기계가 판독할 수 있는 방법입니다. 후자를 선택하는 경우에는 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공해야 합니다.

실제와 구분하기 어려운 음향·이미지·영상은 제31조제3항이 따로 다룹니다. 이용자가 명확하게 인식할 수 있는 방식이어야 하며, 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 할 수 있습니다.

표시 문구를 정할 때는 시행령 제23조제3항이 요구하는 두 가지를 함께 봅니다. 시각·청각 등을 통하거나 소프트웨어를 이용해 쉽게 확인할 수 있을 것, 주된 이용자의 나이와 신체적·사회적 조건을 고려할 것입니다.

④ 기록 · 점검 이력 관리

점검의 결과물은 결론이 아니라 기록입니다. 언제 무엇을 확인했고, 확인 필요로 남은 항목이 무엇이며, 누가 언제까지 처리하기로 했는지가 남아야 다음 담당자가 처음부터 다시 하지 않습니다.

고영향에 해당하는 기능이 있다면 시행령 제27조제2항의 5년 문서 보관이 함께 걸립니다. 이 경우 기록은 선택이 아니라 보관 대상입니다.

표시 적용 예외

시행령 제23조제4항제1호는 제품·서비스명, 이용자 화면이나 제품 겉면 및 결과물에 표시된 문구 등을 고려할 때 고영향 또는 생성형 인공지능을 활용한 사실이 명백한 경우를 예외로 둡니다. 다만 「명백한지」는 이용자가 보는 화면을 기준으로 판단해야 하므로, 내부에서 명백하다고 여기는 것과 다를 수 있습니다.