"워터마크는 어디에, 어떻게 붙여야?"…AI기본법 현장 문의 살펴보니 [AI브리핑]

[아이뉴스24 윤소진 기자] "우리 회사가 인공지능 사업자입니까?", "워터마크는 어디에, 어떻게 붙여야 합니까?", "우리 서비스가 고영향 인공지능인지 어떻게 압니까?"

올해 1월 22일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)' 시행 이후 현장에서 쏟아진 질문이다. 정부가 법 안착을 위해 운영 중인 AI기본법 지원데스크에는 시행 이후 두 달간 513건의 문의가 접수됐다.

과학기술정보통신부는 이 중 270건의 온라인 문의를 분석한 지원데스크 사례집을 공개했다. 핵심 사례를 선별해 기업과 창작자들이 가장 혼란을 겪는 지점을 살펴봤다.

우리가 AI 사업자인가요?

현장에서 가장 먼저 부딪히는 질문은 '우리가 규제 대상인가'였다. AI기본법상 의무는 '인공지능 사업자'에게 부과된다. 사업자는 AI를 직접 개발해 제공하는 '개발 사업자'와 타사 AI를 이용해 서비스를 제공하는 '이용 사업자'로 나뉜다

온라인 백과사전 서비스를 운영하는 한 기업은 챗GPT·제미나이 등으로 텍스트·이미지를 제작해 사이트에 게시하고 있었다. 이 경우 규제 대상인지를 물었다.

사례집은 "타사 AI서비스로 생성물을 만들어 게시하는 행위는 이용자에게 AI제품·서비스를 직접 제공하는 것이 아니므로 이용자에 해당하며, 투명성 확보 의무 대상이 아니다"고 답했다. 다만 "향후 이용자가 AI와 직접 상호작용하는 기능을 제공하면 그 범위에서 이용 사업자로 볼 수 있다"고 덧붙였다.

유튜버·인스타그래머 등 개인 창작자도 마찬가지다. AI로 만든 이미지를 플랫폼에 올리고 광고·후원 수익을 얻더라도, AI 서비스 자체를 제공하지 않는다면 사업자로 보지 않는다. 사례집은 "판단 기준은 수익 여부가 아니라 이용자에게 AI제품 또는 서비스 자체를 직접 제공하는가"라고 설명했다.

내부 업무용 AI도 원칙적으로 적용 대상이 아니다. 다만 외부 제공이 시작되는 순간 무상·유상 여부와 관계없이 의무가 적용될 수 있어 제공 범위 관리가 필요하다.

어떻게 표시해야 하나요?

투명성 의무 이행 관련 문의는 온라인 문의 270건 중 142건(52.6%)으로 가장 많았다. AI 생성물을 어떻게, 어디에, 어느 수준으로 표시해야 하는지가 핵심이었다.

워터마크 표시 방식을 두고 혼란이 컸다. 가시적 워터마크와 비가시적 메타데이터를 반드시 동시에 적용해야 하는지를 묻는 문의가 대표적이다.

사례집은 제공 형태에 따라 기준이 달라진다고 설명했다. 서비스 화면 안에서만 생성물이 제공되는 경우 화면 내 로고·문구 표시로 충분하고 개별 이미지마다 워터마크를 반복 삽입할 필요는 없다.

반면 다운로드·공유 등 외부 반출 기능이 있으면 생성물 파일 자체에 표시를 포함해야 한다. 비가시적 방법만 쓸 경우에는 이용자에게 최소 1회 이상 별도 안내가 필요하다.

여러 LLM을 혼합 운용하는 서비스에서는 모델명 표시 여부가 쟁점이었다. 사례집은 "'인공지능 생성물' 등 포괄적 표현으로 표시 의무를 이행할 수 있으며, 현행 법령상 구체적인 모델명 기재를 요구하지 않는다"고 밝혔다.

법 시행 전 게시한 AI 콘텐츠에 대한 불안도 컸다. 사례집은 "법 시행 이후 생성되는 AI 생성물부터 표시 의무가 적용된다"며 "기존 게시물에 워터마크를 추가하거나 삭제·재업로드할 필요는 없다"고 명확히 했다.

고영향AI에 해당하나요?

고영향 AI란 사람의 생명·신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 말한다. 고영향 AI로 분류되면 기록 보관, 설명 가능성 확보, 사후 검증 체계 구축 등 추가 책무가 부과된다. 이 주제를 묻는 문의는 온라인 문의 270건 중 51건(18.9%)으로 두 번째로 많았다.

채용 분야 문의가 대표적이다. 이력서 요약·추출·유사도 검사 등 보조 도구로만 AI를 활용하고 최종 평가는 사람이 수행하는 기업이 물었다. 사례집은 "AI가 채용 여부를 결정하지 않고 서류 요약·분류 등 보조 기능만 수행하며 최종 평가는 사람이 담당하는 구조라면 고영향 AI에 해당하지 않을 수 있다"고 답했다. 반면 AI가 합격·탈락을 사실상 결정하는 구조라면 해당한다.

대출·신용 심사와 의료기기 탑재 AI 진단 기능도 같은 기준이 적용된다. 사례집은 "AI 결과값을 단순 참고로만 활용하고 최종 결정을 담당자가 검토·조정·승인하는 구조라면 고영향 AI에 해당하지 않을 수 있다"고 설명했다.

의료 분야 역시 "예측값이 참고 자료에 불과하고 최종 임상 판단은 의료진이 수행하며 오류 시 의료진이 직접 개입할 수 있는 구조라면 해당하지 않는다"고 밝혔다. 결국 공통 기준은 하나다. AI가 의사결정을 사실상 대체하는지, 사람이 최종 통제권을 갖는지 여부다.

현재 사실조사와 과태료 부과는 최소 1년 이상 유예 중이다. 사례집은 "유예기간 중에도 법적 의무 자체가 사라지는 것은 아니므로 지금부터 단계적 이행 계획을 세우고 준비 과정을 문서화해 두는 것이 바람직하다"고 밝혔다.