[뉴스토마토 신상민 기자] 내년 1월 시행 예정인 '인공지능(AI) 기본법'에 AI 생성물 표시 의무가 포함됐지만 세부 규정 마련이 늦어지고 있습니다. 정부는 기술 발전·표현의 자유 문제로 '비가시적(기계 판독) 워터마크'를 허용한다는 방침입니다. IT업계가 정부 입장을 환영하고 있지만 안전성과 실효성 문제도 제기되는 만큼 하위법령에는 기술 발전과 안정성을 고려한 균형적 논의가 필요하다는 목소리도 나옵니다. 

 

정부는 유럽연합(EU)에 이어 세계 두 번째로 제정한 AI 기본법이 내년 1월 시행을 앞둔 가운데 하위법령을 마련 중입니다. 하위법령은 △거버넌스 정립 △산업 육성·지원 △안전·신뢰 기반 구축 분야로 나뉘어 추진됩니다. 

 

산업계의 이목이 쏠린 안전·신뢰 기반 구축 분야에서 AI 투명성 확보와 관련해 정부는 가시적 워터마크 외에도 기계 판독 워터마크 등 다양한 방식을 허용할 예정입니다. 예술적 표현물의 경우 전시·향유를 저해하지 않는 범위에서 표시를 완화할 수 있도록 예외 사항을 검토하겠다는 입장입니다. 

  

IT업계는 기술 발전 쪽으로 힘을 실는 정부 입장에 공감하고 있습니다. IT업계 한 관계자는 "과도한 규제가 산업 경쟁력과 콘텐츠 생산을 위축시킬 수 있는 만큼 무조건 기술을 제한하기보단 투명성과 추적 가능성 확보 중심으로 규제를 전환이 바람직하다"고 말했습니다.  

 

그러나 이미 사회 전반에서 딥페이크가 심각한 피해를 초래하고 있는 만큼 부작용 문제에 대한 심도 있는 고민도 요구되는 상황입니다. 최근 국정감사에선 예시로 공개된 딥페이크 영상에 워터마크가 없다는 점을 배경훈 과학기술정보통신부 장관이 아쉬움으로 언급하기도 했습니다. 당시 최민희 과방위 위원장도 배 장관에게 사람이 인식하지 못하는 워터마크의 실효성 문제를 지적하기도 했습니다. 

 

딥페이크 오남용에 따른 부작용 탓에 AI 생성물 표시제는 이미 국제적 공통 과제로 부상한 상황이기도 합니다. 이 가운데 최근 해외에선 규제 쪽에 무게를 싣는 흐름이 감지되는데요. 

 

중국은 올해 9월부터 모든 AI 생성 콘텐츠에 가시적 라벨과 메타데이터 삽입을 의무화하고 SNS 사업자에게 사전 검수 책임을 부과했습니다. 인도는 AI 생성 영상의 10% 화면 면적, 오디오의 10% 재생 시간 이상에 'AI 생성' 문구를 넣도록 하는 정량 기준을 추진 중입니다. 

 

EU는 'AI 법'을 통해 AI 사용 여부 미표시 시 최대 3500만유로(약 555억원) 또는 전 세계 매출의 7% 벌금을 부과하도록 규정했습니다. 미국 캘리포니아주는 AI 콘텐츠에 워터마크 표시를 의무화하는 법안을 통과시켰습니다. 

 

 

향후 약 두 달간의 논의를 거쳐 도출해내는 결과가 국내 딥페이크 기술 관련 분쟁 발생 시 가치 판단의 중요한 기준이 될 예정인데요. 업계 관계자는 "예술·문화 영역에서는 가시적 워터마크가 불편할 수밖에 없어 비가시적 워터마크를 요구하는 목소리가 나온다"면서도 "AI 생성 콘텐츠에 있어서 전문 창작 영역과 일반 사용자 영역을 어떻게 구분하고 어떤 방식으로 규제할 것인지 좀 더 구체적인 논의가 필요한 상황"이라고 말했습니다. 

 

 

신상민 기자 lmez0810@etomato.com