[뉴스토마토 신상민 기자] 유튜브와 SNS를 중심으로 딥페이크 기술을 활용한 가짜 전문가 광고가 빠르게 퍼지고 있습니다. 전문가 대담이나 토크쇼, 팟캐스트 형식을 빌려 실제 전문가가 설명하는 것처럼 꾸며 소비자를 현혹하는 방식입니다. 이러한 광고 탓에 소비자들이 실제 전문가 발언으로 착각하는 사례가 속출해 규제 대응이 시급합니다.
이들 영상에는 '살이 빠지지 않으면 전 재산을 주겠다', '암과 치매까지 치료 예방이 가능하다'는 식의 과장된 표현이 난무합니다. AI 기술이 점차 발달하면서 음성과 입 모양의 미세한 불일치, 부자연스러운 합성 흔적을 이제는 소비자가 알아채기 쉽지 않습니다.
식품의약품안전처는 가짜 의사·약사 등 합성 인물이 등장하는 광고 자체를 소비자 기만 행위로 판단해 단속 대상에 포함하기로 결정했습니다. 기존에는 허위·과장 내용이 담겼을 때 제재를 했다면 앞으로 AI 합성 인물의 출연 자체도 처벌 기준에 포함될 예정입니다. 또한 식품의약품안전처 사이버조사팀은 AI 모니터링 시스템 'AI캅스'를 하반기 도입할 예정입니다.
내년 시행을 앞둔 AI 기본법 하위법령에는 생성형 AI 결과물에 대한 워터마크 표시 의무가 포함돼 있습니다. 광고나 딥페이크 영상에도 워터마크를 의무적으로 삽입하도록 제도가 정비되면 소비자가 ‘AI 합성물’임을 쉽게 인지할 수 있어 혼란을 덜 수 있다는 기대가 나옵니다.
다만 플랫폼의 대응이 여전히 미흡하다고 지적하는 목소리가 높습니다. AI 허위 광고의 상당수는 '스폰서 광고' 형식을 빌려 소비자에게 노출됩니다. 허위 광고 계정이 삭제돼도 해외 서버를 기반으로 손쉽게 새 계정 개설이나 알고리즘 추천으로 유사 콘텐츠가 반복 노출됩니다.
AI 업계는 기술 발달로 제작 문턱이 낮아져 누구나 손쉽게 고품질 가짜 영상을 만들 수 있어 점차 일반인이 진위 여부 파악이 힘들어질 것으로 예측하고 있습니다. AI 업계 관계자는 "앞으로 딥페이크 영상이 더 많은 사회적 문제를 일으킬 수 있다. 이미 전세계적으로 AI 검증, 진위판별 전문가 등 신 직업이 급부상하고 있다"며 "법제, 가이드라인과 더불어 사용자도 비판적 정보 습득 역량이 이뤄질 수 있도록 교육도 함께 이뤄져야 할 것"이라고 말했습니다.
AI로 제작된 가짜 전문가가 등장하는 광고 영상.(사진=유튜브 영상 캡처)
신상민 기자 lmez0810@etomato.com