[뉴스토마토 김민승 법률전문기자] 인공지능(AI)으로 만든 각종 허위 서류를 이용해 3억2천만원 규모의 사기를 친 20대 남성 A씨가 지난 11일 구속 기소됐습니다. A씨는 지난해 8월부터 10월까지 인공지능을 이용해 각종 허위 이미지를 만들어 수십억대 자산을 보유한 의사로 행세하면서 피해자들을 속이고 투자금을 가로챈 혐의를 받습니다. 

 

특히 지난해 12월 사기 혐의로 구속영장이 청구돼 열린 구속 전 피의자심문(구속영장 실질심사)에서 9억원 넘는 잔액이 있는 잔고증명서를 위조해 법원에 제출하면서 피해금을 전액 변제하겠다고 약속한 것으로 알려졌습니다. 이에 속은 재판부는 구속영장을 기각해 A씨가 풀려났는데, 한 달이 지나도록 피해금이 변제되지 않자 이를 수상하게 여긴 검찰의 추가 수사를 통해 잔고증명서가 위조된 사실이 밝혀진 겁니다. 검찰은 A씨에게 사문서위조 및 행사 혐의를 추가해 구속기소했습니다.

 

인공지능기술이 발전하고 누구나 쉽게 사용할 수 있게 되면서 인공지능을 활용한 사기 범죄가 기승을 부리고 있습니다. 딥보이스로 지인의 목소리를 흉내 내 금전을 요구하거나, 남성이 AI를 통해 여성의 모습과 목소리로 실시간 화상통화를 하며 로맨스스캠을 벌이는 범행도 자주 시도됩니다. 

 

지난 1월22일 국민의 권익을 보호하고 국가 경쟁력을 강화할 목적으로 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)'이 시행됐습니다. 인공지능기본법에 따라 대통령 직속으로 국가인공지능전략위원회가 활동하고 있습니다.

 

인공지능기본법이 중점을 둔 부분 중 하나는 인공지능 윤리와 신뢰성 확보를 위한 방안 마련입니다. 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템인 ‘고영향 인공지능’과 데이터의 구조와 특성을 모방해 글, 소리, 그림, 영상 등 다양한 결과물을 생성하는 ‘생성형 인공지능’ 등을 연구·개발·활용하는 기초적인 가이드라인이 마련된 겁니다.

 

정부가 제정하는 인공지능 윤리 원칙에는 △인공지능 개발·활용 과정에서 사람의 생명과 신체, 정신적 건강 등에 해가 되지 않도록 하는 안전성과 신뢰성에 관한 사항 △인공지능기술이 적용된 제품·서비스를 모든 사람이 자유롭고 편리하게 이용할 수 있는 접근성에 관한 사항 △사람의 삶과 번영에 공헌을 위한 인공지능 개발·활용 등에 관한 사항이 포함되도록 했습니다.

 

인공지능을 개발하거나 인공지능을 이용해 인공지능제품 및 서비스를 제공하는 인공지능사업자에게는 △인공지능 투명성 확보 의무 △안정성 확보 의무 △고영향 인공지능 해당성의 확인 의무 △고영향 인공지능의 안전성 및 신뢰성 확보 조치 의무 △고영향 인공지능 영향 평가 의무 △해외 인공지능 사업자의 국내대리인 지정 의무 등을 부과하고 있습니다. 투명성 확보 의무, 안전성 확보 의무, 고영향 인공지능 안전성·신뢰성 확보 의무 등에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우 혹은 위반에 대한 신고를 받거나 민원이 접수된 경우에는 과학기술정보통신부장관이 사실조사 등을 할 수도 있습니다.

 

인공지능기술로 위·변조한 결과물이 범죄에 이용되는 것을 방지하기 위해서는 특히 투명성 확보 의무가 중요합니다. 인공지능기본법은 인공지능사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 △해당 인공지능에 기반해 운용된다는 사실을 이용자에게 사전에 고지 △그 결과물이 생성형 인공지능에 의해 생성됐다는 사실을 표시 △실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하도록 규정합니다.

 

하지만 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 결과물을 제공할 때 그러한 사실을 표시하지 않아도 별다른 제재 수단이 없습니다. 아직 기본법이 시행된 초기이므로 구체적인 사례에 대한 규제는 미흡한 반면, 인공지능 기술의 발전은 매우 빨라 규제가 따라가기 버거운 모양새입니다. 인공지능을 이용해 조작한 허위 서류가 판사의 판단에까지 영향을 미칠 정도라면 유사한 피해를 막기 위한 제도적 장치가 더 신속하게 마련돼야 할 것입니다.

 

인공지능기본법을 통해 인공지능의 발전 방향과 인공지능을 통해 국민의 삶의 질을 높이기 위한 큰 그림이 그려졌고, 인공지능 산업의 발전 등에 관한 정책 방향이 정해진 것은 큰 수확입니다. 하지만 인공지능의 부작용을 막기 위한 실효성 있는 강제 수단은 매우 부족해 보입니다. 인공지능사업자에게 정책적인 지원을 하고 그로 인해 이익을 얻는 만큼 인공지능 투명성 및 안정성 확보에 관한 구체적인 책임을 부담할 의무가 있습니다. 인공지능을 이용한 결과물을 생성하는 단계에서 관리되지 않으면 그 피해는 국민이 입을 수밖에 없기 때문입니다.

 

김민승 법률전문기자 lawyerms@etomato.com