최근 텔레그램을 중심으로 불법합성(딥페이크) 성범죄물이 확산하면서, 정치권에선 인공지능(AI) 생성물에 워터마크(식별표시) 적용을 의무화해야 한다는 목소리가 나온다. 그러나 전문가들은 워터마크 도입 의무화가 인공지능 신뢰 기반 조성을 위한 ‘최소한의 노력’일 순 있지만, 당장 불법합성 성범죄물을 막기 위한 대책으론 한계가 있다고 지적한다.
29일 보안업계와 전문가들의 설명을 들어보면 구글이나 오픈에이아이(AI) 등 빅테크가 인공지능 생성물에 적용하는 워터마크 기술과 이런 표식을 지워주는 제거 기술은 ‘창과 방패’의 대결처럼 계속 발전하고 있는 상황이다. 예를 들어 구글 등이 자사 생성형 인공지능이 만든 콘텐츠에 자체 개발한 디지털 워터마크를 내장하면, 이를 노이즈 기술 등으로 훼손하는 제거 기술이 등장하는 식이다. 이 경우 빅테크는 다시 한단계 높은 수준의 워터마크 기술을 개발해 인공지능 생성 콘텐츠에 적용하고 있다.
앞서 미국 조 바이든 행정부는 지난해 10월 인공지능 생성물임을 인식할 수 있게 워터마크 등 표식을 의무적으로 부착하게 하는 행정명령을 발표했다. 우리 정부도 지난 5월 ‘새로운 디지털 질서 정립 추진계획’의 일환으로 인공지능 생성물에 워터마크 표시를 의무화하는 방안을 추진하기로 한 바 있다. 국회에선 지난 6월 김승수 의원(국민의힘)이 인공지능 생성물에 표식을 의무화하는 정보통신망법 개정안을 대표발의했다.
하지만 불법합성 성범죄물에 활용하는 인공지능 프로그램의 경우, 대부분 이런 법으로 규율하기 어려운 곳에서 만들어지고 유통돼 워터마크 의무화 법안이 통과돼도 단속이 사실상 어렵다. 임종인 고려대 정보보호대학원 명예교수는 “텔레그램이나 다크웹에서 거래되는 프로그램들은 지금도 제도권 밖에 있기 때문에 워터마크 의무화 법만 만들어선 불법합성 성범죄물 해결에 실효성이 별로 없다”고 말했다. 한 보안업계 관계자도 “워터마크는 인공지능으로 생성한 콘텐츠를 보는 사람들에게 ‘이것은 인공지능으로 만든 가짜 이미지’라는 걸 명확하게 알게 하기 위한 것”이라며 “불법합성 성범죄물의 경우 이미 다수의 이용자가 가짜임을 알면서도 즐기는 것으로 보이는데, 이번 사태와 관련해 얼마나 실효성이 있을지 의문”이라고 했다.
물론 인공지능 생성물을 악용한 범죄가 계속 증가하는 만큼 현행 제도를 보완하는 차원에서 워터마크 도입 의무화는 필요하다. 워터마크 기술 스타트업인 스냅태그의 민경웅 대표는 “보안 분야에선 모든 기술이 ‘창과 방패’의 싸움으로 발전한다. 인공지능 기술 발전에 있어 지금 최선을 다하고, 계속 제도를 보완하는 것이 필요하다”고 말했다.
