사진 확대

随着谁都有可能成为Deepfake性剥削物受害者的不安感扩散,不仅是制作伪造影像物,连持有、收看等与事件有牵连的所有人也要严惩的舆论越来越大。 特别是,随着加害者和受害者集中在10多岁的事实被曝光,犯下性犯罪后不受处罚的"触法少年"制度也再次成为众矢之的。

综合1日的每日经济采访,现行法律中可以处罚Deepfake性剥削物的条款是"性暴力犯罪处罚特例法14条之2" 该条款规定,如果制作、发布虚假影像等,可以处以5年以下有期徒刑或5000万韩元以下的罚款。

但是该条款的局限性在于,仅凭收看或持有不受处罚。 只有证明散布目的才能进行处罚也是个问题。 因此,即使被移交审判,也有不少人以"没有散布意图"为由免除处罚或只处以轻微的罚款。

사진 확대

随着Deepfake性犯罪以10多岁青少年为中心扩散,触法少年年龄下降的争议也愈演愈烈。 也就是说,如果是10周岁以上、未满14周岁的青少年,即使犯罪也不会受到刑事处罚,也不会留下犯罪记录,考虑到Deepfake性犯罪给受害者带来的痛苦,有必要进行严惩。

据警察厅透露,从2021年开始到上个月为止,461名Deepfake相关犯罪嫌疑人中有325名10多岁。 超过总体的70%。 也就是说,从小就熟悉数码机器的青少年很容易接近Deepfake技术,从而犯罪。

绿树财团咨询本部长金美全(音)表示:"Deepfake性犯罪在学生之间有时被当作恶作剧一样对待,有时也被用作集体排挤的欺凌工具","现在很容易接近Deepfake,制作淫秽物并传播,但平台对此置之不理,这是最大的问题"

政府没有指挥塔，各部门只是个别应对。 虽然国务调整室急忙起到了控制塔的作用,但综合对策预计要到下月才能出台。

广播通信审议委员会基本上拥有删除、切断Deepfake淫秽物的权限。 如果接到广播通信委员会的纠正要求后仍然置之不理,广播通信委员会有权下达纠正命令,并采取刑事告发措施。 为了事先切断Deep Fake,科学技术信息通讯部起到了很大的作用。

围绕被用作Deep Fake制作工具的人工智能(AI)技术限制,各部门之间的分歧也很大。 根据国会科学技术信息通信委员会对AI基本法的讨论报告书,广播通信委员会认为,为了确保高风险AI限制的实效性,需要处罚、罚款等制裁条款,但科技信息通信部表示"需要社会协商",事实上提出了反对意见。

对于法律禁止的对AI的定义,双方也针锋相对。 科学技术信息通讯部反对说:"只明示了只有欧盟(EU)禁止的AI的具体范围,但在美国、日本等地没有先例。" 相反,广播通信委员会则提出,应该像欧盟一样,具体地列举在法律上加以限制。

关键是引进对deepfake流通、成为发行通道的telegram、youtube等所谓"大技术"的有效限制。 韩国与欧盟不同，没有出台强有力的对策。 美国根据白宫行政命令,开始引进在利用AI的内容上标记水印等规制。

相反,公平交易委员会为了限制大型技术垄断,推进了《平台法》的引进,但遭到了美国的反对。 《平台法》还暴露了瞄准国内平台企业和生态界的问题,而不是瞄准全球大技术。

广播通信审议委员会晚些时候为确保与Telegram的热线而采取了措施。 广播通信审议委员会在Deepfake事件发生后,最近才正式将Telegram列入纠正要求合作对象。 据悉,广播通信审议委员会与包括谷歌在内的11家全球平台运营商建立了热线,要求立即改正,但只通过电子邮件与Telegram进行了沟通。