인니 고등학교서 딥페이크 음란물 피해자 발생...관계당국의 미흡한 조치에 학생들이 시위에 나서 > 정치∙사회

딥페이크 일러스트 (chatGPT 생성 이미지) 

 

인도네시아 중부 자바 SMAN 11 스마랑 고등학교의 학생들 수백 명이 지난 24일(금) 딥페이크 음란물로 피해를 입은 십 여명의 학우들을 위한 정의구현을 요구하며 시위를 벌였다.

 

학생들은 학교 측이 이 사건에 진지하고 투명하게 대응하지 않고 피해자들에게 적절한 지원도 제공하지 않았다고 비난했다.

 

학생 대표 알바니 뜰라나에는 지금까지 중부 자바 교육문화국이나 학교 교장이 사건을 경찰에 공식적으로 신고하지도 않고 피해자들과 적극적으로 소통하지도 않았다고 지적했다.

 

알바니는 학교에서 한 일이란 피해자들에게 해당 사건을 신고할 창구를 가르쳐준 것뿐, 실질적인 대응 조치나 진정한 지원은 제공하지 않았으며 학교 측의 석연치 않은 태도에 많은 피해자들이 아직도 직접 나서지 못한다고 덧붙였다.

 

앞서 20일에도 학생들은 피해자들의 보호와 학교 및 관련 당국의 책임 있고 투명한 대응조치를 요구하는 시위를 벌였다.

 

이 사건은 이달 초 한 소셜 미디어 사용자가 SMAN 11 스마랑 학교의 별명인 ‘스만세(semanse)’를 언급하며 ‘스캔들 스만세’라는 캡션을 달고 교사와 학생들의 얼굴이 담긴 딥페이크 포르노 영상을 X 플랫폼에 공유하면서 시작됐다. 이 영상이 빠르게 유포되며 물의를 빚자 피해자들과 학생, 학부모들이 격분했다.

 

이후 피해자들은 자체 조사를 진행해 딥페이크를 제작해 유포한 용의자가 SMAN 11 스마랑 고등학교 출신으로 현재 스마랑 디뽀네고로 대학교 법학부에 재학 중인 치꼬 라디땨따마 아궁 뿌뜨라(Chiko Radityatama Agung Putra)라고 지목했다.

 

이들은 치꼬의 집을 방문해 인공지능(AI)을 이용해 음란물로 변조된 교사와 학생들의 사진을 발견했다고 밝혔다.

 

치꼬는 결국 10월 14일 학교 공식 인스타그램 계정에 공개 사과 영상을 게시하며 사진과 영상을 무단으로 편집하고 공유한 사실을 인정했다. 그 주 주말 SMAN 11 고등학교 학생과 졸업생 15명이 중부자바 경찰에 치꼬를 상대로 신고했다.

 

피해자 측 변호인 주까 라젠드라 셉뜨리아는 치꼬의 기기에서 발견된 파일에 포함된 이들 중 아직 피해 사실을 신고하지 않은 이들이 있어 실제로는 피해자가 최대 30명에 이를 수 있다고 밝혔다.

 

피해자 전원이 가해자를 개인적으로 알고 지낸 것은 아니고 일부는 인스타그램 팔로워로만 연결되어 있었다. 다른 일부 피해자들은 자신들 얼굴이 해당 딥페이크 음란물 콘텐츠에 어떻게 등장하게 되었는지 전혀 알지 못했다고 말했다.

 

주까 변호사는 딥페이크 영상에 사용된 이미지가 피해자들의 개인 소셜미디어 계정과 학교 행사 후 공유하는 공개 구글 드라이브 링크에 업로드된 학교 활동 사진에서 가져간 것이라고 덧붙였다.

 

중부자바지방경찰청 대변인 아르딴또 총경은 당국이 이 사건의 정확한 피해자 수를 아직 파악 중이라며 문제의 딥페이크 사건을 철저히 조사할 것이라고 말했다. 경찰이 지금까지 최소 10명의 증인을 조사했으며 주까 변호사는 수사를 지원하기 위해 법률, 정보기술, 디지털 포렌식, 사회학 전문가들과 협의할 계획임을 밝혔다.

 

아르딴또 총경은 치꼬의 부모가 스마랑 경찰 소속이라는 보도가 맞다고 확인하며 수사가 투명하고 치우침 없이 진행될 것이라고 약속했다. 경찰, 경찰 가족들 사이에서 만연한 '제 식구 봐주기'식 수사를 하지 않겠다는 것이다.

 

압둘 무띠 초중등교육부 장관은 스마랑 SMAN 11 고등학교 딥페이크 사건이 교육계가 인공지능 교육에 있어 기술적 역량 그 이상의 윤리적 문제들을 고려해야 한다는 경종을 울린 것이라 강조했다. AI 활용에 대한 윤리적 책임 교육이 동반되어야만 신기술이 선한 목적으로 활용될 수 있다는 것이다.

 

무띠 장관은 AI 기술이 적절한 윤리적 기준점을 세우며 발전해야 한다고 재차 강조했다.[자카르타포스트/자카르타경제신문]