인도네시아, 성적 딥페이크 논란 ‘그록’에 강경 대응 > 정치∙사회

딥페이크 (ChatGPT 생성 이미지)

 

인도네시아 정부는 일론 머스크가 이끄는 인공지능(AI) 플랫폼 ‘그록(Grok)’이 성적 딥페이크 논란이 일자 강경 대응에 나섰다. 인도네시아는 그록 접속을 전면 차단했고 전 세계에서 처음으로 해당 플랫폼을 차단한 국가가 됐다.

 

인도네시아 통신디지털부는 지난 9일, 여성과 아동 보호를 이유로 머스크의 AI 스타트업 xAI가 개발하고 소셜미디어 엑스(X)에 연동된 그록에 대한 차단 조치를 발표했다. 해당 플랫폼이 엑스에 게시된 사진을 이용해 당사자 동의 없이 음란 이미지를 생성하는 데 악용됐다는 판단에서다.

최근 그록 이용자들이 “옷을 벗겨라”, “비키니를 입혀라”와 같은 명령어를 통해 여성과 아동의 사진을 성적으로 변형한 이미지가 대량 생성되면서 국제적 공분이 일었다. 무띠아 하피드 통신디지털부 장관은 이를 “인터넷 이용자의 인권과 존엄, 안전을 침해하는 심각한 행위”라고 규정했다. 정부는 엑스 측을 소환해 해명을 요구했다.

 

알렉산더 사바르 디지털공간감시국장은 엑스와의 회의 후 “엑스는 그록이 음란물을 생성하지 못하도록 기능을 제한하고, 위반 계정에 대한 조치를 강화하겠다고 재확인했다”고 밝혔다. 정부는 향후 이행 여부를 지속적으로 점검하고 사법당국과도 협력할 방침이다.

 

인도네시아에 이어 말레이시아도 그록 사용을 일시 중단했으며, 영국 등 여러 국가 역시 조사에 착수했다. 다만 머스크는 인도네시아와 말레이시아의 차단 조치에 대해 별도 입장을 내지 않았다. 그는 지난 3일 엑스에 “그록을 이용해 불법 콘텐츠를 만드는 행위는 불법 업로드와 동일한 처벌을 받게 될 것”이라고만 밝혔다.

 

14일 자카르타포스트에 따르면, 이번 조치는 인도네시아 정부가 그동안 머스크의 사업에 보여온 우호적 기조와 대비된다. 조코 위도도 전 대통령 시절 정부는 전기차 배터리용 니켈 투자, AI 센터, 우주발사장 유치 등을 제안하며 머스크를 적극적으로 유치했지만, 테슬라나 스페이스X의 대규모 투자는 성사되지 않았다. 머스크의 인도네시아 사업은 주로 스타링크 위성기반 인터넷 운영에 집중됐다.

 

전문가들은 이번 그록 사태를 계기로 인도네시아가 AI 규제에 보다 엄격한 기준을 마련해야 한다고 지적한다. 특히 2022년 제정된 개인정보보호법(PDP)에 대한 후속 시행 규정과 AI 활용 지침을 조속히 마련해야 한다는 목소리가 크다.

 

인도네시아 사이버보안포럼(ICSF)의 아르디 수떼자 의장은 “개인정보호법이 그록과 같은 기술에 대처하는 데는 한계가 있을 수 있다”며, 선제적이고 포괄적인 규제가 필요하다고 말했다. AI 개발자에게 자동 콘텐츠 필터 도입, 사진 소유자의 명시적 동의 절차, 강력한 제재 조항을 의무화해야 한다고 강조했다. [자카르타포스트/자카르타경제신문]