AI 연구자 88% 남성… UN, 11개국 아동 딥페이크 피해·자율무기 규제 촉구

- AI 규제와 자율 무기 ‘레드라인’ 설정 필요성 - 성별 편향·아동 대상 성적 딥페이크 피해 심각 7일(현지시각) 유엔 인권이사회와 유엔 뉴스(UN News)에 따르면 제네바에서 열린 인권이사회에서 볼커 튀르크(Volker Türk) 유엔 인권최고대표가 인공지능(AI)의 통제 불능과 자율 무기 등 인류 실존적 위협을 지적하며 즉각적 국제 규제와 ‘레드라인’ 설정을 촉구했다. 같은 날 튀르크 인권최고대표는 인권이사회에서 “첨단 AI 기술 발전 속도가 각국의 규제보다 훨씬 빠르다”고 말했다. 그는 개인정보 침해, 책임 회피, 인간 개입 없는 자동화 무기 등 위험을 언급했다. 특히 자율 무기 시스템 도입에 대해 국제적 금지와 강력한 규제 마련이 시급하다고 강조했다. 튀르크 인권최고대표는 7일(현지시각) 인권이사회에서 각국 정부와 AI 기업이 인공지능 오용에 대한 한계를 명확히 규정하는 ‘레드라인’ 마련에 바로 착수해야 한다고 말했다. 유엔 산하 글로벌 과학 패널(Global Science Panel) 연구 결과도 공개됐다. 해당 패널 연구 결과에 따르면 글로벌 사우스 11개국 아동 교실에서 최소 한 명 이상이 AI 기반 성적 딥페이크 피해를 경험한 것으로 나타났다. 성차별과 디지털 학대 문제도 심각하다. 시마 바후스(Sima Bahous) 유엔 여성기구(UN Women) 대표는 7일(현지시각) 유엔 여성기구 공식 발표를 통해 전체 AI 연구자 중 88%가 남성이라고 밝혔다. 그는 여성 활동가와 기자의 25% 이상이 AI를 활용한 온라인 학대를 겪는다고 지적했다. 튀르크 인권최고대표의 권고는 지난 7월 제네바에서 열린 첫 유엔 글로벌 AI 거버넌스 회의와 국제전기통신연합(ITU) ‘AI 포 굿(AI for Good)’ 정상회의 논의로도 이어진다. 그는 7일(현지시각) 인권이사회에서 “약품, 자동차, 항공기처럼 인공지능에도 인류 신뢰를 위한 실질적 규제와 감독체계가 필수”라고 강조했다. 한편 7일(현지시각) 유엔 인권최고대표사무소(OHCHR), 유엔 뉴스, 유엔 공식 영상 등에 따르면 인공지능 규제와 감독 논의는 당분간 글로벌 거버넌스의 핵심 이슈가 될 전망이다.