경찰관이 112 신고 현장에 출동해 보디캠으로 촬영한 것처럼 보이는 인공지능, AI 허위 영상을 제작·유포한 유튜버가 구속됐습니다.
경기북부경찰청 사이버수사대는 전기통신기본법 위반 등의 혐의로 30대 남성 A씨를 구속했다고 2일 밝혔습니다.
A씨는 '순찰 24시'라는 유튜브 채널을 운영하며 '여장남자 여성 탈의실 신고 출동', '중국인 난동 체포 영상' 등 실제 사건 현장에서 경찰 보디캠으로 촬영한 것처럼 보이는 AI 영상을 게시한 혐의를 받고 있습니다.
채널 소개 글에는 '실제 경찰과 무관하며 실화 바탕 각색 AI'라는 문구를 기재했지만, 개별 영상에는 AI로 제작된 가짜 영상이라는 표시를 하지 않았고, AI 제작 영상임을 알 수 있는 워터마크도 삭제한 것으로 조사됐습니다.
이 같은 영상들은 유튜브뿐 아니라 인스타그램과 틱톡, 페이스북 등 SNS를 통해 숏폼 형태로 확산되며 모두 3천만 회가 넘는 조회수를 기록했습니다.
경찰은 해당 영상들이 실제 경찰 활동으로 오인될 수 있어 공권력에 대한 국민적 신뢰를 훼손한다고 판단해 A씨를 입건하고 구속했습니다.
경찰 관계자는 "초기에는 영상 완성도가 낮았지만 시간이 지날수록 AI 영상의 질이 눈에 띄게 향상됐다"고 설명했습니다.
수사 과정에서 A씨는 무허가 사설 선물거래와 해외선물 투자 리딩방 운영 범죄에 가담해 이른바 '바람잡이' 역할을 하며 3천만 원가량을 챙긴 혐의도 드러났습니다.
또 유료 구독형 SNS 채널을 운영하며 돈을 받고 AI로 제작한 음란물을 판매한 사실도 확인됐습니다.
댓글
(0)