![매사추세츠공과대(MIT) 미디어랩 연구원들이 인공지능(AI) 시스템을 통해 실제 전쟁 상황을 학습시켜 세계 주요 도시에 폭격이 가해진 ‘이미지’를 생성했다. 사진은 평화로운 보스턴 백베이 인근 시가지(위쪽)가 딥페이크 모델을 통해 폭격으로 쑥대밭이 된 모습. 최근 생성형 AI 기술이 발달하면서 이미지뿐만 아니라 영상으로도 이 같은 조작이 가능해졌다. 식별하기 어려운 딥페이크가 국가 안보에 큰 위협이 될 수 있다는 점에서 경각심을 가져야 한다는 목소리가 높다.[출처 = MIT 미디어랩]](https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202310/15/mk/20231015210301532quwc.png)
이미지 크게 보기
매사추세츠공과대(MIT) 미디어랩 연구원들이 인공지능(AI) 시스템을 통해 실제 전쟁 상황을 학습시켜 세계 주요 도시에 폭격이 가해진 ‘이미지’를 생성했다. 사진은 평화로운 보스턴 백베이 인근 시가지(위쪽)가 딥페이크 모델을 통해 폭격으로 쑥대밭이 된 모습. 최근 생성형 AI 기술이 발달하면서 이미지뿐만 아니라 영상으로도 이 같은 조작이 가능해졌다. 식별하기 어려운 딥페이크가 국가 안보에 큰 위협이 될 수 있다는 점에서 경각심을 가져야 한다는 목소리가 높다.[출처 = MIT 미디어랩]
“엄마 돈 보내줘” 아들 목소리 맞는데…알고보니 3만원 주고 만든 합성물
이상덕 기자(.co.kr)입력 2023. 10. 15.번역 설정
지난 3월 캐나다에서 한 부모가 아들로부터 전화를 받았다. “미국 여행 중에 운전을 하다 사람을 치어 숨지게 해, 미국 경찰에 체포됐다”는 내용이었다. 그러면서 아들은 “보석금을 내야 풀려나는데, 미국에 계좌가 없다보니 빨리 가상화폐로 보내달라”고 요청했다. 영락없는 아들 목소리였다. 부모는 2만1000 캐나다 달러(약 2072만원)를 그 곧바로 입금했다. 하지만 알고보니 아들은 멀쩡했다. 범죄자들이 인공지능(AI) 영상물인 딥페이크(Deep fake) 악용해 피싱한 장면이다. 범죄자는 잡히지 않았다.
AI를 앞세운 딥페이크가 범람하면서 각종 범죄가 쏟아지고 있지만 이를 막기에는 역부족이다. 딥페이크 영상이 너무 빠른 속도로 생겨나고 있어 원천 봉쇄에 한계가 있는데다, 이들 데이터가 해외에 있는 클라우드에 보관돼 있어 삭제, 처벌도 현실적으로 어렵다는 지적이다.
딥페이크는 약 3만원이면 손쉽게 제작이 가능하다.
딥페이크 동영상을 생성해주는 업체들이 속출하고 있어서다. 영국 AI 스타트업 신세시아는 대본만 입력하면 영상을 순식간에 생성하는 서비스를 제공해주고 있다.성별, 나이, 인종, 목소리 톤, 패션 등이 다른 85개 이상 캐릭터를 만들 수 있다. 사용료는 월 22.5달러(약 3만원)에 불과하다. 중국 공산당을 옹호해 논란을 빚은 정체 모를 뉴스미디어인 울프뉴스의 알렉스 앵커 역시 신세시아로 만들어진 딥페이크였다. 신세시아측은 “불법 콘텐츠 제작에 사용되는 것을 방지하기 위한 별도 팀을 운영하고 있다”면서도 “하지만 모두를 잡기에는 어려움이 따르고 있다”고 말했다.
딥페이크는 정치, 스캠 등 영역에서 탈법적 활동을 한다. 작년 3월 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 모습을 담은 동영상은 순식간에 트위터와 페이스북 유튜브를 통해 확산됐다. 하지만 적발됐다는 소식은 없었다.
처벌이 제대로 이뤄지지 않아 딥페이크를 악용한 가짜뉴스가 확산될 수 있다는 구조라고 할 수 있다. 특히 최근엔 단순히 가짜뉴스를 텍스트로 퍼뜨리는 것과 전혀 다른 양상이 나타나고 있다. 실제 사건과 다른 시기에 촬영된 사진이나 동영상을 가져와 시공간을 넘어 사실을 왜곡하는 방식은 이제 구식으로 평가받을 정도다. 생성형 AI를 악용한 새로운 딥페이크 영상이나 사진이 범람하고 있다. 이는 그만큼 민주주의와 자본주의의 기반을 흔들 수 있다는 점에서 문제의 심각성이 크다.
이미지 크게 보기내 가짜뉴스 처벌과 관련해 현행법으로 가능하지만 요건이 까다롭다는 점이 문제다. 형법에는 거짓말 등 허위 사실을 유포하는 것만으로는 처벌이 쉽지 않은 게 현실이다.
김세일 변호사는 “가짜뉴스 처벌이 어려운 이유는 단순 허위사실 적시뿐 아니라 구체적인 대상(특정인)의 명예가 훼손됐는지가 확실시 돼야 하기 때문”이라면서 “가짜뉴스 유포에 따른 플랫폼에 대한 업무방해죄의 경우에도, 의견과 사실을 구분하기 어려운 문제가 있어 구성요건 해당성 인정이 쉽지 않다”고 말했다. 아울러 그는 가짜뉴스만을 위한 처벌 조항을 신설하는 견해에 대해서는 “헌법에 보장된 표현의 자유를 위축시키고 처벌 범위가 과도로 확대될 우려가 있어 쉽지 않을 것”이라고 전망했다. 대한민국 헌법 21조는 “언론·출판에 대한 허가나 검열과 집회·결사에 대한 허가는 인정되지 아니한다”면서도 “언론·출판이 타인의 명예나 권리를 침해한 때에는 피해자는 이에 대한 피해의 배상을 청구할 수 있다”고 적시하고 있다.
딥페이크 생성 속도가 탐지 속도보다 빠른 것 역시 처벌에 어려움을 가중시키고 있다.
불과 몇년 전만 하더라도 방대한 양의 데이터를 투입해 AI를 학습시켰는데, 오늘날에는 이미지 몇장 만으로 학습할 수 있는 퓨샷러닝(few-shot learning)이 개발돼 있다. 1분짜리 음성 데이터만 있으면, 똑같은 음성을 만들 수 있다. 이에 대해 우성일 성균관대 소프트웨어학과 교수는 “매번 새로운 딥페이크 기술이 나올 때마다 이를 탐지하는 모델을 만들어 대응하는 것은 사실상 불가능한 일”이라며 “기술 개발만으로는 딥페이크를 이용한 범죄를 해결하기 어렵기 때문에 법과 제도, 교육 등 다양한 관점에서 학계와 산업계, 정부가 협력해야 한다”고 강조했다.
한편 최근 딥페이크를 악용한 불법적 음란물이 사회문제로 부상했다.
BBC는 영국 케이트 아이작스라는 여성 사례를 보도한 바 있다. 누군가가 자신도 모른새 자신 얼굴을 활용해 음란물을 만든 것을 목격해 충격을 받은 것이다. 사이버 보안 업체인 ‘딥트레이스’에 따르면 대다수 딥페이크 음란물 영상 중 96%는 합의되지 않았다. 딥페이크는 진짜인지 가짜인지 분간이 어렵다는 점에서 범죄 악용 가능성이 크다. 미국 UC버클리대와 영국 랭커스터대가 참가자 223명을 대상으로 사람의 실물 사진과 AI가 만든 사람 사진을 판별하는 실험을 실시한 결과, 합성 얼굴에 대한 평균 신뢰도(4.82)가 실제 얼굴 평균 신뢰도(4.48)보다 높게 나타났다.
이와관련 국회 과학기술정보방송통신위원회 소속 더불어민주당 민형배 의원이 방송통신심의위원회로부터 제출받은 자료에 따르면, 딥페이크 기술을 활용한 음란물 적발 건수는 최근 3년 2개월간 9000건에 달했다. 심의 건수는 폭증하고 있다. 2020년 473건에 그쳤지만, 올들어 누적 3046건에 달했다. 하지만 처벌은 5% 수준이었다. 해당 영상을 제공하는 사이트 상당수가 서버를 해외에 두고 있는 점이 주된 이유로 꼽혔다.
‘윗집 소음인 줄 알고 싸웠는데 윗집의 윗집이 주범’…오해 풀고 과일 전하니 오순도순[층간소음 이렇게 푼다]
이미지 크게 보기
게티이미지.이런 사례가 층간소음 상담기관이나 인터넷 관련 후기에서 많이 찾아볼 수 있습니다. 엉뚱한 집에 화풀이를 하니 당하는 집은 억울해서 더 강하게 반발하고, 반발이 괘씸해서 망치로 스피커로 보복소음까지 내고, 그러다 몸싸움까지 벌어지는 일이 비일비재한 것입니다. 세상일이 다 그렇듯이 무지가 오해를 부르고 오해가 더 큰 사건사고를 일으키는 일은 층간소음에서도 자주 목격됩니다.
____________________________________________
해결의 순서는 원인을 먼저 정확히 찾고, 이웃끼리 배려와 양보의 마음으로 서로 이해를 하는 것입니다. 이때 과일이나 손편지 같은 아주 자그마한 성의라도 보이면 분위기가 훨씬 좋아지더라는 게 전문가들의 추천입니다.
#사례: ‘발망치’ 소리에 1년 넘게 싸운 윗집과 화해한 비결은…의외로 간단한 진단
서울 강동구의 오래된 아파트 8층에 살고 있는 30대 가정 주부입니다. 그동안 층간소음에 1년 넘게 시달렸습니다. 삶의 질이 너무 떨어졌습니다. 두통, 신경 예민, 우울증 등을 겪었습니다. 그러다 자그마한 실마리를 찾아 이제는 평화의 시간들을 보내고 있습니다.
저의 생활을 황폐하게 만든 건 저희 윗집이었습니다. 평일이고 주말이고 물건 끄는 소리, 아이 뛰는 소리, 드르륵 미닫이 문 닫히는 소리, 쾅 하고 여닫이 문 닫히는 소리, 발망치 소리, 소리지는 소리 등 너무 시끄럽습니다. 그 중에서 가장 심한 소리는 발망치 소리입니다.
____________________________________________
아파트라 처음에는 그러려니 하다가 반복적으로 들리는 쿵쿵 소리에 노이로제 걸릴 것 같아 참고 참다가 한 달에 한번 관리실에 전화를 했습니다. 관리소장님이 위층에 이야기 잘 해주겠다고 하셨는데 그 뒤로도 소리가 줄어들거나 하지 않았습니다. 관리실에서 전화를 한 날이면, 오히려 쿵 하고 물건 떨어트리는 소리, 발걸음 소리는 말할 것도 없이 심하게 들렸습니다.
언론에서 말하는 ‘귀트임’이 시작됐는지 쿵쿵대고, 쾅 하고 물건 떨어트리는 소리까지 하루가 조용한 날이 없었습니다. 그 뒤로도 민원을 넣기도 수십 번이고 결국 위층 이웃이 우리 집을 찾아왔고 큰 소리로 싸우기도 엄청 싸웠습니다. 매번 본인들은 아니라는데 왜 이렇게 민원을 넣어서 사람 피 말리게 하냐고 큰소리치는데 안하무인이었습니다.
소음이 너무 심한 하루는 쿵쿵 소음이 하도 느껴져서 관리소에 “위층 제발 조용히 좀 걸어 달라 해달라”고 요청했더니, 관리소에서는 “위층에 지금 아무도 없다”고 하는 거였습니다. 윗집에 사람이 없는데 나만 소리를 들었다는 건가? 1층 엘리베이터를 기다리는 우연히 윗집 사람들을 만났습니다. 이게 가능한가요? 제가 정신병자인가요? 모든 것이 혼란스러웠습니다.
다음 날 관리소장님을 찾아 뵙고 전반적인 이야기를 했습니다. 그때 관리소장님께 위층 소음만이 아닐 수 있다면서 인터넷으로 신문에 실린 기사를 소개했습니다. 다음 날 소리 들릴 때 집안의 모든 소음(전자기기)을 차단하고 천장 가까이 벽면에 손을 대고 가만히 있었습니다. 진동이나 울림은 없었고 쿵쿵 소리만 느껴지는 것이 아 윗집의 윗집 소음일 수 있겠다 싶었습니다. 이게 가능한 일일까요? 지금도 믿기지는 않습니다. 그 동안 영문도 모르고 괴롭힘을 당한 윗집에 너무 미안했습니다.
관리소장님께 상황을 설명하고, 윗집과의 대화를 하도록 요청했습니다. 관리소에서 윗집을 만난 진심으로 사과를 했고, 오해를 풀고 싶다고 차분히 이야기했습니다. 본인들도 사실 층간소음이 느껴지긴 했지만, 최근에 집을 비우는 일이 많아서 신경 쓰지 못했고, “소음이 아래층까지 전해지는지 놀랐다”며 “이제라도 이렇게 방법을 찾을 수 있어서 다행”이라며 서로 오해를 잘 풀게 되었습니다.
알고 보니 위층의 위층이었습니다. 다음 날 고구마와 과일을 사 들고 위층의 위층에 갔습니다. ”쿵쿵 뛰는 소음이 한 세대 건너서도 들린다”고 말하고 “밤에는 쿵쿵 소리를 조심해줬으면 좋겠다” 라는 쪽지를 함께 건넸습니다 위층에도 과일과 함께 “오해해서 미안하다”고 쪽지를 드리고 왔습니다.
그 날 저녁 놀라운 일이 있었습니다. 위층의 위층 아주머니가 직접 내려와 “공동주택에서 살면서 늘 조심한다고 하던 게 조금 방심했던 것 같다. 미안하다”며 어쩔 줄 몰라했습니다. 제가 더 어쩔 줄 몰라서 서로 조심하자 하며 인사하고 헤어졌습니다. 위층도 더불어 본인들도 더욱 조심하겠다며 인사를 주고받았습니다.
이렇게 평화를 되찾고 감정이 상하는 일이 없어졌습니다. 층간소음 기사 덕분에 층간소음의 원인이라도 찾고 이웃끼리 더욱 감정 상하는 일을 면하고 무엇보다 층간소음이 줄어 너무 좋습니다. 당연히 위층이지 않을까 싶었던 점에 반성하고 있으며 진솔하게 사과했더니 이해해주는 위층과 또 조심하겠다고 바로 시정하는 위층, 위위층 이웃분들에게도 고마울 따름입니다. 그리고 정말 이 일을 계기로 층간소음 정도도 낮아지고, 저 역시 귀트임이 사라졌나 싶을 정도로 평화롭게 지내고 있습니다.
층간소음원을 구분하는 방법은 전문가가 아니라도 의외로 간단히 알아낼 수 있습니다. 주변의소음을 차단한 뒤 가만히 벽에 손을 대 보십시요. 이 때 소음과 진동이 동시에 느껴지면 바로 윗집이 소음발생원입니다. 그리고 벽을 손을 댔을 때 진동은 없고 소음만 느껴진다면 윗집의 윗집일 확률이 높습니다. 과학적 원리는 당연히 있겠지만 많은 상담에서도 실제 겪었던 경험입니다.
그런 뒤에 어떤 소음인지, 언제 주로 들리는 지를 기록한 메모를 전달하면 문제해결에 큰 도움이 될 것입니다. 위 사례처럼 귤 몇 개라도 과일이나 혹은 손편지라도 써 정성스럽게 시정을 요구하면 그 효과는 더욱 커질 것입니다.