총선에 인공지능(AI) 경계령이 떨어졌다. AI로 가짜 영상과 이미지를 만드는 ‘딥페이크(딥러닝과 페이크의 합성어)’ 문제가 수면 위로 올라와서다. 실제로 중앙선거관리위원회는 4·10 총선과 관련, 딥페이크 게시물과 관련해 경고 1건, 준수 촉구 1건, 삭제 요청 207건을 요청했다고 밝혔다. 선거법은 선거일 전 90일부터 선거일까지 AI 등의 기술로 만든 실제와 구분하기 어려운 가상의 선거운동 관련 음향, 이미지, 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지하고 있다.

딥페이크는 최근 생성형 AI 기술 발전으로 제작이 쉬워졌다. 텍스트를 입력하는 것만으로 이미지와 영상을 만드는 기술이 상용화돼서다. 짧은 음성 데이터로 가짜 음성을 만들어내는 퓨샷러닝 등도 많이 고도화된 상태다. 이러한 기술로 만들어진 딥페이크는 악용되는 경우 사회적 문제를 일으킬 수 있다. 지난 1월 미국 뉴햄프셔주에선 예비 경선에선 바이든 대통령이 “투표하지 말라”는 전화가 돌았는데, 이 전화 음성은 AI로 만든 가짜로 판별됐다. 또 트럼프 전 대통령이 흑인 여성, 청년과 찍은 사진도 AI로 조작한 이미지로 밝혀졌고, 국내에선 최근 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 허위 영상이 소셜네트워크서비스(SNS)에서 확산해 문제 된 바 있다.

윤석열 대통령은 26일 오전 용산 대통령실에서 국무회의 생중계 모두발언에서 AI 악용을 염려했다. 총선이 공정하고 투명하게 치러질 수 있도록 정부가 총력을 기울여야 한다며 AI를 활용한 가짜 정보 등에도 능동적으로 대처해야 한다고 조언했다. “AI와 디지털 기술을 활용한 가짜뉴스와 허위 정보가 유권자들의 눈과 귀를 가리지 못하도록 철저히 대응해야 할 것”이라며 “딥페이크와 같은 새로운 양상에도 능동적으로 대처해주기 바란다”고 밝혔다.

딥페이크 문제가 확산하자 AI로 만든 가짜 생성물을 탐지하는 기술의 필요성도 제기되고 있다. 사람이 영상이나 이미지, 음성 등의 진위를 알기 어려우니 이를 자동 탐지해내는 기술이 마련돼야 한다는 목소리가 나오고 있다. 국내에서 이 기술을 상용화한 곳은 딥브레인AI다. 지난 대선 때 윤석열 대통령의 AI 휴먼을 만든 업체이기도 하다.

딥브레인AI는 생성형 AI 아바타 제작 솔루션과 내부에 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 딥페이크 탐지 솔루션을 개발했다. AI로 가상의 인물과 목소리를 만드는 기술이 있는 만큼, 이를 역으로 탐지할 수 있는 솔루션을 만들었다. 지난 15일에는 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 개발했다고 밝혔다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄와 피싱 범죄, 합성 성 착취물 범죄 등에 대처해나갈 방침이다.

딥브레인AI의 딥페이크 탐지 솔루션은 어떻게 활용할 수 있는지, 한종호 딥브레인AI 부사장을 만나 이야기를 들어보았다.

- 딥페이크 탐지 솔루션을 제공하고 있다. 어떤 솔루션인가.