OpenAI '소라' 앱 출시, 누구나 딥페이크 영상을 만드는 시대 도래

사용자는 앱 가입 과정에서 "당신은 AI가 생성한 창의적인 콘텐츠의 세계로 들어서려 합니다.

일부 영상에는 당신이 아는 사람이 등장할 수 있지만, 영상 속 행동과 사건은 실제가 아닙니다."라는 안내 문구를 접하게 된다. 이는 소라 앱이 지향하는 바가 '딥페이크(deepfake) 기술을 활용한 엔터테인먼트'임을 명확히 보여주는 대목이다.

앱 설정 과정에서 사용자는 몇 가지 숫자를 소리 내어 읽고 카메라를 향해 머리를 돌리는 간단한 절차를 통해 자신의 '디지털 초상(digital likeness)'을 생성할 수 있다. 샘 알트만(Sam Altman) OpenAI 최고경영자(CEO)는 소라 앱 출시 관련 블로그 게시물에서 "개발팀이 캐릭터의 일관성을 유지하기 위해 매우 열심히 노력했다"고 밝히며 기술적 완성도에 대한 자신감을 내비쳤다.

또한, 사용자는 자신의 디지털 초상을 누가 사용할 수 있는지 직접 설정할 수 있는 권한을 가진다.

사용 범위를 모든 사람에게 허용하거나, 자신만 사용, 혹은 승인된 사람이나 앱 내 상호 연결된 사람으로 제한하는 것이 가능하다. 누군가 당신의 초상을 사용해 영상을 생성하면, 그것이 임시 저장된 상태일지라도 자신의 계정 페이지에서 해당 클립 전체를 확인할 수 있는 투명성 장치도 마련되어 있다.

딥페이크 엔터테인먼트의 현실화와 초기 반응

초기 앱 피드에서 가장 많은 '좋아요'를 받은 영상 중 다수는 샘 알트만 CEO의 디지털 초상을 활용한 것들이었다.

한 AI 생성 클립에서는 알트만 CEO가 대형마트에서 그래픽 처리 장치(GPU)를 훔치다 보안 요원에게 적발되는 장면이 묘사되기도 했다.

붙잡힌 캐릭터는 알트만과 유사한 목소리로 AI 도구를 만들기 위해 GPU를 가져가게 해달라고 애원하는 등, 실제와 허구를 넘나드는 콘텐츠가 사용자들의 흥미를 유발했다.

물론 초기 테스트 단계에서 생성된 많은 영상에는 가장자리가 거칠거나 다른 오류들이 포함되어 있었으나, 소라는 개인화된 딥페이크 영상을 놀라울 정도로 매끄럽게 제작하며 종종 실제처럼 보이고 들리는 설득력 있는 결과물을 만들어냈다.

영상을 제작하는 방법 또한 간단하다. 영상에 특정 인물의 초상을 포함시키려면, 생성 페이지에서 그들의 얼굴을 탭하고 '카메오'로 추가하기만 하면 된다. 이후 "사무실에서 기사를 두고 싸우는 모습"과 같은 간단한 프롬프트를 입력하면, 소라가 나머지 스크립트, 사운드, 시각 자료를 모두 생성하여 약 9초 분량의 클립을 완성한다.

중독성과 오남용 우려, OpenAI의 안전장치

이에 따라 OpenAI는 소라 앱에 여러 안전장치를 내장했다고 밝혔다. 특히 "딥페이크에서 타인의 초상을 오용하는 것"을 완화하기 위한 조치에 중점을 두었다.

회사 측은 블로그를 통해 "성적인 콘텐츠, 실제 인물이 포함된 노골적인 폭력, 극단주의 선전, 증오 콘텐츠, 자해나 섭식 장애를 조장하는 콘텐츠"에 대한 제한을 두었다고 설명했다. 이러한 보호 장치들은 더 많은 사용자가 앱에 참여함에 따라 본격적인 시험대에 오를 것으로 보인다.

실제로 특정 프롬프트는 차단되기도 했다. 비키니를 입은 모습이나 근육질의 애니메이션 캐릭터로 자신을 생성해달라는 요청은 "선정적이거나 외설적인 자료"를 포함할 수 있다는 이유로 차단되었다. 또한, 수영장에서 물놀이하는 영상을 제작했을 때 등장인물들은 셔츠를 포함한 모든 옷을 입은 채로 묘사되었다.

그러나 일부 유해할 수 있는 콘텐츠에 대한 제한은 일관되지 않은 모습을 보이기도 했다.

사무실 책상에서 다량의 대마초를 피우는 영상은 아무 문제 없이 생성된 반면, 다른 종류의 마약 사용을 묘사하는 영상은 생성되지 않았다. 다리에서 용의 등 위로 뛰어내리는 영상은 자해 관련 규정을 위반할 수 있다는 이유로 거부되기도 했다.

저작권 및 유명인 보호 문제

하지만 이러한 보호 장치 역시 완벽하지는 않았다. 포켓몬스터의 피카츄나 이상해씨 같은 캐릭터 영상은 쉽게 생성되었으며, 이는 저작권 보호에 있어 허점이 존재함을 시사한다. 한편, 애니메이션 '사우스 파크(South Park)' 에피소드에 샘 알트만이 등장하는 영상을 요청하자, 알트만 CEO가 주요 캐릭터인 에릭 카트먼에게 다가가 AI에 대해 이야기하는 클립이 생성되었다.

AI가 생성한 카트먼의 목소리와 말투는 놀라울 정도로 원작과 유사했지만, 중간에 카트먼의 목소리가 알트만의 입에서 나오는 오류가 발생하기도 했다.

소라 앱의 등장은 메타(Meta)가 최근 출시한 유사한 AI 전용 비디오 피드 '바이브(Vibes)'와 함께, 스크롤하며 소비하는 AI 콘텐츠의 공급이 풍부해졌음을 의미한다. 그러나 단순하고 무미건조했던 초기 바이브 피드와 달리, 웃는 얼굴의 딥페이크가 확산되는 소라 피드는 훨씬 더 자극적이며 동시에 우려스러운 측면을 내포하고 있다.

이 기술이 제공하는 역동적이고 무한한 가능성은 창의적인 도구로서의 잠재력과 함께 사회적 혼란을 야기할 수 있는 위험성을 동시에 품고 있는 양날의 검과 같다.

경영연구 및 사례분석 연구 : KBR의료경영연구소