[더구루=홍성일 기자] 생성형AI를 활용한 성인 콘텐츠가 만들어질 가능성이 높아졌다. 챗GPT를 개발한 인공지능(AI) 기업 오픈AI가 생성형AI를 활용한 성인 콘텐츠 제작 허용을 검토하고 있기 때문이다. 오픈AI는 성인 콘텐츠 제작 허용을 검토하는 것과 동시에 딥페이크를 막기 위한 노력도 지속한다는 방침이다.
10일 업계에 따르면 오픈AI는 ‘성인 콘텐츠 또는 선정적이거나 폭력적인 부적절한 게시물(Not Safe For Work, NSFW)’을 생성하는 기능을 제공할지 여부를 검토하고 있다. 오픈AI가 NSFW를 생성할 수 있도록 허용한다면 해당 콘텐츠에는 성적인 행위, 노골적인 유혈 표현, 비방과 욕설 등이 포함될 가능성이 높다.
앞서 오픈AI가 지난 2월 텍스트 투 비디오(Text To Video) AI모델 ‘소라(SORA)’를 공개한 이후 생성형AI를 이용한 성인 콘텐츠 제작에 대한 관심은 이용자들은 물론 포르노 산업계에서도 이슈가 돼 왔다.
다만 오픈AI는 NSFW 생성 허용을 검토하며 유명인의 얼굴을 합성해 제작하는 딥페이크 등에 대해서는 철저하게 금지하겠다고 강조했다.
업계에서는 생성형AI가 성인 엔터테인먼트 산업을 근본적으로 변화시킬 것이라고 예상하고 있다. 여기에 더해 소비자가 스스로 포르노를 만드는 ‘비스포크 시대’가 올 것으로 예측했다. 한편에서는 생성형AI의 성인물 제작 허용이 매우 심각한 윤리적·법적 위험을 초래할 수 있을 것이라는 우려도 하고 있다.
오픈AI 관계자는 “AI로 생성된 포르노를 만들 의도는 없다”면서 “우리는 딥페이크를 용납하지 않을 것이며 이를 방지하기 위해 강력한 안전장치도 마련하고 있다”고 말했다.
그러면서 “챗GPT가 기차안에서 두 사람이 성관계를 가지는 스토리를 써달라는 프롬프트에 응답할 수 있어야 한다”며 “이런 콘텐츠가 창작과정에서 중요할 수 있다. 연령에 적합한 콘텐츠를 제공할 수 있을 방법을 모색할 것”이라고 전했다.
댓글0