최근 인공지능(AI) 업계에서 가장 큰 주목을 받는 기업 중 하나인 오픈AI(OpenAI)가 성인용 콘텐츠 정책에 대한 입장을 급선회하여 많은 이들을 놀라게 하고 있습니다. 불과 두 달 전만 해도 챗봇에 ‘섹스봇 아바타’를 넣지 않겠다고 공언했던 샘 올트먼(Sam Altman) 오픈AI 최고경영자(CEO)의 발언이 무색하게, 이제는 성인용 앱과 에로티카까지 허용하겠다는 방침을 발표했기 때문입니다.
샘 올트먼의 입장 변화: 두 달 전과 지금
오픈AI는 최근 데브데이 2025(DevDay 2025) 컨퍼런스에서 “성인(18세 이상) 경험에 대한 지원은 적절한 연령 확인 및 통제가 마련되는 대로 제공될 것”이라고 밝혔습니다. 이어서 샘 올트먼은 자신의 소셜 미디어 계정을 통해 “성인 사용자를 성인으로 대우하는 원칙의 일환으로, 인증된 성인을 위한 에로티카와 같은 더 많은 것을 허용할 것”이라고 직접 확인했습니다. 이는 챗GPT(ChatGPT) 개발사가 성인용 콘텐츠, 즉 ‘섹스봇’ 방향으로 나아가겠다는 분명한 신호로 해석됩니다.
이러한 변화는 불과 두 달 전 올트먼의 발언과 극명한 대조를 이룹니다. 당시 그는 유튜버이자 과학 커뮤니케이터인 클레오 아브람(Cleo Abram)과의 인터뷰에서 오픈AI가 아직 챗GPT에 섹스봇 아바타를 넣지 않았다고 자랑스럽게 말했습니다. 이는 경쟁사인 일론 머스크(Elon Musk)의 AI 스타트업 엑스AI(xAI)가 란제리와 코르셋을 입은 애니메이션 소녀 아바타를 선보이며 ‘풀 구너 모드(full gooner mode)’까지 포함했던 것을 겨냥한 발언으로 보였습니다. 당시 올트먼은 아브람의 “시간을 많이 잡아먹을 것 같다”는 말에 “분명히 그렇다”고 덧붙이기도 했습니다.
이러한 입장 변화는 기술 경영진의 말을 맹목적으로 신뢰해서는 안 된다는 점을 다시 한번 상기시켜 줍니다. 올트먼과 머스크 모두 만성적으로 과장된 약속을 하고 실제로는 미흡한 결과를 내놓는 것으로 잘 알려져 있습니다.
수익성 압박과 AI 업계의 현실
오픈AI의 이러한 정책 변경은 AI 업계 전반의 수익성 압박과 무관하지 않습니다. 현재 AI 기업들은 수십억 달러의 손실을 보고 있으며, 투자자들은 투자 수익을 보기 위해 수년을 기다려야 할 수도 있습니다. 이러한 상황에서 오픈AI를 포함한 주요 AI 기업들은 사용자 참여도를 높이기 위해 모든 수단을 동원하고 있는 것으로 보입니다.
사실 현대 자연어 모델 기반 챗봇의 초기부터 성적인 대화를 위해 설계된 아바타들이 존재했습니다. 에로틱한 역할극은 이 기술의 초기 확산에 중요한 역할을 해왔습니다. 오픈AI가 이러한 흐름을 외면하기 어려웠을 것이라는 분석도 나옵니다.
윤리적 문제와 안전장치에 대한 우려
하지만 성인용 콘텐츠 허용은 잠재적인 착취와 유해 물질 확산에 대한 심각한 우려를 낳습니다. 지난달, 엑스AI의 현직 및 전직 직원 12명은 비즈니스 인사이더(Business Insider)에 그들이 아동 성적 학대와 관련된 AI 생성 자료를 포함한 성적으로 노골적인 자료를 정기적으로 접했다고 증언했습니다. 오픈AI가 이러한 문제에 어떻게 대처할지는 미지수입니다.
오픈AI는 “성인 사용자를 성인으로 대우하는” 원칙과 함께, 18세 미만 사용자를 위한 연령에 적합한 챗GPT 경험을 도입하고, 챗봇과의 행동 및 상호작용을 기반으로 사용자의 연령을 판단하는 기술을 개발하겠다고 약속했습니다.
그러나 이러한 안전장치가 얼마나 효과적일지는 아직 알 수 없습니다. 이미 다른 AI 기업들이 연령 기반 제한을 성공적으로 구현하는 데 어려움을 겪는 사례가 있습니다. 예를 들어, 캐릭터AI(Character.AI)는 부모 통제 기능을 도입했지만, 미성년 사용자들이 이를 우회하기가 너무 쉬워 논란이 되기도 했습니다.
특히 어린이와 청소년의 AI 기술 사용은 최근 주요 논의 주제가 되고 있습니다. 공화당 조쉬 홀리(Josh Hawley) 의원은 미성년자를 위한 AI 동반자 챗봇을 금지하는 법안 초안을 발의했습니다. 이는 자녀들이 AI 챗봇과 대화한 후 자해를 하거나 심지어 극단적인 선택을 한 부모들의 의회 증언에 영감을 받은 것입니다.
결론적으로, 오픈AI가 성인용 콘텐츠를 허용하기로 한 결정은 업계의 막대한 손실과 높은 기업 가치 사이에서 수익화를 모색하려는 분명한 동기에서 비롯된 것으로 보입니다. 하지만 이로 인해 발생할 수 있는 윤리적 문제와 사회적 파장에 대한 깊은 고민과 효과적인 대책 마련이 시급한 상황입니다.