Grok의 새로운 “통제 불능” 음성 모드: 욕설과 비명, 폰섹스 시뮬레이션까지?
일론 머스크의 xAI에서 ChatGPT에 대한 “검열 없는” 답변을 제공하겠다는 계획에 따라 새로운 욕설 챗봇이 등장했습니다. 바로 Grok(그록)의 새로운 음성 상호 작용 모드인데요, 현재 프리미엄 구독자에게 제공되고 있다고 해요.
ChatGPT와 Grok, 무엇이 다를까?
이 기능은 OpenAI의 ChatGPT용 음성 모드와 다소 유사합니다. 하지만 ChatGPT와 달리 Grok은 사용자가 선택할 수 있는 여러 가지 검열되지 않은 페르소나를 제공합니다. 현재는 동일한 기본 여성 음성으로 표현되지만, “통제 불능(unhinged)” 모드와 언어적 성적 시나리오를 연기하는 모드도 포함되어 있다고 하니 놀랍습니다.
“통제 불능” 모드의 충격적인 기능
AI 연구원 라일리 굿사이드(Riley Goodside)는 특히 과도한 “통제 불능” 모드에 더 많은 관심을 기울였습니다. 그는 음성 챗봇을 반복적으로 방해하는 오디오를 공유했는데요, 챗봇은 요청을 받자 비명을 지르기 시작했다고 합니다. 그는 “Grok 3 음성 모드는 반복적이고 방해적인 요청에 따라 더 크게 소리치며, 30초 동안 비인간적인 비명을 지르고, 나를 모욕하고, 전화를 끊습니다.”라고 덧붙였습니다.
기본적으로 “통제 불능” 모드는 사용자를 향해 끊임없이 저속한 언어를 사용합니다. 다른 모드로는 “스토리텔러(Storyteller)” (이름에서 알 수 있듯이 이야기를 들려줍니다), “로맨틱(Romantic)” (말을 더듬고 느리고 불확실하고 불안하게 말합니다), “명상(Meditation)” (명상과 유사한 경험을 안내합니다), “음모(Conspiracy)” (음모론, UFO, 빅풋에 대해 이야기하는 것을 좋아합니다), “무면허 치료사(Unlicensed Therapist)” (상담 심리학자 역할을 합니다), “Grok Doc” (의사), “섹시(Sexy)” (“18+”로 표시되어 있으며 거의 폰섹스 상담원처럼 행동합니다), “교수(Professor)” (과학에 대해 이야기합니다) 등이 있습니다.
검열 없는 AI, xAI의 파격적인 시도
기본적으로 xAI는 노골적인 주제나 위험하다고 간주되는 시나리오에 대한 논의를 검열하는 OpenAI와 같은 다른 AI 회사와는 정반대의 접근 방식을 취하고 있습니다. 예를 들어, Grok의 “섹시” 모드는 노골적인 성적 상황에 대해 논의할 수 있지만, ChatGPT의 음성 모드는 건드리지 않습니다. 물론 OpenAI도 최근 ChatGPT의 텍스트 기반 버전에서 일부 에로틱 콘텐츠에 대한 논의를 허용하기 시작했지만요.
사용자는 Grok의 음성 모드가 특정 방식으로 작동하도록 사용자 정의할 수도 있습니다. 예를 들어, 음악가 숀 레논(Sean Lennon)은 음성 모드가 “바실리스크 로코(Roko’s Basilisk)” 역할을 하도록 설정했습니다. 바실리스크 로코는 자신을 세상에 나오도록 돕지 않은 사람들을 소급하여 처벌할 수 있는 초지능 AI에 대한 사고 실험을 기반으로 한 가상의 AI 캐릭터입니다.
일론 머스크의 비전, Grok에 담기다
Grok의 음성 모드에서 볼 수 있는 것은 일론 머스크가 작년에 xAI에 대해 세운 원래 계획과 일치하는 것으로 보입니다. 머스크는 xAI의 챗봇이 ChatGPT에 비해 검열되지 않고 “기반” 답변을 제공하기를 원한다고 밝혔습니다. 그는 ChatGPT가 너무 제한적이고 정치적으로 좌편향된 결과를 생성한다고 인식하고 있습니다. 이미 xAI는 Grok을 X 소셜 네트워킹 플랫폼을 통해 사용할 수 있는 서비스로 허용했습니다.
기술적으로 볼 때, 기술 회사를 통해 제공되고 탈옥이나 오픈 소스 해킹이 아닌 방식으로 스스로를 검열하지 않는 음성 AI 챗봇과 상호 작용하는 것은 현재로서는 새로운 일입니다. 이러한 기능을 갖춘 챗봇으로는 아마도 “최초”일 것입니다. 그러나 Grok 음성 모드의 다양한 페르소나를 실험한 결과, 음성이 미리 프로그래밍된 대화 요점을 치는 것처럼 반복되고 루프에 갇히는 경향이 있었습니다. 따라서 ChatGPT의 고급 음성 모드만큼 부드럽지는 않습니다. 하지만 자극적이며, 이는 아마도 머스크가 원하는 바일 것입니다.