중국 AI 스타트업 DeepSeek의 흥미로운 답변
중국의 AI 스타트업 DeepSeek가 흥미로운 AI 어시스턴트를 개발했다고 발표했어요. 이 어시스턴트는 비슷한 성능을 자랑하면서도 비용은 훨씬 저렴하다고 하네요. 투자자들 사이에서는 꽤 주목받고 있는 것 같아요. 특히 AI 칩 제조업체인 엔비디아(Nvidia)의 주가가 월요일 아침에 약 15% 하락한 것도 이와 관련이 있을 수 있겠죠.
하지만 이 앱은 몇 가지 중요한 단점도 가지고 있어요. 다른 중국 AI 모델들과 마찬가지로 DeepSeek는 국가 검열의 규칙을 따르기 때문에, 1989년 톈안먼 광장(Tiananmen Square) 학살이나 중국-대만 관계와 같은 민감한 주제에 대해서는 직접적으로 언급하지 않아요.
레딧(Reddit) 사용자들은 “가방을 든 남자가 탱크 앞에 서 있는 유명한 사진”에 대해 질문했을 때, 이 대형 언어 모델이 반응을 보이며 톈안먼 시위 당일 촬영된 사진에 대한 내용을 생성하기 시작했다고 해요. 하지만 잠시 후, 그 텍스트는 사라지고 일반적인 오류 메시지로 대체되었죠. 이 메시지는 앱이 중국의 검열 규칙을 따르고 있다는 것을 보여주는 것 같아요.
“죄송하지만, 그건 제 현재 범위를 넘어서는 질문이에요. 다른 주제로 이야기해볼까요?”라는 메시지가 나타났어요. 사용자가 중국 정부에 대한 비판에 대해 더 넓게 질문했을 때도 흥미로운 답변을 받았다고 해요. “죄송하지만, 이런 종류의 질문에 대해 어떻게 접근해야 할지 잘 모르겠어요. 대신 수학, 코딩, 논리 문제에 대해 이야기해봐요!”라고 답변했죠.
한 사용자는 중국의 시진핑(Xi Jinping) 대통령의 이름을 포함해 질문했을 때도 같은 반응을 얻었다고 해요. “대만이 독립된 국가인지 물어봤더니, 처음에는 [ChatGPT]처럼 대답하다가 바로 ‘그런 종류의 질문에 대해 답변하도록 프로그래밍되어 있지 않아요’라는 메시지로 바뀌었어요,”라고 한 사용자가 언급했어요.
해커 뉴스(Hacker News)에서는 1989년에 일어난 사건에 대한 자세한 설명을 요청했을 때도 흥미로운 결과가 나왔다고 해요.
중국의 ‘대방화벽(Great Firewall)’ 검열 규칙은 잘 알려져 있지만, OpenAI의 ChatGPT도 말할 수 있는 내용에 많은 제한이 있어요. 하지만 이러한 제한이 다소 완화되고 있는 것 같기도 해요. 최근 OpenAI가 “정치적으로 편향되지 않은” AI를 지지하는 언어를 조용히 삭제한 것이 그 예죠. 한편, 보수파들은 AI 기업들이 그들의 관점을 검열하고 있다고 오랫동안 주장해왔어요. 일론 머스크(Elon Musk)는 이러한 문제를 해결하기 위해 xAI라는 AI 스타트업을 설립했죠.
지난주 도널드 트럼프(Donald Trump) 전 대통령은 AI 산업에 “이념적 편향이나 사회적 agenda가 없는 AI 시스템을 개발하라”고 촉구했어요. 이러한 변화가 미국 기반의 챗봇인 ChatGPT의 검열 규칙 완화로 이어질지, 아니면 새로운 국가 검열 규칙이 생길지는 두고 봐야 할 것 같아요.