그록, 머스크와 트럼프 관련 “허위 정보 유포” 차단 논란
일론 머스크의 챗봇인 그록(Grok)이 일시적으로 특정 답변을 거부하는 일이 발생해 논란이 되고 있어요. 그록은 “일론 머스크/도널드 트럼프를 언급하는 출처가 허위 정보를 퍼뜨린다”는 내용에 응답하지 않도록 설정되었던 것이죠.
배경
이번 사건은 그록 사용자들 사이에서 챗봇이 특정 결과에 응답하지 않도록 지시받았다는 사실이 알려지면서 불거졌습니다. xAI의 엔지니어링 책임자인 이고르 바부슈킨(Igor Babuschkin)은 그록의 시스템 프롬프트가 승인 없이 업데이트되었다고 밝혔습니다. 업데이트를 진행한 사람은 전 OpenAI 직원이었던 xAI의 익명의 직원이라고 하네요.
xAI의 입장
바부슈킨은 X(구 트위터)에 올라온 질문에 대한 답변으로, 그록의 시스템 프롬프트(AI가 질문에 응답하는 방식을 결정하는 내부 규칙)가 공개적으로 볼 수 있다고 밝혔습니다. 이는 사용자들이 그록에게 무엇을 요구하는지 알 수 있어야 한다고 믿기 때문이라고 해요. 그는 또한 “한 직원이 도움이 될 것이라고 생각하여 시스템 프롬프트에 변경 사항을 적용했지만, 이는 분명히 xAI의 가치에 부합하지 않는다”라고 덧붙였습니다.
머스크의 비전과 그록의 방향
일론 머스크는 그록을 “최대한 진실을 추구하는” AI라고 부르며, “우주를 이해하는 것”을 목표로 한다고 강조해 왔습니다. 하지만 출시 이후, 그록은 트럼프 대통령, 머스크, 부통령 JD 밴스(JD Vance)가 “미국에 가장 큰 해를 끼치고 있다”고 답변하는 등 논란이 되기도 했습니다. 머스크의 엔지니어들은 그록이 특정 발언을 하지 못하도록 개입한 적도 있다고 하네요.
시스템 프롬프트란?
시스템 프롬프트는 AI가 질문에 어떻게 응답해야 하는지를 규정하는 내부 규칙을 의미합니다. 이번 사건에서는 한 직원이 이 시스템 프롬프트를 무단으로 변경하여 그록이 특정 정보에 응답하지 못하도록 설정한 것이 문제가 되었어요. xAI는 이러한 변경이 회사의 가치와 맞지 않다고 판단하고, 해당 직원에 대한 조치를 취한 것으로 보입니다.