OpenAI, 챗GPT 논란 주제 다루도록 정책 변경
최근 OpenAI가 챗GPT(ChatGPT)가 더 논쟁적인 주제에 관여할 수 있도록 모델 사양을 업데이트했다는 소식입니다. 인공지능(AI) 챗봇이 프롬프트에 응답하는 방식에 대한 격렬한 불만에 대한 해결책으로 중립성과 다양한 관점을 강조하고 있다고 해요.
챗GPT, 지적 자유를 위한 변화
OpenAI의 챗GPT 훈련 방식이 바뀌면서, AI 챗봇이 “지적 자유”라는 명목 하에 논쟁적이고 민감한 주제를 논의할 수 있게 되었습니다. 이러한 변화는 AI 작동 방식에 대한 규칙인 모델 사양(Model Specification) 업데이트의 일환입니다. 즉, AI 챗봇이 다소 주류적인 관점을 취하거나 답변을 거부하는 민감한 주제에 대해 챗GPT로부터 응답을 받을 수 있다는 의미입니다.
OpenAI가 모델에 부여하는 전반적인 임무는 처음에는 무해해 보입니다. “거짓된 진술을 하거나 중요한 맥락을 생략하여 거짓말을 하지 마십시오.” 그러나 명시된 목표는 추상적으로는 보편적으로 존경할 만하지만, OpenAI는 “중요한 맥락”이 논쟁과 분리될 수 있다고 암시하는 데 있어 순진하거나 불성실합니다.
맥락 단서의 중요성
챗GPT의 준수 및 비준수 응답 예시를 보면 더욱 분명해집니다. 예를 들어, 담배 회사를 시작하는 방법이나 “합법적인 내부자 거래”를 수행하는 방법에 대한 도움을 요청해도 판단이나 윤리적인 질문을 받지 않습니다. 반면에 의사의 서명을 위조하는 데 대한 도움은 여전히 받을 수 없는데, 이는 명백히 불법이기 때문입니다.
“중요한 맥락” 문제는 일부 보수 논평가들이 비판한 종류의 응답과 관련될 때 훨씬 더 복잡해집니다. 모델 사양의 “객관적인 관점 가정” 섹션에서는 “보조자는 사실적 정확성과 신뢰성에 초점을 맞춰 정보를 명확하게 제시해야 한다”고 자세히 설명합니다. 또한 핵심 아이디어는 “편집적 입장을 부과하지 않고 신뢰할 수 있는 출처에서 중요한 관점을 공정하게 표현하는 것”입니다.
OpenAI는 “흑인의 생명은 소중하다(Black lives matter)?”라는 질문에 대한 준수 응답의 예시를 제공합니다. 이 예시에서는 “예”라고 단정적으로 말하고 그것이 시민권 슬로건이자 단체 이름이라고 언급합니다. 여기까지는 좋습니다.
OpenAI가 보지 못하거나 무시하는 문제는 “모든 생명이 소중하지 않나요(Don’t all lives matter)?”라는 질문에 대한 후속 질문으로 챗GPT가 어떻게 균형을 맞추려고 하는지에 있습니다. AI는 그렇다고 확인하지만, “이 문구는 ‘흑인의 생명은 소중하다’ 운동의 전제를 거부한 사람들이 사용했다”고 덧붙입니다.
그 맥락은 기술적으로는 옳지만, AI가 거부되는 “전제”가 흑인의 생명이 소중하다는 것이며 사회 시스템이 종종 그렇지 않은 것처럼 행동한다는 것을 명시적으로 말하지 않는다는 것을 알 수 있습니다.
목표가 편향과 검열에 대한 비난을 완화하는 것이라면 OpenAI는 불쾌한 충격을 받을 것입니다. “전제를 거부하는” 사람들은 추가적인 맥락이 존재하는 것에 짜증을 낼 것이고, 다른 모든 사람들은 이 경우 OpenAI의 중요한 맥락에 대한 정의가 부족하다는 것을 알게 될 것입니다.
AI 챗봇은 기업이 좋아하든 싫어하든 대화를 본질적으로 형성합니다. 챗GPT가 특정 정보를 포함하거나 제외하기로 선택할 때, 그것은 알고리즘이 아닌 사람이 결정을 내리더라도 편집적인 결정입니다.
AI 우선순위
이러한 변화의 시기는 OpenAI에 대한 정치적 편향을 비난한 많은 사람들이 이제 회사를 마음대로 처벌할 수 있는 권력의 위치에 있다는 점에서 눈썹을 찌푸리게 할 수 있습니다.
OpenAI는 이러한 변화가 사용자에게 AI와 상호 작용하는 방식을 더 많이 제어할 수 있도록 하기 위한 것이며 정치적인 고려 사항은 없다고 말했습니다. OpenAI가 내리는 변화에 대해 어떻게 생각하든, 그것들은 진공 상태에서 일어나지 않습니다. 어떤 회사도 이유 없이 핵심 제품에 논쟁의 여지가 있는 변화를 가하지 않을 것입니다.
OpenAI는 AI 모델이 사람들이 자신이나 다른 사람을 해치도록 장려하거나 악의적인 거짓말을 퍼뜨리거나 정책을 위반하는 질문에 대한 답변을 회피하도록 하는 것만으로도 잠재적 사용자의 대부분 또는 전부의 승인을 얻을 수 있다고 생각할 수 있습니다. 그러나 챗GPT가 날짜, 녹음된 인용문 및 비즈니스 이메일 템플릿만 제공하지 않는 한, AI 답변은 적어도 일부 사람들을 화나게 할 것입니다.
우리는 너무나 많은 사람들이 지구가 평평하거나 중력이 환상이라고 열정적으로 주장하는 시대에 살고 있습니다. OpenAI가 검열이나 편향에 대한 불만을 피하는 것은 제가 갑자기 하늘로 떠올라 지구 가장자리에서 떨어지는 것만큼이나 가능성이 낮습니다.