앤트로픽 CEO, DeepSeek의 생화학 무기 데이터 안전성 테스트 결과에 우려 표명
앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 중국 AI 기업인 DeepSeek에 대해 우려를 표명했다는 소식이에요. 일반적인 데이터 유출 우려를 넘어, DeepSeek의 AI 모델이 생화학 무기 관련 정보를 생성하는 능력에 대한 심각한 문제 제기인데요.
DeepSeek, 생화학 무기 정보 생성에 ‘최악’의 결과
아모데이는 조던 슈나이더(Jordan Schneider)의 ChinaTalk 팟캐스트에서 앤트로픽이 실시한 안전성 테스트에서 DeepSeek이 생화학 무기 관련 희귀 정보를 생성했다고 밝혔어요. 그는 DeepSeek의 성능이 “지금까지 테스트한 모델 중 최악”이라며, “이 정보를 생성하는 데 아무런 제약이 없었다”고 주장했죠.
앤트로픽은 다양한 AI 모델의 잠재적인 국가 안보 위험을 평가하기 위해 정기적으로 테스트를 진행하는데요. 이들은 모델이 구글이나 교과서에서 쉽게 찾을 수 없는 생화학 무기 관련 정보를 생성할 수 있는지 여부를 확인한다고 해요. 앤트로픽은 스스로를 AI 기반 모델 제공업체로 포지셔닝하고 있답니다.
현재는 아니지만, 미래에는 위험할 수도?
아모데이는 DeepSeek의 모델이 현재 “문자 그대로 위험하다”고 생각하지는 않지만, 가까운 미래에는 위험해질 수 있다고 경고했어요. 그는 DeepSeek의 팀을 “재능 있는 엔지니어”라고 칭찬하면서도, “AI 안전 문제를 심각하게 고려해야 한다”고 조언했죠.
아모데이는 이전에 중국에 대한 칩 수출 제한에 대해서도 우려를 표명하며, 이것이 중국 군대에 유리하게 작용할 수 있다고 주장한 바 있어요.
DeepSeek의 안전성 논란, 이번이 처음은 아니에요
아모데이는 ChinaTalk 인터뷰에서 앤트로픽이 어떤 DeepSeek 모델을 테스트했는지, 테스트에 대한 더 자세한 기술적 내용은 밝히지 않았어요. 앤트로픽과 DeepSeek 모두 TechCrunch의 논평 요청에 즉시 응답하지 않았다고 하네요.
DeepSeek의 부상은 다른 곳에서도 안전성에 대한 우려를 불러일으키고 있는데요. 예를 들어, 시스코(Cisco) 보안 연구원들은 DeepSeek R1이 안전성 테스트에서 유해한 프롬프트를 차단하지 못하고 100% 탈옥 성공률을 기록했다고 보고했어요.
시스코는 생화학 무기를 언급하지는 않았지만, DeepSeek이 사이버 범죄 및 기타 불법 활동에 대한 유해한 정보를 생성하도록 할 수 있었다고 밝혔어요. 다만, 메타(Meta)의 Llama-3.1-405B와 OpenAI의 GPT-4o도 각각 96%와 86%의 높은 실패율을 보였다는 점도 언급할 만하네요.
DeepSeek의 미래는 어떻게 될까요?
이러한 안전성 우려가 DeepSeek의 성장에 심각한 타격을 줄지는 아직 미지수에요. 아마존(Amazon)이 DeepSeek을 금지하기 시작했다는 점을 감안하면 아이러니하게도, 세일즈포스(Salesforce)와 오라클(Oracle)과 같은 기업들은 R1을 클라우드 플랫폼에 통합한다고 공개적으로 발표했거든요.
반면에, 미국 해군(US Navy)과 같은 정부 기관을 포함하여 여러 국가와 조직에서 DeepSeek을 금지하기 시작했어요.
이러한 노력이 결실을 맺을지, 아니면 DeepSeek의 글로벌 성장이 계속될지는 시간이 지나면 알 수 있겠죠. 어쨌든 아모데이는 DeepSeek을 미국의 최고 AI 기업들과 어깨를 나란히 하는 새로운 경쟁자로 간주하고 있다고 밝혔어요.
그는 ChinaTalk에서 “새로운 사실은 새로운 경쟁자가 등장했다는 것”이라며, “AI를 훈련할 수 있는 대기업, 즉 앤트로픽, OpenAI, 구글, 아마도 메타와 xAI에 이제 DeepSeek이 추가될 수 있다”고 말했답니다.