마이크로소프트 시큐리티 코파일럿, AI 에이전트 도입
마이크로소프트의 시큐리티 코파일럿(Security Copilot)이 더욱 똑똑해진다고 해요. 인공지능 모델이 마이크로소프트의 보안 소프트웨어와 더 폭넓게 상호 작용하면서 다양한 작업들을 자동화할 수 있게 되었기 때문입니다.
시큐리티 코파일럿의 진화
2023년에 처음 등장한 시큐리티 코파일럿은 마이크로소프트 디펜더 XDR(Microsoft Defender XDR)에서 보안 사고를 자동으로 분류하는 기능을 선보였어요. 이번에는 여기서 더 나아가 11개의 특정 작업에 특화된 AI 에이전트가 추가되어 디펜더(Defender), 퓨어뷰(Purview), 엔트라(Entra), 인튠(Intune)과 같은 제품들과 연동됩니다.
마이크로소프트의 보안, 규정 준수, ID 및 관리 부문 부사장인 바수 자칼(Vasu Jakkal)은 “우리는 에이전트 AI 시대에 살고 있다”고 강조하며, 에이전트의 중요성을 역설했어요.
11개의 AI 에이전트
자칼 부사장에 따르면, 새롭게 도입된 11개의 시큐리티 코파일럿 에이전트 중 5개는 마이크로소프트 보안 파트너사에서 개발했다고 합니다. 마이크로소프트에서 직접 개발한 에이전트는 다음과 같아요.
- 피싱 분류 에이전트 (Phishing Triage Agent): 마이크로소프트 디펜더에서 피싱 신고를 분류합니다.
- 경고 분류 에이전트 (Alert Triage Agents): 마이크로소프트 퓨어뷰에서 데이터 손실 방지 및 내부자 위험 경고를 분류합니다.
- 조건부 액세스 최적화 에이전트 (Conditional Access Optimization Agent): 마이크로소프트 엔트라에서 ID 및 정책 문제를 모니터링하고 예방합니다.
- 취약점 개선 에이전트 (Vulnerability Remediation Agent): 마이크로소프트 인튠에서 취약점 개선의 우선순위를 정합니다.
- 위협 인텔리전스 브리핑 에이전트 (Threat Intelligence Briefing Agent): 시큐리티 코파일럿에서 위협 인텔리전스를 큐레이팅합니다.
파트너사에서 개발한 에이전트도 눈에 띄는데요.
- 개인 정보 침해 대응 에이전트 (Privacy Breach Response Agent): (OneTrust) 데이터 침해를 분석하여 보고 지침을 제공합니다.
- 네트워크 감독자 에이전트 (Network Supervisor Agent): (Aviatrix) 네트워크 문제에 대한 근본 원인 분석을 수행합니다.
- SecOps 툴링 에이전트 (SecOps Tooling Agent): (BlueVoyant) 보안 운영 센터 제어를 평가합니다.
- 경고 분류 에이전트 (Alert Triage Agent): (Tanium) 보안 분석가가 경고의 우선순위를 정하도록 돕습니다.
- 작업 최적화 에이전트 (Task Optimizer Agent): (Fletch) 위협 경고를 예측하고 우선순위를 지정합니다.
11번째 에이전트는 마이크로소프트 퓨어뷰 데이터 보안 조사 (DSI, Data Security Investigations)에 포함되어 있으며, 데이터 보안 팀이 데이터 노출 위험에 대처할 수 있도록 설계된 AI 기반 서비스입니다.
AI 에이전트의 역할
이러한 에이전트들은 생성형 AI의 자연어 처리 능력을 활용하여 피싱 경고나 위협 경고와 같은 대량의 데이터를 요약하고, 사람이 더 중요한 신호에 집중할 수 있도록 도와줍니다. 자칼 부사장은 보안 환경이 너무 빠르게 변화하여 사람이 감당하기 어려워졌기 때문에 AI 에이전트와 같은 자동화 도구에 의존해야 한다고 설명합니다.
그녀는 “웹 환경의 속도, 규모, 정교함이 극적으로 증가하고 있다”며, “작년에 초당 4,000건의 공격이 발생했던 것에 비해 현재는 초당 7,000건의 공격이 발생하고 있으며, 이는 하루에 6억 건의 공격으로 이어진다”고 덧붙였어요.
시큐리티 코파일럿의 효과
자칼 부사장에 따르면, 초기 버전의 시큐리티 코파일럿은 이미 여러 조직에서 빠른 속도로 발생하는 위협에 대처하는 데 도움을 주고 있다고 합니다. 시큐리티 코파일럿을 사용하는 보안 팀은 평균 대응 시간이 30% 단축되었고, 보안 분야에 처음 입문하는 사람들은 26% 더 빠르고 35% 더 정확하게 업무를 처리할 수 있게 되었으며, 숙련된 전문가들 또한 22% 더 빠르고 7% 더 정확하게 업무를 수행할 수 있게 되었다고 해요.
AI 보안에 대한 자신감
마이크로소프트의 AI 안전 및 보안 레드 팀의 이사인 토리 웨스터호프(Tori Westerhoff)는 AI 모델에 이미 안전 장치가 마련되어 있으며, 교차 프롬프트 주입을 제한하기 위한 많은 노력을 기울였다고 밝혔습니다. 그녀는 “제품 개발자들이 교차 프롬프트 주입이 어떻게 작동하는지 인식하고 개발하도록 장려하고 있다”고 말했어요.
웨스터호프 이사는 시큐리티 코파일럿 에이전트 개발 중 발생한 실패 사례에 대한 구체적인 수치를 밝히지는 않았지만, 마이크로소프트 레드 팀이 AI 환각 현상과 에이전트 시스템 강화에 대한 작업을 제품 출시 전에 개발자들과 함께 진행한다고 언급했습니다.
피싱 분류 에이전트 데모
시큐리티 코파일럿의 제품 설계자인 닉 굿맨(Nick Goodman)은 디펜더의 피싱 분류 에이전트가 어떻게 작동하는지 시연했습니다. 그는 “모든 회사가 피싱 방지 솔루션을 가지고 있지만, 직원들은 여전히 피싱을 신고하도록 교육받고 있으며, 실제로 많은 신고가 접수된다”고 말했습니다. 하지만 “신고의 95%가 오탐이며, 분석가들은 대부분의 시간을 오탐을 분류하는 데 소비한다”고 지적하며, 이 에이전트가 이러한 문제를 해결하는 데 도움을 줄 것이라고 설명했어요.
굿맨은 한 회사 전체에 발송된 이메일이 빠른 조치를 촉구하는 언어와 같은 특징 때문에 실제 피싱 메시지로 분류되었지만, 실제로는 합법적인 HR 공지였다는 것을 보여주었습니다. 그는 “에이전트는 내 상황을 모르기 때문에 이를 알 수 없다”며, “그래서 검토를 위해 플래그를 지정한다”고 설명했어요.
굿맨은 메시지를 피싱 의심에서 합법적인 것으로 분류를 변경했고, 이는 에이전트가 다음에 더 잘하도록 지시하는 것이라고 덧붙였습니다. 그는 “이것은 학습”이라며, “이 에이전트에 적용되지만, 나에게만 적용된다. 마이크로소프트와 공유되지 않고, 다른 고객과 공유되지 않는다. 기본적인 모델 훈련은 일어나지 않는다. 이것은 내 상황이다. 이것이 시스템 훈련을 시작하기 위해 해야 할 전부다. 마치 인간 분석가를 훈련하는 것과 매우 유사하다”고 설명했습니다.
데이터 침해 보고 지원
원트러스트(OneTrust)의 개인 정보 보호 및 데이터 거버넌스 담당 수석 부사장 겸 총괄 관리자인 오자스 레게(Ojas Rege)는 회사의 개인 정보 침해 대응 에이전트가 기업 개인 정보 보호 책임자가 데이터 침해 보고서를 처리하는 데 어떻게 도움을 줄 수 있는지 보여주었습니다.
그는 “데이터 침해가 발생하면, 영향 분석에서 충족해야 할 일련의 개인 정보 보호 의무가 있다”며, “문제는 이러한 침해 통지 규정이 모든 주, 모든 국가마다 다르며, 매우 복잡하고 파편화되어 있으며, 때로는 통지 기한이 매우 짧다는 것”이라고 설명했습니다.
원트러스트의 에이전트는 원트러스트의 규제 연구 데이터베이스의 데이터를 분석하여 개인 정보 보호 또는 규정 준수 책임자가 처리해야 할 우선 순위 목록을 작성합니다. 레게는 “에이전트가 규제 당국에 통지하지는 않을 것”이라며, “에이전트는 모든 배경 작업을 수행하지만, 사람은 실제로 통지를 해야 한다”고 강조했어요.
환각 현상 가능성에 대한 질문에 레게는 환각 현상이 발생할 가능성은 매우 낮으며, 에이전트의 권장 사항을 확인할 수 있도록 특정 규정에 연결되는 감사 로그도 있다고 답했습니다.
결론적으로, 마이크로소프트의 AI 에이전트들은 우리를 돕기 위해 등장했지만, 그들의 작업을 확인하는 것은 여전히 우리 몫이라는 점을 잊지 말아야 합니다.