알고리즘에 의한 거절
Allstate, 보험금 청구 관련 거의 모든 소통에 AI 활용
“보험금 담당자가 정확성을 확인하지만, 더 이상 직접 작성하지 않아요.”
보험 회사인 Allstate(올스테이트)는 담당자가 보험금 청구인에게 보내는 거의 모든 서신이 이제 인공지능(AI)에 의해 작성된다고 밝혔습니다. 이는 생성형 AI가 우리 일상에서 얼마나 중요한 역할을 수행하고 있는지, 그리고 이미 수행하고 있는지를 보여주는 놀라운 사실입니다.
AI, 보험금 지급 거절의 새로운 주역?
다시 말해, 가까운 미래에는 AI가 보험금 지급을 거절하거나, 이미 그렇게 하고 있을 가능성이 점점 커지고 있다는 것이죠. 올스테이트의 최고정보책임자(CIO)인 줄피 지반지(Zulfi Jeevanjee)는 월스트리트저널(WSJ)과의 인터뷰에서 AI가 생성한 이메일이 덜 비난적이고 전문 용어를 덜 사용하는 경향이 있다고 말했습니다.
그는 “이전에는 이메일을 보낼 때 표준이 있었음에도 불구하고 많은 보험 전문 용어가 포함되어 있었어요. 공감 능력이 부족했죠. 보험금 담당자들은 좌절감을 느꼈고, 소통이 원활하지 않았습니다.”라고 설명합니다.
OpenAI의 GPT 기반 기술 활용
물론 올스테이트가 사용하는 기술은 OpenAI(오픈AI)의 GPT 대규모 언어 모델을 기반으로 하지만, 완벽과는 거리가 멉니다. 지반지는 “보험금 담당자가 정확성을 확인하지만, 더 이상 직접 작성하지 않아요.”라고 WSJ에 밝혔습니다.
그럼에도 불구하고 이는 시대의 흐름을 보여주는 징표이며, 소통 자동화 경쟁이 치열해지고 있음을 강조합니다. 올스테이트는 이로 인해 해고가 발생할 것으로 예상하지 않는다고 주장합니다. 그러나 일부에서는 고객 서비스 및 지원 분야의 하위 직급 직원들이 AI의 부상으로 인해 곧 일자리를 잃을 수 있다고 우려합니다.
AI의 한계와 잠재적 문제점
지반지는 AI가 생성한 결과물의 정확성을 인간 직원이 검토한다고 하지만, 이미 AI 기술이 많은 혼란을 야기한 사례가 있습니다. 예를 들어 의료 산업에서는 “환각”을 일으키는 AI 모델이 환자에게 잘못된 정보를 제공하는 경우가 발생했습니다.
건강 보험 회사인 UnitedHealthcare(유나이티드헬스케어) 또한 AI를 사용하여 부당하게 보험금 지급을 거절한다는 비판을 받고 있습니다. 실제로 유나이티드헬스케어는 알고리즘이 생명을 구할 수 있는 치료를 거부한 후 집단 소송에 직면해 있습니다. 경쟁사인 Cigna(시그나)는 최근 두 달 만에 30만 건 이상의 보험금 청구를 거부하고, 청구 검토에 건당 1분 20초밖에 투자하지 않았다는 혐의로 기소되었습니다.
올스테이트의 미래는?
올스테이트가 이러한 사례에서 교훈을 얻고 AI 기술의 많은 한계를 연구했는지는 아직 미지수입니다. 지반지는 인간의 소통을 AI 모델의 결과물로 대체하는 것을 옹호하면서도, 이 기술이 담당자들이 고객의 요구를 더 잘 이해할 수 있도록 해줄 것이라고 주장합니다.
그는 “일반적으로 보험 산업을 생각해 보면, 우리는 고객 중심적인 노력을 제대로 하지 못했어요. 그것이 제가 추구하고자 하는 바입니다.”라고 WSJ에 밝혔습니다.