충격적인 진실, AI가 만든 ‘빈곤 포르노’
자선단체 웹사이트에서 여러분의 마음을 아프게 했던 굶주린 아이의 사진이 실제가 아닐 수도 있다는 사실, 알고 계셨나요? 최근 글로벌 보건 연구자들은 어도비(Adobe)와 같은 스톡 이미지 회사들이 인공지능(AI)으로 생성된 ‘빈곤 포르노(poverty porn)’를 통해 이윤을 얻고 있으며, 비영리 단체들이 이를 기금 모금에 활용하고 있다고 지적했습니다.
벨기에 안트베르펜(Antwerp)에 위치한 열대의학연구소(Institute of Tropical Medicine)의 연구원 아르세니 알레니체프(Arsenii Alenichev)는 ‘랜싯 글로벌 헬스(Lancet Global Health)’에 발표된 논문에서, 글로벌 보건 커뮤니티에서 고통받는 이미지의 착취적 사용을 막기 위한 수년간의 노력에도 불구하고, 생성형 AI가 이 문제를 더욱 심화시키고 있다고 보고했습니다. AI 덕분에 이미지 생성이 훨씬 쉽고 저렴해졌기 때문입니다.
‘빈곤 포르노’란 무엇이며, 왜 문제인가요?
알레니체프 연구원과 공동 저자 소냐 드 라트(Sonya de Laat), 마크 한(Mark Hann), 패트리샤 킹고리(Patricia Kingori), 쿤 페터스 그리텐스(Koen Peeters Grietens)는 최근 링크드인(LinkedIn)과 엑스(X) 같은 다양한 소셜 미디어 사이트에서 100개 이상의 AI 생성 이미지를 수집했습니다. 이들은 많은 이미지가 “빈곤 포르노와 오래된 기금 모금 이미지의 감정적 강도와 시각적 문법을 그대로 재현한다”고 말합니다.
‘빈곤 포르노’라는 용어는 정확히 정의되어 있지는 않지만, 일반적으로 빈곤이나 고통을 과장하여 죄책감을 유발하고 기부를 유도하는 이미지나 영상을 의미합니다. 실제 이미지를 착취적으로 사용하는 것에 대한 우려는 이미 오래전부터 제기되어 왔습니다. 국경 없는 의사회(Doctors Without Borders/Médecins Sans Frontières, MSF)와 같은 존경받는 단체조차 2022년에 사진 윤리 문제에 대해 사과한 적이 있습니다.
2023년에는 학자들이 비영리 단체들이 기금 모금을 위해 영양실조 아동의 이미지를 착취적으로 사용하는 것을 비판했으며, AI 개발자들이 “사람들, 그들의 문화, 공동체에 대한 비학대적 묘사를 보장하겠다”고 약속했음에도 불구하고 AI 이미지에 내재된 편향성을 강조하기도 했습니다.
AI 이미지, 윤리적 딜레마를 심화시키다
같은 해, 국제앰네스티(Amnesty International)는 비판에 직면하여 시위자의 AI 생성 이미지를 삭제했습니다. 가짜 시위자를 보여주는 것에 대한 한 가지 변명은 AI로 생성된 사람들은 보복의 대상이 될 수 없다는 것이었습니다.
한편, AI 기업들은 이미지 기반 성적 학대를 허용하지 않겠다는 자발적인 약속을 했지만, ‘빈곤 포르노’나 허위 정보와 같은 다른 문제들을 실제로 다루는 콘텐츠 정책은 부족한 실정입니다.
알레니체프 연구팀은 소규모 단체들의 경우, 도덕적인 문구와 함께 고통받는 아이들, 농부, 환자들의 AI 생성 이미지가 전체 광고 캠페인을 이끌 수 있다고 지적합니다. 그리고 이 단체들은 실제 사람들을 보여주지 않기 때문에 고통을 묘사할 때 발생하는 일반적인 윤리적 문제에서 자유롭다고 믿는 경향이 있다고 합니다.
연구 저자들은 “이러한 추세의 가장 큰 문제는 어도비와 같은 세계적으로 영향력 있는 기술 기업들이 취약하고 가난한 흑인 및 유색인종의 몸을 묘사하는 고정관념적이고 착취적인 AI 생성 이미지로 이윤을 얻고 있다는 점”이라고 비판했습니다.
기술 기업의 책임과 이윤 추구
어도비는 이에 대해 어도비 스톡(Adobe Stock)이 크리에이터들이 콘텐츠를 업로드하고 라이선스를 부여할 수 있는 마켓플레이스이며, 제출 기준에 따라 생성형 AI를 허용한다고 설명했습니다.
스페인 말라가(Málaga)에 본사를 둔 크리에이티브 콘텐츠 플랫폼 서비스인 프리픽(Freepik)은 현재 AI 이미지를 필터링하는 기능을 제공합니다. ‘poverty’라는 키워드로 AI 생성 이미지를 검색하면 대부분 흑인 및 유색인종이 등장하는데, 이는 문제가 될 수도 있고 아닐 수도 있습니다.
프리픽의 최고 시장 개발 책임자 호세 플로리도(Jose Florido)는 인터뷰에서 회사가 콘텐츠 제작자와 구매자를 연결하는 플랫폼을 제공한다고 설명했습니다. 그는 “우리는 현재 규정에 따라 업로드되는 모든 것을 검토합니다. 현재 규정에 문제가 없고 수요가 있다면, 잠재적인 사용 방식에 대해서는 거리를 두려고 합니다. 왜냐하면 모든 유형의 이미지, 심지어 매우 편향된 이미지라도 잠재적으로 좋고 완전히 괜찮은 사용 사례가 있을 수 있고, 분명히 문제가 될 수 있는 사용 사례도 있기 때문입니다”라고 말했습니다.
즉, 프리픽은 법률이 요구하는 대로 이미지를 관리하지만, 명확하게 정의되지 않은 ‘빈곤 포르노’와 같은 우려는 플랫폼에서 이미지를 가져오는 사람들에게 맡겨진다는 의미입니다. 플로리도는 입법자들이 이 문제를 다루기로 결정한다면, 특히 국제적으로 통용되는 프레임워크의 일부라면 명확한 규칙을 환영할 것이라고 덧붙였습니다.
플로리도는 프리픽이 AI뿐만 아니라 이미지의 다양성을 높이기 위해 노력해왔다고 말했습니다. 그는 “과거에는 예를 들어 ‘CEO’를 검색하면 남성만 나왔습니다. 그래서 우리는 더 많은 다양성을 보여주기 위해 균형을 맞추고 있습니다”라고 설명했습니다. 하지만 그는 구글(Google)이 AI 이미지를 더 다양하게 만들려는 노력이 특정 역사적 인물에 대한 요청에서 ‘믿을 수 없을 정도로 다양한’ 결과를 초래했던 사례를 언급하며, 이는 결코 끝나지 않는 어려운 문제라고 지적했습니다.
스위스 베른(Bern)에 본사를 둔 디지털 콘텐츠 기업 페어픽처(Fairpicture)는 “품위 있고, 진정성 있으며, 고정관념이 없는” 사진 및 비디오 제작 서비스를 제공한다고 주장합니다. 이 회사의 웹사이트는 “클리셰를 제공하지 않으며” 모든 사진의 피사체에게 출연료를 공정하게 지급한다고 명시하고 있습니다.
기부 의도에 미치는 영향과 나아갈 길
생성형 AI가 예산이 부족한 단체들의 커뮤니케이션 및 마케팅 요구를 충족시킬 수 있지만, 이는 또한 대중의 신뢰를 침식하고 글로벌 보건에 해를 끼칠 수 있다고 연구자들은 말합니다.
더욱이 생성형 AI는 기금 모금에 적합하지 않은 것으로 보입니다. 2022년, 다른 학자 그룹은 합성(AI) 콘텐츠가 자선 기부에 미치는 영향을 조사했습니다. 그들은 사람들이 이미지가 가짜이거나 AI에 의해 생성되었다는 것을 알게 되면 “기부 의도에 부정적인 영향을 미친다”는 사실을 발견했습니다.
알레니체프 연구팀은 생성형 AI의 빠른 발전과 채택에는 책임감과 투명성이 필요하다고 주장합니다. 그들은 “AI 사용과 이미지의 기반이 되는 프롬프트는 공개되어야 하며, 특히 이러한 프롬프트는 AI 이미지를 통한 빈곤 포르노의 확산을 억제할 수 있습니다”라고 강조했습니다. 또한 “이제는 지역 사진작가와 예술가, 그리고 기존의 규범을 넘어선 글로벌 보건 표현을 창조하려는 그들의 노력을 지원하는 것이 매우 중요합니다”라고 덧붙였습니다.