AI 윤리 뉴스 브리프 (2024년 4월 셋째 주)

AI 윤리 뉴스 브리프 (2024년 4월 셋째 주)

1. 전쟁 기술을 거부하는 이들

최근 이스라엘의 가자지구 폭격에 AI 기술이 사용되면서, 구글과 아마존의 클라우드 컴퓨팅 사업인 '프로젝트 님버스'에 대한 노동자들의 반대가 커지고 있습니다. 이스라엘이 미성년자를 포함해 많은 민간인을 살해하는 가운데, AI 기술이 전쟁과 살상에 활용되고 있다는 우려가 제기되고 있습니다.

지난 3월 초 뉴욕에서 열린 이스라엘 테크 산업 관련 콘퍼런스에서 구글 직원 에디 햇필드는 "나는 집단학살, 아파르트헤이트, 감시를 위한 기술을 만들기 거부한다"고 항의했으며, 이후 구글에서 해고되었습니다. 그의 소속 단체인 '아파르트헤이트를 위한 기술은 없다(No Tech for Apartheid)'는 이스라엘 정부가 구글과 아마존의 클라우드 기술을 군사적으로 활용하고 있을 가능성을 지적하며, 그러한 활용을 방지할 장치가 없음을 비판합니다.

구글 딥마인드 내부에서도 이러한 우려의 목소리가 나오고 있습니다. 구글이 2014년 딥마인드를 인수할 당시 AI 기술을 군사 목적으로 사용하지 않기로 했으나, 이 원칙은 사실상 무력화되었다는 것입니다. 타임지 보도에 따르면, 이스라엘-가자 전쟁 중 구글과 이스라엘 국방부가 협력을 강화하려 했다는 내부 문건이 드러났습니다. 이는 2018년 구글이 미국 국방성과의 유사한 프로젝트 '메이븐'을 직원들의 저항 끝에 포기한 사례를 상기시킵니다. 햇필드는 구글이 자신을 해고함으로써 본보기를 삼으려 했다고 말하지만, 그의 항의에 공감하는 목소리가 늘어나고 있습니다. 이는 기술이 중립적일 수 없음을 보여주는 사례로, 기술의 방향성을 결정하는 데 있어 노동자의 역할이 중요함을 시사합니다.

2. ‘윤리적’ AI를 만드는 데 있어 데이터의 중요성

어도비(Adobe)는 작년부터 이미지 생성·편집용 AI 도구 파이어플라이(Firefly)를 도입하면서, 저작권 문제가 없는 데이터를 사용한다고 강조해왔습니다. 어도비는 자사가 운영하는 어도비 스톡 라이브러리 등 라이선스 문제가 해결된 자료로만 모델을 훈련시켰다고 주장합니다. 이는 경쟁사들이 인터넷에서 무단으로 수집한 콘텐츠를 사용한 것과 대조되는 접근입니다.

그러나 파이어플라이 구축에 사용된 이미지 중 일부는 미드저니 등 생성형 AI로 만든 것이었습니다. 어도비는 자사의 접근을 윤리적 우위로 강조해왔지만, 비판해온 경쟁 서비스의 이미지를 활용한 사실은 이러한 주장을 다시 생각하게 만듭니다. 이는 AI 윤리가 단순한 이진 분류 문제가 아님을 보여줍니다. 여러 층위와 단계에서 섬세한 고민이 필요하며, 기술 제품의 윤리적 설계를 논의할 때 다양한 관점을 고려해야 합니다.

3. 본인의 딥페이크 성착취물을 마주한 AOC의 싸움

미국 하원의 최연소 여성 의원인 알렉산드리아 오카시오코르테스(AOC)는 지난 2월, 본인이 등장하는 딥페이크 성착취물을 마주했습니다. 롤링스톤지와의 인터뷰에서 AOC는 그 경험과 그에 맞선 개인적 싸움, 그리고 관련 입법 노력에 대해 이야기했습니다.

4. AI에 맞서는 저술노동자들의 목소리

젠더 셰이드(Gender Shades) 프로젝트로 유명한 조이 부올람위니가 이끄는 알고리즘 정의연맹(Algorithmic Justice League, AJL)은 AI 기술로 인해 손해나 부당한 대우를 당한 저술노동자들의 목소리를 모으는 캠페인을 진행 중입니다. 이 캠페인에서는 출판작가를 대변하는 미국 작가조합(Author’s Guild)의 공개서한을 소개하며, AI 기업들에게 훈련 데이터 관련 허가를 받고 정당한 대가를 지급하라는 요구를 담고 있습니다. 국내에서도 이러한 목소리를 낼 수 있는 조직이 필요합니다.