구글은 사악해지지 않았다

구글이 미국 국방부의 드론 작전 ‘프로젝트 헤이븐’에 참여한다는 것이 알려진 뒤 구글 직원들은 탄원서를 내 회사를 압박했다. 2013년 미 해군의 무인 전투기가 항공모함 갑판에 상륙하고 있다. AP 연합뉴스

2000년 10월12일 오전 9시30분께 미 해군 구축함 ‘유에스에스(USS)콜’이 급유를 위해 예멘의 아덴 항구에 정박했다. 급유는 10시30분께 시작됐다. 오전 11시18분께 소형 보트에 탄 남성 2명이 손을 흔들며 다가왔다. 곧이어 귀를 찢는 굉음과 함께 항구가 들썩였다. 테러단체 알카에다의 자살폭탄 공격이었다. 이 사건으로 미 해군 장병 17명이 목숨을 잃었고, 39명이 다쳤다.

지구촌이 새해를 축하하던 지난 1월1일, 예멘 수도 사나에서 동북쪽으로 약 173㎞ 떨어진 마리브주에서 미군한테 오랜 기간 쫓겨온 알카에다 조직원 1명이 목숨을 잃었다. ‘USS콜’ 테러 사건의 배후로 지목됐던 자말 알바다위다. 이 사건은 올해 들어 미군이 무인항공기(드론)를 동원해 ‘표적 공격’을 감행한 첫 번째 사례다.

‘빠르고 효율적으로’, 프로젝트 메이븐

2001년 9·11 동시 테러 직후부터 미군은 드론을 이용해 원거리 표적 공격을 벌여왔다. 파키스탄과 아프가니스탄, 이라크, 예멘, 소말리아, 리비아, 시리아 등지에서도 드론을 이용한 폭격 작전은 끊이지 않았다. 드론 폭격은 미군에 위험부담이 전혀 없지만, 작전 과정에서 민간인 피해는 지속적으로 생겼다. 미국 언론단체 ‘탐사보도국’(TBIJ)이 집계한 자료를 보면, 2004년 1월 이후 확인된 드론 공격은 모두 6361차례로, 이로 인한 사망자는 적게는 8327명에서 많게는 1만1897명으로 추정된다. 이 단체는 “사망자 가운데 적게는 760명에서 많게는 1667명이 민간인, 이 가운데 최소 253명에서 382명은 어린이로 파악됐다”고 전했다.

드론을 활용한 군사작전의 1차적 목표는 정보 수집과 정찰이다. 랩터·글로벌호크 등 미군이 보유한 드론은 한 번 비행으로 장시간 동안 작전지역을 샅샅이 촬영할 수 있다. 이렇게 수집된 영상정보는 전문가들이 장시간에 걸쳐 상세하게 분석하는 과정을 거친다. 이를 통해 목표 지점의 차량 흐름과 인물의 이동 경로 등을 세밀하게 파악한 뒤 ‘표적 공격’에 착수하게 된다. 문제는 분석에 시간이 오래 걸리다보니, 현장 상황이 바뀌는 경우가 많다는 점이다. 따라서 드론이 찍은 영상을 분석하는 작업을 최대한 빠르고 효율적으로 마무리하는 게 미군의 당면 과제였다. 그래서 나온 게 ‘프로젝트 메이븐’이다.

미 국방부가 드론 작전에 인공지능 기술을 도입하는 내용을 뼈대로 한 ‘알고리즘 전투를 위한 교차작용 개발팀’을 발족한 것은 2017년 4월로 알려졌다. 이 팀이 인공지능과 머신러닝 등 최첨단 기술을 접목해 드론이 찍은 영상을 최대한 빠르게 분석해 활용하는 것을 목표로 하는 프로젝트 메이븐을 주도하고 있다. 출범 당시 이 프로젝트의 핵심 표적은 이슬람국가 무장세력이었다.

프로젝트 메이븐의 존재가 외부에 공개된 것은 2017년 7월께다. 이 프로젝트 책임자인 드류 쿠커 미 해병 대령은 2017년 7월21일 미군 매체 <국방뉴스>와 한 인터뷰에서 “인간과 컴퓨터가 공생하면 목표물을 식별하는 무기체계의 능력을 더욱 끌어올릴 수 있다”며 “궁극적으로 화상 분석관이 지금보다 2배, 3배까지 목표물을 빠르게 식별할 수 있도록 하는 게 우리 목표”라고 말했다. 그는 이어 “인공지능 프로그램이 이른 시일 안에 전투 현장에서 목표물을 선정하는 건 아니다. 현재로선 인공지능 프로그램이 인간 분석관을 지원하는 업무를 맡게 될 것”이라고 강조했다.

문 대통령과 막판까지 경합

영상 분석 시간을 단축하는 게 프로젝트 메이븐의 핵심 목표라면, 현장에서 무기와 위험 인물을 가려낼 수 있도록 인공지능을 훈련해야 한다. 낯선 물체나 인물도 이미 알려진 닮은 것과 비교해 식별해낼 수 있도록 이른바 ‘딥러닝’이 필요하다. 이런 식으로 인공지능 기술을 활용한다면 다양한 방식으로 ‘응용’도 가능해 보인다. 미국 군축·평화 전문매체 <핵과학자협회보>는 2017년 12월21일 잭 새너핸 미 공군 중장의 말을 따 “프로젝트 메이븐은 일종의 시험 프로젝트이자, 개척자 구실을 하게 될 것”이라며 “미 국방부 활동의 전 영역에 인공지능 기술이 도입될 수 있도록 촉매제가 돼야 한다”고 전했다.

프로젝트 메이븐 공개 초기, 드론이 찍은 영상을 인식·분석하는 과정에 쓰일 인공지능 알고리즘을 누가 개발하는지는 알려지지 않았다. 하지만 인공지능 분야에서 구글이 가장 앞서나간다는 점에서 ‘의심’을 사기에 충분했다. 구글이 실제 이 프로젝트에 참여하는 것은 정보통신 전문매체 <기즈모도>가 2018년 3월 보도하면서 세상에 알려졌다. 본격적인 논란이 시작된 것도 이 무렵부터다.

“우리는 구글이 전쟁 관련 사업에 참여해서는 안 된다고 믿는다. 따라서 프로젝트 메이븐 참여를 철회하고, 구글과 구글 협력업체가 앞으로 다시는 전쟁 관련 기술 개발을 하지 않을 것임을 분명히 밝히도록 요구한다.”

지난해 4월 구글 직원 4천여 명이 순다르 피차이 최고경영자 앞으로 보내는 공개 탄원서에 서명했다. 프로젝트 메이븐 참여는 ‘사악해지지 말자’는 구글의 창업 신조에 반한다는 주장이었다. 회사 쪽이 별다른 움직임을 보이지 않자, 5월에는 10여 명이 항의 표시로 사직서를 냈다. 결국 구글 경영진은 7월에 “2019년 계약이 만료되면 프로젝트 메이븐 참여를 중단할 것”이라고 분명히 했다. 또 “인간에게 위해를 가하거나 그럴 가능성이 있는 기술을 개발하지 않겠다”고 못박았다. 무기나 감시용으로 인공지능 기술을 발전시키지 않겠다는 점도 밝혔다. 탄원서에 서명한 구글 직원 4천여 명이 일궈낸 값진 승리였다.

미국 군축·평화 연구단체 ‘군축협회’(ACA)가 지난 1월10일 발표한 ‘2018 올해의 인물’ 수상자로 ‘익명의 구글 직원 4천여 명’을 선정한 것도 이 때문이다. 지난해 12월7일부터 올 1월7일까지 한 달 동안 온라인 투표로 진행된 ‘올해의 인물’ 선정 작업에 70여 개국에서 1200여 명이 참가했단다. 지난해 남북-북미 대화를 이끌어내며 한반도와 동북아의 긴장을 낮춘 공로를 인정받은 문재인 대통령이 막판까지 경합을 벌인 것으로 전해졌다.

한국, 자동화 무기 선두 주자 중 하나

인간의 판단과 통제가 배제된 무기 사용에 대한 국제사회의 우려는 프로젝트 메이븐 탄생 이전에도 있었다. “인공지능을 활용한 자동화한 무기가 민간인 학살 등 전쟁범죄에 사용된다면 그 책임은 누구한테 물어야 하는가”란 질문이 핵심이었다. 2013년 4월 세계 각국의 평화단체가 스위스 제네바 유엔 본부에 모여 전면 자동화한 무기 사용을 금지하는 국제협약 체결을 위한 ‘킬러 로봇 중단 캠페인’을 시작한 것도 이 때문이다. 세계적인 인권단체 ‘휴먼라이츠워치’(HRW)는 캠페인 5주년을 맞은 2018년 4월 내놓은 자료에서 중국·이스라엘·러시아·영국·미국과 함께 이 분야의 선두 주자로 한국도 포함시켰다.

정인환 기자 inhwan@hani.co.kr