일본산업뉴스요약

AI 병기, 인간의 뛰어난 지혜를 시험
미∙중∙러 개발 과열, 규제 난항

인공지능(AI)을 무인 병기(兵器)에 탑재해 스스로 판단해 적을 공격하는 ‘AI 병기’ 개발에 대한 규제를 둘러싼 논의가 활발해지고 있다. 일본 정부는 사람의 관여 없이 자율적으로 움직이는 살상 능력을 가진 병기 개발에 대해 국제적 규제를 마련해야 한다는 의견을 UN 회합에서 표명했다. 하지만 미국과 중국, 러시아 등은 이미 이러한 AI 병기 개발에 매진하고 있어, 국제 규제의 실현 전에 무조건적으로 배치가 이루어질 공산이 크다.

-- 인재 부족으로 매력 --
벌이나 개미떼가 큰 맹수에 달려드는 것처럼 셀 수 없을 정도의 많은 소형 무인기 무리가 항공모함이나 전차 부대를 습격한다. 아군의 항공 기지가 적의 미사일 공격을 받을 경우, 곧장 무인기가 날아올라 파괴된 활주로를 최단 시간에 복구할 수 있는 순서를 병사에게 지시한다. 이러한 상황은 먼 미래의 이야기가 아니다. 미국과 중국 등이 빠르게 개발을 추진하고 있는 AI 병기의 활용 계획이다.

중국군은 폐기 직전의 구식 탱크를 원격 조종이 가능한 로봇 탱크로 개조 하려 하고 있다. 한 자녀 정책으로 자녀를 군대에 보내지 않으려는 부모들이 많은 중국으로서는 꼭 필요한 연구라고 할 수 있다. 로봇 탱크에도 AI가 탑재된다면 사람의 조종이 불필요하다. AI 병기의 활용은 저출산으로 인해 심각한 인재난에 시달리는 일본의 자위대에게도 크게 매력적이다.

하지만 AI 병기는 높은 효능만큼 부작용도 크다. 만드는 방법과 그 사용 방법에 따라 전시국제법(戰時國際法)이 제창하는 인도적 배려가 거의 없는 살인 무인기(킬러 로봇)가 될 수 있다. 군이나 정부가 AI 병기의 능력을 과신해 쉽게 전쟁을 일으키거나, 정전 협상 기회를 놓치는 사태도 벌어질 수 있다.

AI 병기는 ‘제 2의 핵무기’라고도 일컬어지고 있지만 핵무기는 그 위력이 너무도 큰 반면 스스로 판단하고 스스로를 강화하는 일은 없다. 이에 반해 AI 병기는 계속해서 스스로를 개조∙강화하고, 같은 능력을 가진 아군을 대량으로 복제할 가능성도 있다. 핵의 양산에는 거대한 시설이 불가결하지만, AI 병기는 아무도 모르게 작은 연구 기관에서 개발할 수 있는 등 은폐도 용이해 “핵무기보다 규제가 어렵다”(미국의 키신저 전 국무장관)라는 지적도 있다.

이러한 AI 병기의 위험성을 고려해 시민단체는 반대 운동을 전개하고 있고 직원들의 반대로 기업이 군과의 협력을 중단하는 움직임도 있다.

이에 대해 미국 구글의 전 CEO 에릭 슈미트는 “AI 병기가 폭주해도 인간은 그것을 멈추게 할 능력이 있다”라고 주장한다. AI 병기를 이용할 때에는 반드시 사람의 판단이 개입되어야 하는 것을 필수 조건으로 하지 않는다면 민간 주도로 개발이 추진되고 있는 AI를 무기에 도입하는데 있어 민간 기술자의 협력을 얻을 수 없을 것이라는 문제 의식이 미군 내부에도 존재한다.

-- 떨칠 수 없는 폭주 우려 --
하지만 ‘미국 대 중국∙러시아’라고 하는 대립의 축에서 개발 경쟁이 과잉 되고 있는 가운데 AI 병기의 폭주에 대한 우려가 어디까지 해소될 수 있을지는 불투명하다.

가령 여론의 동향을 의식하는 미국이 AI 병기 사용 시, ‘인간의 판단’을 개입시키도록 하고 반대로 중국이 AI에게 공격 판단을 모두 맡겨버릴 경우, 중국군이 전쟁터에서 신속하게 의사 결정을 진행해 미군 부대를 격파해버리는 전개가 되어버릴 가능성이 크기 때문이다. 이러한 가능성이 있는 한 미국도 AI에게 판단을 맡겨버리는 유혹을 이기기 힘들 것이다. “AI 병기에 사람의 개입을 의무화하자”라는 판단은 착상으로서는 당연한 판단이지만 실질적으로는 그렇게 단순하지 않다.

인간은 인간이기 때문에 ‘적에게 제압당하는 공포’에 사로잡혀 ‘보다 안전함을 원하는 욕구’로 인해 새로운 무기를 개발한다. 그 결과 핵무기가 만들어졌고 지금은 핵보다도 심각한 AI 병기가 만들어지려고 하고 있다.

만들어진 지 74년을 맞이하는 핵무기가 아직 두 번밖에는 사용되지 않은 것은 핵으로 인한 거대한 재앙을 세계가 두려워했기 때문이다. AI 병기에 대해서도 우선은 그 위협과 심각성에 대해 국제 사회가 공통의 의식을 갖는 것이 규제 제정으로의 첫 걸음이 될 것이다. 인간의 뛰어난 지혜가 전혀 새로운 과제 앞에 시험 받고 있다고 할 수 있다.

 -- 끝 --