일본산업뉴스요약

2020년 AI 예측 (5)
도마에 오른 사회에서의 윤리 규범
2초 만에 집필, 가짜뉴스 범람 우려

‘2025년까지 도쿄의 상공을 하늘을 나는 택시가 비행하게 될 것이다’. 기자가 이러한 문장을 사이트에 입력하자 AI가 그 다음 문장을 만들어냈다. ‘이미 2,000명의 드라이버가 승인을 받았다. 하늘을 나는 택시는 드론을 이용해 이용자를 목적지까지 운송하는 서비스로, 개발자인 샐릿 씨는---. ‘

AI가 이러한 문장을 만드는데 걸린 시간은 겨우 2초. 존재하지 않은 개발자와 개발 전략 등 마치 실제 기사와 같은 문장이 이어졌다. 클릭할 때마다 가짜 기사들이 완성되었다.

기자가 이용한 것은 미국의 연구기관인 오픈AI가 2019년 2월에 개발한 AI, ‘GPT-2’. 인터넷에 있는 800만개의 영문 페이지를 학습해 키워드를 바탕으로 자동으로 문장을 만들어낼 수 있도록 했다. 문장은 대부분 거짓이라는 것을 쉽게 알 수 있는 것이었지만, 많은 가짜뉴스를 만들어낼 가능성이 있다는 점 때문에 미국 내에서 논란을 불러일으켰다.

편리한 AI이지만, 부정적 측면도 있다는 것이 최근 밝혀지고 있다. 하지만 이를 방지할 통일된 규범이 없어 기업의 노력에 맡겨지고 있다.

AI개발 스타트업 기업 ABEJA(도쿄)는 2019년 7월, AI 사용 방법을 협의하는 위원회를 사내에 설립. 한 달 반에서 두 달에 한번, 저널리스트와 연구자들로 구성된 위원이 모여 업무에서 발생되는 과제를 논의하고 있다.

예를 들어 ABEJA가 추진하는 소매점용 서비스를 위해 성별 및 연령을 분석할 때, 사생활성이 강한 얼굴을 어디까지 판단 재료로 사용할지 등에 대해 논의한다. 직접적으로는 실적으로 연결되지 않은 조직이지만, 오카다(岡田) 사장은 “윤리적으로 문제가 있는 기술은 장기적으로는 존속되지 않는다”라고 단언한다.

‘나쁜 AI’를 경영 리스크라고 생각해 기업이 스스로 규범을 마련하는 것이 세계적인 흐름이다. 구글은 2018년 6월에 ‘AI병기를 만들지 않겠다’ 등의 방침이 명기된 개발 규칙을 책정했다. 사원들 사이에서 AI가 군사 목적으로 이용되는 것을 우려하는 목소리가 있어 경영 측이 이에 대응해야만 했다.

일본에서는 ABEJA 외에도 미즈호은행과 소프트뱅크가 공동으로 설립한 개인용 금융서비스업체, J스코어(도쿄)가 사용 지침을 가지고 있다. J스코어는 금융 심사를 위해 이용자를 점수화하고 있지만, 이 데이터를 취직이나 결혼서비스 등에 유용되지 않도록 정하고 있다.

AI의 악용 문제 해결을 비즈니스 기회로 보는 기업들도 나오고 있다. 사진편집 소프트웨어 ‘포토샵(Photoshop)’ 등을 판매하는 미국의 Adobe는 가짜 영상이나 동영상을 찾아내는 기술을 개발 중이다. 디지털 영상을 구성하는 색 입자의 변형을 발견해 가공 흔적을 찾아낸다. 나쁜 AI에게는 착한 AI로 대항한다는 전략이다.

AI를 법률로 규제하려는 움직임도 있지만, “AI는 도구에 불과하기 때문에 차별이나 편견을 만들어내는 것은 AI를 이용하는 사람이다”(토론토대학의 힌튼 교수)라는 지적도 있다. 양산형 자동차가 탄생한 100년 전에 교통 사고가 잇따라 발생했던 것처럼, 이노베이션은 사회에 대한 적합성에서 시련에 직면한다. 만인에게 받아들여질 때 비로소 AI는 산업 인프라로서의 무게를 더하게 된다.

 -- 연재 끝 --