일본산업뉴스요약

Start Up Innovation/ Science
AI, 문명의 이기(利器)인가, 위협인가?
인간의 문제점 드러나

인공지능(AI)는 업무 방식부터 여행의 스타일, 법의 집행에 이르기까지 인류 문명을 바꾸려 하고 있다. AI가 진화해 일상 생활에 침투함에 따라, 위험한 상황을 초래할 가능성도 보이기 시작했다. 과학∙IT(정보기술) 관련의 리더를 통해 누구나가 직면해야 할 명제의 제언을 소개하겠다.

■ 호킹 박사
휠체어의 천재 과학자로 알려진 영국 물리학자인 고(故) 스티븐 호킹 박사는, AI는 언젠가는 제어 불능이 될 것이라고 보고 있었다.

“이러한 테크놀로지가 금융 시장의 허를 찌르고 인간의 연구자들보다 뛰어난 발명을 통해 인간의 리더를 조작함으로써 우리에게는 이해조차 되지 않는 무기를 발명하는 것을 상상하는 것은 어려운 일이 아니다. AI의 단기적인 영향은 누가 지배하느냐에 좌우되지만, 장기적인 영향은 처음부터 지배할 수 있느냐에 따라 결정된다”.

■ 일론 머스크 씨
미국 테슬라의 일론 머스크 CEO의 트위터는 물의를 빚는 내용이 많지만, AI에 대한 경고는 충격적이면서도 동시에 설득력이 있다. “우리들의 존속과 관련해 최대의 위협이 되는 것이 무엇인지를 생각한다면 그것은 아마도 AI일 것이다. 이것이 바로 AI에 대해 신중해야 할 이유인 것이다. 인간이 어리석은 행위를 저지르지 않도록 국가나 국제사회 레벨에서 어떤 식이든 규제를 설치해 감시해야 된다고 생각하는 과학자들이 늘고 있다”

“식품 및 의약품, 항공기나 자동차처럼 AI와 로봇에도 규제가 필요하다. 공공의 리스크는 공적 기관이 감시하지 않으면 안 된다. 미국연방항공국(FAA)을 귀찮게 한다고 해도 비행기의 안전성은 높아지지 않는다. 규제에는 정당한 이유가 있기 때문이다”

■ 팀 쿡 씨
미국 애플의 팀쿡 CEO는 이용자의 프라이버시를 적극적으로 옹호해 왔다. 사회 문제를 윤리적인 어프로치로 해석해 평가하는 AI를 개발하는 것은 애플과 같은 기업이 생각하지 않으면 안 되는 미래 세대에 대한 중대한 책임이라고 주장한다.

“인간의 속성을 대량으로 수집함으로써 AI를 진화시키는 것은 효율적인 것이 아니라 태만한 것이다. AI를 정말로 스마트화시키기 위해서는 프라이버시를 포함한 인간의 가치를 존중하도록 하지 않으면 안 된다. 이 점을 간과한다면 큰 위험이 따른다. 굉장한 AI와 굉장한 프라이버시의 기준은 양립이 가능하다. 이것은 단순한 가능성이 아니라, 책임인 것이다. AI 개발에 있어서 배려 및 독창성, 창의 연구를 희생해야 되는 것은 아니다”.

■ 순다 피차이 씨
미국 구글은 수 년 전부터 AI와 뉴럴 네트워크(신경회로망)를 활용하고 있다. 구글의 피차이 CEO는 “AI는 고도로 발전하고 있어 이용에는 책임이 따른다”라고 말한다.

“이런 강력한 테크놀로지를 이용하기 위해서는 그와 더불어 강력한 의문이 생긴다는 것을 당사는 이해하고 있다. AI를 어떻게 개발해 활용할 지는 앞으로의 사회에 방대한 영향을 미치게 될 것이다. 당사는 이것을 바르게 이해해야 할 책임을 통감하고 있다”

■ 사티아 나델라 씨
미국 마이크로소프트의 나델라 CEO는 AI에게 인간의 편견이 주입될 위험에 대해 경종을 울리며 어플리케이션 개발에 있어서 신중한 어프로치를 요구하고 있다.

“테크놀로지의 개발은 저절로 되는 것이 아니라 우리 인간이 설계를 선택함으로써 이루어 진다. 이런 설계의 선택은 원칙 및 윤리에 기반하지 않으면 안 된다. 이것이야 말로 우리들 모두가 원하는 미래를 얻을 수 있는 최선의 방법이다”

이런 문제의 일단(一端)은 기계학습 시스템과 AI의 구성 요소인 인간의 언어가 원래부터 한쪽으로 치우쳐 있다는 것이 그 이유라고 나델라 씨는 설명한다.

“AI의 근본적인 문제 중 하나, 특히 언어 이해를 둘러싼 문제는 인간 데이터의 코퍼스(자료체)로부터 배운 언어를 선택하는 모델에 있다. 안타깝게도 이 인간 데이터의 코퍼스는 편견으로 가득 차있기 때문에 언어 모델을 구축할 때에는 편견을 없애는 툴(Tool)에 투자하지 않으면 안 된다”

■ 팀 버너스-리 씨
월드와이드웹(WWW)의 발명가인 팀 버너스-리 씨 등 일부 전문가는 금융 분야에서 AI가 널리 사용되게 된다면 비참한 사태에 빠질 수 밖에 없다고 우려하고 있다.

“AI가 주택론의 심사 등에서 판단을 내리게 된다면 큰 문제이다. 어떤 기업을 매수할 지를 정하거나, AI가 스스로 창업하거나 지주회사를 설립 또는 이런 기업을 경영하기 위해 자신의 복제 회사를 만들거나 한다면 큰 일이다. AI가 어떻게 해야 공정해 지며 그것이 어떤 것인지를 컴퓨터에 설명하는 방법을 알게 되었다고 느낄 수 있을 때까지 이러한 AI 기업간의 도태는 계속될 것이다”.

 -- 끝 --