스티븐 호킹부터 엘론 머스크까지 인공지능(AI)에 관한 세계 최고의 지성들은 AI가 인류에 실존적 위협을 제기한다고 우려한다.
하지만 최근에 나온 한 책은 우리가 두려워해야 할 것이 자각을 하고 인간 주인에게 반기를 드는 로봇이 아니라고 말한다. 우리가 만든 목표를 너무 능숙하게 처리해서, 무심코 잘못된 목표를 주었을 때 인류를 말살시킬 수 있는 기계다.
버클리 대학의 스튜어트 러셀 교수가 쓴 책, "양립할 수 있는 인간: AI와 통제의 문제(Human Compatible: AI and the Problem of Control)"에 나온 이야기다. 러셀 교수는 머신러닝으로 인한 변화를 연구하는 전문가다.
그는 BBC와의 인터뷰에서 "'할리우드 밈(The Hollywood meme)이라는 책에서는 항상 기계가 자연스레 의식을 갖게 되고, 인간이 싫다는 판단을 내려 인류를 죽이려고 한다"고 말했다.
하지만 로봇은 감정이 없으므로 "그것은 전혀 걱정할 일이 아니다"고 했다.
"우리가 걱정해야 할 것은 로봇이 가지는 사악한 의식이 아닙니다. 능력입니다. 우리가 잘못 지정한 목표도 아주 훌륭하게 수행해내는 그 능력이죠."
러셀 교수는 'BBC 투데이(BBC's Today)' 프로그램에서 AI가 제기할 수 있는 진짜 위협에 대한 가상의 예를 들었다.
지구의 기후를 조절할 수 있는 강력한 AI 시스템을 갖고 있다고 상상해 보자. 그리고 우리는 이산화탄소 수치를 산업화 이전으로 되돌리기 위해 이 시스템을 사용하려 한다.
"그리고 이렇게 말하겠죠. '인류를 해치는 것 빼고 하고 싶은 것을 다 해보라.' 그럼 시스템은 무엇을 할까요? 인류가 남아나지 않을 때까지 아이를 적게 낳도록 인류를 설득할 겁니다."
이 예는 AI가 인간이 미처 모든 걸 다 고려하지 못한 지시에 따라 행동할 때 벌어질 수 있는 위험을 강조
한 것이다.
출처남깁니다
https://www.google.com/amp/s/www.bbc.com/korean/international-50231631.amp