건강하고 행복한 삶을 위한 2029 기계가 멈추는 날

이 책은 AI가 영화처럼 인간의 지능을 넘어설 수 있을지에 대한 이야기를 담고 있습니다. 막연하게 뉴스와 광고를 통해 과장된 정보를 접했을 때는 두려움에 휩싸이기도 합니다. 기계가 인간을 정복하는 시대가 올까 하는 두려움입니다. 하지만 이 책을 통해 기계가 인간의 지능을 넘어서기에는 아직도 풀어야 할 숙제가 많이 남아 있다는 걸 알게 되어 한편으로 안심이 되기도 합니다. 또한 한편으론 아쉽기도 합니다.

 

인간이 해결하지 못한 수많은 문제를 AI가 해결해 준다면 얼마나 좋을까요? 기후문제와 빈곤, 전쟁, 암등을 말입니다. 지금 인류는 인류전체의 생존을 위한 기후위기라는 거대한 문제에 봉착해 있습니다. 어쩌면 우리 인류는 멸망할지도 모르는 지경에 이르렀지만 한쪽에서는 전쟁을 벌이고 있고 지구의 심장인 아마존은 불태워지고 있습니다. 과연 인간은 자신을 파멸로 이르게 하는 이런 일들을 왜 벌이는 걸까요?

 

인간의 탐욕은 자신을 결국 죽음으로 이르게 한다는 것을 모르는 것일까요? 인간의 탐욕은 눈을 멀게 합니다. 만약 AI가 인간의 탐욕을 갖게 된다면 너무 끔찍하지 않을까요? 영화처럼 기계는 인간을 지배하고 인간은 불멸하기 위해 자신을 기계로 만들지도 모릅니다. https://www.yes24.com/Product/Goods/102277928

건강하고 행복한 삶을 위한 개리 마커스의 2029 기계가 멈추는 날 탐구

“AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다!” _에릭 슈미트 “

AI 연구는 악마를 소환하는 일이다!” _일론 머스크

유토피아와 디스토피아의 갈림길에 선 AI의 현실을 날카롭게 파헤친다! 〈2001: 스페이스 오디세이〉, 〈블레이드 러너〉, 〈HER〉… 수많은 영화가 인간과 인공지능의 공존하는 세계를 그려냈다. 그리고 다양한 이야기와 결말을 통해 유토피아와 디스토피아의 모습을 보여줬다. 영화 속 현실이 실현될 가능성은 점점 더 커지고 있다. 적어도 뉴스와 광고에서 나오는 AI를 봤을 땐 말이다.

 

2018년 1월 15일, 미국 [뉴스위크]는 커다란 헤드라인을 걸고 이렇게 말했다. ‘인간을 능가하는 로봇의 읽기 능력! 수백만 개의 일자리가 위험에 처했다!’ 실제로는 무슨 일이 일어났을까? 마이크로소프트와 알리바바에서 만든 인공지능 프로그램 스쿼드(SQuAD)가 독해 테스트에서 극히 제한적이고 특정한 영역의 문제를 해결하는 데 인간 수준의 성과를 달성했다. 이전에는 인간의 능력에 한참 못 미치는 수준에 머물렀던 과제에서 수치로 보면 82.136%에서 82.65%라는 아주 미비한 진보를 이룬 것이었다.

 

하지만 그들은 보도자료를 통해 “사람처럼 서류를 읽고 문제에 답할 수 있는 AI를 만들었다.”라고 발표했다. AI가 인류세에 이정표를 그을 것이라는 데 이견은 없다. 다만 어떤 영향을 미칠 것이냐에 대한 논쟁적 이슈가 끊이지 않고 있다. 구글의 전 CEO 에릭 슈미트는 “AI가 기후 변화, 빈곤, 전쟁, 암과 같은 문제들을 해결할 것”이라고 선언했다. 엑스프라이즈(XPRIZE)의 설립자 피터 디아만디스도 강인공지능(Strong AI)이 “우리를 풍요의 피라미드 꼭대기로 쏘아 올려줄 것이 분명하다.”라고 말했다.

 

반면 스티븐 호킹은 AI가 “우리 문명 최악의 사건”이 될 수 있다고 경고했고 일론 머스크는 AI 연구가 “악마를 소환하는 일이며 핵무기보다 해로운” 위험이 된다고 주장했다. 중요한 것은 이들이 말하는 AI가 정확히 어떤 AI인가라는 점이다. 또 그들이 말하는 일들이 벌어질 정도로 AI가 무언가를 실제 할 수 있는가를 물어야 한다. MIT 출신의 저명한 인지과학자 게리 마커스와 뉴욕대학교 쿠란트 수학연구소의 컴퓨터공학자 어니스트 데이비스는 지금의 AI 현실에 대해 “AI를 둘러싼 과대 선전에도 불구하고 인간의 지능과 능력을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않았다.”라고 지적한다.

 

그리고 인간이 원하는 미래를 설계하는 데 필요한 AI를 가까운 미래에 실현하기 위해서는 지금 당장 접근법을 바꿔야 한다고 주장한다. 1억 대 판매된 아마존의 알렉사, 구글의 자율주행차, IBM의 왓슨… 인간이 예측한 AI의 성장 속도는 왜 빗나갔는가? 알고리즘으로 움직이는 기계는 여기서 멈춰 설 것인가, 진화할 것인가? 최근 AI 분야의 눈에 띄는 진보는 하드웨어의 비약적인 발전과 함께 기가바이트나 테라바이트 단위의 대규모 데이터 세트를 기반으로 이뤄졌다. 특히 빅데이터의 등장으로 데이터를 분석하는 알고리즘, 즉 ‘딥러닝’이라는 강력한 통계 엔진이 그 중심에 있다.

 

거대한 데이터베이스에 의존해 머신러닝 방식으로 초인간적 수준으로 문제를 해결해 내는 기계들이 우후죽순 등장하기 시작했다. 전 세계 1억 대 이상 판매된 아마존의 알렉사와 구글의 자회사 웨이모(Waymo)의 자율주행차, IBM의 왓슨이 대표적인 예다. 하루아침에 대변혁을 이룰 것만 같았던 화려한 등장이 무색하게도 모두 1년도 채 지나지 않아 실망스러운 성적표를 받았다. 예기치 않은 방식으로 너무 손쉽게 개인정보를 유출하는 사건을 일으킨다거나 흐린 날씨나 표지판 혼동 등 변수에 대응하지 못해 교통사고가 벌어지기 일쑤고 가슴 통증이라는 증상에 평범한 의과대 1학년 생도 내놓을 수 있는 진단(심근경색, 협심증, 대동맥박리)을 내놓지 못하는 문제로 말이다.

 

『2029 기계가 멈추는 날』의 저자인 게리 마커스와 어니스트 데이비스는 데이터가 더 풍부해지고 컴퓨터 클러스터의 속도가 더 빨라지고 천문학적 규모의 투자가 더 많아진다고 해도 해결할 수 없는 근본적인 문제가 남아 있다고 말한다. 바로 딥러닝 기반의 기계가 지능 활용에 가장 기본이 되는 상식과 추론 영역의 한계를 갖고 있다는 사실이다. “진정한 지능에는 추론, 언어, 유추가 필요하지만 현재의 기술로는 이들 중 어떤 것도 제대로 처리하지 못한다. 예를 들어 우리에게는 아직 법률 계약을 확실히 이해할 수 있는 AI 시스템이 없다.

 

단순 패턴 분류만으로는 충분하지 않은 문제이기 때문이다. 딥러닝에게는 넷플릭스에서 오래된 영화들의 줄거리를 적절히 요약해 주기를 기대하는 것조차 지나친 요구다.” - 본문 중에서 인공지능(Artificial Intelligence)이라는 말을 만든 존 매카시 교수는 1959년 처음으로 AI와 상식 문제에 대한 주의를 촉구했다. 추상적 지식을 통합시킬 직접적인 방법이 없는 딥러닝은 대개 이 문제를 외면해 왔다. 단기적인 성과를 보여줄 수 있는 빅데이터에 대한 집착이 AI의 진보를 위해 해결해야 하는 훨씬 더 어렵고 장기적인 문제, 즉 기계에게 세상의 다양성과 복잡성을 가르치는 법에 대한 관심을 앗아갔다.

 

이것이 바로 AI가 인간이 예측한 성장 속도보다 뒤처져 아직 제 궤도에 오르지 못한 이유다. 두 저자는 지금보다 더 성장한 단계에 도달한 후 돌이켜 보면 AI의 전환점은 2012년에 일어난 딥러닝의 재탄생이 아니라 상식과 추론 영역에서의 ‘딥 언더스탠딩’(deep understanding), 즉 심층적 이해에 대한 문제의 해결점이 보이는 순간임을 깨닫게 될 거라고 주장한다. 기술의 변혁은 10년이 걸릴지, 100년이 걸릴지 아무도 모르지만 추론과 상식적 가치관, 건전한 엔지니어링 응용에 토대를 둔 ‘인간이 신뢰할 수 있는 AI’로 탈바꿈할 때에야 비로소 시작될 수 있다는 것이다.

 

스티븐 핑커, 에릭 브린욜프슨, 노엄 촘스키… 세계적 석학들의 강력 추천! AI 분야 최전선에 선 두 전문가가 전하는 AI 현주소와 인간과의 공존을 위한 장밋빛 제언! AI 분야 최전선에서 회의론적이지만 동시에 건설적인 담론과 과제를 제시해 온 두 저자의 첫 기념비적인 책 『2029 기계가 멈추는 날』에 비즈니스와 학계, 저명 매체의 뜨거운 찬사가 쏟아졌다. 스티븐 핑커, 노엄 촘스키, 에릭 브린욜프슨 등 세계적인 석학들이 인공지능에 관한 최고의 지침서로 단연 이 책을 꼽았다.

 

지난 10여 년 동안 AI를 에워쌌던 과대 선전에 대한 반가운 해독제이자 앞으로 세상에 엄청난 영향력을 미치게 될 변혁을 이해하는 데 귀중한 가이드라고 강조했다. 세계적인 석학들의 찬사에서도 엿볼 수 있듯 이 책은 단순히 AI의 현 실태를 분석하고 평가하는 데 머물지 않고 인간과의 공존을 위한 건설적인 전략과 장밋빛 제언을 전한다. “인간 전문가의 유연성과 강력한 직관에 비견되는 소프트웨어가 기계의 순수한 연산력과 결합된다면 과학적 발견의 속도 자체는 대단히 빨라질 것이다.

 

이 시점이 되면 단 한 대의 고급 컴퓨터가 고도의 훈련을 받은 인간 집단이 해내는 일을 복제하거나 우리 인간은 할 수 없는 일들을 할 수도 있다. 이처럼 발전된 형태의 AI라면 방대한 양의 신경 데이터와 복잡한 인과 추론을 이용해 ‘두뇌가 어떻게 작동하는지’(지금까지 알려진 것이 거의 없는 영역), ‘정신 질환 치료제를 어떻게 만들어야 하는지’(지난 30년간 거의 진전이 없는 분야) 등에 대해 알아낼 수 있을 것이다. 뛰어난 과학적 기량을 갖춘 AI가 농업과 청정에너지 분야에서 더 효율적인 기술을 고안하는 데 도움을 주는 일도 영 터무니없는 생각이 아니다.

 

물론 이런 일들을 할 수 있는 범용지능을 가진 AI를 만드는 일이 쉽지는 않다. 아니 정확히 말하면 대단히 어렵다. 그래서 이런 일들이 가까운 미래에 실현되기란 불가능하다. 하지만 시기의 문제일 뿐 결국은 실현될 것이다.” - 본문 중에서 이 책을 통해 두 저자가 말하고자 하는 메시지는 분명하다. 지금 우리는 AI와 공존하는 세상으로 가는 길 위에 있으며, 다음에 올 순간이 무엇이든 우리는 그것을 안전하고, 믿을 수 있고, 가능한 한 인류에게 유용한 방향으로 나아가도록 최선을 다해야 한다는 것뿐이다.

 

비즈니스, 경제, 학계 등 폭넓고 다양한 영역에서 새로운 판을 창조하게 될 AI에 대한 관심은 더욱더 뜨거워지고 있다. 상상하지 못한 수준의 세상이 어떤 식으로 펼쳐질지, 또 그 미래가 유토피아일지, 디스토피아일지 궁금한 독자라면 이 책을 절대 놓쳐서는 안 될 것이다. 나는 이 책이 나오기를 아주 오랫동안 기다렸다. 게리 마커스는 항상 현대 AI 트렌드의 선정주의(sensationalism)를 견제하는 데 앞장서 왔다. 그 흐름은 1960년대와 1980년대에도 늘 있었다. AI에 대한 찬사는 과거에도 있었으며 늘 ‘인공지능의 겨울’(AI Winter)이 뒤따랐다.

 

두 저자는 독자들에게 현실적인 설루션을 제시한다. 딥러닝과 실제 적용 사례를 통해 현재의 AI가 얼마나 제한적으로 작동하는지 비판적으로 평가하면서도 어떻게 해야 AI가 더 좋은 방향으로 충분히 실현될 수 있는지 그 방안을 제시한다. _ 티 닐드(아마존 독자)

 

다단계 신경망을 활용한 딥러닝 방식의 AI에서 (상황이나 문제를) 정말 이해할 수 있는, 즉 딥 언더스탠딩이 가능한 AI로 미래 향방을 이끌어야 가야 한다는 사실을 수많은 실용적 사례와 흥미로운 이야기를 통해 보여준다. 이는 더 많은 대중(AI와 인지과학 비전문가)이 두 AI의 차이에 대해 쉽게 이해할 수 있도록 한다. 지금의 AI가 수행하는 일에 대한 실제적인 이해가 없으며 ‘전혀 지능적이지 않다’는 사실을 인지하게 하고 올바른 방향으로 AI를 설계해 나가는 전략까지 들려준다! _ 스티븐 밀러(아마존 독자)

 

이 책은 딥러닝이 장기적으로 AI의 만병통치약이 아니라는 사실을 광범위한 사례와 근거를 통해 알려준다. 딥러닝으로 설계된 AI는 학습할 데이터 양이 충분히 많아야 하고 패턴을 식별하기 위해 일련의 알고리즘을 필수로 한다는 점에서 점점 더 분명한 한계가 드러나고 있다. 저자들은 이에 상식과 인지 모델, 추론 능력을 가진 AI로 재설계해야 한다고 주장한다. 현재 AI가 사회적, 정치적, 산업적 영역에 미치게 될 영향을 고려했을 때 이 책의 주장은 충분히 귀 기울여야 할 가치가 있다. _ 리카르도(아마존 독자)

---

저 : 개리 마커스 (Gary Marcus)

뇌과학과 진화심리학, 언어학을 넘나들며 인간 마음의 기원을 연구하는 세계적인 인지과학자. 뉴욕대학교 심리학·신경과학 명예교수. 햄프셔대학교에서 인지과학으로 석사 학위를, MIT에서 스티븐 핑커 교수의 지도 아래 뇌과학을 연구하여 박사 학위를 마쳤다. 1996년, 전도유망한 젊은 심리학자에게 수여되는 로버트 판초상을 수상했으며 머신러닝 스타트업인 지오메트릭 인텔리전스와 로버스트닷에이아이를 설립하고 운영한 바 있다.

 

《뉴욕타임스》, 《월스트리트저널》, 《네이처》, 《사이언스》 등 유수의 매체에 흥미로운 글을 기고하고, [인간 대 기계 humans vs. machines]라는 팟캐스트를 진행하며 대중과 호흡하는 지성으로 활발하게 활동하고 있다. 저작으로는 출간 당시 학계와 언론의 이목을 받은 『마음이 태어나는 곳 The Birth of the Mind』, 『대수학적인 마음 The Algebraic Mind』, 『뇌과학의 비밀 Guitar Zero』『2029 기계가 멈추는 날 Rebooting AI(공저)』등이 있다.

저 : 어니스트 데이비스 (Ernest Davis)

뉴욕대학교의 쿠란트 수학연구소(Courant Institute of Mathematical Sciences)에서 컴퓨터공학을 가르치고 있다. 그는 AI의 상식적 추론(commonsense reasoning) 영역에서 세계적이고 독보적인 전문가로 꼽힌다. 저서로는 《상식적 지식의 표상》(Representations of Commonsense Knowledge) 외 3권이 있다.

역 : 이영래

이화여자대학교 법학과를 졸업했다. 현재 가족과 함께 캐나다에 살면서 번역에이전시 엔터스코리아에서 번역가로 활동하고 있다. 옮긴 책으로는 『부의 추월차선 위대한 탈출』, 『파타고니아, 파도가 칠 때는 서핑을』, 『사업을 한다는 것』, 『모두 거짓말을 한다』, 『당신의 뇌는 변화가 필요합니다』, 『제프 베조스, 발명과 방황』, 『빌 게이츠 넥스트 팬데믹을 대비하는 법』, 『세계미래보고서 2050』, 『어떤 선택의 재검토』, 『진화된 마케팅 그로스 해킹』 등이 있다.

---

책 속으로

지금보다 더 성장한 단계에 도달한 후 돌이켜 보면 AI의 전환점은 2012년에 일어난 딥러닝의 재탄생이 아니라 상식과 추론 영역에서의 ‘딥 언더스탠딩’(deep understanding), 즉 심층적 이해에 대한 문제의 해결점이 보이는 순간임을 깨닫게 될 것이다. 기술의 변혁은 10년이 걸릴지, 100년이 걸릴지 아무도 모르지만 추론과 상식적 가치관, 건전한 엔지니어링 응용에 토대를 둔 ‘인간이 신뢰할 수 있는 AI’로 탈바꿈할 때에야 비로소 시작될 수 있다. ---「저자의 글 - AI는 훨씬 더 인간다워져야 한다」중에서

1950년대와 1960년대 마빈 민스키(Marvin Minsky), 존 매카시(John McCarthy), 허버트 사이먼과 같은 선구자들은 AI의 모든 문제가 20세기 안에 해결될 것이라는 굳은 믿음을 갖고 있었다. 마빈 민스키가 1967년에 남긴 유명한 글을 보라. “인공지능의 문제 대부분은 한 세대 안에 해결될 것이다.” 그 뒤로 50년이 흘렀지만 아직 그런 전망들은 실현되지 않았다. 그런데도 계속 새로운 전망들이 등장했다. 2002년 미래학자 레이 커즈와일은 2029년까지 “AI가 인간의 지능을 능가할 것”이라고 확언했다. 이론적으로는 커즈와일과 서츠케버의 말이 옳을 수도 있다. 하지만 실제로 이런 일이 일어날 확률은 대단히 낮다. 지금 우리가 있는 곳에서 그 수준, 즉 인간의 지능과 같은 ‘유연성을 갖춘 다목적 인공지능’에 이르는 길은 그리 짧지 않다. 거기에 이르기 위해서는 엄청난 양의 기초적 진전이 있어야 한다. 지난 몇 년 동안 달성한 성과와 같은 종류의 일을 조금 더 하는 정도로는 턱없이 부족하다. ---「제1장 - 꿈과 현실의 간극에 선 AI」중에서

AI 탄생 65주년에 다가가고 있는 지금의 상황은 이렇다. 로봇 연구가들은 로봇이 자기 위치를 파악하도록 하는 일에서 뛰어난 성과를 거뒀고 로봇이 개별적인 행동을 수행하게 하는 방법을 알아내는 데에서도 큰 발전이 있었다. 하지만 열린계에 대처하는 데 필수적인 세 가지 다른 아이디어, 즉 상황을 평가하고, 가능한 미래를 예측하고, 상황의 변화에 따라 주어진 환경에서 가장 이치에 맞는 행동은 무엇인지 역동적으로 결정하는 일에서는 그다지 많은 진전을 보지 못했다. ---「제5장 - 로봇은 정말 ‘다 알아서’ 해줄까?」중에서

강화된 인지 모델 없이 독해가 존재할 수 없듯이 강화된 인지 모델 없이는 안전하고 믿을 수 있는 가정용 로봇이 존재할 수 없다. 로봇은 강화된 인지 모델과 함께 보통 사람들이 상식이라고 말하는 것을 상당히 많이 갖고 있어야 한다. 세상의 모습, 세상이 돌아가는 방식, 다양한 상황에서 일어날 만한 일과 그렇지 않은 일 등을 충분히 이해하고 추론하고 예측해야 한다. 기존의 AI 시스템은 이런 것들을 전혀 갖고 있지 않다. 그렇다면 어떤 유형의 지능 시스템이 강화된 인지 모델과 상식을 갖추고 있을까? 바로 인간의 정신이다. ---「제5장 - 로봇은 정말 ‘다 알아서’ 해줄까?」중에서

인공지능이 ‘인간의 지능’을 닮은 존재가 되게 하려면 연구자들은 사람(어린아이조차도)이 그렇게 하듯이 타고난 지식과 능력을 통합하고, 지식을 합성적으로 표상하고, 지속성 있는 개인을 추적하는 조직화된 하이브리드 시스템을 구축하는 방법을 배워야 할 것이다. AI가 마침내 인지과학의 이런 가르침을 받아들이고 이용하면 빅데이터를 중심으로 하는 패러다임에서 빅데이터와 추상적 인과 지식 모두를 중심으로 하는 패러다임으로 이동할 수 있다. 그리고 그렇게 해야만 무엇보다 어려운 과제, 즉 기계에게 상식을 부여하는 방법과 맞붙을 위치에 서게 될 것이다. ---「제6장 - 인간 정신이 주는 11가지 인사이트」중에서

역사적으로 AI는 수동 코딩과 머신러닝이라는 양극단 사이를 오갔다. 칼의 작동 방법에서 유추해 잔디 깎기 작동법을 학습하는 일은 라벨이 붙은 많은 사진을 집어넣어 개의 종을 분류하는 시스템을 개선하는 일과는 전혀 다르다. 지나치게 많은 연구가 전자를 배제하고 후자에만 몰두했다. 칼 그림에 라벨을 다는 것은 픽셀의 공통 패턴에 대한 학습의 문제일 뿐이다. 칼이 ‘무슨 일을 하는지’ 이해하기 위해서는 형태와 기능, 그들이 어떤 연관을 갖는지에 대한 훨씬 더 심층적인 지식이 필요하다. 칼의 용도와 위험성을 이해하는 것은 많은 사진을 축적하는 것이 아닌 인과관계의 이해(그리고 학습)에 대한 문제다. ---「제7장 - 상식과 딥 언더스탠딩으로 가는 길」중에서