강한 인공지능과 인간

과학과 신학의 대화
2020-12-03
조회수 504

 

강한 인공지능과 인간

 

 

저자인 김진석은 서울대 철학과를 중퇴하고, 독일 하이델베르크 대학으로 유학하여 철학박사를 받고, 현재 인하대 철학과 교수로 재직 중입니다. 케빈 켈리나 레이 커즈와일이나 유발 하라리 등등의 강한 인공주의자들의 글만 읽다가, 우리나라 철학과 교수가 강한 인공지능과 인간의 관계를 심층적으로 들여다본 책을 접하게 되어 매우 꼼꼼히 읽게 되었습니다.

 

저자는 니체, 하이데거, 푸코 등등의 철학자와 한스 모라벡, 닉 보스트롬, 레이 커즈와일, 앤디 클락, 브뤼너 라투르 등등의 사이버네틱스, 사회 시스템이론, 행위자-네트워크 이론 등을 이용해 모호한 형이상학적 인간 개념에서 탈피하고, 인공지능로봇에게도 사회적 행위자로서의 권리와 자유를 부여해야 한다고 주장합니다. 그리고, 그것의 결과로 나타날 인간 잉여의 문제를 심각하게 예언하며, 가진 자와 못 가진 자 모두에게 나타나는 인간 잉여의 시대에 어떻게 살 것인가를 차분히 생각해보라고 합니다.

 

종교, 과학, 형이상학을 기반으로 하는 인간중심주의 또는 인본주의에 대한 필자의 주장에 공감이 되는 부분이 많았습니다. 하지만, 강한 인공지능주의자들에게서 늘 느끼듯이, 필자는 반대편으로 너무 치우친 듯한 느낌이 듭니다.

 

21세기 4차 산업혁명으로 인해 인간의 지위가 지하실을 넘어 하수도까지 내려가고 있는 이때에 기독교 신앙과 신학은 무엇을 해야할 지 막막합니다. 저는 개인적으로 강한 인공지능주의자들의 특이점이나 초지능의 출현이라는 견해에 반대하는 입장이고, 골수까지 인간 편에 서있는 사람이라서, 강한 인공지능이 불러올 사회적 변화에 대한 해답을 찾느라 머리가 복잡했습니다. 그러나, 정말 강한 인공지능이 생각을 하고, 지성을 갖고, 판단을 할 수 있다면, 그런 인공지능에게도 복음을 전해야 한다고 생각합니다. 지능 측면에서 인간이 초라해질수록 복음은 더욱 귀해지는 것 같습니다.

 

아직 여러 가지 공부가 부족해서 중요하다고 생각하는 글들과 짧은 소감을 소개하는 것으로 책소개를 대신하고자 합니다. 

 

 

1. 모호함과 복잡함

 

"우리는 이 모호함을 인간에게서 느끼고, 다시 인공지능이나 머신러닝에게서 느낀다. 그러니, 그 모호함을 단순히 논리적인 결함이나 거부의 명분으로 삼을 필요는 없다. 오히려 모호성이나 복잡성은 어떤 존재를 설명하려고 할 때 필연적으로 개입하는 환경이라고 할 수 있다. 그러나 인공지능과 머신러닝은 인간이 내던져진 모호함을 다시, 새삼스러울 정도로 성찰하게 만든다." (41쪽)

 

* 모호성과 복잡성이 모든 존재의 필연적 환경이라는 말이 공감이 됩니다. 모든 존재는 신비롭습니다. 이제는 인간에 의해 시작된 인공지능에게도 존재의 자리를 내 주어야 하는 때가 되어가고 있습니다. 우리는 인공지능에게 모호성과 복잡성을 인정해주고, 그것을 신비로운 존재로 보고 있습니다만, 과연 인공지능은 인간을 그렇게 보아 줄까요? 인공지능과의 협업과 공생은 과연 가능하고 그 결과는 해피엔딩일까요? 아니면 인공지능이 인간을 규정하게 되고, 인간은 잉여적 존재가 될 것인지, 초지능의 출현의 순간이 과연 인간의 행복이 될 것인지, 아니면 악몽이 될 것인지, 이렇게 이런 고민들을 지금 하게 되는데, 발전의 속도가 너무 빨라서 스탑 버튼을 눌러야 한다는 강한 경고가 마음속에 울려 퍼집니다.

 

 

2. 초지능주의자들에 대한 반박

 

"인간주의적 관점과 달리, 초지능주의가 보통 인간의 상식적인 태도나 인간적 행위를 지능을 판단하는 핵심적인 근거나 기준으로 삼지 않는다는 점은 명백하다. 여기서 인간보다 우월하고 강하다라는 기준에 대한 물음이 제기된다. 과연 인간보다 우월한 능력이라는 것이 전적으로 또는 근본적으로 기술공학적인 능력을 통해 확보되고 보장되는 것일까? 이 능력만 가지면 인간보다 우월해지고 강해지는 걸까? 기술공학적인 지능이 현재와 같은 기술과학적인 문명 속에서 일차적으로 가장 중요한 요인일 수는 있다. 커즈와일은 유전공학, 나노기술, 그리고 로봇공학이 서로 맞물리며 발전할 것이라고 주장한다. 인간의 신체보다 강화된 신체를 가지고 또 인간의 공학적 능력보다 훨씬 더 고양된 능력을 갖는 종은 도구적 생산성의 차원 등에서 우월할 수도 있다. 그러나 그런 종이 사회를 이루며 사회적 존재로 존속한다는 보장이 어디에 있는가? 인간의 지능이 근대 이후 도구적 능력에서 대단히 발전했지만 그 과정에서 인간들의 권력욕도 확대되었고 또 인간의 영혼도 분열증과 편집증에 시달리게 된 것이 사실이듯이, 인간보다 우월하다는 인공지능이라고 그 비슷한 문제들로부터 자유로울 수 있을까? 강화된 신체에 걸맞게 심리 상태가 건강하게 유지될 가능성의 조건에 대해서는 거의 생각을 하지 않은 채 초지능주의자는 인간보다 강한 지능을 낙관한다고 할 수 있다. 더 나아가면, '강하다'라는 기준에 과도하게 집착하고 있다고 할 수 있다. 강해야만, 그리고 더 강한 것만이 살아남는다는 주장도 강박일 수 있다. ...  설혹 인간보다 강한 인공지능 로봇이 단합하여 인간과의 대결적 국면에서 우월한 지위를 점할지라도, 그들이 사회적으로 협력하는 능력을 갖지 않는다면 그 강함이 인간보다 유리한 생존 기회를 가진다는 보장은 어디에도 없다. 물론 여기서 '사회적 협력'을 전적으로 평화주의적인 또는 사회계약론적인 의미로 받아들일 필요는 없다. 인간보다 강하다는 종은 자신들끼리 협력하면서 지속가능한 사회시스템을 구성할 능력이 있어야 할 것이다. 그런데 서로에 대한 파괴적 공격성 없이 사회를 구성하고 그 속에서 함께 존재하는 능력이 오로지 또는 단순히 신체를 강화하고 기술공학적 지능을 높이는 것을 통해 이뤄지는 것일까?" (139~140쪽)

 

* 철학자 답게 '강한 인공지능'에서 '인간보다 강하다'라는 의미가 무엇인가를 예리하게 묻고 있습니다. 초지능주의자들은 인공지능의 기능적 우수함과 탁월함을 들어서 인간이 절대로 따라올 수 없는 초지능이 탄생할 것이라고 단언하고 있습니다. 하지만, "부드러운 것이 강한 것을 이긴다"는 가르침도 있습니다. 레이 커즈와일 같은 초지능주의자들은 하나만 알고 둘은 모를 수도 있다고 생각합니다.

 



 

3. 인공지능의 위험 - 인간의 잉여화

 

"인간 의사보다 더 뛰어나게 진단할 수 있는 인공지능, 인간 주가 분석가보다 몇 배로 뛰어난 분석능력으로 주가의 흐름을 분석하는 인공지능이 불러올 수 있는 위험을 단순히 일자리의 문제로만 파악하는 것은 단견이다. 상당한 수준의 일반 지능에 더해서 전문적 경력을 더 쌓은 인간 지능마저 사회적 존재로서 자율성을 가진 인공지능에 밀려날 가능성이 높다는 것은, 인간의 일반 지능 자체가 역사상 유례없는 도전과 직면하고 있다는 것이다. 보통 수준의 인간의 일반 지능은 인권 차원에서는 여전히 지위를 유지하지만, 사회적 존재로서는 지위를 잃어버리고 있기 때문이다. 그래서 인권과 현실 사이의 균열이 점점 크게 벌어지고 있는 것이다. 일상적으로 무난하게 행동하는 수준의 일반 지능을 가진 인간이 사회에서 거의 '잉여'라고 인식된다는 것은, 일자리의 부족이라는 현상을 넘어, 보통 수준의 일반 지능의 잉여성에 대한 경고다." (166~167쪽)

 

* 인공지능에 의해서 일자리가 아니라 인간 자체가 잉여화되고 있다는 주장입니다. 인간이 만들어낸 인공지능이 인간을 초월하여 인간이 이해할 수 없는 수준까지 올라간 사회에서 인간은 어떤 가치와 의미를 가지게 될까요? 김진석 교수가 끊임없이 공격하는 '인간중심주의'는 정말 나쁜 것일까요? 인간중심주의에 대한 비판이 너무 지나친 것 같습니다.

 

 

4. 근대적 휴머니즘의 실패가 곧 인공지능의 승리라는 주장

 

"그러나 니체가 이미 19세기 말 유럽인의 신경증과 신경쇠약증을 시대적 징후로 파악했듯이, 그 이후 인간의 심리 세계는 양 극단으로 분열되는 경향을 보인다. ... 인공지능의 확장 앞에서 전통적 휴머니즘에 근거를 둔 일반 지능에 호소하는 접근은 충분하지 않다고 나는 생각한다. ... 보편적 휴머니즘의 모호성에 대해서는 이미 미셸 푸코 1926~1984 가 지적한 바 있다. '최소한 17세기 이래로 휴머니즘이라고 불린 것은 언제나 종교, 과학 또는 정치로부터 빌려온 특정한 인간 개념에 기대지 않을 수 없었다.' 조금 강하게 말하면, 그것은 인문학적으로나 사회과학적으로 뒤죽박죽인 어떤 것이다. 이 점에서 휴머니즘에 기반을 둔 '인격' 개념은 모호하다." (172~173쪽)

 

 

5. 행위자-네트워크 이론

 

"브뤼노 라투르 (1947~) 등이 제안한 행위자-네트워크 이론 Actor-Network Theory, ANT은 독립된 인간이나 기계는 존재하지 않으며, 인간과 비인간(도구와 기술, 무생물을 포함하여)의 동맹관계가 사회적으로 작동하며 이것이 중요하다는 점을 강조한다. 인간과 기계 사이의 대립 가설이 근본적으로 거부되는 것이다..... 인간주의(휴머니즘)라는 개념은 그저 좋고 착한 개념은 아니다. 인간을 중심에 놓고 모든 자연과 사물을 도구로만 이해할 뿐 아니라, 인간이라는 허구적인 가상과 이념을 과도하게 설정한다.....가만히 살펴보면 모호하면서도 극단적인 '이성적 인간'이라는 개념은 옆으로 밀어놓자..... 라투르는 homo faber(호모 파버)라는 용어를 다음과 같이 꼬집는다. "만드는 인간 homo faber 은 인간이 만든 우화이며, 허구를 만들어내는 인간 homo fabulous이다. 정말 그렇다." ...  도구를 사용하는 인간이라는 개념과 이미지는 역사적으로 그리고 일상적으로 인간에게 매우 익숙한 것인데, 행위자-네트워크 이론은 그 관습에서 벗어나기를 권장할 뿐 아니라 요구하고, 더 나아가 도발한다. 그 요구는 근본주의적으로 휴머니스트를 자처하는 사람들뿐 아니라 그렇게까지 근본주의적이지는 않더라도 "사람이 중요하다"라는 관점을 당연하고도 자연스럽게 생각하는 많은 사람에게도 도발일 수 있다." (193~195쪽)

 

* 과학적, 철학적, 신학적으로 계속되고 있는 인간 중심주의의 하락은 인류에게 진정한 회개라는 것이 무엇인가를 일깨워주는 것 같습니다. 서구적 기독교 이해와 그것을 바탕으로 한 서구 사상은 이로써 몰락하고, 인간과 하늘과 땅의 조화를 주창하는 동양 사상이 중요하게 부각돼야 한다고 생각합니다. 성서도 재해석되야 하고요. 그러나, 사양 사상을 품고 용해시키는 동양 사상이 되어야지, 서양 사상은 다 거짓이라고 말하는 것은 또 하나의 치우침 같습니다.

 



 

6. 인간 - 포괄적 의미의 사이보그

 

"그런데 인간이 바로 그 사물이나 기계 그리고 다른 인공물과의 접속이 없이는 독립적으로, 또 순수하게 자연적으로 행동할 수 없다면, 인간을 포괄적인 의미로 사이보그로 정의하는 것이 훨씬 나을 것이다. 지금도 모바일 기기 없이는 인간은 사회적 행동을 할 수 없으며 심지어 개인으로도 존재하기 힘든 상황이 아닌가?" (214~215쪽)

 

* "인간은 이미 사이보그다"라는 주장이 충격적입니다. 현실적으로 일어나고 있는 현상이기 때문에 부정할 수 없습니다.

 

 

7. 기계/로봇과 인공지능에 의한 실업의 이면에 있는 문제점

 

"자동화된 로봇처럼 일하는 사람들은 실제로 그 로봇들에 의해 대체될 것이다. 그러므로, 앞으로의 사회에서 단순히 자동화 수준에서 노동하는 인간은, 최소한 그 기능으로만 보건대 로봇 집단에 속한다고 여겨질 수 있다. 이것이 단순한 일자리 축소보다 심각한 문제다.... 그러므로, 로봇이나 인공지능에의해 단순히 일자리가 없어지는 과정만이 일어나는 것이 아니라, 그 과정 뒤에서 사이버 행위자들 사이에서 위상의 변화가 일어난다. 점점 많은 사람이 기계/로봇이나 인공지능에 의해 대체될 위험이 있다는 것은, 점점 많은 사람이 기계/로봇과 같은 사이버 행위자나 인공지능과 같은 사이버 행위자가 될 위험이 있다는 것이다." (216쪽)

 

* 필자에 의하면, 사이버 행위자는 발생학적 기준과 기능적 기준에 의해서 동물, 로봇, 사이보그, 인공지능으로 구성되며, 인간은 사이보그에 속한다고 합니다. 기계의 역습으로 인해, 인문학이 종말을 고하고, 이전 초기 산업혁명 시대에 인간이 거대한 공장의 하나의 톱니바퀴가 되었던 것처럼, 4차 산업혁명 시대에는 거대한 네트워크 속의 하나의 노드로서 존재하게 된 현실입니다. '인간의 새로운 위상 정립'이 필요하다고 생각합니다.

 

 

8. 시스템이론이 요구하는 인간관의 변화

 

"인간은 여전히 중요하다. 다만 그 중요함을 어떤 방향에서 파악하느냐의 문제다. 인간을 중심에 놓고 인간의 생물학적 두뇌에 독립적으로 특별한 지위를 부여하느냐, 아니면 생물학적 경계를 넘어 확장되고 분산된 시스템을 인정하고 받아들이느냐의 문제다. 전자의 태도는 데카르트 이래 철학적으로 인간의 마음에 독보적인 지위와 권한을 부여한 이성주의적 또는 합리주의적 인간주의다..... '이 복잡한 도구 상자 안에 있는 그 어떠한 단일 도구도 내재적으로 사유하거나, 궁극적인 통제권을 갖거나, 자아의 자리는 아니다. 우리 개별적 인간들은 단지 이 도구들이 변화해가는 연합이다.(앤디 클락)'" (223~224쪽)

 

 

9. 인공지능의 철학적 배경

 

"이로써 우리는 사이버네틱스와 사회 시스템 이론, 그리고 행위자-네트워크 이론이 인간과 기계의 대립 가설 및 힘과 권력의 위계질서라는 가설 둘 모두에서 벗어나는 길을 찾았음을 알 수 있다. 힘과 권력의 단순한 위계질서를 거부하는 일은 한편으로는 꼭 필요한 과제였지만, 다른 한편으로는 1960~1980년대의 사회적 분위기를 반영한다고 볼 수 있다. 탈형이상학, 해체주의, 포스트모더니즘 등의 사조들은 근대적 거대 서사를 허물고자 했다. 권력관계에 대해 당시 푸코가 수행한 분석도 권력관계가 실행되는 미시적 흐름들에 주의를 기울였고, 이 관점은 알게 모르게, 많건 적건, 힘과 권력을 위계질서와 소유의 대상으로 보는 이해들을 흔들었다." (250~251쪽)

 

* 이 부분을 읽으면서 노자 도덕경의 다음 구절이 생각났습니다.

生而不有 爲而不恃 功成而弗居 생이불유 위이불시 공성이불거

잘 살게 해 주고도 그것을 자신의 소유로 하지 않으며, 무엇을 하되 그것을 자신의 뜻대로 하려 하지 않는다. 공이 이루어져도 그 이룬 공에 자리 잡지 않는다.

 

인공지능이 생이불유 위이불시 공성이불거할 수 있을지 모르겠습니다. 인간은 다만 인간의 길을 걸으면 될 듯합니다.

 

 

10. 한스 모라벡의 몸-동일성, 패턴-동일성 이론

 

"그(한스 모라벡)는 개인의 몸에 근거한 동일성을 주장하는 관점을 '몸-동일성 관점', 그와 달리 '한 인격, 예컨대 나 자신의 본질을 내 머리와 몸 안에 일어나는 패턴과 과정으로 정의하고.....만일 그 과정이 보존된다면, 나는 보존된다. 나머지는 젤리에 불과하다.'고 보는 것을 '패턴-동일성 관점'이라고 불렀다." (299쪽)

 

* 한스 모라벡은 왜 두뇌를 몸에서 분리하려고 할까요? 명백하게 두뇌도 우리 몸의 일부 아닌가요? 인공지능을 둘러싼 서구적 관점은 전혀 동양적 신체관에 맞지 않습니다. 니체가 말한 서양 철학의 형이상학이나 관념론의 자기 분열 증세가 인공지능주의자들에게도 일어나고 있는 것 아닐까요?

 

 

11. 캐서린 헤일스의 꿈과 악몽

 

"그래서 헤일스에게 포스트휴먼은 꿈이자 동시에 악몽이 된다. '나의 악몽이 신체를 존재의 장이 아니라 패션 액세서리쯤으로 생각하는 포스트휴먼이 사는 문화라면, 나의 꿈은 무한한 힘과 탈신체화된 불멸이라는 환상에 미혹되지 않고, 정보 기술의 가능성을 받아들이는 포스트휴먼, 유한성을 인간 존재의 조건으로 인정하고 경축하며 인간 생명이 아주 복잡한 물질세계에, 우리가 지속적인 생존을 위해 의지하는 물질세계에 담겨 있음을 이해하는 포스트휴먼이다.'  그러나 꿈과 악몽은 분리되기 힘들다. 악몽이라고 표현된 것은 악의 영역에 확실히 속하는 것처럼 보일 수 있지만 실제로 더 강한 힘을 가진 사이보그가 되는 유혹에 미혹되지 않는 일은 어려울 뿐 아니라 꼭 악한 것으로 확실하게 구획되어 있지도 않다. 8장에서 이미 논의했듯이, 헤일스는 이 부분에서 정보화와 신체화를 다소 단순하게 대립적으로 보는 경향이 있다. 정보 기술의 가능성을 받아들이는 순간 인간은 이미 사이보그로 생성되고 있는 셈이며, 그 와중에 명확한 선악의 구별은 선험적이고도 보편적인 방식으로는 가능하지 않을 것이다." (314~315쪽)

 

* 김진석의 글을 읽으면서, 가장 곤혹스러운 것은 역시 모든 인간주의에 대한 반발입니다. 그의 반발의 근거는 역사적으로 있어 왔고 또 지금도 존재하는 모든 인간주의가 사실은 모호하며, 폭력적이며, 힘으로 위계질서를 만들었으며, 그것을 정당화하는데 사용되었고, 실제로 공허하다는 것입니다. 그러나, 인공지능은 실제로 사람이 따라오지 못하는 성과를 내고 있기 때문에, 자유, 평등, 지능, 생명 등등의 인간만의 전유물로 여겼던 정신적 가치들을 인공지능과 로봇에게도 부여해야 한다고 주장합니다. 인간이라는 것이 무엇인지도 모르면서 어떻게 인간주의를 내세우며, 인공지능과 로봇을 단순히 인간을 위한 도구로 생각할 수 있느냐는 논리입니다.

 

저는 개인적으로 김진석의 성과주의가 문제라고 생각합니다. 정신적 가치를 물질인 인공지능이나 로봇에게도 부여한다고 했을 때, 정신의 연약한 측면까지 기계들이 이해하고 거기에 따라 의사결정을 할 수 있을지 의문이 듭니다. 저는 인간이 자신을 아직까지 잘 알지 못하고 있기 때문에 인간됨이 아주 소중한 가치라고 생각합니다. 인간중심주의의 폐해인 환경파괴와 각종 반인권적 행위들은 고쳐가야 하지만 그런 폐해로 인해 인간주의를 버려서는 안 된다고 봅니다.

 

 

12. 김진석 교수의 인간실존에 대한 비관적 결론

 

"그렇다고 국가나 사회가 실행하는 공공의 프로젝트가 그냥 사라진다는 말은 아니다. 그런 것들은 여전히 있을 것이고, 어떤 점에서는 국가나 사회는 더 커질 수도 있다. 그러나 그 와중에 개인들의 삶과 의식은 뿔뿔이, 너무도 뿔뿔이 흩어지는 경향이 있다. 각자는 사회 시스템의 부속품으로 노동하기에 바쁘고, 그 나머지 개인의 자유 시간에는 자신들의 개인적인 방식으로 자신의 자유를 실현하기에 바쁜 나머지, 각자가 자신 안에 갇힌다. 각자는 자신의 이야기로 꾸며지고 구성된 삶을 살지만, 이 자신만의 이야기는 너무 작고 약한 가지가 되어가고 있다. 허공에 저 홀로 매달린 채 어디서 왔는지 알 수 없는 바람에 어쩔 줄 모르고 흔들리는 가지." (381~382쪽)

 

 

13. 인간 잉여

 

"자율주행차가 2040년 무렵부터 일반적으로 도입된다고 가정한다면, 앞으로 20~30년 안에 인공지능 로봇에 의한 일자리 변화가 일차적으로 일어날 것이다. 그렇지만 그 변화는 20세기 이후 인간이 만들어 온 사회의 근간을 결정적으로 바꿀 정도는 아닐 수도 있다. 복지 체제를 더 이상 확장하지도 못하지만 축소하지도 못한 채 갈팡질팡하면서, 잘 되지도 않는 기본소득 같은 의제에 매달리고 있을 수 있다. 한 세대 정도는 지난 후에야, 인간이라는 보편적 종이 더 이상 사회와 우주의 핵심이 아니라는 생각이 받아들여질지 모른다. 어쨌든 혼란스럽고 모호한 시대가 한동안 지속할 것이다. 그 기준에 대한 대답을 차분하게 모색하는 것이 필요하다. 모호함과 혼란이 가중되는 국면을 피할 수 있을 터이니까. 그러나 어떤 방향으로 가든지, 인간 종과 인공지능 로봇을 대립적 구도 속에서 이해하고자 하면, 결코 답이 나올 수 없다. 그 대립은 갈등과 싸움만을 야기할 것이다." (423쪽)

 

* 이 책의 부제가 인간 강화와 인간 잉여의 패러독스인 것을 볼 때, 필자는 이미 대세가 되버린 인공지능의 시대에 최소한 인간의 자리를 차분하게 만들라고 조언하는 것 같습니다.

 

 

글_ 최성일(ultracharm@naver.com)

1 0