로봇의 시민권 _이승일 + 튜링테스트. 그리고 로봇의 시민권 _김청하
병장 임정우 03-06 08:36 | HIT : 246
" 다음 세기가 오기 전에, 인간의 피조물은 시민권을 획득할 것이다.... "
이제 이러한 말은 더 이상 SF소설가의 공상이 아니다. 일부 사람들은 여전히 의심을 표명하겠지만, 또다른 일부 사람들에게 이것은 눈앞에 닥친 현실이다.
서구의 역사는 '우리' 라는 단어의 확장의 역사라고 말할 수 있을지도 모른다. 그리스인들에게 '우리' 란, 폴리스의 시민들이었다. (그 숫자는 200만명이 넘지 않았다.) 내가 말하는 '우리' 란 단지 정치적, 군사적 아군을 의미하는 것은 아니다. '우리'는 분열될 수 있으며, 서로 반목할 수도 있다. 그러나 그러한 대립을 넘어 여전히 우리를 우리로 만드는 것이 있다. 나는 그것이 무엇인지 명확히 지적하지는 못하겠다. '언어' 라고 말하는 것은 너무나 나이브할 것이다.
헬레니즘 시대의 사해동포주의는 '우리' 의 외연을 槿賤羚駭? 로마제국의 번영을통해 '우리'의 범위는 더 넓어졌으며, 그 패망을 통해서는 더더욱 넓어졌다. 그 후 서구사회에서의 '우리' 란 유럽인을 가르켰다. 이것은 지리적이라기보다는 종교/문화적이었다.
' 우리' 란 다름 아닌 인간이다. 적지않은 유럽인들에게 다른 세계의 사람들은 인간이 아니었고, 그들에 대한 침략과 파괴, 살상은 많은 경우 도덕적 죄책감을 수반하지 않았다. 유럽의 귀족들은 흑인 노예를 인간으로 생각하지 않았다. 인간 이하의 취급을 했다는 뜻이 아니라, 도덕적 대상의 범주에 애초에 집어넣지 않았다는 뜻이다. 귀부인들은 흑인 노예가 있는 곳에서도 거리낌없이 옷을 갈아입었다. 그것은 수치스러운 일이 아니었다. 도덕적 책임감, 수치심 등은 오직 인간이 다른 인간에 대해 갖는 감정이다.
인간의 외연은 점점 넓어졌으며, 결국 생물학적 종의 외연과 같아졌다. 그러나 이것은 그렇게 오래된 일이 아니며 현재와 같은 외연을 갖는 '인간'의 역사는 아마도 미국의 역사보다 훨씬 더 긴 것은 아니다.
' 우리'라는 배타적 집단에 속하기 위해서는 어떠한 '영향력'을 행사할 수 있어야한다. 이 영향력이란 '우리'의 다른 구성원이 완전히 통제할 수는 없는 것이어야한다. 그러나 동시에 어느정도는 통제할 수 있는 것이어야만 한다. 그것은 수학적 규칙성과 무질서 중간의 어디 즈음 존재하는 영향력이다. 이것이 바로 언어적 소통이며, 타자를 우리로 만드는 요소이다. '우리' 의 확장은, 소통가능한 대상의 확장에 다름아니다.
이제 '우리'는 또 한번의 확장을 눈앞에 두고 있는지 모른다. 우리가 완전히 통제할 수는 없지만 동시에 어느정도 통제 가능한 영향력을 행사하는 미래의 로봇들은 점점 '우리' 로 느껴질 것이다. 흑인들이 영어를 배울 수 있다는 사실에 엄청나게 놀랐다는 어떤 영국 상인의 고백처럼, 우리는 기계덩어리가 우리와 소통가능한 언어를 '진짜로' 사용한다는데에 경악하게 될 것이다. 그리고 흑인들이 권리를 주장하고 인간의 일부가 되었듯, 로봇들도 그러하지 말라는 보장은 없다.
컴퓨터의 아버지라고 불리우는 엘런 튜링은 튜링테스트라는 아이디어를 제안한 적이 있다. 그것은 인간이 기계와 인간을 서로 구분하지 못한다면, 그 기계는 마음을 갖고 있다고 말해야한다는 생각을 기초로하고있다. 튜링테스트는 바로 인간이 기계와 인간을 구분할 수 있는가에 대한 테스트이다. 현재 가장 훌륭한 지능형 로봇은 약 10%의 실험 참가자들에게 스스로를 인간과 구분할 수 없게끔 만드는 성과를 보여주고 있다. 만약 90% 이상의 사람들이 어떤 로봇과의 대화를 인간과의 대화와 구분할 수 없다면, 그 로봇은 인간에 준하는 마음을 가진 것으로 판단될 것이다. 현재의 추세대로 보자면, 이런 날이 그렇게 먼 것 같지는 않다.
사실 튜링테스트의 근본적인 아이디어는 현상이 본질보다 우위에 있다는 믿음에 있다. 튜링테스트는 "구별 불가능한 것은 동일하다" 라는 라이프니츠의 명제를 차용하고 있는데, 이는 세계의 존재자들이 본질적으로 구분되어있는 것이 아니라 우리의 인식적 판단에 의해서만 구분될 수 있다는 것을 함축하고 있다. 인간과 동물은 어떤 형이상학적 본질에 의해서 구분되는 것이 아니라, 그것들이 말하고 행동하는 바, 즉 그것들이 표현해내는 바에 의해 구분된다. 때문에 같은 것을 표현해낼 수 있다면, 그들은 근본적으로 다르지 않다는 것이다. 인간형 로봇이 인간과 그 표현형에 있어서 구분될 수 없다면 로봇은 , 흑인이 인간의 한 종류이듯이, 인간의 새로운 종류가 될 수 있을지도 모른다.
물론 이 모든 것은 너무나 가벼운 해석이다. 행동주의나 기능주의자들의 바램과는 반대로, 인간의 마음은 단지 표현되는 기능으로서는 포착될 수 없는 요소들을 갖고 있는 것으로 여겨진다. 우리가 1인칭의 자아를 갖고 있다는 사실은, 우리가 수행하는 기능들과는 근본적으로 무관하다.(아무런 지능의 흔적도 보여주지않는 돌맹이 조차 1인칭 자아를 갖고 있지 말라는 법은 없다.) 그리고 우리가 일반적으로 인격, 혹은 마음이라고 부르는 것은 기능이라기보다는 바로 이러한 자아를 의미한다. 그러나 어쨌건 타인의 마음의 존재 여부는 그들이 수행하는 기능을 통해서만 우리에게 파악될 수 있다는 것 역시 사실이다. 로봇이 실제로 마음을 소유하고 있는가의 문제와 우리가 그렇다고 판단할 것인가의 문제는 별개의 문제이며, 로봇의 정치적 미래에 있어서 결정적으로 중요한 것은 후자임이 분명하다.
미래의 정치운동가들은 로봇의 인권을 위해 열정적으로 투쟁할지도 모른다.(그중에는 우리들의 자식이나 손자도 있을 것이다!) 그들은 '그것들을 어떻게 인간으로 볼 수 있느냐?', '아무리 그래도 그건 아니다' 라고 외치는 종교계나 보수파의 목소리와 싸워야 할 것이다. 영화인들은 로봇과의 사랑과 애정을 다루는 영화들을 쏟아낼 것이며, 심지어 로봇들 자신이 그러한 영화를 제작하게 될런지도 모르겠다. 나는 미래에 이들에게 시민권을 부여하는 것이 옳은지 어떤지 아직 잘 모르겠다. 그러나 내가 확신할 수 있는 것은, 이 문제가 여성이나 흑인에게 참정권을 부여할것인가에 대한 과거의 문제보다 덜 진지하거나 더 황당한 문제는 아니라는 것이다.
-------------------( 청하님의 관련 글도 함께 올립니다)----------------------
< 튜링테스트. 그리고 로봇의 시민권>
앨런 튜링은 1950년에, '생각한다'라는 말에 대해 정의를 내리는 대신에 튜링 테스트라는 실험을 제안하고, 이 테스트를 통해 특정한 기계가 지능이 있는지를 결정할 수 있다고 주장하였다. 우리가 흔히 생각하는 튜링 테스트는 원래에서 단순화된 형태로, 답변자와 질문자가 있어 (기계인) 답변자가 질문자로 하여금 자신이 인간이라고 믿게끔 설득하는 형태로 단순화되어있다.
하지만 원래 튜링이 제안한 오리지널은 그와는 조금 다르게, 답변자가 둘이고, 그 중 하나는 기계가 된다. 질문자는 그들에게 몇 개의 질문을 던진 후에 게임의 마지막에서, 둘 중 어느 쪽은 인간이고 어느 쪽은 기계인가를 판단한다. 기계는 자신이 어느 쪽인지 모르게 하는 것이 게임의 목표고, 다른 답변자인 인간은 그를 돕고 질문자는 그들을 가려낸다. 이 방식은 단순화된 테스트와는 달리 한 번의 시도로는 결과물을 얻기 어렵고, 반복을 통해 질문자가 얼마만큼 잘못된 판단을 하는지에 대해 측정할 필요가 있다.
뢰브너 상 콘테스트. 줄여서 LPC라 불리우는 이 대회는 지금까지도 계속 개최되고 있다. 이 대회는 처음에 튜링테스트에 통과하는 최초의 AI 유닛에게 막대한 상금을 주는 대회였지만 이 테스트에 통과하는 것이 생각보다 어렵다는 것을 알게되자 대회 관계자들은 상금을 축소하고 연마다 대회를 열어 그나마 제일 나은 녀석에게 조금씩 상을 주고 있다. 그나마도 '프랑스 와인'이라던가 '각국의 식사 예절'과 같은 대체 어쩌라는 것인지 알 수 없는 수준으로 제한된 주제에 대해서만 대화를 나누는 것이 허용되며, 뜬금없는 질문(삼각입니까 사각입니까?)이라거나 랜덤한 입력("疽?疽?붐붐~), 의도적인 말장난(빅장수비는 훌륭합니까?)과 같은 입력 또한 엄격하게 제한된다. 실제로 인간과 AI를 판별할 수 있는 가장 좋은 척도는 그런 것들임을 감안할 때, 튜링 테스트에 완벽하게 통과하는 AI의 개발은 아직도 요원해보인다.
jabberwacky.com (기억이 틀릴 수도 있다) 에 가면 작년에 이 상을 수상한 AI와 직접 대화를 해볼 수 있다. 유저와의 대화를 통해 지속적으로 db를 업데이트하는 방식인지라 영어 뿐만 아니라 한국어, 중국어, 일본어까지도 인식하는데, 아무 생각없이 한글로 말을 걸었는데 한글로 대답하는 녀석을 보고 놀란 적이 있다. 그런데 이상하게도, 한글로 말을 걸면 이 녀석은 뭔가 계속 욕만 한다(...).
왜 우린 아직까지도 1950년의 실험방식을 고집할까? 아마 어딘가에는 튜링 테스트에서 효과적으로 인간과 AI를 판별할 수 있는 질문의 목록들이 업데이트되고 있을 것이며, 연구자들은 그것을 보고 연구에 박차를 가하고 있을지도 모른다. 튜링 테스트가 아직까지 행해지고 있는 이유는 단순히 그것이 간단하고 흥미롭기 때문인가? 그것 뿐만은 아니다. 결론부터 말하자면, 지금으로선 그것이 최선이기 때문이다.
어떠한 개체에게 마음이 있는지 없는지, 1인칭 자아를 갖고 있는지 그렇지 않은지에 대해 외부에서 객관적으로 검증할 수 있는 방법은 존재하지 않는다. 언젠가는 자아가 존재하는지 여부에 대하여 과학적으로 검증할 수 있는 방법이 개발될 수 있을까? 1) 우리의 마음이 전적으로 (주로 두뇌의) 지능 활동에서 파생되어 나타나는 것이라면 언젠가 그를 검증할 방법이 나타날 수도 있으나(불가능할 수도 있다), 2) 그 이외의 무언가로부터 비롯되는 것이라면 그것은 검증할 수 없을 것이다. 돌맹이에게 자아가 있는지 여부는 영원히 알 수 없다는 말이다.
튜링 테스트가 아닌 다른 비언어적 테스트가 개발될 수는 있겠지만, 결국 우리는 표현되는 기능을 통해 대상의 마음을 간접적으로 파악할 수 밖에 없다. 그렇지만 이것이 곧바로 우리가 로봇에게 시민권을 주기를 망설이는 이유가 되지는 못한다. 우리는 이러한 방식 이외에는 검증할 수 없는 타인들의 시민권을 무리없이 인정하고 있기 때문이다. 물론 그것은 타인들이 자신과 동일한 방식으로 구성되어 있을 것이라는 믿음 때문일 수도 있으며, 그들의 작동방식에 대해 '알지 못하기 때문'일 수도 있지만.
우리가 로봇을 '우리'라고 인정하기 위해 고려해야할 것들은 이외에도 많다. 그들은 유한하지 않을 수 있으며, 인간 수준의 신뢰도가 보장되어 있지 않을 수 있고, 돌이킬 수 없는 결과를 불러올 수 있다. 예측불가능한 로봇은 위험하기에 인정받지 못할 것이고, 예측가능한 로봇을 '우리'로 인정할 수 있을까? 그렇다고 해서 적절한 수준의 예측불가능성을 뒤섞은 실제로는 절대로 범죄를 저지르지 못하는 로봇이라면 우리는 그것 또한 '우리'로 인정할 수 있을까? 이를 인정할 수 없다면, 호르몬 주사, 혹은 뇌내 장치를 통해 행동에 제약을 받는 인간은 어떨까.
나는 친구 J의 튜링테스트에 통과하지 못하고 지능이 없다는 판정을 받은 적이 있다. 그럼 나는 어떤가. 끼룩끼룩.
상병 김지민
합쳐서 읽을 수 있다는 이 엄청난 메리트!! 03-06
병장 임정우
지민님은 저의 천재성을 알아주시는군요!! 03-07