[2019-2] <사회적 로봇의 출현과 인간의 미래> 칼럼
김민정2020-12-03 23:42
[002 김*성]
칼럼에서는 인간의 공감능력에 대한 이야기를 한다. 첫 부분에 로봇을 ‘괴롭히는’ 장면에 대한 인간의 반응을 보여주면서 인간의 공감 능력이 로봇까지 확장할 수 있는가에 대한 질문을 제시한다. 이후 인간의 공감 능력에 영향을 주는 요소를 나열한 후 여러 실험 결과들을 통해 인간은 로봇을 향해서도 공감력을 발휘한다고 주장한다.
인간의 공감력이 기계까지 확장할 수 있다는 주장에 어느정도 동의를 한다. 인간은 생각보다 정말 많은 것에 공감을 할 수 있는 존재이기 때문이다. ’Wall-E’는 픽사가 제작한 컴퓨터 그래픽 SF 애니메이션 영화이다. 영화에서는 굴러다니는 로봇 Wall-E 가 등장하는데 말도 하지 못하며 인간과는 거의 유사성이 없다고 할 수 있다. 그럼에도 이 영화는 엄청난 흥행을 이루었고 이는 사람들이 로봇 Wall-E에게 공감력을 발휘했기 때문이라 해도 과언이 아닐 것이다. 그 이외에 인간은 ‘쥬토피아’에 나오는 동물들과 공감하기도 하고, 집에서 기르는 식물에게까지 공감력을 발휘하기도 한다. 심지어는 ‘오브젝텀 섹슈얼리티’라는 용어도 존재하는데 이는 사물과 사랑에 빠진 사람들을 가리키는 말이다. 실제로 한 여성은 에펠탑과 ‘3년의 교제’ 끝에 ‘결혼’을 했다고 한다. 이렇듯 인간은 마음만 먹는다면 그것이 생물이든 무생물이든 어느 정도의 공감력은 발휘할 수 있는 존재인 것 같다. 그럼 의미에서 인간의 공감은 당연히 기계에게까지 확장될 수 있을 것이라 생각한다.
문제는 불편한 골짜기이다. 인간은 사물에게도, 식물에게도, 동물에게도 공감을 하기는 하지만 인간과 유사할 수록 공감력이 상승하는 것은 부정할 수 없다. 그렇다면 인간과 로봇이 공생하고 사회적으로 교감을 할 수 있는 미래가 오기 위해서는 로봇을 인간과 최대한 유사하게 만들어야겠다고 생각할 수 있지만 불편한 골짜기를 우회해야 한다. 로봇이 너무 ‘인간 같으면’ 오히려 섬뜩한 느낌을 줄 수 있기 때문이다.
‘소비자들은 자비스보다 프라이데이를 원한다’는 인터넷 기사를 본적이 있다. 아이언맨의 AI인 자비스는 아이언맨의 기분을 살피고 농담도 할 수 있으며 아이언맨의 다음 행동을 예측한다. 이에 반해 프라이데이는 아이언맨이 시키는 일만 딱딱하게 수행한다. 자비스가 더 편할 수는 있지만 불편한 골짜기에 의해 너무 사람 같은 자비스보다 소비자들은 프라이데이를 선호한다는 내용의 기사였다.
아직은 우리의 정서상 ‘너무 사람 같은’ 로봇을 맞이할 준비가 되지 않은 것 같다. 하지만 억지로로봇을 사람과 비슷하게 만들 필요가 있을까? 로봇은 인간을 위해 존재해야 하기에 인간의 거부감에도 불구하고 굳이 ‘너무 사람 같은’ AI를 만들 필요는 없다고 생각한다. 꼭 로봇의 외관을 사람과 닮게 하지 않아도 괜찮지 않은가? 외관을 바꿔 불편한 골짜기를 우회하는 것이 가능하면 그렇게 하는게 맞는 것이라 생각한다.
이제 인간이 기계에게 공감력을 발휘하는 것이 ‘가능’은 하다는 것은 알았다. 하지만 진짜 문제는 ‘나중에 로봇이 상용화되고 많은 일자리를 차지한 후에도, 수많은 실업자가 발생한 후에도 인간은 기계를 향해서 우호적일 수 있을까?’이다. 과거의 러다이트 운동이 보여주듯 자신의 밥그릇을 뺏는 새로운 자본의 투입에 대해 노동자들은 끊임없는 투쟁을 벌여왔다. 로봇에 공감하는 것은 가능하지만 그들이 우리의 이득을 앗아갈 때도 우리는 그들을 포용할 수 있을까?
칼럼에서는 인간의 공감능력에 대한 이야기를 한다. 첫 부분에 로봇을 ‘괴롭히는’ 장면에 대한 인간의 반응을 보여주면서 인간의 공감 능력이 로봇까지 확장할 수 있는가에 대한 질문을 제시한다. 이후 인간의 공감 능력에 영향을 주는 요소를 나열한 후 여러 실험 결과들을 통해 인간은 로봇을 향해서도 공감력을 발휘한다고 주장한다.
인간의 공감력이 기계까지 확장할 수 있다는 주장에 어느정도 동의를 한다. 인간은 생각보다 정말 많은 것에 공감을 할 수 있는 존재이기 때문이다. ’Wall-E’는 픽사가 제작한 컴퓨터 그래픽 SF 애니메이션 영화이다. 영화에서는 굴러다니는 로봇 Wall-E 가 등장하는데 말도 하지 못하며 인간과는 거의 유사성이 없다고 할 수 있다. 그럼에도 이 영화는 엄청난 흥행을 이루었고 이는 사람들이 로봇 Wall-E에게 공감력을 발휘했기 때문이라 해도 과언이 아닐 것이다. 그 이외에 인간은 ‘쥬토피아’에 나오는 동물들과 공감하기도 하고, 집에서 기르는 식물에게까지 공감력을 발휘하기도 한다. 심지어는 ‘오브젝텀 섹슈얼리티’라는 용어도 존재하는데 이는 사물과 사랑에 빠진 사람들을 가리키는 말이다. 실제로 한 여성은 에펠탑과 ‘3년의 교제’ 끝에 ‘결혼’을 했다고 한다. 이렇듯 인간은 마음만 먹는다면 그것이 생물이든 무생물이든 어느 정도의 공감력은 발휘할 수 있는 존재인 것 같다. 그럼 의미에서 인간의 공감은 당연히 기계에게까지 확장될 수 있을 것이라 생각한다.
문제는 불편한 골짜기이다. 인간은 사물에게도, 식물에게도, 동물에게도 공감을 하기는 하지만 인간과 유사할 수록 공감력이 상승하는 것은 부정할 수 없다. 그렇다면 인간과 로봇이 공생하고 사회적으로 교감을 할 수 있는 미래가 오기 위해서는 로봇을 인간과 최대한 유사하게 만들어야겠다고 생각할 수 있지만 불편한 골짜기를 우회해야 한다. 로봇이 너무 ‘인간 같으면’ 오히려 섬뜩한 느낌을 줄 수 있기 때문이다.
‘소비자들은 자비스보다 프라이데이를 원한다’는 인터넷 기사를 본적이 있다. 아이언맨의 AI인 자비스는 아이언맨의 기분을 살피고 농담도 할 수 있으며 아이언맨의 다음 행동을 예측한다. 이에 반해 프라이데이는 아이언맨이 시키는 일만 딱딱하게 수행한다. 자비스가 더 편할 수는 있지만 불편한 골짜기에 의해 너무 사람 같은 자비스보다 소비자들은 프라이데이를 선호한다는 내용의 기사였다.
아직은 우리의 정서상 ‘너무 사람 같은’ 로봇을 맞이할 준비가 되지 않은 것 같다. 하지만 억지로로봇을 사람과 비슷하게 만들 필요가 있을까? 로봇은 인간을 위해 존재해야 하기에 인간의 거부감에도 불구하고 굳이 ‘너무 사람 같은’ AI를 만들 필요는 없다고 생각한다. 꼭 로봇의 외관을 사람과 닮게 하지 않아도 괜찮지 않은가? 외관을 바꿔 불편한 골짜기를 우회하는 것이 가능하면 그렇게 하는게 맞는 것이라 생각한다.
이제 인간이 기계에게 공감력을 발휘하는 것이 ‘가능’은 하다는 것은 알았다. 하지만 진짜 문제는 ‘나중에 로봇이 상용화되고 많은 일자리를 차지한 후에도, 수많은 실업자가 발생한 후에도 인간은 기계를 향해서 우호적일 수 있을까?’이다. 과거의 러다이트 운동이 보여주듯 자신의 밥그릇을 뺏는 새로운 자본의 투입에 대해 노동자들은 끊임없는 투쟁을 벌여왔다. 로봇에 공감하는 것은 가능하지만 그들이 우리의 이득을 앗아갈 때도 우리는 그들을 포용할 수 있을까?
김민정2020-12-03 23:43
[002 정*준]
칼럼을 통해 우리가 일반적으로 공감을 하는 데에 기여하는 다양한 요소에 대해 살펴보며 그 요소가 어떠한 이유로 공감 반응을 촉진하는가를 생각해보았디.
예를 들어, 외관적 유사성은, 공감을 새로이 하고자 하는 대상이 기존에 공감을 하던 범위 내의 대상과 겉으로 보기에 유사할수록, 외관 외 다른 부분도 유사할 것이라 추정하기 때문에 고려된다고 생각한다. 기존에 감정이 있다고 믿고 공감해온 대상과 외관이 유사하면, 자연스레 새로운 비교 대상도 공감이 되리라 생각하는 것이다. 이는, 공감이라는 행위 자체가, 인류가 진화과정에서 서로 상호작용을 해온 과정에서 차츰 발달한 것이므로, 기존 공감 대상들과 유사한 대상들일수록 인류가 공감을 하는 데에 거리낌이 적을 것이라 생각했기 때문이다. 진화계통적으로 인간에게서 먼 동물일수록 공감 정도가 낮아지는 실험결과가 나타난 이유도 인간이 가장 많이 상호작용하고 공감을 해온 대상이 인간이기에 그렇다고 할 수 있다. 같은 맥락에서 내집단의 일원에 더 깊이 공감을 하게 되며, 양육 투자 과정에서 상호작용해온 영아의 모습에 더 이타적으로 반응하는 것이다.
그러나 이러한 유사성의 맥락에서 공감의 대상을 논하면, 칼럼에도 등장했듯 불쾌한 골짜기의 문제를 짚고 넘어가야 한다. 그리고 개인적으로 불쾌한 골짜기의 이유를 추론하자면, 특정 수준 이상의 유사성을 지닌 대상을 우리가 인지할 때에는 그 차이점에 더 주목하기 때문이라고 생각한다. 본문에서 등장한 ‘지각적 역설’과도 그 궤를 같이 한다고 볼 수 있을 것 같은데, 높은 유사도를 지닌 대상이기에 우리가 타인을 바라볼 때와 동일한 인지가 일어남과 동시에 너무도 많은 차이점이 인식되면서 ‘익숙하지 않은 것’에 대한 불쾌감을 느끼는 것이다. 우리가 같은 종인 사람들의 얼굴을 다른 종의 여러 개체보다 훨씬 잘 구분하는 메커니즘의 또 다른 발현이라고 생각한다.
우리가 공감 대상을 바라볼 때 지능과 상호작용을 고려하는 이유도, 외관과 같은 이유이다. 상대가 감정이 존재하는가에 대해 생각하는 과정에서, 우리 인류와 지성적으로 가까울수록 스스로의 감정에 대한 인지도 가능할 것이라 판단하고 인류를 기준으로 한 지능적 유사성을 토대로 공감 가능 여부를 고려하는 것이다.
지능이 높을수록 그렇다고 단언하기에는, 인류를 초월한 지성체이면 더욱 공감을 잘 할 것이라고 이야기하지 못하기에 유사성이 더 적합한 기준이라고 생각했다. 이는 흔히 지능 수준이 뛰어난 ‘천재’에 가지는 존재에 대한 선입견에서 기인한 것일 수도 있고, 애초에 공감 기능이 발달해온 과정에서 지속적으로 상호작용해 온 역사적 대상들과 가까울수록 익숙해서 공감이 더 잘 간다는 가설에 근거한 것일 수도 있다.
마지막으로, 우리가 답하고자 하는 ‘로봇에 공감할 수 있는가’를 생각해보면, 가능하다고 생각한다. 설령 우리가 공감하고자 하는 대상이 로봇이어서 기계적이라 한들, 사람과 동일하지는 않더라도 유사한 상호작용 모습만 보이면 공감이 가능하도록 우리의 공감 기능은 그간 많은 발전을 해왔다고 생각한다. 그리고 실제로, 우리가 함께 본 4차 인간에서의 실험에서도 상호작용을 통해 로봇을 가까이한 사람들은 로봇에 공감하는 모습을 보여주었다. 나아가, 로봇이라는 존재의 본질이 우리가 그간 공감 대상과 매우 멀리 떨어진, 생경한 존재라고 해도, 천천히 발전해온 공감의 기능이 로봇이라는 대상의 본질적 차이(외관 및 상호작용이 동일하다고 가정하고)를 구분하기에는 그 발전 속도가 더딜 것이라고 생각한다. 기술적 변화를 인류가 받아들이기에는 너무 빠르기에, 우리가 판별할 수 있는 몇가지 측면에서 유사하다고 인지하면, 이성적으로는 차이를 인지한다고 한들 감정이 공감을 이미 시도한다는 것이다.
읽기 자료와 지난 영상을 토대로 개인적 견해를 담아 가설적 견해들을 많이 던졌고, 이에 대한 근거는 한참 보충을 해야 하긴 하지만, 로봇을 점차 가까이하게 되는 환경에 직면한 우리로서 사회적 로봇에 대한 논의를 해 보는 것은 큰 의미가 있으리라 생각한다.
칼럼을 통해 우리가 일반적으로 공감을 하는 데에 기여하는 다양한 요소에 대해 살펴보며 그 요소가 어떠한 이유로 공감 반응을 촉진하는가를 생각해보았디.
예를 들어, 외관적 유사성은, 공감을 새로이 하고자 하는 대상이 기존에 공감을 하던 범위 내의 대상과 겉으로 보기에 유사할수록, 외관 외 다른 부분도 유사할 것이라 추정하기 때문에 고려된다고 생각한다. 기존에 감정이 있다고 믿고 공감해온 대상과 외관이 유사하면, 자연스레 새로운 비교 대상도 공감이 되리라 생각하는 것이다. 이는, 공감이라는 행위 자체가, 인류가 진화과정에서 서로 상호작용을 해온 과정에서 차츰 발달한 것이므로, 기존 공감 대상들과 유사한 대상들일수록 인류가 공감을 하는 데에 거리낌이 적을 것이라 생각했기 때문이다. 진화계통적으로 인간에게서 먼 동물일수록 공감 정도가 낮아지는 실험결과가 나타난 이유도 인간이 가장 많이 상호작용하고 공감을 해온 대상이 인간이기에 그렇다고 할 수 있다. 같은 맥락에서 내집단의 일원에 더 깊이 공감을 하게 되며, 양육 투자 과정에서 상호작용해온 영아의 모습에 더 이타적으로 반응하는 것이다.
그러나 이러한 유사성의 맥락에서 공감의 대상을 논하면, 칼럼에도 등장했듯 불쾌한 골짜기의 문제를 짚고 넘어가야 한다. 그리고 개인적으로 불쾌한 골짜기의 이유를 추론하자면, 특정 수준 이상의 유사성을 지닌 대상을 우리가 인지할 때에는 그 차이점에 더 주목하기 때문이라고 생각한다. 본문에서 등장한 ‘지각적 역설’과도 그 궤를 같이 한다고 볼 수 있을 것 같은데, 높은 유사도를 지닌 대상이기에 우리가 타인을 바라볼 때와 동일한 인지가 일어남과 동시에 너무도 많은 차이점이 인식되면서 ‘익숙하지 않은 것’에 대한 불쾌감을 느끼는 것이다. 우리가 같은 종인 사람들의 얼굴을 다른 종의 여러 개체보다 훨씬 잘 구분하는 메커니즘의 또 다른 발현이라고 생각한다.
우리가 공감 대상을 바라볼 때 지능과 상호작용을 고려하는 이유도, 외관과 같은 이유이다. 상대가 감정이 존재하는가에 대해 생각하는 과정에서, 우리 인류와 지성적으로 가까울수록 스스로의 감정에 대한 인지도 가능할 것이라 판단하고 인류를 기준으로 한 지능적 유사성을 토대로 공감 가능 여부를 고려하는 것이다.
지능이 높을수록 그렇다고 단언하기에는, 인류를 초월한 지성체이면 더욱 공감을 잘 할 것이라고 이야기하지 못하기에 유사성이 더 적합한 기준이라고 생각했다. 이는 흔히 지능 수준이 뛰어난 ‘천재’에 가지는 존재에 대한 선입견에서 기인한 것일 수도 있고, 애초에 공감 기능이 발달해온 과정에서 지속적으로 상호작용해 온 역사적 대상들과 가까울수록 익숙해서 공감이 더 잘 간다는 가설에 근거한 것일 수도 있다.
마지막으로, 우리가 답하고자 하는 ‘로봇에 공감할 수 있는가’를 생각해보면, 가능하다고 생각한다. 설령 우리가 공감하고자 하는 대상이 로봇이어서 기계적이라 한들, 사람과 동일하지는 않더라도 유사한 상호작용 모습만 보이면 공감이 가능하도록 우리의 공감 기능은 그간 많은 발전을 해왔다고 생각한다. 그리고 실제로, 우리가 함께 본 4차 인간에서의 실험에서도 상호작용을 통해 로봇을 가까이한 사람들은 로봇에 공감하는 모습을 보여주었다. 나아가, 로봇이라는 존재의 본질이 우리가 그간 공감 대상과 매우 멀리 떨어진, 생경한 존재라고 해도, 천천히 발전해온 공감의 기능이 로봇이라는 대상의 본질적 차이(외관 및 상호작용이 동일하다고 가정하고)를 구분하기에는 그 발전 속도가 더딜 것이라고 생각한다. 기술적 변화를 인류가 받아들이기에는 너무 빠르기에, 우리가 판별할 수 있는 몇가지 측면에서 유사하다고 인지하면, 이성적으로는 차이를 인지한다고 한들 감정이 공감을 이미 시도한다는 것이다.
읽기 자료와 지난 영상을 토대로 개인적 견해를 담아 가설적 견해들을 많이 던졌고, 이에 대한 근거는 한참 보충을 해야 하긴 하지만, 로봇을 점차 가까이하게 되는 환경에 직면한 우리로서 사회적 로봇에 대한 논의를 해 보는 것은 큰 의미가 있으리라 생각한다.
김민정2020-12-03 23:44
[002 공*채]
개인적인 견해를 먼저 밝혀두자면, 나는 로봇은 단순한 기계일 뿐이라고 생각한다. 적어도 나의 머릿속에서 로봇은 센서에 감지된 정보를 판단하고 정해진 코드와 알고리즘에 따라 동작을 수행하는 장치 그 이상도 이하도 아니다. 센서를 통해 파악할 수 있는 데이터의 범주가 다양해지고, 알고리즘이 고도화되면서 수행할 수 있는 행위의 범위가 확장되고 그 복잡성이 향상되었을 뿐이지, 기계가 생명체가 된 것은 아니다.
위와 같은 사고방식을 따르고 있어서인지, 로봇에게 인간이 연민을 느끼는 일련의 현상들 - Boston Dynamics 영상 반응, 아이봇 장례식 열풍 - 에 대해 이성적으로는 전혀 공감할 수 없다. 하지만 영상을 보는 내내 어딘가 불편함을 느꼈던 것은 사실이다. 개인적으로는 그 원인이 칼럼에 언급되는 휴머노이드 로봇과 인간사이의 유사성에 기인한다기 보다는, '다른 존재를 괴롭혀서는 안된다'라는 개인 가치관과 영상의 표현이 상충되어 발생한 문제라고 생각하는 바이다. 사람들은 휴머노이드 Atlas 뿐 아니라 동물의 움직임을 모방한 작동방식을 취하는 Big Dog에도 연민의 감정을 표현했다는 점에서 단순히 유사성이 사람들이 느낀 불쾌함의 원인이라 단정지을 수는 없다. 오히려 약자를 괴롭히지 말라는 사회적 가치관을 가해자에게 투영한 결과는 아닐런지, 혹은 다른 원인이 있을지에 대한 추가적 고민이 필요하다.
오늘날의 인간이 로봇에 공감하고 있다는 명제에 동의할 수 없는 또 다른 이유는 로봇에 대한 인간의 공감이 누군가에게 로봇이 공격당했을 때 연민을 표현하는 행위에 한정되어 있기 때문이다. 취객에게 폭력을 당한 휴머노이드 Pepper, 납치를 당한 경비로봇 Knightscope, 누군가에게 의해 부품이 완전 분해된 Hitch Bot 등 로봇이 사람에 의해 맞고 쓰러지며, 학대 당하는 경우에만 사람들은 연민을 표현한다. 로봇이 24/7 업무를 수행해 과부하가 걸린다거나 특정 Task를 알고리즘 한계로 인해 수행하지 못하고 하릴없이 반복하고 있다고 가정할 때, 우리는 별다른 감정을 느끼지 못한다. 다크써클이 내려앉은 친구에게 어제 무슨 일 때문에 피곤했는지 묻는다거나 손을 내밀고 간식을 받아먹는 훈련을 수행하지 못해 낑낑대는 강아지를 볼 때와는 전혀 다른 모습니다. 인간이 생명체에게 느끼는 공감의 감정은 다양하지만 현재 로봇에게 사람이 느끼는 바가 확인된 감정은 연민 뿐이다.
영화 <Her>와 같이 사람이 인공지능에 공감하고 그들과 더 깊은 관계로 나아가기 위해서는 앞으로도 족히 20년은 필요할 것이라 예상한다. 아이들의 기상천외한 질문에 대답을 줄곧 잘 이어나가는 Amazon의 Alexa나 개인 비서 역할을 수행하며 사람을 대상으로 스케줄 예약을 하는 Google Duplex조차도 20년 전 공상과학 소설에 나오는 인간과 로봇의 관계를 구축하기에는 한참 부족하기 때문이다. 아직 기술적 측면에서는 갈길이 참 멀다.
다만 분명한 점은 언젠가는 사회적 기능을 수행하는 인공지능 로봇과 인간이 공존해야만하는 시대가 필연적으로 대두한다는 사실이다. 태어나서부터 로봇을 접하고 소통하게 될 향후 세대는 지금의 나와는 달리 로봇에게도 인간과 똑같은 공감의 감정을 느낄 수 있을런지도 모른다. 그들에게 로봇은 더이상 우리가 꿈꿔오던 디즈니 만화 속 캐릭터가 아니라 자신의 삶을 살아가는데 만나게 되는 친구로 자리할 것이며, 이는 사회를 살아가는 하나의 당연한 방식으로 기능할 것이기 때문이다. 외형적으로도 그리고 기술적으로도 불쾌한 골짜기는 사라질 것이며, 그 끝에 인간이 로봇과 공감할 수 있는 시대가 열릴 지도 모를 일이다. 한 가지, 지금 우리 세대가 미래를 준비하는 과정에서 명심해야 할 것은 위와 같은 사회적 흐름을 자연스레 받아들이기 위해 지금부터 로봇과 인간의 관계는 어떻게 형성되어야 하며, 어떠한 원칙과 변용 하에서 이뤄져야 하는지에 대해 지속적으로 고민해야 한다는 점이다.
개인적인 견해를 먼저 밝혀두자면, 나는 로봇은 단순한 기계일 뿐이라고 생각한다. 적어도 나의 머릿속에서 로봇은 센서에 감지된 정보를 판단하고 정해진 코드와 알고리즘에 따라 동작을 수행하는 장치 그 이상도 이하도 아니다. 센서를 통해 파악할 수 있는 데이터의 범주가 다양해지고, 알고리즘이 고도화되면서 수행할 수 있는 행위의 범위가 확장되고 그 복잡성이 향상되었을 뿐이지, 기계가 생명체가 된 것은 아니다.
위와 같은 사고방식을 따르고 있어서인지, 로봇에게 인간이 연민을 느끼는 일련의 현상들 - Boston Dynamics 영상 반응, 아이봇 장례식 열풍 - 에 대해 이성적으로는 전혀 공감할 수 없다. 하지만 영상을 보는 내내 어딘가 불편함을 느꼈던 것은 사실이다. 개인적으로는 그 원인이 칼럼에 언급되는 휴머노이드 로봇과 인간사이의 유사성에 기인한다기 보다는, '다른 존재를 괴롭혀서는 안된다'라는 개인 가치관과 영상의 표현이 상충되어 발생한 문제라고 생각하는 바이다. 사람들은 휴머노이드 Atlas 뿐 아니라 동물의 움직임을 모방한 작동방식을 취하는 Big Dog에도 연민의 감정을 표현했다는 점에서 단순히 유사성이 사람들이 느낀 불쾌함의 원인이라 단정지을 수는 없다. 오히려 약자를 괴롭히지 말라는 사회적 가치관을 가해자에게 투영한 결과는 아닐런지, 혹은 다른 원인이 있을지에 대한 추가적 고민이 필요하다.
오늘날의 인간이 로봇에 공감하고 있다는 명제에 동의할 수 없는 또 다른 이유는 로봇에 대한 인간의 공감이 누군가에게 로봇이 공격당했을 때 연민을 표현하는 행위에 한정되어 있기 때문이다. 취객에게 폭력을 당한 휴머노이드 Pepper, 납치를 당한 경비로봇 Knightscope, 누군가에게 의해 부품이 완전 분해된 Hitch Bot 등 로봇이 사람에 의해 맞고 쓰러지며, 학대 당하는 경우에만 사람들은 연민을 표현한다. 로봇이 24/7 업무를 수행해 과부하가 걸린다거나 특정 Task를 알고리즘 한계로 인해 수행하지 못하고 하릴없이 반복하고 있다고 가정할 때, 우리는 별다른 감정을 느끼지 못한다. 다크써클이 내려앉은 친구에게 어제 무슨 일 때문에 피곤했는지 묻는다거나 손을 내밀고 간식을 받아먹는 훈련을 수행하지 못해 낑낑대는 강아지를 볼 때와는 전혀 다른 모습니다. 인간이 생명체에게 느끼는 공감의 감정은 다양하지만 현재 로봇에게 사람이 느끼는 바가 확인된 감정은 연민 뿐이다.
영화 <Her>와 같이 사람이 인공지능에 공감하고 그들과 더 깊은 관계로 나아가기 위해서는 앞으로도 족히 20년은 필요할 것이라 예상한다. 아이들의 기상천외한 질문에 대답을 줄곧 잘 이어나가는 Amazon의 Alexa나 개인 비서 역할을 수행하며 사람을 대상으로 스케줄 예약을 하는 Google Duplex조차도 20년 전 공상과학 소설에 나오는 인간과 로봇의 관계를 구축하기에는 한참 부족하기 때문이다. 아직 기술적 측면에서는 갈길이 참 멀다.
다만 분명한 점은 언젠가는 사회적 기능을 수행하는 인공지능 로봇과 인간이 공존해야만하는 시대가 필연적으로 대두한다는 사실이다. 태어나서부터 로봇을 접하고 소통하게 될 향후 세대는 지금의 나와는 달리 로봇에게도 인간과 똑같은 공감의 감정을 느낄 수 있을런지도 모른다. 그들에게 로봇은 더이상 우리가 꿈꿔오던 디즈니 만화 속 캐릭터가 아니라 자신의 삶을 살아가는데 만나게 되는 친구로 자리할 것이며, 이는 사회를 살아가는 하나의 당연한 방식으로 기능할 것이기 때문이다. 외형적으로도 그리고 기술적으로도 불쾌한 골짜기는 사라질 것이며, 그 끝에 인간이 로봇과 공감할 수 있는 시대가 열릴 지도 모를 일이다. 한 가지, 지금 우리 세대가 미래를 준비하는 과정에서 명심해야 할 것은 위와 같은 사회적 흐름을 자연스레 받아들이기 위해 지금부터 로봇과 인간의 관계는 어떻게 형성되어야 하며, 어떠한 원칙과 변용 하에서 이뤄져야 하는지에 대해 지속적으로 고민해야 한다는 점이다.
김민정2020-12-03 23:44
[002 장*진]
<로봇학대금지법은 만들어질 수 있을까?>
고대부터 인간은 스스로의 모습을 본 뜬 인형과 조각상을 즐겨 만들었고, ‘자기 자신의 모습을 꼭 닮은 인공물’에 대한 관심은 수많은 신화와 이야기로 전승되어 오늘날 인간과 닮은 로봇의 출현을 낳았다. 이번 주 리딩이었던 「사회적 로봇의 출현과 인간의 미래」 칼럼은 그 간의 정교한 기계였던 로봇과 질적으로 다른, 사람과 감정적·이성적 교류가 가능한 사회적 로봇의 출현을 다루었다. 칼럼은 인간의 공감 능력이 사람과 닮은 또는 사람과 교류할 수 있는 로봇들에게 어떻게 작동하는지를 다루었다.
칼럼을 읽으며 든 첫 번째 생각은 ‘왜 로봇에게 공감하는가?’라는 근본적 질문이었다. 칼럼에서는 인간이 느끼는 대상의 정신 능력, 대상의 행동으로부터 추론되는 지적 능력, 인간과의 유사성 등이 로봇에 대한 우리의 공감 정도에 차이를 가져온다고 한다. 개인적으로 이 중에서도 ‘인간이 느끼는 대상의 정신 능력’이 공감능력의 확대를 가져오는 가장 큰 요인이라는 생각이 들었다. 누군가가 인간과 매우 흡사하게 생긴 마네킹을 짓밟고 부수더라도 많은 사람들은 마네킹의 입장에서 불쾌감을 느끼지는 않는다. 그러나 만약 인간과 전혀 닮지 않은 괴생명체라도 고통에 반응하여 몸부림치는 모습을 본다면 이에 대한 불쾌감을 느낄 확률이 높다. 즉 인간의 공감 능력 확대는 단순히 ‘유사성’에 기초해 있기보다는 ‘인간이 생각하는 대상의 정신 능력’에 기반을 두고 있을 확률이 높다.
칼럼에서 제시된 여러 다른 요인들은 ‘인간이 생각하는 대상의 정신 능력’에 영향을 끼침으로써 공감 능력 확대에 기여한다고 볼 수 있다. 즉 인간이 자신과 닮은 대상일수록 더 잘 공감하는 이유는 대상이 자신만큼의 동일한 정신적 능력을 갖고 있다고 판단할 여지가 더 크기 때문일 것이다.
이런 관점에서 본다면 앞으로 복잡한 사회적 교류가 가능한 로봇이 나올수록 로봇에 대한 인간의 공감 능력이 확대되리란 것은 쉽게 예측할 수 있다. 여기서 던져볼 수 있는 두 번째 질문은 ‘과연 인간의 공감 능력이 어느 정도로까지 로봇에게 확대될 것인가?’이다. 인류 문명의 발전은 개략적으로 말해 ‘공감 능력의 범위를 제도적으로 확장시켜온 역사’라고 할 수 있다. 처음에는 권력자와 부자를 중심으로만 형성된 ‘우리’라는 공감 능력의 범위가 역사를 거치면서 점점 더 많은 공동체 구성원에게까지 미치기 시작했고, 인간 사회는 공감 능력의 범위 안에 있는 사람들을 제도적으로 보호하는 방향으로 발달해왔다. 모두가 같은 인간이라는 생각에 기초해 신분제가 폐지된 사실이나 사회적으로 핍박받아 온 소수자의 인권을 차례차례 보장해온 역사는 인간 사회가 공감의 범위를 넓혀왔고, 그 범위 내부에 있는 구성원들을 법과 제도로써 보호하고 있음을 보여준다.
이의 연장선상으로 오늘날의 사회 또한 공감의 범위를 꾸준히 넓혀나가고 있는데 그 중 특이점을 넘어선 것은 ‘동물권’이라고 본다. 이제 인간 사회는 단순히 인간이라는 종을 넘어서 수많은 다른 종에도 충분히 공감하고 그들의 권리를 논할 수 있는 단계가 된 것이다. 인간 사회가 ‘동물권’을 보장하기까지의 추세를 본다면 미래에 등장할 사람과 같은 수준의 대화와 행동을 할 수 있는 로봇의 권리를 논하는 것도 불가능한 일이 아니다. 점점 진화되어 가는 사회적 로봇과 그에 발맞추어 넓어지는 인간의 공감 능력은 결국 언젠가 로봇의 권리를 둘러싼 법적 논쟁을 불러일으킬 것이다. 우리는 생각보다 빠른 미래에 인간과 교류하는 사회적 로봇을 마음대로 부수고 학대하는 것을 금지하는 ‘로봇학대금지법’을 마주하게 될지도 모른다.
<로봇학대금지법은 만들어질 수 있을까?>
고대부터 인간은 스스로의 모습을 본 뜬 인형과 조각상을 즐겨 만들었고, ‘자기 자신의 모습을 꼭 닮은 인공물’에 대한 관심은 수많은 신화와 이야기로 전승되어 오늘날 인간과 닮은 로봇의 출현을 낳았다. 이번 주 리딩이었던 「사회적 로봇의 출현과 인간의 미래」 칼럼은 그 간의 정교한 기계였던 로봇과 질적으로 다른, 사람과 감정적·이성적 교류가 가능한 사회적 로봇의 출현을 다루었다. 칼럼은 인간의 공감 능력이 사람과 닮은 또는 사람과 교류할 수 있는 로봇들에게 어떻게 작동하는지를 다루었다.
칼럼을 읽으며 든 첫 번째 생각은 ‘왜 로봇에게 공감하는가?’라는 근본적 질문이었다. 칼럼에서는 인간이 느끼는 대상의 정신 능력, 대상의 행동으로부터 추론되는 지적 능력, 인간과의 유사성 등이 로봇에 대한 우리의 공감 정도에 차이를 가져온다고 한다. 개인적으로 이 중에서도 ‘인간이 느끼는 대상의 정신 능력’이 공감능력의 확대를 가져오는 가장 큰 요인이라는 생각이 들었다. 누군가가 인간과 매우 흡사하게 생긴 마네킹을 짓밟고 부수더라도 많은 사람들은 마네킹의 입장에서 불쾌감을 느끼지는 않는다. 그러나 만약 인간과 전혀 닮지 않은 괴생명체라도 고통에 반응하여 몸부림치는 모습을 본다면 이에 대한 불쾌감을 느낄 확률이 높다. 즉 인간의 공감 능력 확대는 단순히 ‘유사성’에 기초해 있기보다는 ‘인간이 생각하는 대상의 정신 능력’에 기반을 두고 있을 확률이 높다.
칼럼에서 제시된 여러 다른 요인들은 ‘인간이 생각하는 대상의 정신 능력’에 영향을 끼침으로써 공감 능력 확대에 기여한다고 볼 수 있다. 즉 인간이 자신과 닮은 대상일수록 더 잘 공감하는 이유는 대상이 자신만큼의 동일한 정신적 능력을 갖고 있다고 판단할 여지가 더 크기 때문일 것이다.
이런 관점에서 본다면 앞으로 복잡한 사회적 교류가 가능한 로봇이 나올수록 로봇에 대한 인간의 공감 능력이 확대되리란 것은 쉽게 예측할 수 있다. 여기서 던져볼 수 있는 두 번째 질문은 ‘과연 인간의 공감 능력이 어느 정도로까지 로봇에게 확대될 것인가?’이다. 인류 문명의 발전은 개략적으로 말해 ‘공감 능력의 범위를 제도적으로 확장시켜온 역사’라고 할 수 있다. 처음에는 권력자와 부자를 중심으로만 형성된 ‘우리’라는 공감 능력의 범위가 역사를 거치면서 점점 더 많은 공동체 구성원에게까지 미치기 시작했고, 인간 사회는 공감 능력의 범위 안에 있는 사람들을 제도적으로 보호하는 방향으로 발달해왔다. 모두가 같은 인간이라는 생각에 기초해 신분제가 폐지된 사실이나 사회적으로 핍박받아 온 소수자의 인권을 차례차례 보장해온 역사는 인간 사회가 공감의 범위를 넓혀왔고, 그 범위 내부에 있는 구성원들을 법과 제도로써 보호하고 있음을 보여준다.
이의 연장선상으로 오늘날의 사회 또한 공감의 범위를 꾸준히 넓혀나가고 있는데 그 중 특이점을 넘어선 것은 ‘동물권’이라고 본다. 이제 인간 사회는 단순히 인간이라는 종을 넘어서 수많은 다른 종에도 충분히 공감하고 그들의 권리를 논할 수 있는 단계가 된 것이다. 인간 사회가 ‘동물권’을 보장하기까지의 추세를 본다면 미래에 등장할 사람과 같은 수준의 대화와 행동을 할 수 있는 로봇의 권리를 논하는 것도 불가능한 일이 아니다. 점점 진화되어 가는 사회적 로봇과 그에 발맞추어 넓어지는 인간의 공감 능력은 결국 언젠가 로봇의 권리를 둘러싼 법적 논쟁을 불러일으킬 것이다. 우리는 생각보다 빠른 미래에 인간과 교류하는 사회적 로봇을 마음대로 부수고 학대하는 것을 금지하는 ‘로봇학대금지법’을 마주하게 될지도 모른다.
김민정2020-12-03 23:45
[002 김*우]
인간은 ‘유사성에 기반한 공감’을 하며, 초사회성으로 인해 결국 로봇에 대한 진정한 공감도 가능할 것이라고 보고 있다. 본 칼럼은 유사성, 즉 공감의 객체에 초점을 맞추고 있다고 느꼈다. 유사성에 의해 공감의 크기가 변한다는 점은 여러 실험을 통해 충분히 증명이 되었다. 그리고 로봇에게 공감을 하게 될 수도 있다는 것에 동의한다. 그러나 글을 읽으며 더 고민을 하게 된 부분은 공감의 객체보다는, 공감을 하는 주체와 ‘공감’이라는 것 자체에 대한 것이다.
‘공감이란 무엇인가’라는 질문이 계속 머릿속을 맴돌았다. 사전에 의하면, 본 칼럼에서 다루는 공감을 설명하기에 가장 적합한 정의는 ‘남의 감정, 의견, 주장 따위에 대하여 자기도 그렇다고 느낌’이다. 로봇에 대한 공감을 생각해보자. 로봇에 공감을 하려면 로봇의 감정 혹은 주장(의견)이 존재해야 한다. 하지만 로봇은 위의 정의를 만족시키기에는 상당히 결여되어 있다. 먼저 로봇은 주장이 없다. 정확히 말하면 없어야 한다. 로봇은 인간의 결정을 도와줄 수 있는 수단이라고 생각한다. 로봇은 결정의 주체가 아니다. 주장이 있다고 해도 그 주장을 실현할 수 있도록 설계되어서는 안 된다. 다음으로, 만약 인간의 외로움 등을 해결하기 위해 로봇에 감정을 탑재한다고 생각해보자. 이때 탑재된 감정을 진정한 감정이라고 말할 수 있을지에 대해 상당히 회의적이다. <이러이러한 상황에서는 대부분의 인간은 ‘슬픔’이라는 감정을 느낀다.>를 가르친 것에 불과한 것이라고 생각한다. 그래서 정의에 의하면 우리는 로봇에 공감할 수 없다. 그러나 칼럼에서 소개된 여러 사례들을 보면, 우리는 인간의 괴롭힘을 받는 기계를 보고 슬픔, 연민 등을 느낀다. 나는 초사회성의 개념이 이 부분을 설명해주고 있다고 생각한다. ‘로봇도 지금 슬프겠지.’라고 과도하게 감정을 부여하는 것이다. ultra-social하게 말이다. 이것도 공감으로 봐야 하는 걸까. 공감이라는 단어의 어휘적 의미를 정확하게 하고자 한 것은 아니다. 하지만 인간이 인간에게 느끼는 공감과 로봇에 느끼는 공감은 달라도 한참 다르다고 생각한다.
마지막으로 칼럼의 후반부에서 인간과 로봇이 ‘교감’하게 될 것이라고 했는데, 불가능하다고 생각한다. 공감은 상호적인 작용이 아니다. 그러나 교감은 서로가 공감을 해야 하는 보다 복잡한 작용이다. 초사회성은 인간이 로봇에 공감하게 할 수 있으나 로봇이 인간에게 진정으로 공감하는 것은 없다. 그러므로 ‘교감’은 성립 자체가 어렵다.
미래에는 점점 더 많은 로봇들이 인간 곁에서 함께 생활하게 될 것이다. 기계라고만 여겨져 온 로봇이 계속해서 똑똑해지고 인간과 유사하게 사고할 수 있게 진화하고 있다. 급격하게 발전하는 로봇들을 어떤 존재로 받아들여야 할지는 로봇 개발에 있어 반드시 필요한 논의다. 인간과 유사해질수록 인간과는 어떻게 다른 존재인지로 논의가 발전할 가능성이 있으며 그러한 맥락에서 인간의 초사회성을 고려하는 것은 의미 있는 일이다.
인간은 ‘유사성에 기반한 공감’을 하며, 초사회성으로 인해 결국 로봇에 대한 진정한 공감도 가능할 것이라고 보고 있다. 본 칼럼은 유사성, 즉 공감의 객체에 초점을 맞추고 있다고 느꼈다. 유사성에 의해 공감의 크기가 변한다는 점은 여러 실험을 통해 충분히 증명이 되었다. 그리고 로봇에게 공감을 하게 될 수도 있다는 것에 동의한다. 그러나 글을 읽으며 더 고민을 하게 된 부분은 공감의 객체보다는, 공감을 하는 주체와 ‘공감’이라는 것 자체에 대한 것이다.
‘공감이란 무엇인가’라는 질문이 계속 머릿속을 맴돌았다. 사전에 의하면, 본 칼럼에서 다루는 공감을 설명하기에 가장 적합한 정의는 ‘남의 감정, 의견, 주장 따위에 대하여 자기도 그렇다고 느낌’이다. 로봇에 대한 공감을 생각해보자. 로봇에 공감을 하려면 로봇의 감정 혹은 주장(의견)이 존재해야 한다. 하지만 로봇은 위의 정의를 만족시키기에는 상당히 결여되어 있다. 먼저 로봇은 주장이 없다. 정확히 말하면 없어야 한다. 로봇은 인간의 결정을 도와줄 수 있는 수단이라고 생각한다. 로봇은 결정의 주체가 아니다. 주장이 있다고 해도 그 주장을 실현할 수 있도록 설계되어서는 안 된다. 다음으로, 만약 인간의 외로움 등을 해결하기 위해 로봇에 감정을 탑재한다고 생각해보자. 이때 탑재된 감정을 진정한 감정이라고 말할 수 있을지에 대해 상당히 회의적이다. <이러이러한 상황에서는 대부분의 인간은 ‘슬픔’이라는 감정을 느낀다.>를 가르친 것에 불과한 것이라고 생각한다. 그래서 정의에 의하면 우리는 로봇에 공감할 수 없다. 그러나 칼럼에서 소개된 여러 사례들을 보면, 우리는 인간의 괴롭힘을 받는 기계를 보고 슬픔, 연민 등을 느낀다. 나는 초사회성의 개념이 이 부분을 설명해주고 있다고 생각한다. ‘로봇도 지금 슬프겠지.’라고 과도하게 감정을 부여하는 것이다. ultra-social하게 말이다. 이것도 공감으로 봐야 하는 걸까. 공감이라는 단어의 어휘적 의미를 정확하게 하고자 한 것은 아니다. 하지만 인간이 인간에게 느끼는 공감과 로봇에 느끼는 공감은 달라도 한참 다르다고 생각한다.
마지막으로 칼럼의 후반부에서 인간과 로봇이 ‘교감’하게 될 것이라고 했는데, 불가능하다고 생각한다. 공감은 상호적인 작용이 아니다. 그러나 교감은 서로가 공감을 해야 하는 보다 복잡한 작용이다. 초사회성은 인간이 로봇에 공감하게 할 수 있으나 로봇이 인간에게 진정으로 공감하는 것은 없다. 그러므로 ‘교감’은 성립 자체가 어렵다.
미래에는 점점 더 많은 로봇들이 인간 곁에서 함께 생활하게 될 것이다. 기계라고만 여겨져 온 로봇이 계속해서 똑똑해지고 인간과 유사하게 사고할 수 있게 진화하고 있다. 급격하게 발전하는 로봇들을 어떤 존재로 받아들여야 할지는 로봇 개발에 있어 반드시 필요한 논의다. 인간과 유사해질수록 인간과는 어떻게 다른 존재인지로 논의가 발전할 가능성이 있으며 그러한 맥락에서 인간의 초사회성을 고려하는 것은 의미 있는 일이다.
김민정2020-12-03 23:47
[002 박*빈]
해당 읽기자료에서는 인간의 다른 동물을 향한 공감에 영향을 미치는 요소를 먼저 제시하고, 이를 바탕으로 하여 어떤 요소가 인간의 로봇을 향한 공감에 영향을 미치는지 논의하고 있다. 인간은 자신과 유사한 대상에 대해 더 크게 공감한다는 것이 핵심적인 논지이며, 나아가 로봇이 이러한 유사성을 끌어내려면 외모나 지능보다는 인간과 상호작용할 수 있는 능력, 즉 사회적 알고리즘을 가지고 있어야 한다고 말한다. 인간은 고도의 사회성을 가진 초사회적 존재이기 때문이다.
지난 시간 차상균 교수님의 특강에 따르면 AI는 본질적으로 인간의 능력인 추론(reasoning)을 할 수 있어야 단순한 프로그램과 구분되는 AI라고 할 수 있다. 그런 면에서 보면 AI를 탑재하여 만들 수 있는 로봇을 생각할 때 일단 인간 형태를 떠올리는 것은 당연할지도 모른다. 그러나 개나 고양이 같은 동물 또한 기초적인 수준의 추론 능력을 가지고 있으므로, AI를 이용하여 만들 수 있는 로봇은 인간뿐이 아니며 실제로 AI를 탑재한 반려동물 로봇이 지속적으로 개발 중이다. 이러한 점을 고려하면 로봇에 대한 인간의 공감이 단지 유사성이라는 한 가지 차원에 의해 결정된다고 말하기에는 부족할지 모른다. 영화를 관람하면서도 사람이 죽을 때보다 동물이 죽을 때 더 슬퍼하는 사람이 있듯, 똑같은 프로그램을 탑재하였더라도 인간과 똑같이 생긴 로봇보다 강아지를 본뜬 로봇에 더 공감하는 사람이 있을 수 있기 때문이다.
따라서 유사성이라는 한 가지 차원보다는 두 가지 차원으로 공감 수준을 설명하는 것이 더 넓은 범위를 포괄할 수 있다고 생각한다. 첫째로 로봇이 모방한 실제 대상이나 요소에 대한 개인의 태도, 그리고 둘째로 로봇의 그 실제 대상과의 유사성이다. 개인의 공감도를 이 두 차원의 결합으로 나타낼 수 있으며, 후자는 불쾌한 골짜기를 고려하여야 할 것이다.
논의해보고 싶은 쟁점은 로봇에 대한 정서적, 혹은 물리적 학대가 사회적으로 어떻게 작용할 것인가이다. 먼저 동물학대에 대해 이야기해보자. 동물에 대한 폭력과 인간을 대상으로 한 범죄의 상관관계를 밝히려는 시도는 여럿 있었으나, 가정폭력을 제외하고는 연구 결과가 분분하여 뚜렷하게 정립되지는 않은 실정이다. 그러나 그렇다 해도 동물학대가 반사회적이라는 사실에는 변함이 없다. 동물학대는 자신보다 약한 대상, 특히 저항하거나 반항할 수 없는 대상을 향한 폭력이며, 약자에 대한 공감과 배려를 상실하고 비합리적 지배체제를 공고히 하는 행동이기 때문이다. 클리프턴 P. 클린은 그의 저서 <동물학대의 사회학>에서 “모든 생명이 존엄과 존중의 대우를 받는, 더 안전하고 덜 폭력적인 사회가 되려면 동물학대에 대한 폭넓은 이해가 필요하다”고 말한 바 있다. 만약 인간과 비슷한, 혹은 개나 고양이와 매우 비슷한 AI로봇이 발명되고, 누군가가 이것을 학대하며 쾌감을 얻거나 자신의 권력을 확인하는 수단으로 사용한다면 이는 동물, 나아가 인간에 대한 학대와 매우 유사하다.
물론 국내의 동물 학대가 끊임없이 이슈가 되는 이유에는 관련법이 미약하다는 점도 있다. 이를 바탕으로 다음과 같은 쟁점에 대해서 생각해볼 수 있다.
1. 만약 인간과 유사한, 혹은 개나 고양이와 매우 유사한 AI 로봇이 발명된다면, 학대를 처벌하는 법이 제정될 수 있을까? 혹은 단순한 소유물로 인정될 것인가?
2. 물리적 폭력에 아파하거나 반응하는 기능을 로봇에 넣는 것이 옳을까? 읽기자료인 칼럼 <사회적 로봇의 출현과 인간의 미래>에서는 로봇이 인간과 유사할수록 인간의 공감을 더욱 더 많이 끌어낼 수 있다고 이야기한다. 또한 피험자들이 로봇의 지능이 높을 때 로봇을 파괴하기 위해 망치를 덜 휘둘렀다는 실험 또한 제시하고 있다. 따라서 로봇에 대한 폭력을 방지하려면 이러한 기능을 넣는 것이 옳다. 그러나 반대로 이런 기능은 로봇이 법의 사각지대에서 폭력성을 제지 없이 배출하는 통로로 사용될 수 있는 가능성을 불러일으키지 않을까?
인간과 감정교류를 하고 소통할 수 있는 로봇은 인류의 오랜 꿈인 만큼 안키 사의 코즈모와 벡터를 비롯한 반려 로봇, 수많은 인공지능 상담 프로그램을 비롯한 시도와 연구가 행해지고 있다. 과연 인간이 만족할 만한 수준의 AI는 만들어질 수 있을 것인가, 그렇다면 언제가 될 것인가도 궁금해진다.
해당 읽기자료에서는 인간의 다른 동물을 향한 공감에 영향을 미치는 요소를 먼저 제시하고, 이를 바탕으로 하여 어떤 요소가 인간의 로봇을 향한 공감에 영향을 미치는지 논의하고 있다. 인간은 자신과 유사한 대상에 대해 더 크게 공감한다는 것이 핵심적인 논지이며, 나아가 로봇이 이러한 유사성을 끌어내려면 외모나 지능보다는 인간과 상호작용할 수 있는 능력, 즉 사회적 알고리즘을 가지고 있어야 한다고 말한다. 인간은 고도의 사회성을 가진 초사회적 존재이기 때문이다.
지난 시간 차상균 교수님의 특강에 따르면 AI는 본질적으로 인간의 능력인 추론(reasoning)을 할 수 있어야 단순한 프로그램과 구분되는 AI라고 할 수 있다. 그런 면에서 보면 AI를 탑재하여 만들 수 있는 로봇을 생각할 때 일단 인간 형태를 떠올리는 것은 당연할지도 모른다. 그러나 개나 고양이 같은 동물 또한 기초적인 수준의 추론 능력을 가지고 있으므로, AI를 이용하여 만들 수 있는 로봇은 인간뿐이 아니며 실제로 AI를 탑재한 반려동물 로봇이 지속적으로 개발 중이다. 이러한 점을 고려하면 로봇에 대한 인간의 공감이 단지 유사성이라는 한 가지 차원에 의해 결정된다고 말하기에는 부족할지 모른다. 영화를 관람하면서도 사람이 죽을 때보다 동물이 죽을 때 더 슬퍼하는 사람이 있듯, 똑같은 프로그램을 탑재하였더라도 인간과 똑같이 생긴 로봇보다 강아지를 본뜬 로봇에 더 공감하는 사람이 있을 수 있기 때문이다.
따라서 유사성이라는 한 가지 차원보다는 두 가지 차원으로 공감 수준을 설명하는 것이 더 넓은 범위를 포괄할 수 있다고 생각한다. 첫째로 로봇이 모방한 실제 대상이나 요소에 대한 개인의 태도, 그리고 둘째로 로봇의 그 실제 대상과의 유사성이다. 개인의 공감도를 이 두 차원의 결합으로 나타낼 수 있으며, 후자는 불쾌한 골짜기를 고려하여야 할 것이다.
논의해보고 싶은 쟁점은 로봇에 대한 정서적, 혹은 물리적 학대가 사회적으로 어떻게 작용할 것인가이다. 먼저 동물학대에 대해 이야기해보자. 동물에 대한 폭력과 인간을 대상으로 한 범죄의 상관관계를 밝히려는 시도는 여럿 있었으나, 가정폭력을 제외하고는 연구 결과가 분분하여 뚜렷하게 정립되지는 않은 실정이다. 그러나 그렇다 해도 동물학대가 반사회적이라는 사실에는 변함이 없다. 동물학대는 자신보다 약한 대상, 특히 저항하거나 반항할 수 없는 대상을 향한 폭력이며, 약자에 대한 공감과 배려를 상실하고 비합리적 지배체제를 공고히 하는 행동이기 때문이다. 클리프턴 P. 클린은 그의 저서 <동물학대의 사회학>에서 “모든 생명이 존엄과 존중의 대우를 받는, 더 안전하고 덜 폭력적인 사회가 되려면 동물학대에 대한 폭넓은 이해가 필요하다”고 말한 바 있다. 만약 인간과 비슷한, 혹은 개나 고양이와 매우 비슷한 AI로봇이 발명되고, 누군가가 이것을 학대하며 쾌감을 얻거나 자신의 권력을 확인하는 수단으로 사용한다면 이는 동물, 나아가 인간에 대한 학대와 매우 유사하다.
물론 국내의 동물 학대가 끊임없이 이슈가 되는 이유에는 관련법이 미약하다는 점도 있다. 이를 바탕으로 다음과 같은 쟁점에 대해서 생각해볼 수 있다.
1. 만약 인간과 유사한, 혹은 개나 고양이와 매우 유사한 AI 로봇이 발명된다면, 학대를 처벌하는 법이 제정될 수 있을까? 혹은 단순한 소유물로 인정될 것인가?
2. 물리적 폭력에 아파하거나 반응하는 기능을 로봇에 넣는 것이 옳을까? 읽기자료인 칼럼 <사회적 로봇의 출현과 인간의 미래>에서는 로봇이 인간과 유사할수록 인간의 공감을 더욱 더 많이 끌어낼 수 있다고 이야기한다. 또한 피험자들이 로봇의 지능이 높을 때 로봇을 파괴하기 위해 망치를 덜 휘둘렀다는 실험 또한 제시하고 있다. 따라서 로봇에 대한 폭력을 방지하려면 이러한 기능을 넣는 것이 옳다. 그러나 반대로 이런 기능은 로봇이 법의 사각지대에서 폭력성을 제지 없이 배출하는 통로로 사용될 수 있는 가능성을 불러일으키지 않을까?
인간과 감정교류를 하고 소통할 수 있는 로봇은 인류의 오랜 꿈인 만큼 안키 사의 코즈모와 벡터를 비롯한 반려 로봇, 수많은 인공지능 상담 프로그램을 비롯한 시도와 연구가 행해지고 있다. 과연 인간이 만족할 만한 수준의 AI는 만들어질 수 있을 것인가, 그렇다면 언제가 될 것인가도 궁금해진다.
김민정2020-12-03 23:48
[002 고*환]
<초사회적 존재란 무엇인가?>
0. 공감과 초사회성
칼럼에서 이야기하고 있는 인간의 초사회성이란, 동물과 로봇에 이르기까지 사람이 아닌 대상에게 공감을 확대할 수 있는 능력을 말한다. 이와 같은 공감능력이 있기에 사람들은 기계덩어리에 불과한 big dog와 Atlas의 임무 수행을 방해하는 사람들의 영상을 보고 움찔했던 것이다. 그러나 이러한 감정의 발생을 진정한 공감이라고 볼 수 있는지, 인간의 초사회성이 대상을 향한 긍정적인 속성의 포용을 의미하는지 물음을 제기해보고자 한다.
1. 정말로 공감하는가?
공감(共感)이라는 것은 말뜻 그대로 ‘함께 느낀다’는 의미로, 남의 감정에 대해서 자기도 그렇다고 느끼는 것을 말한다.(출처 : 네이버 지식백과) 단어 뜻 그대로 해석한다면, 사람이 어떤 대상에 공감하기 위해서는 그 대상 역시 감정을 느낀다는 것이 전제되어야 한다. 이러한 관점에서 본다면, 사람은 다른 사람의 감정, 의견, 생각에 공감하고, 특정 동물의 감정에 공감할 수 있으나, 스스로의 생각이나 감정을 느끼지 못하는 기계와는 온전히 공감할 수는 없게 된다.
물론, 이러한 문제는 단어의 엄밀한 의미를 따지면서 생기는 문제이고, 공감의 의미를 감정이입의 선에서 해석하면 문제될 것이 전혀 없다. 우리는 다른 사람과 동물은 물론, 움직이지 않는 사물에게까지도 감정을 이입하지 않는가? 문학에서 콘크리트 틈에서 피어난 민들레꽃은 끈기와 인내를 지닌 주체로 묘사되고, 어렸을 적 겨울동안 신나게 만들었던 눈사람이 봄 햇살에 녹아 없어지는 광경을 보고 있으면 우리는 왠지 모를 서글픔을 느꼈던 것이다. 민들레꽃과 눈사람은 그 자체로 생각이나 감정을 가질 리 없는데도 우리가 그들로부터 특정 감정을 느끼는 것은 일종의 연상 작용, 혹은 의인화 작업을 거쳤기 때문이라고 볼 수 있다. 즉, 민들레꽃이나 눈사람이 처한 상황에서 ‘사람’이나 ‘감정을 느낄 수 있는 주체’가 느꼈을 만한 감정을 떠올리며 그것에 반응하는 것이 바로 여기에 나타난 공감의 원리라고 볼 수 있다.
2. 공감 : 남의 입장에서 생각하기 vs 나의 입장에서 생각하기
big dog 홍보영상을 보고 사람들이 안타까움이나 분노를 느꼈던 이유는, 그것이 감정을 느낄 수 있는 가능성 때문이 아니라, 개의 형상을 한 로봇을 보고 연상된 동일한 상황에 처해 있는 개의 감정에 이입했기 때문일 것이다. 같은 원리로, 사람의 형상을 한 Atlas를 아무런 이유 없이 방해하고 무자비하게 밀치는 연구원의 행태는 그와 같은 맥락에 있는 사람의 입장에서 비난받아 마땅한 것이었다.
칼럼에서 밝혔듯이, 대상의 생김새나 지능, 행동 등의 요소는 사람의 공감능력을 좌우하는 변수로 작용한다. 즉, 생김새가 사람과 유사할수록, 지능이 높을수록, 그리고 움직이는 대상일수록 사람들은 공감을 많이 한다는 것이다. 이는 공감의 주체가 사람인 이상, 사람과 유사한 대상일수록 주어진 상황과 비슷한 처지에 놓인 사람을 연상하기 쉽기 때문일 것이다. 같은 인종의 경우와 같이 내집단에 속한 사람일수록 공감의 효과가 더 강하게 나타나는 것도 그와 같은 상황에 놓인 자기 자신을 상상하는 것이 더욱 용이하기 때문이다.
이렇게 보면 사람의 공감능력은 남을 이해하고 보호하고자 하려는 동기보다도 자기 자신과 동일한 집단에 속한 사람을 향한 차별적인 애정, 그리고 자신을 중심으로 상대방의 상황을 이해하고자 하는 이기적인 습관일지도 모른다. 백인의 입장에서는 백인의 상황이 흑인의 상황보다 익숙하고, 자신을 대입해서 생각하기 쉬우며, 본인이 그 집단에 속해있기 때문에 백인에게 더 과장된 정서적 반응을 나타냈을 것이다. 인간이 딱정벌레보다 원숭이에게 더 큰 공감을 하는 것은 딱정벌레의 상황에 자신을 대입하는 것보다 원숭이의 삶이 보다 익숙하게 다가왔기 때문이다. 반대로, 사람의 형태와 비슷하다고는 하지만 우리에게 불쾌감을 주는 시체나 좀비와 같은 형상은 어떻게 보면 가장 ‘사람 같지 않은’ 모습일수도 있으며, 나 혹은 어떤 감정주체도 그 대상에 대입하기 어려웠을 것이다.
우리는 소설을 읽거나 영화를 보면서 이와 같이 자신의 시각으로 상황을 판단하는 데에 익숙하다. 등장인물의 행동을 비판하는 생각의 기저에는 ‘나라면 그러지 않았을 텐데’라는 사고가 깔려있고, 악당이라도 주어진 상황과 맥락에 따라서 ‘나라도 그랬을 거야’라는 생각이 스치고 지나가면, 악당의 행동이 이해되고 심지어 불쌍해 보이기까지 한다. 이처럼 외부대상에 대한 공감은 나 자신의 입장과 나와 가까운 것들에 대한 친밀함에 근거해서 이루어지곤 한다.
3. 공감 = 맥락(상황) + 나(주체)
big dog의 홍보영상을 본 사람들은 로봇을 보며 성실하게 임무를 수행하려는 개를 떠올렸고, 로봇의 성능을 시험하려고 발로 걷어차는 연구원을 보고 아무런 잘못도 하지 않은 개를 폭행하는 주인을 연상했을 것이다. 만약 강아지 형상을 한 로봇에 발길질을 한 것이 아니라, 강아지를 훈련시키는 다정한 주인의 모습이 담긴 영상이었다면 반응이 어땠을까? 걸어다니는 이족보행 로봇 Atlas를 무작정 뒤에서 밀치는 것이 아니라 아기에게 걸음마를 도와주듯이 줄을 잡고 양쪽에서 흔들어줬으면 오히려 홍보팀에게 찬사가 쏟아졌을 지도 모른다. 즉, 특정 대상에게 불쌍함이나 연민을 느끼는 것은 맥락의 문제이다.
칼럼에서 이야기하고 있는 인간의 초사회성은 감정적 상호작용을 할 줄 아는 로봇의 출현과 더불어 대두된 로봇에게까지 공감의 영역을 확대할 수 있는 인간의 진화적 본성으로 묘사되었다. 그러나 이러한 초사회성이 동물이 아닌 것을 동물로, 사람이 아닌 것을 사람으로 느낄 줄 아는 상상력으로부터 비롯된 것이라면, 그 역사는 비유와 연상의 역사만큼 오래되었을 것이다. 또한, 이러한 연상 작용이 주어진 ‘맥락’과 ‘나’라는 개체의 특성에 의존하는 점을 고려하면, 인간의 초사회성은 로봇과 대화할 수 있는 능력인 동시에 정치, 경제 등 사회 다방면에서 나타나는 집단 간 분열의 근본적 시작점일지도 모른다.
<초사회적 존재란 무엇인가?>
0. 공감과 초사회성
칼럼에서 이야기하고 있는 인간의 초사회성이란, 동물과 로봇에 이르기까지 사람이 아닌 대상에게 공감을 확대할 수 있는 능력을 말한다. 이와 같은 공감능력이 있기에 사람들은 기계덩어리에 불과한 big dog와 Atlas의 임무 수행을 방해하는 사람들의 영상을 보고 움찔했던 것이다. 그러나 이러한 감정의 발생을 진정한 공감이라고 볼 수 있는지, 인간의 초사회성이 대상을 향한 긍정적인 속성의 포용을 의미하는지 물음을 제기해보고자 한다.
1. 정말로 공감하는가?
공감(共感)이라는 것은 말뜻 그대로 ‘함께 느낀다’는 의미로, 남의 감정에 대해서 자기도 그렇다고 느끼는 것을 말한다.(출처 : 네이버 지식백과) 단어 뜻 그대로 해석한다면, 사람이 어떤 대상에 공감하기 위해서는 그 대상 역시 감정을 느낀다는 것이 전제되어야 한다. 이러한 관점에서 본다면, 사람은 다른 사람의 감정, 의견, 생각에 공감하고, 특정 동물의 감정에 공감할 수 있으나, 스스로의 생각이나 감정을 느끼지 못하는 기계와는 온전히 공감할 수는 없게 된다.
물론, 이러한 문제는 단어의 엄밀한 의미를 따지면서 생기는 문제이고, 공감의 의미를 감정이입의 선에서 해석하면 문제될 것이 전혀 없다. 우리는 다른 사람과 동물은 물론, 움직이지 않는 사물에게까지도 감정을 이입하지 않는가? 문학에서 콘크리트 틈에서 피어난 민들레꽃은 끈기와 인내를 지닌 주체로 묘사되고, 어렸을 적 겨울동안 신나게 만들었던 눈사람이 봄 햇살에 녹아 없어지는 광경을 보고 있으면 우리는 왠지 모를 서글픔을 느꼈던 것이다. 민들레꽃과 눈사람은 그 자체로 생각이나 감정을 가질 리 없는데도 우리가 그들로부터 특정 감정을 느끼는 것은 일종의 연상 작용, 혹은 의인화 작업을 거쳤기 때문이라고 볼 수 있다. 즉, 민들레꽃이나 눈사람이 처한 상황에서 ‘사람’이나 ‘감정을 느낄 수 있는 주체’가 느꼈을 만한 감정을 떠올리며 그것에 반응하는 것이 바로 여기에 나타난 공감의 원리라고 볼 수 있다.
2. 공감 : 남의 입장에서 생각하기 vs 나의 입장에서 생각하기
big dog 홍보영상을 보고 사람들이 안타까움이나 분노를 느꼈던 이유는, 그것이 감정을 느낄 수 있는 가능성 때문이 아니라, 개의 형상을 한 로봇을 보고 연상된 동일한 상황에 처해 있는 개의 감정에 이입했기 때문일 것이다. 같은 원리로, 사람의 형상을 한 Atlas를 아무런 이유 없이 방해하고 무자비하게 밀치는 연구원의 행태는 그와 같은 맥락에 있는 사람의 입장에서 비난받아 마땅한 것이었다.
칼럼에서 밝혔듯이, 대상의 생김새나 지능, 행동 등의 요소는 사람의 공감능력을 좌우하는 변수로 작용한다. 즉, 생김새가 사람과 유사할수록, 지능이 높을수록, 그리고 움직이는 대상일수록 사람들은 공감을 많이 한다는 것이다. 이는 공감의 주체가 사람인 이상, 사람과 유사한 대상일수록 주어진 상황과 비슷한 처지에 놓인 사람을 연상하기 쉽기 때문일 것이다. 같은 인종의 경우와 같이 내집단에 속한 사람일수록 공감의 효과가 더 강하게 나타나는 것도 그와 같은 상황에 놓인 자기 자신을 상상하는 것이 더욱 용이하기 때문이다.
이렇게 보면 사람의 공감능력은 남을 이해하고 보호하고자 하려는 동기보다도 자기 자신과 동일한 집단에 속한 사람을 향한 차별적인 애정, 그리고 자신을 중심으로 상대방의 상황을 이해하고자 하는 이기적인 습관일지도 모른다. 백인의 입장에서는 백인의 상황이 흑인의 상황보다 익숙하고, 자신을 대입해서 생각하기 쉬우며, 본인이 그 집단에 속해있기 때문에 백인에게 더 과장된 정서적 반응을 나타냈을 것이다. 인간이 딱정벌레보다 원숭이에게 더 큰 공감을 하는 것은 딱정벌레의 상황에 자신을 대입하는 것보다 원숭이의 삶이 보다 익숙하게 다가왔기 때문이다. 반대로, 사람의 형태와 비슷하다고는 하지만 우리에게 불쾌감을 주는 시체나 좀비와 같은 형상은 어떻게 보면 가장 ‘사람 같지 않은’ 모습일수도 있으며, 나 혹은 어떤 감정주체도 그 대상에 대입하기 어려웠을 것이다.
우리는 소설을 읽거나 영화를 보면서 이와 같이 자신의 시각으로 상황을 판단하는 데에 익숙하다. 등장인물의 행동을 비판하는 생각의 기저에는 ‘나라면 그러지 않았을 텐데’라는 사고가 깔려있고, 악당이라도 주어진 상황과 맥락에 따라서 ‘나라도 그랬을 거야’라는 생각이 스치고 지나가면, 악당의 행동이 이해되고 심지어 불쌍해 보이기까지 한다. 이처럼 외부대상에 대한 공감은 나 자신의 입장과 나와 가까운 것들에 대한 친밀함에 근거해서 이루어지곤 한다.
3. 공감 = 맥락(상황) + 나(주체)
big dog의 홍보영상을 본 사람들은 로봇을 보며 성실하게 임무를 수행하려는 개를 떠올렸고, 로봇의 성능을 시험하려고 발로 걷어차는 연구원을 보고 아무런 잘못도 하지 않은 개를 폭행하는 주인을 연상했을 것이다. 만약 강아지 형상을 한 로봇에 발길질을 한 것이 아니라, 강아지를 훈련시키는 다정한 주인의 모습이 담긴 영상이었다면 반응이 어땠을까? 걸어다니는 이족보행 로봇 Atlas를 무작정 뒤에서 밀치는 것이 아니라 아기에게 걸음마를 도와주듯이 줄을 잡고 양쪽에서 흔들어줬으면 오히려 홍보팀에게 찬사가 쏟아졌을 지도 모른다. 즉, 특정 대상에게 불쌍함이나 연민을 느끼는 것은 맥락의 문제이다.
칼럼에서 이야기하고 있는 인간의 초사회성은 감정적 상호작용을 할 줄 아는 로봇의 출현과 더불어 대두된 로봇에게까지 공감의 영역을 확대할 수 있는 인간의 진화적 본성으로 묘사되었다. 그러나 이러한 초사회성이 동물이 아닌 것을 동물로, 사람이 아닌 것을 사람으로 느낄 줄 아는 상상력으로부터 비롯된 것이라면, 그 역사는 비유와 연상의 역사만큼 오래되었을 것이다. 또한, 이러한 연상 작용이 주어진 ‘맥락’과 ‘나’라는 개체의 특성에 의존하는 점을 고려하면, 인간의 초사회성은 로봇과 대화할 수 있는 능력인 동시에 정치, 경제 등 사회 다방면에서 나타나는 집단 간 분열의 근본적 시작점일지도 모른다.
김민정2020-12-04 00:01
[002 조*주]
로봇에 대한 인간의 공감을 다룬 칼럼 "사회적 로봇의 출현과 인간의 미래"를 읽으며, 무엇을 공감이라고 할 수 있는지, 그 정의와 범주에 대한 의문이 들었다. 공감은 사전적으로 남의 감정, 의견, 주장 따위에 대하여 자기도 그렇다고 느낌, 또는 그렇게 느끼는 기분을 의미한다. 그렇다면 공감의 목적은 무엇일까? 우리는, 또는 우리의 뇌는 어떠한 이유로 남의 감정을 따라서 느끼도록 진화한 것일까? (본 글은 칼럼에서 다룬 상황의 연장선 상에서 논의를 이어나가기 위해 슬픔, 분노 등의 부정적인 감정에 대한 공감을 다룰 것이다.)
필자의 개인적인 경험을 얘기하자면, 인간에게 괴롭힘을 당하는 로봇 아틀라스를 봤을 때, 처음에는 거부감과 분노, 연민을 느꼈다. 로봇이 느낄 것이라고 생각되는 감정을 나도 느꼈다는 측면에서 일종의 공감을 한 것이라고 생각한다. 하지만 ‘내가 보고 있는 것은 로봇이고, 로봇은 아픔을 느끼지 못 한다’는 생각을 하게 되는 순간 그러한 거부감은 더 이상 느껴지지 않았다. 일종의 감정 소모라고 느껴지기까지 했다. 이러한 사고의 과정은 평소 인간과 전혀 유사성이 없는 무생물에 공감을 할 때 경험하는 것과도 유사하다는 생각이 들었다. 본능적인 혐오감과 불쾌감을 느낀 뒤 이러한 감정이 비합리적임을 느끼고 공감을 의식적으로 멈추는 것이다. 이것은 사람들이 공포영화를 보며 의식적으로 ‘저 장면은 영화일 뿐이다’라는 생각을 해서 공포감을 잊는 것과도 유사하다고 할 수 있다.
이러한 개인적인 경험과 비슷한 맥락에서, 글에 제시된 밀그램의 복종실험을 모방한 실험을 해석해볼 수 있다. 실험에서 모든 참가자들은 고통스러움을 표현할 수 있도록 설계된 로봇에게 안쓰러움을 느끼면서도 최고 전압의 전기충격을 가했다. 이는 고통스러워하는 로봇을 볼 때 뇌의 공감 부위가 활성화될 수는 있지만, 인간이 의식적으로 ‘이것은 로봇이다’라는 생각을 할 경우 그 공감을 멈추거나 또는 그 공감에 반하는 선택을 할 수 있다는 것을 의미한다. 이를 통해, 공감을 할 때 인간 뇌의 특정 부위가 활성화된다는 점에서 공감의 시작은 본능일 수도 있지만, 공감의 지속에는 어느 정도의 이성이 개입할 수 있다고 생각했다. 그렇다면 우리는 몸을 가진 로봇 버디가 슬픈 표정으로 우리를 쳐다볼 때, 이족보행 로봇 아틀라스가 괴롭힘을 당할 때 본능 ‘저건 로봇이야’라는 이성적이고 합리적인 생각을 통해 공감의 지속을 멈출 수 있다. 이 경우 공감의 지속에 있어서 중요한 기준은 공감의 대상이 되는 주체가 스스로가 느끼는 감정을 실제로 느끼고 있는지, 상대방도 나에게 공감을 해줄 것이라는 상호신뢰가 바탕이 되어있는지가 될 수 있다. 하지만 공포영화를 볼 때 아무리 ‘저 장면은 영화일 뿐이다’라는 생각을 하더라도 공포라는 감정의 잔재 또는 여운이 지속될 수 있는 것처럼, 로봇에 대한 공감에 있어서도 이성적이고 합리적인 생각이 감정적 잔재와 여운을 모두 억누르지는 못 할 수도 있다. 필자는 이 감정적 잔재와 여운의 측면에 영향을 미치는 것에 인간과의 유사성, 처음 느끼는 불쾌감의 정도(아틀라스의 경우 괴롭힘을 당하는 정도)가 있을 수 있다고 생각한다.
이러한 주장은 공감의 목적이 무엇인지에 따라 전혀 다른 주장으로 바뀔 수도 있다. 좀 더 심층적인 논의를 하기 위해서는 공감이 이타적인 것인지 이기적인 것인지에 대한 합의가 필요하다고 생각한다. 이기심의 측면에서 공감을 생각해보면, 공감은 궁극적으로 자신이 그 상황에 처할 수도 있음, 또는 그 감정을 느끼게 될 수도 있음에 대한 두려움을 표현하는 것이라고 볼 수도 있다고 생각한다. 이러한 경우 인간은 로봇에게 느끼는 공감을 중지할 이유가 없으며, 로봇과의 유사성이 클수록 로봇이 당하는 행위, 로봇이 느끼는 감정에 대한 공감을 더 강렬하게 할 것이라고 생각할 수 있다. 반면 이타심의 측면에서 공감을 생각해보면, 상대방이 그 감정을 느끼지 않기를 바라는 감정이 동반된다고 볼 수 있고, 실제로 그 감정을 느낄 수 없는 로봇에게는 공감을 중지하게 될 것이다. 이처럼 공감의 원인과 목적에 따라 로봇에 대한 인간의 공감이 갖는 의미가 달라질 것이라고 생각한다.
로봇에 대한 인간의 공감을 다룬 칼럼 "사회적 로봇의 출현과 인간의 미래"를 읽으며, 무엇을 공감이라고 할 수 있는지, 그 정의와 범주에 대한 의문이 들었다. 공감은 사전적으로 남의 감정, 의견, 주장 따위에 대하여 자기도 그렇다고 느낌, 또는 그렇게 느끼는 기분을 의미한다. 그렇다면 공감의 목적은 무엇일까? 우리는, 또는 우리의 뇌는 어떠한 이유로 남의 감정을 따라서 느끼도록 진화한 것일까? (본 글은 칼럼에서 다룬 상황의 연장선 상에서 논의를 이어나가기 위해 슬픔, 분노 등의 부정적인 감정에 대한 공감을 다룰 것이다.)
필자의 개인적인 경험을 얘기하자면, 인간에게 괴롭힘을 당하는 로봇 아틀라스를 봤을 때, 처음에는 거부감과 분노, 연민을 느꼈다. 로봇이 느낄 것이라고 생각되는 감정을 나도 느꼈다는 측면에서 일종의 공감을 한 것이라고 생각한다. 하지만 ‘내가 보고 있는 것은 로봇이고, 로봇은 아픔을 느끼지 못 한다’는 생각을 하게 되는 순간 그러한 거부감은 더 이상 느껴지지 않았다. 일종의 감정 소모라고 느껴지기까지 했다. 이러한 사고의 과정은 평소 인간과 전혀 유사성이 없는 무생물에 공감을 할 때 경험하는 것과도 유사하다는 생각이 들었다. 본능적인 혐오감과 불쾌감을 느낀 뒤 이러한 감정이 비합리적임을 느끼고 공감을 의식적으로 멈추는 것이다. 이것은 사람들이 공포영화를 보며 의식적으로 ‘저 장면은 영화일 뿐이다’라는 생각을 해서 공포감을 잊는 것과도 유사하다고 할 수 있다.
이러한 개인적인 경험과 비슷한 맥락에서, 글에 제시된 밀그램의 복종실험을 모방한 실험을 해석해볼 수 있다. 실험에서 모든 참가자들은 고통스러움을 표현할 수 있도록 설계된 로봇에게 안쓰러움을 느끼면서도 최고 전압의 전기충격을 가했다. 이는 고통스러워하는 로봇을 볼 때 뇌의 공감 부위가 활성화될 수는 있지만, 인간이 의식적으로 ‘이것은 로봇이다’라는 생각을 할 경우 그 공감을 멈추거나 또는 그 공감에 반하는 선택을 할 수 있다는 것을 의미한다. 이를 통해, 공감을 할 때 인간 뇌의 특정 부위가 활성화된다는 점에서 공감의 시작은 본능일 수도 있지만, 공감의 지속에는 어느 정도의 이성이 개입할 수 있다고 생각했다. 그렇다면 우리는 몸을 가진 로봇 버디가 슬픈 표정으로 우리를 쳐다볼 때, 이족보행 로봇 아틀라스가 괴롭힘을 당할 때 본능 ‘저건 로봇이야’라는 이성적이고 합리적인 생각을 통해 공감의 지속을 멈출 수 있다. 이 경우 공감의 지속에 있어서 중요한 기준은 공감의 대상이 되는 주체가 스스로가 느끼는 감정을 실제로 느끼고 있는지, 상대방도 나에게 공감을 해줄 것이라는 상호신뢰가 바탕이 되어있는지가 될 수 있다. 하지만 공포영화를 볼 때 아무리 ‘저 장면은 영화일 뿐이다’라는 생각을 하더라도 공포라는 감정의 잔재 또는 여운이 지속될 수 있는 것처럼, 로봇에 대한 공감에 있어서도 이성적이고 합리적인 생각이 감정적 잔재와 여운을 모두 억누르지는 못 할 수도 있다. 필자는 이 감정적 잔재와 여운의 측면에 영향을 미치는 것에 인간과의 유사성, 처음 느끼는 불쾌감의 정도(아틀라스의 경우 괴롭힘을 당하는 정도)가 있을 수 있다고 생각한다.
이러한 주장은 공감의 목적이 무엇인지에 따라 전혀 다른 주장으로 바뀔 수도 있다. 좀 더 심층적인 논의를 하기 위해서는 공감이 이타적인 것인지 이기적인 것인지에 대한 합의가 필요하다고 생각한다. 이기심의 측면에서 공감을 생각해보면, 공감은 궁극적으로 자신이 그 상황에 처할 수도 있음, 또는 그 감정을 느끼게 될 수도 있음에 대한 두려움을 표현하는 것이라고 볼 수도 있다고 생각한다. 이러한 경우 인간은 로봇에게 느끼는 공감을 중지할 이유가 없으며, 로봇과의 유사성이 클수록 로봇이 당하는 행위, 로봇이 느끼는 감정에 대한 공감을 더 강렬하게 할 것이라고 생각할 수 있다. 반면 이타심의 측면에서 공감을 생각해보면, 상대방이 그 감정을 느끼지 않기를 바라는 감정이 동반된다고 볼 수 있고, 실제로 그 감정을 느낄 수 없는 로봇에게는 공감을 중지하게 될 것이다. 이처럼 공감의 원인과 목적에 따라 로봇에 대한 인간의 공감이 갖는 의미가 달라질 것이라고 생각한다.
김민정2020-12-04 00:01
[002 정*화]
「사회적 로봇의 출현과 인간의 미래」는 인간이 유사성을 기반으로 대상에 공감하며, 로봇이 진화함에 따라 그에 대한 더욱 깊은 공감이 가능해질 것이라 예측한다. 저자는 인간이 이미 로봇에 대한 기초적인 수준의 공감을 하고 있음을 지적하며 로봇의 지능과 외관을 닮아가면서 인간이 울트라 소셜한 존재로 거듭나는 미래를 그리고 있다. 저자의 기본적인 아이디어에 대해서는 공감하지만 추가적인 논증이 필요한 몇몇 지점들이 눈에 띈다.
우선 높은 지능을 가진 대상에 대해 인간이 더욱 큰 공감을 느낀다는 명제에 대해 의구심이 든다. 칼럼에서도 이야기하듯 우리는 성인보다는 아이가 겪는 고통에 대해 더 크게 공감한다. 뿐만 아니라 아이, 노인, 빈곤층 등 '사회적 약자'에 속하는 집단을 우선적으로 보호해야 한다는 의식은 단순한 도덕적인 명제로 한정되지 않으며 분명한 감정적인 동요를 유발한다. 즉 지능을 비롯한 신체적·정신적 역량이 부족한 집단에 대한 공감이 소위 '표준적'인 집단에 대한 공감을 넘어서는 경우는 지능에 따른 공감 정도가 칼럼의 논의와 반대 방향으로 성립될 가능성을 부여한다고 생각한다. 더해서 로봇의 지능이 인간의 것을 훨씬 상회하는 정도까지 발전했을 때에도 지능과 공감의 양적 관계가 성립할지에 대해서도 논의해봐야 한다.
인간이 로봇에 대해 느끼는 '공감'을 동등한 인간에 대해 느끼는 '공감'과 동일한 종류라 볼 수 있는지 고민할 필요가 있다. 인간은 일반적인 성인 개체를 넘어 아이, 동·식물, 자연, 문학 작품 속 허구의 인물에까지 공감 능력을 보여준다. 그러나 그 대상에 따라 공감을 하는 이유, 즉 공감의 기반이 다를 수 있으며 대상에 공감하는 양상도 다르게 나타난다. 동등한 주체에 대한 공감은 자세한 상황과 감정에 기반하며 감정적인 반응 또한 상대적으로 명료하고 구체적이다. 한편 아이나 반려동물 등에 대한 공감은 보다 본능적, 반사적이며 상황이나 감정이 비교적 추상적이기 쉽다. 공감과 '연민'의 감정을 구분할 필요성도 있다. 공감은 상황, 감정에 대한 역지사지를 기반으로 하지만 연민은 대상에 대한 일방적인 감정의 투영이다. 따라서 로봇을 괴롭히는 행위를 보았을 때 느끼는 혐오감이나 동정심 등을 연민이 아니라 공감이라 단정하기는 아직 어렵다.
인간은 역사적으로 외집단에 대한 공감 능력을 확장해왔다. 아동, 여성, 외국인, 반려동물 등으로 뻗어나간 공감 능력이 로봇까지 이르지 못하리라 단정할 수는 없을 것이다. 그러나 동시에 우리는 '공감'이라는 단어를 지나치게 넓게 해석하거나 오용하는 것을 주의하며 로봇과 인간의 관계에 대해 고민해야 할 것이다.
「사회적 로봇의 출현과 인간의 미래」는 인간이 유사성을 기반으로 대상에 공감하며, 로봇이 진화함에 따라 그에 대한 더욱 깊은 공감이 가능해질 것이라 예측한다. 저자는 인간이 이미 로봇에 대한 기초적인 수준의 공감을 하고 있음을 지적하며 로봇의 지능과 외관을 닮아가면서 인간이 울트라 소셜한 존재로 거듭나는 미래를 그리고 있다. 저자의 기본적인 아이디어에 대해서는 공감하지만 추가적인 논증이 필요한 몇몇 지점들이 눈에 띈다.
우선 높은 지능을 가진 대상에 대해 인간이 더욱 큰 공감을 느낀다는 명제에 대해 의구심이 든다. 칼럼에서도 이야기하듯 우리는 성인보다는 아이가 겪는 고통에 대해 더 크게 공감한다. 뿐만 아니라 아이, 노인, 빈곤층 등 '사회적 약자'에 속하는 집단을 우선적으로 보호해야 한다는 의식은 단순한 도덕적인 명제로 한정되지 않으며 분명한 감정적인 동요를 유발한다. 즉 지능을 비롯한 신체적·정신적 역량이 부족한 집단에 대한 공감이 소위 '표준적'인 집단에 대한 공감을 넘어서는 경우는 지능에 따른 공감 정도가 칼럼의 논의와 반대 방향으로 성립될 가능성을 부여한다고 생각한다. 더해서 로봇의 지능이 인간의 것을 훨씬 상회하는 정도까지 발전했을 때에도 지능과 공감의 양적 관계가 성립할지에 대해서도 논의해봐야 한다.
인간이 로봇에 대해 느끼는 '공감'을 동등한 인간에 대해 느끼는 '공감'과 동일한 종류라 볼 수 있는지 고민할 필요가 있다. 인간은 일반적인 성인 개체를 넘어 아이, 동·식물, 자연, 문학 작품 속 허구의 인물에까지 공감 능력을 보여준다. 그러나 그 대상에 따라 공감을 하는 이유, 즉 공감의 기반이 다를 수 있으며 대상에 공감하는 양상도 다르게 나타난다. 동등한 주체에 대한 공감은 자세한 상황과 감정에 기반하며 감정적인 반응 또한 상대적으로 명료하고 구체적이다. 한편 아이나 반려동물 등에 대한 공감은 보다 본능적, 반사적이며 상황이나 감정이 비교적 추상적이기 쉽다. 공감과 '연민'의 감정을 구분할 필요성도 있다. 공감은 상황, 감정에 대한 역지사지를 기반으로 하지만 연민은 대상에 대한 일방적인 감정의 투영이다. 따라서 로봇을 괴롭히는 행위를 보았을 때 느끼는 혐오감이나 동정심 등을 연민이 아니라 공감이라 단정하기는 아직 어렵다.
인간은 역사적으로 외집단에 대한 공감 능력을 확장해왔다. 아동, 여성, 외국인, 반려동물 등으로 뻗어나간 공감 능력이 로봇까지 이르지 못하리라 단정할 수는 없을 것이다. 그러나 동시에 우리는 '공감'이라는 단어를 지나치게 넓게 해석하거나 오용하는 것을 주의하며 로봇과 인간의 관계에 대해 고민해야 할 것이다.
김민정2020-12-04 00:02
[002 최*주]
‘인간’과 ‘로봇’이 동시에 물에 빠져있는 상황을 가정해보자. 둘 중 한 명(혹은 한 개)만 구할 수 있다면 누구를(무엇을) 구하겠는가? 백이면 백 인간을 구해야 한다고 답할 것이다. 그런데 만약 위의 상황 속 ‘인간’은 나와 전혀 친분이 없고, ‘로봇’은 사회성이 있어 나와 오랜 시간을 함께 소통하며 지냈다면? 사회성이 있는 로봇은 우리에게 친숙한 것이 아니니, 이번에는 나와 전혀 친분이 없는 ‘인간’과 오랜 기간을 동거동락해온 강아지가 물에 빠진 상황을 생각해보자. 누구를 구하겠는가?
과연 우리는 자신 있게 동종인 ‘인간’을 구할 것이라고 답할 수 있을까? 그렇지 않을 것이다. 물론 갈등이 있을 것이고 그러한 선택 이후에 꽤나 큰 죄책감을 가지고 살아갈 테지만, 많은 사람들이 결국에는 자신과 오랫동안 관계를 맺어온 로봇과 강아지를 구할 것이라고 생각한다. 이러한 상황을 가정하고 질문을 던진 이유는, 칼럼에서는 우리가 동종인 인간을 넘어서 이종인 동물과 로봇에 대하여도 공감을 할 수 있다는 주장을 던지고 있지만 각 종에 대하여 느끼는 공감의 크기를 비교하고 있지는 않기 때문이다.
앞선 질문에 대해 예상되는 답변을 통해 인간에 대한 공감의 크기가 다른 종들에 대한 그것에 대해 절대적으로 크지는 않다는 점을 생각해볼 수 있었다. 그렇다면 종의 경계를 넘어서서 공감의 크기를 결정짓는 가장 중요한 요소는 무엇일까?
나는 ‘정서적인 교감’이 바로 그것이라고 생각한다. 이것은 의사소통 능력이나 상호작용 능력보다 고차원적인 것이다. 우리가 성인보다 갓난아기의 불행에 더욱 큰 연민을 느끼고, 반려동물과 깊은 관계를 맺을 수 있는 이유는 그들과의 의사소통 혹은 상호작용이 원활해서가 아니다. 오히려 우리는 그들과 일방에 가까운 소통 관계를 맺고 있다고 볼 수 있지만, 그들과 함께 보내는 시간에서 비롯된 이성으로 설명할 수 없는 끈끈한 정서적인 무언가가 그들에게 공감할 수 있게끔 만드는 것이다.
물에 빠진 둘 중 누구를 구할 것인가의 문제는 누구를 향한 공감의 크기가 더 큰가를 넘어서 누구의 생명을 더 중요하게 생각하는가와 관련이 있는 문제이다. 그렇기에 사회성이 있어 인간과 정서적인 교감이 가능한 로봇이 출현하게 된다면, 우리는 어쩌면 고철덩어리인 로봇의 수명을 동종인 인간의 생명보다 중시하게 될 수도 있다. 그리고 이것은 우리가 그동안 당면해온 그 어떤 도덕적인 딜레마들보다 문제가 될 것이다. 적어도 그동안의 딜레마들은 모두 인간이 인간을 대하는 방식에 관한 것이었기 때문이다.
‘인간’과 ‘로봇’이 동시에 물에 빠져있는 상황을 가정해보자. 둘 중 한 명(혹은 한 개)만 구할 수 있다면 누구를(무엇을) 구하겠는가? 백이면 백 인간을 구해야 한다고 답할 것이다. 그런데 만약 위의 상황 속 ‘인간’은 나와 전혀 친분이 없고, ‘로봇’은 사회성이 있어 나와 오랜 시간을 함께 소통하며 지냈다면? 사회성이 있는 로봇은 우리에게 친숙한 것이 아니니, 이번에는 나와 전혀 친분이 없는 ‘인간’과 오랜 기간을 동거동락해온 강아지가 물에 빠진 상황을 생각해보자. 누구를 구하겠는가?
과연 우리는 자신 있게 동종인 ‘인간’을 구할 것이라고 답할 수 있을까? 그렇지 않을 것이다. 물론 갈등이 있을 것이고 그러한 선택 이후에 꽤나 큰 죄책감을 가지고 살아갈 테지만, 많은 사람들이 결국에는 자신과 오랫동안 관계를 맺어온 로봇과 강아지를 구할 것이라고 생각한다. 이러한 상황을 가정하고 질문을 던진 이유는, 칼럼에서는 우리가 동종인 인간을 넘어서 이종인 동물과 로봇에 대하여도 공감을 할 수 있다는 주장을 던지고 있지만 각 종에 대하여 느끼는 공감의 크기를 비교하고 있지는 않기 때문이다.
앞선 질문에 대해 예상되는 답변을 통해 인간에 대한 공감의 크기가 다른 종들에 대한 그것에 대해 절대적으로 크지는 않다는 점을 생각해볼 수 있었다. 그렇다면 종의 경계를 넘어서서 공감의 크기를 결정짓는 가장 중요한 요소는 무엇일까?
나는 ‘정서적인 교감’이 바로 그것이라고 생각한다. 이것은 의사소통 능력이나 상호작용 능력보다 고차원적인 것이다. 우리가 성인보다 갓난아기의 불행에 더욱 큰 연민을 느끼고, 반려동물과 깊은 관계를 맺을 수 있는 이유는 그들과의 의사소통 혹은 상호작용이 원활해서가 아니다. 오히려 우리는 그들과 일방에 가까운 소통 관계를 맺고 있다고 볼 수 있지만, 그들과 함께 보내는 시간에서 비롯된 이성으로 설명할 수 없는 끈끈한 정서적인 무언가가 그들에게 공감할 수 있게끔 만드는 것이다.
물에 빠진 둘 중 누구를 구할 것인가의 문제는 누구를 향한 공감의 크기가 더 큰가를 넘어서 누구의 생명을 더 중요하게 생각하는가와 관련이 있는 문제이다. 그렇기에 사회성이 있어 인간과 정서적인 교감이 가능한 로봇이 출현하게 된다면, 우리는 어쩌면 고철덩어리인 로봇의 수명을 동종인 인간의 생명보다 중시하게 될 수도 있다. 그리고 이것은 우리가 그동안 당면해온 그 어떤 도덕적인 딜레마들보다 문제가 될 것이다. 적어도 그동안의 딜레마들은 모두 인간이 인간을 대하는 방식에 관한 것이었기 때문이다.
김민정2020-12-04 00:02
[002 이*현]
장대익 교수는 향후 사회적(social) 로봇이 인간사회에 정착할 수 있게 되는 가장 중요한 요소로 로봇에 탑재된 고도의 알고리즘이 아니라 역설적으로 인간의 초사회적(utltra-social) 특성이라고 주장한다. 인간이 로봇을 의인화하고 그 입장에서 사고하고 공감할 수 있는 능력이 있기 때문에, 사회적 로봇이 인간사회에 받아들여질 수 있게 된다는 것이다.
장 교수가 말하는 인간은 초사회적(ultra-social) 동물이라는 것은 무슨 뜻인가? 흔히 인간은 사회적 동물이라는 말을 하는데, 여기에 ‘초’가 붙으니 언뜻 그 의미가 와닿지 않기 때문이다. 장 교수가 인간에 대해서는 ‘초사회적’이라는 표현을 사용하는 것은, ‘사회적’ 생활을 하는 여러 동물들과 구별하기 위함이다. 멀게는 벌이나 개미 가깝게는 늑대·사자·코끼리·하이에나 그리고 여러 유인원들도 서로를 의지하며 집단생활을 하는데, 인간의 집단생활은 이들과는 질적으로 다르다는 것이다.
장 교수는 인간의 사회성만이 갖고 있는 특성으로, 다른 개체의 관점에서 사고할 수 있는 능력, 즉 역지사지를 제시한다. 이러한 능력 덕분에 굉장히 복잡한 사회적 관계를 형성할 수 있게 되었다는 것이다. 반면에 침팬지 정도의 유인원만 되더라도 이러한 능력이 결여되어있다. 침팬지의 폭력성은 여기에서 드러나는 것일지도 모른다.
여기에서 우리가 질문을 품게 되는 것은, 역지사지의 사고능력 자체는 유전자에 의하여 선천적으로 주어진 것이라 하더라도, 그것을 실제 사용할 수 있게 되려면 상당한 교육과 경험이 필요하다는 것이다. 당장 3~4세의 어린아이들은 타인의 관점에서 사고하는 것을 어려워한다는 점이 이러한 견해를 뒷받침한다. 교육 다시 말해서 모방을 통한 전수도 인간 고유의 특성 중 하나인데, 결국 역지사지의 사고방식이 실효적이기 위해서는 인간만이 갖고 있는 고유한 특징을 거의 대부분 미리 갖추고 있어야한다는 것이다.
그렇다면, 인류에게 이러한 선천적 능력을 가져다 준 유전적 변화는 굉장히 짧은 시간 안에 동시에 나타났어야 한다는 결론에 이른다. 만약 유전적 변화들이 하나씩, 오랜 시간에 걸쳐서 나타났다면 인류는 그러한 능력을 제대로 활용하지 못하고 문명을 이루기도 전에 사라지고 말았을 것이다.
장대익 교수는 향후 사회적(social) 로봇이 인간사회에 정착할 수 있게 되는 가장 중요한 요소로 로봇에 탑재된 고도의 알고리즘이 아니라 역설적으로 인간의 초사회적(utltra-social) 특성이라고 주장한다. 인간이 로봇을 의인화하고 그 입장에서 사고하고 공감할 수 있는 능력이 있기 때문에, 사회적 로봇이 인간사회에 받아들여질 수 있게 된다는 것이다.
장 교수가 말하는 인간은 초사회적(ultra-social) 동물이라는 것은 무슨 뜻인가? 흔히 인간은 사회적 동물이라는 말을 하는데, 여기에 ‘초’가 붙으니 언뜻 그 의미가 와닿지 않기 때문이다. 장 교수가 인간에 대해서는 ‘초사회적’이라는 표현을 사용하는 것은, ‘사회적’ 생활을 하는 여러 동물들과 구별하기 위함이다. 멀게는 벌이나 개미 가깝게는 늑대·사자·코끼리·하이에나 그리고 여러 유인원들도 서로를 의지하며 집단생활을 하는데, 인간의 집단생활은 이들과는 질적으로 다르다는 것이다.
장 교수는 인간의 사회성만이 갖고 있는 특성으로, 다른 개체의 관점에서 사고할 수 있는 능력, 즉 역지사지를 제시한다. 이러한 능력 덕분에 굉장히 복잡한 사회적 관계를 형성할 수 있게 되었다는 것이다. 반면에 침팬지 정도의 유인원만 되더라도 이러한 능력이 결여되어있다. 침팬지의 폭력성은 여기에서 드러나는 것일지도 모른다.
여기에서 우리가 질문을 품게 되는 것은, 역지사지의 사고능력 자체는 유전자에 의하여 선천적으로 주어진 것이라 하더라도, 그것을 실제 사용할 수 있게 되려면 상당한 교육과 경험이 필요하다는 것이다. 당장 3~4세의 어린아이들은 타인의 관점에서 사고하는 것을 어려워한다는 점이 이러한 견해를 뒷받침한다. 교육 다시 말해서 모방을 통한 전수도 인간 고유의 특성 중 하나인데, 결국 역지사지의 사고방식이 실효적이기 위해서는 인간만이 갖고 있는 고유한 특징을 거의 대부분 미리 갖추고 있어야한다는 것이다.
그렇다면, 인류에게 이러한 선천적 능력을 가져다 준 유전적 변화는 굉장히 짧은 시간 안에 동시에 나타났어야 한다는 결론에 이른다. 만약 유전적 변화들이 하나씩, 오랜 시간에 걸쳐서 나타났다면 인류는 그러한 능력을 제대로 활용하지 못하고 문명을 이루기도 전에 사라지고 말았을 것이다.
김민정2020-12-04 00:03
[002 이*현]
<정말 사회적 로봇이 출현했는가?>
칼럼에서 장대익 교수님의 발상은 참으로 흥미로웠다. 칼럼은 철저하게 실용성과 효율성의 관점에서 다루어져왔던 로봇이 사회적 존재로 변모할 가능성이 존재하고 이에 따라 인간사회의 미래가 크게 변화할 수 있음을 이야기 한다. 즉 인공지능이 고도로 발달해서 인간을 모방하기 시작하고, 모방한 반응이 인간의 실제 반응과 높은 유사성을 보이면서 미래에는 로봇을 인간과 적극적으로 네트워크를 맺고 교류를 하는 사회적 존재로 받아들여야 하는 상황이 올 지도 모른다는 것이다. 만약 교수님이 제시한대로 유사성에 기반해서 인간이 인공지능에 대해 공감을 한다면, 이는 지금까지 인간과의 네트워크에서 수동적이고 주변부에 있었던 로봇이 인간과 애완동물처럼 네트워크의 중심부로 새롭게 들어설 가능성이 있음을 의미하는 것이기도 했다. 또한 이는 인간과 로봇 간의 경계란 과연 무엇인가라는 철학적인 질문을 지금 시점에서 다시금 던져봐야할 시기임을 의미하기도 했다.
그렇지만 칼럼을 읽으면서 의문스러운 몇 가지 의문점들이 눈에 들어왔다. 첫 번째는 과연 인간이 정말로 인공지능 로봇에 공감을 한다고 볼 수 있는지에 관한 의문이었다. 이는 칼럼에서 제시된 빅독(big dog)과 아틀라스(atlas)의 예시, 그리고 플리오(Pleo) 실험을 살펴봤을 때, 이들의 결과를 인공지능에 대한 공감능력으로도 해석할 수 있지만, 인공지능과는 상관없이 폭력적인 인간행동에 대한 도덕적 불쾌감으로도 해석할 수 있기 때문이다. 인간과 유사하게 생긴 인공지능이 한 인간에 의해 곤란함을 겪는 상황 자체가 관찰자로 하여금 인간과 인간 간의 학대상황을 떠올리게 하고 규범에 어긋나는 상황 자체에 대한 불쾌감의 표시를 인공지능에 대한 공감으로 오인했을 수도 있다는 것이다.
그렇지만 로봇에 대한 우리의 태도를 살펴봤을 때, 특정한 인공지능 로봇에 대한 우리의 반응은 공감에 유사함을 발견할 수 있다. 우리는 스마트폰을 길바닥에 떨어뜨려서 액정을 깨뜨렸을 때, '아깝다'고 하지 '불쌍하다'는 반응을 보이지는 않는다. '아깝다'라는 반응은 우리는 로봇을 실용성과 효용성의 관점에서 바라보고 있으며, 이러한 반응은 철저하게 인간의 입장에 기반을 두고 있음을 시사한다. 반면, 인간이 균형을 잡는 모습과 높은 유사성을 보이는 빅독(big dog)이 미끄러운 빙판길 위에서 허우적댈 때 우리는 '불쌍하다'는 표현을 사용한다. 이는 관찰자가 로봇의 관점에서 자신의 경험을 대입해서 여기서 연상되는 감정을 로봇에게서 느낀다는 점을 의미한다. 확실히 우리는 적어도 빅독과 같은 인공지능에게는 감정적인 반응을 보이고 이는 공감과 유사한 것처럼 보인다.
이는 자연스럽게 인간은 왜 인공지능에 공감을 하는지에 대한 두 번째 의문점으로 연결된다. 칼럼에서는 인간과 지능, 생김새, 움직임 등의 유사성을 공감에 대한 핵심 변수로 제시한다. 그렇지만 직관적으로 생각해봤을 때, 대상의 속성보다는 대상이 처한 상황과 관찰자의 경험 간의 유사성이 보다 큰 변수로서 작용할 것으로 보인다. 우리가 다른 사람들에 공감을 할 때에도 대상의 속성이 나와 얼마나 유사한지보다, 대상이 처한 상황이 내가 처했던 상황과 얼마나 유사한 것처럼 보이는가, 나는 과거 경험을 얼마나 생생하게 기억하고 있는가가 큰 영향을 미친다. 즉, 인공지능의 속성이 인간과 유사하다는 점은 인공지능이 처한 상황과 인간이 경험했던 상황과의 유사성을 높여서 과거 경험을 상기하는 데에 영향을 미칠지언정, 직접적으로 공감에 영향을 주는 핵심변수가 아닐 수도 있다는 것이다.
마지막은 인간의 인공지능에 대한 공감정도가 이들을 사회적 존재로 여길만큼 충분히 큰 지에 대한 의문이었다. 이는 인간이 어느 정도 수준으로 대상에 대해 감정을 느끼고 공감을 할 때 이들을 인간 네트워크의 중심부로 끌어들일 수 있는지에 대한 질문이다. 위의 논의들을 생각해보면 인간이 인공지능에 대해 공감을 하는 것은 일정부분 사실인 것처럼 보인다. 그렇지만 우리는 인공지능 외에 동물들, 그 중에서 돌고래와 같은 높은 지능을 소유한 포유류, 계통수가 인간과 유사한 침팬치 등에도 공감을 하지만 이들을 반려동물과 같이 인간 네트워크의 중심으로 끌어들이지는 않았다. 만약에 인공지능이 인간 네트워크의 중심으로 편입돼서 인간과 적극적인 상호작용을 하는 사회적 존재로 거듭날 정도로 공감정도가 클 가능성이 낮다면, 인간이 공감하는 인공지능의 출현은 교수님이 칼럼에서 주장했듯이 '로봇 발전의 역사에서 가히 분수령에 해당하는 사건'이라고 평가할 수는 없을 것이다.
<정말 사회적 로봇이 출현했는가?>
칼럼에서 장대익 교수님의 발상은 참으로 흥미로웠다. 칼럼은 철저하게 실용성과 효율성의 관점에서 다루어져왔던 로봇이 사회적 존재로 변모할 가능성이 존재하고 이에 따라 인간사회의 미래가 크게 변화할 수 있음을 이야기 한다. 즉 인공지능이 고도로 발달해서 인간을 모방하기 시작하고, 모방한 반응이 인간의 실제 반응과 높은 유사성을 보이면서 미래에는 로봇을 인간과 적극적으로 네트워크를 맺고 교류를 하는 사회적 존재로 받아들여야 하는 상황이 올 지도 모른다는 것이다. 만약 교수님이 제시한대로 유사성에 기반해서 인간이 인공지능에 대해 공감을 한다면, 이는 지금까지 인간과의 네트워크에서 수동적이고 주변부에 있었던 로봇이 인간과 애완동물처럼 네트워크의 중심부로 새롭게 들어설 가능성이 있음을 의미하는 것이기도 했다. 또한 이는 인간과 로봇 간의 경계란 과연 무엇인가라는 철학적인 질문을 지금 시점에서 다시금 던져봐야할 시기임을 의미하기도 했다.
그렇지만 칼럼을 읽으면서 의문스러운 몇 가지 의문점들이 눈에 들어왔다. 첫 번째는 과연 인간이 정말로 인공지능 로봇에 공감을 한다고 볼 수 있는지에 관한 의문이었다. 이는 칼럼에서 제시된 빅독(big dog)과 아틀라스(atlas)의 예시, 그리고 플리오(Pleo) 실험을 살펴봤을 때, 이들의 결과를 인공지능에 대한 공감능력으로도 해석할 수 있지만, 인공지능과는 상관없이 폭력적인 인간행동에 대한 도덕적 불쾌감으로도 해석할 수 있기 때문이다. 인간과 유사하게 생긴 인공지능이 한 인간에 의해 곤란함을 겪는 상황 자체가 관찰자로 하여금 인간과 인간 간의 학대상황을 떠올리게 하고 규범에 어긋나는 상황 자체에 대한 불쾌감의 표시를 인공지능에 대한 공감으로 오인했을 수도 있다는 것이다.
그렇지만 로봇에 대한 우리의 태도를 살펴봤을 때, 특정한 인공지능 로봇에 대한 우리의 반응은 공감에 유사함을 발견할 수 있다. 우리는 스마트폰을 길바닥에 떨어뜨려서 액정을 깨뜨렸을 때, '아깝다'고 하지 '불쌍하다'는 반응을 보이지는 않는다. '아깝다'라는 반응은 우리는 로봇을 실용성과 효용성의 관점에서 바라보고 있으며, 이러한 반응은 철저하게 인간의 입장에 기반을 두고 있음을 시사한다. 반면, 인간이 균형을 잡는 모습과 높은 유사성을 보이는 빅독(big dog)이 미끄러운 빙판길 위에서 허우적댈 때 우리는 '불쌍하다'는 표현을 사용한다. 이는 관찰자가 로봇의 관점에서 자신의 경험을 대입해서 여기서 연상되는 감정을 로봇에게서 느낀다는 점을 의미한다. 확실히 우리는 적어도 빅독과 같은 인공지능에게는 감정적인 반응을 보이고 이는 공감과 유사한 것처럼 보인다.
이는 자연스럽게 인간은 왜 인공지능에 공감을 하는지에 대한 두 번째 의문점으로 연결된다. 칼럼에서는 인간과 지능, 생김새, 움직임 등의 유사성을 공감에 대한 핵심 변수로 제시한다. 그렇지만 직관적으로 생각해봤을 때, 대상의 속성보다는 대상이 처한 상황과 관찰자의 경험 간의 유사성이 보다 큰 변수로서 작용할 것으로 보인다. 우리가 다른 사람들에 공감을 할 때에도 대상의 속성이 나와 얼마나 유사한지보다, 대상이 처한 상황이 내가 처했던 상황과 얼마나 유사한 것처럼 보이는가, 나는 과거 경험을 얼마나 생생하게 기억하고 있는가가 큰 영향을 미친다. 즉, 인공지능의 속성이 인간과 유사하다는 점은 인공지능이 처한 상황과 인간이 경험했던 상황과의 유사성을 높여서 과거 경험을 상기하는 데에 영향을 미칠지언정, 직접적으로 공감에 영향을 주는 핵심변수가 아닐 수도 있다는 것이다.
마지막은 인간의 인공지능에 대한 공감정도가 이들을 사회적 존재로 여길만큼 충분히 큰 지에 대한 의문이었다. 이는 인간이 어느 정도 수준으로 대상에 대해 감정을 느끼고 공감을 할 때 이들을 인간 네트워크의 중심부로 끌어들일 수 있는지에 대한 질문이다. 위의 논의들을 생각해보면 인간이 인공지능에 대해 공감을 하는 것은 일정부분 사실인 것처럼 보인다. 그렇지만 우리는 인공지능 외에 동물들, 그 중에서 돌고래와 같은 높은 지능을 소유한 포유류, 계통수가 인간과 유사한 침팬치 등에도 공감을 하지만 이들을 반려동물과 같이 인간 네트워크의 중심으로 끌어들이지는 않았다. 만약에 인공지능이 인간 네트워크의 중심으로 편입돼서 인간과 적극적인 상호작용을 하는 사회적 존재로 거듭날 정도로 공감정도가 클 가능성이 낮다면, 인간이 공감하는 인공지능의 출현은 교수님이 칼럼에서 주장했듯이 '로봇 발전의 역사에서 가히 분수령에 해당하는 사건'이라고 평가할 수는 없을 것이다.
김민정2020-12-04 00:03
[002 신*민]
상호작용능력, 의사소통능력과사회성을가진로봇의출현가능성과이완전히새로운유형의로봇이갖는사회적함의를조명한결론에크게공감했습니다.
인공지능(AI)이라는키워드가데이터사이언스기술의발전및응용범위의확장을통해 현재 전례없이많은 대중적 관심을불러일으키는시점에서,
기저에어떤알고리즘이채택되던간에인간과로봇사이에모종의감정적교류가발생한다면그것을가히로봇역사의분수령이라부를만하다는평가와 시선이 우리사회에꼭필요하고, 또타당하다고생각했습니다.
앞서소개된여러연구들이일관되게보여준인간의유사성에대한자연스러운선호는누군가에게는죽음의골짜기지점에해당하는수준일인공지능에대해발생하는 막연한거부감이나두려움을잘설명해준다고생각합니다. 물론, 인간의과학기술에의해설계된로봇이인간과비견할만한, 혹은인간의수준을현격히초월한새로운차원의지능을소유할수있을것인지에대해서는쉽게단정할수없지만, 이러한본능적거부반응들로인해가능성이나시도자체가시작점에서부터부정될 수 있지 않을까 싶습니다.
상호작용능력, 의사소통능력과사회성을가진로봇의출현가능성과이완전히새로운유형의로봇이갖는사회적함의를조명한결론에크게공감했습니다.
인공지능(AI)이라는키워드가데이터사이언스기술의발전및응용범위의확장을통해 현재 전례없이많은 대중적 관심을불러일으키는시점에서,
기저에어떤알고리즘이채택되던간에인간과로봇사이에모종의감정적교류가발생한다면그것을가히로봇역사의분수령이라부를만하다는평가와 시선이 우리사회에꼭필요하고, 또타당하다고생각했습니다.
앞서소개된여러연구들이일관되게보여준인간의유사성에대한자연스러운선호는누군가에게는죽음의골짜기지점에해당하는수준일인공지능에대해발생하는 막연한거부감이나두려움을잘설명해준다고생각합니다. 물론, 인간의과학기술에의해설계된로봇이인간과비견할만한, 혹은인간의수준을현격히초월한새로운차원의지능을소유할수있을것인지에대해서는쉽게단정할수없지만, 이러한본능적거부반응들로인해가능성이나시도자체가시작점에서부터부정될 수 있지 않을까 싶습니다.
김민정2020-12-04 00:04
[002 김*현]
해당 칼럼에서 우리는 ‘인간이 인공지능과 소통, 공감할 수 있는가?’, ‘가능하다면 그것은 어떤 방식으로 보이는가?’와 같은 질문을 읽어낼 수 있다. 이 칼럼에서 인간은 그들의 ‘초사회성’으로 인하여 인공지능과의 소통과, 인공지능에 대한 공감이 가능할 것임을 이야기하고 있다.
공감이란 단순한 언어적 의사소통을 넘어 감정적 교류를 함축한다. 이러한 고등 능력을 우리는 왜 다른 존재에게 발휘하게 되는가? 칼럼에서 제시된 실험에서 공감의 정도가 ‘대상이 얼마나 정신/정서적 능력을 보이는가’에 따라 달라짐을 보였듯이, 이는 대상이 얼마나 정서적 능력을 가지고 있는가가 관련되어 있을 것이다. 더 자세하게 말하면, 대상이 얼마나 정서적 능력을 ‘실제로’ 가지고 있는가보다는, 대상이 얼마나 정서적 능력을 ‘가지고 있다고 믿는가’ 하는 우리의 믿음에 기반하고 있을 것이다. 물론 이 믿음은 우리에게 이미 밝혀진 정량적 사실들에 기반하나, 아직 그러한 기반적 지식이 없다면 대부분의 판단에서 우리는 ‘대상이 이러이러한 정도의 정신적 능력을 갖추고 있을 것’이라는 추측-믿음에 기반하여 공감적 능력을 행사하게 된다.
기계 – 혹은 인공지능 – 에 대해서도 지금은 우리가 비슷한 단계에 놓여있는 것이 아닌가? 다시 말하자면, 우리의 공감 능력이 어디서부터 출발하는가를 재확인하는 단계에 놓여 있는 것이 아닐까? 빅 도그(big dog)에 대해 우리는 왜 공감 능력을 발휘하는가? 빅 도그가 사람에게 발로 걷어차인 것이 아니라, 옆에서 날아오도록 설계된 장애물 코스에서 장애물에 방해받았다면, 우리는 ‘안타까워’ 했을까? 이와 관련하여 한 실험이 생각났는데, Heider&Simmel(1944)의 실험에서, 피험자들은 기하학적 모형들이 움직이는 영상을 보았을 뿐이지만, 무엇을 보았냐는 질문에 도형들이 ‘서로 다투었다’, ‘화해했다’ 등의 용어를 사용하여 설명했다. 이것은 우리의 공감 능력이 실제로 대상이 ‘행위자’인가의 여부가 아니라, 우리의 믿음 투사 사고에 기초한다는 점을 보여주지 않는가? 인공지능에 대해서도, 튜링 테스트가 말해주듯 그것이 인간과 얼마나 ‘구별할 수 없는가’, 즉 얼마나 우리에게 저 존재가 비슷하다고 ‘믿어지는가’, ‘느껴지는가’ 하는 것이 중요하게 작용하리라 생각된다. 그것이 실제로 우리와 같은 ‘행위자’ 수준에 올랐는가의 문제에 앞서, 그것의 행위가 우리에게 어떤 믿음을 불러일으키는가가 더욱 일차적이고 광범한 질문으로 보인다. 그리고 그것이 칼럼에서 말하는 – 생명 아닌 것에도 이입하고 마는 – 초사회성의 일면이 아닐까?
해당 칼럼에서 우리는 ‘인간이 인공지능과 소통, 공감할 수 있는가?’, ‘가능하다면 그것은 어떤 방식으로 보이는가?’와 같은 질문을 읽어낼 수 있다. 이 칼럼에서 인간은 그들의 ‘초사회성’으로 인하여 인공지능과의 소통과, 인공지능에 대한 공감이 가능할 것임을 이야기하고 있다.
공감이란 단순한 언어적 의사소통을 넘어 감정적 교류를 함축한다. 이러한 고등 능력을 우리는 왜 다른 존재에게 발휘하게 되는가? 칼럼에서 제시된 실험에서 공감의 정도가 ‘대상이 얼마나 정신/정서적 능력을 보이는가’에 따라 달라짐을 보였듯이, 이는 대상이 얼마나 정서적 능력을 가지고 있는가가 관련되어 있을 것이다. 더 자세하게 말하면, 대상이 얼마나 정서적 능력을 ‘실제로’ 가지고 있는가보다는, 대상이 얼마나 정서적 능력을 ‘가지고 있다고 믿는가’ 하는 우리의 믿음에 기반하고 있을 것이다. 물론 이 믿음은 우리에게 이미 밝혀진 정량적 사실들에 기반하나, 아직 그러한 기반적 지식이 없다면 대부분의 판단에서 우리는 ‘대상이 이러이러한 정도의 정신적 능력을 갖추고 있을 것’이라는 추측-믿음에 기반하여 공감적 능력을 행사하게 된다.
기계 – 혹은 인공지능 – 에 대해서도 지금은 우리가 비슷한 단계에 놓여있는 것이 아닌가? 다시 말하자면, 우리의 공감 능력이 어디서부터 출발하는가를 재확인하는 단계에 놓여 있는 것이 아닐까? 빅 도그(big dog)에 대해 우리는 왜 공감 능력을 발휘하는가? 빅 도그가 사람에게 발로 걷어차인 것이 아니라, 옆에서 날아오도록 설계된 장애물 코스에서 장애물에 방해받았다면, 우리는 ‘안타까워’ 했을까? 이와 관련하여 한 실험이 생각났는데, Heider&Simmel(1944)의 실험에서, 피험자들은 기하학적 모형들이 움직이는 영상을 보았을 뿐이지만, 무엇을 보았냐는 질문에 도형들이 ‘서로 다투었다’, ‘화해했다’ 등의 용어를 사용하여 설명했다. 이것은 우리의 공감 능력이 실제로 대상이 ‘행위자’인가의 여부가 아니라, 우리의 믿음 투사 사고에 기초한다는 점을 보여주지 않는가? 인공지능에 대해서도, 튜링 테스트가 말해주듯 그것이 인간과 얼마나 ‘구별할 수 없는가’, 즉 얼마나 우리에게 저 존재가 비슷하다고 ‘믿어지는가’, ‘느껴지는가’ 하는 것이 중요하게 작용하리라 생각된다. 그것이 실제로 우리와 같은 ‘행위자’ 수준에 올랐는가의 문제에 앞서, 그것의 행위가 우리에게 어떤 믿음을 불러일으키는가가 더욱 일차적이고 광범한 질문으로 보인다. 그리고 그것이 칼럼에서 말하는 – 생명 아닌 것에도 이입하고 마는 – 초사회성의 일면이 아닐까?
김민정2020-12-04 00:05
[002 최*헌]
영국의 철학자 데이비드 흄은 우리의 도덕의 근원이 공감sympathy라고 주장했다. 그에 의하면 공감은 타자의 느낌에 대한 관념에서 그것을 우리가 실제로 느끼게 되게끔 하는 과정이다. 공감의 과정은 4단계로 이루어져 있다고 그는 말한다. 첫 번째로 우리는 타자가 어떤 감정을 느끼고 있는지에 대한 관념을 가지게 된다. 두 번째로 우리는 그 대상과 우리의 유사점을 인지하게 된다. 세 번째로 우리는 우리 자신에 대한 뚜렷한 인식을 가지게 된다. 마지막으로 대상에 대한 인식이 우리에게 힘과 선명함을 가지고 전달된다.1) 여기서 주목할 부분은 두 번째 단계인 유사성의 인지이다. “사회적 로봇의 출현과 인류의 미래”에선 우리가 로봇에 대해 공감 반응을 일으킨다는 사실과 그것이 어느 정도의 유사성의 인지에 기반해서 이루어진다는 것이 나타난다. 그렇다면 로봇에 대한 도덕도 성립하게 될까? 도덕이 성립한다면 로봇에 대한 권리도 가능할까?
보스턴 다이내믹스의 영상에 대해 사람들이 보인 반응은 분명히 도덕 감정과 맞닿아 있는 것이었다. 그러나 그것은 실제로 우리에게 로봇에 도덕적 규범성moral normativity을 발생시킬까? 로봇에 해를 가해서는 안 된다는 원칙이 인간이나 동물의 경우처럼 우리에게 구속력을 가지는지는 우리가 그러한 감정을 느낀다는 것에서 따라 나오는가? 그것은 흄이 말한 공감의 첫 번째 단계인 타자가 느끼는 감정에 달려 있을 것이다. 보스턴 다이내믹스의 로봇은 아마도 감정이나 고통을 느끼지 못할 것이다. 로봇 플리오도 마찬가지일 것이다. 그럼에도 불구하고 우리는 그들의 감정을 상상해 내어 공감을 발생시키는 것이다. 이것은 다른 공감의 기제들과는 상당히 다른 과정이다. 인간이나 강아지가 괴롭힘을 당할 때 우리가 느끼는 공감에는 그들이 실제로 느끼는 감정이라는 기반이 존재한다. 그러나 로봇의 경우에는 (적어도 아직까지는) 그러한 기반이 부재한다. 우리가 공감하는 대상의 감정이 사실은 존재하지 않는다는 것은 도덕적 규범성의 가능성을 없애는 것으로 보인다.
그렇다면 감정을 느끼는 로봇이 출현한다면 어떻게 될까? 그러한 상상은 SF에서는 이미 상당히 탐험되어 온 주제이다. 하지만 로봇이 감정을 느낀다는 것이 정확히 무엇인지 개념적으로 파악하는 것 자체도 아직은 쉽지 않은 문제이다. 만약 빅도그가 발로 차인 후에 덤덤하게 일어나지 않고 회피 반응을 보이거나 경련, 신음 등의 고통 반응을 보인다면 그것은 우리에게 더 큰 공감을 일으키겠지만 그것이 실제 고통의 존재를 증명하는 것은 아니다. 유려한 언어로 자신이 느끼고 있는 감정을 표현할 수 있다고 해도 상황은 마찬가지다. 사실 그러한 기능을 구현하는 것은 지금 기술로도 어려운 일은 아닐 것이다. 그러나 실제로 고통과 감정을 느끼는 로봇을 만드는 일은 요원하다. 감정을 느끼기 위해서는 의식이 있어야 한다고 철학자들은 생각한다. 인간은 의식이 있다. 침팬지나 강아지도 의식이 있을 것이라고 많은 철학자들은 생각한다. 돌이나 지금 현재 글을 쓰고 있는 PC는 의식이 없을 것이다. 이 차이가 무엇인지, 무엇인가가 의식이 있다고 증명하기 위해 필요한 기준은 무엇인지도 개념적으로조차 명확하지 않다. 사실 우리는 다른 인간이 실제로 의식을 가지고 있는지조차 확실하게 알지는 못한다. 이것은 철학사의 유서 깊은 문제인 “다른 마음의 문제(the problem of other minds)”로 이어진다. 우리는 1인칭적으로 우리의 마음, 즉 의식의 존재를 확인할 수 있지만 의식의 그 1인칭적인 속성 때문에 우리는 타인의 의식의 존재를 확인할 수 없다. 우리가 타인이 우리와 똑같은 뇌를 가지고 그것이 우리와 같은 방식으로 작동한다는 것을 fMRI등으로 확인한다고 해도 그것이 의식을 발생시키는지, 아니면 감정에 대응하는 특정한 반응들을 산출하는 기제인지 확인할 수는 없다. 그럼에도 불구하고 우리는 우리의 유사성에 기반해서 다른 인간들과 비인간 동물들의 의식의 존재를 믿는다.
로봇의 의식이라는 어려운 문제를 떠나서 로봇에 대한 도덕이라는 문제로 돌아가 보자. 만약 고통과 감정 반응을 산출하는 아주 인간과 흡사한 로봇들을 가지고 그것을 고문하는 서비스가 존재한다면 어떻게 될까? 이런 상황을 담은 SF작품으로는 “웨스트월드”가 있다. 이 작품은 인간과 구별하기 어려운 로봇들이 있는 테마파크같은 공간에서 손님들이 자신이 원하는 것은 무엇이든 할 수 있는 상황을 다룬다. 이것은 우리의 도덕적 직관에 어긋나는 것으로 느껴진다. 이와 비슷한 최근의 현실 이슈는 섹스돌이 있다. 만약 섹스돌이 고통과 감정 반응을 산출하고 많은 사람들이 그것을 고문하면서 쾌감을 느낀다면 그것은 도덕적으로 괜찮은 일인가? 법은 그것을 허용해도 되는가? 이 이슈는 그러나 로봇이 도덕적, 법적 권리의 담지자는 아닌 것으로 여겨진다. 인간과 유사한 로봇을 고문하는 인간의 존엄성에 대한 문제, 그리고 그러한 경험을 통해 다른 사람에게 해를 입힐 수 있다는 문제가 법적, 도덕적 딜레마로 작용할 것이다.
1) Morris, William Edward and Brown, Charlotte R., "David Hume", The Stanford Encyclopedia of Philosophy (Summer 2019 Edition), Edward N. Zalta (ed.), URL = <https://plato.stanford.edu/archives/sum2019/entries/hume/>.
영국의 철학자 데이비드 흄은 우리의 도덕의 근원이 공감sympathy라고 주장했다. 그에 의하면 공감은 타자의 느낌에 대한 관념에서 그것을 우리가 실제로 느끼게 되게끔 하는 과정이다. 공감의 과정은 4단계로 이루어져 있다고 그는 말한다. 첫 번째로 우리는 타자가 어떤 감정을 느끼고 있는지에 대한 관념을 가지게 된다. 두 번째로 우리는 그 대상과 우리의 유사점을 인지하게 된다. 세 번째로 우리는 우리 자신에 대한 뚜렷한 인식을 가지게 된다. 마지막으로 대상에 대한 인식이 우리에게 힘과 선명함을 가지고 전달된다.1) 여기서 주목할 부분은 두 번째 단계인 유사성의 인지이다. “사회적 로봇의 출현과 인류의 미래”에선 우리가 로봇에 대해 공감 반응을 일으킨다는 사실과 그것이 어느 정도의 유사성의 인지에 기반해서 이루어진다는 것이 나타난다. 그렇다면 로봇에 대한 도덕도 성립하게 될까? 도덕이 성립한다면 로봇에 대한 권리도 가능할까?
보스턴 다이내믹스의 영상에 대해 사람들이 보인 반응은 분명히 도덕 감정과 맞닿아 있는 것이었다. 그러나 그것은 실제로 우리에게 로봇에 도덕적 규범성moral normativity을 발생시킬까? 로봇에 해를 가해서는 안 된다는 원칙이 인간이나 동물의 경우처럼 우리에게 구속력을 가지는지는 우리가 그러한 감정을 느낀다는 것에서 따라 나오는가? 그것은 흄이 말한 공감의 첫 번째 단계인 타자가 느끼는 감정에 달려 있을 것이다. 보스턴 다이내믹스의 로봇은 아마도 감정이나 고통을 느끼지 못할 것이다. 로봇 플리오도 마찬가지일 것이다. 그럼에도 불구하고 우리는 그들의 감정을 상상해 내어 공감을 발생시키는 것이다. 이것은 다른 공감의 기제들과는 상당히 다른 과정이다. 인간이나 강아지가 괴롭힘을 당할 때 우리가 느끼는 공감에는 그들이 실제로 느끼는 감정이라는 기반이 존재한다. 그러나 로봇의 경우에는 (적어도 아직까지는) 그러한 기반이 부재한다. 우리가 공감하는 대상의 감정이 사실은 존재하지 않는다는 것은 도덕적 규범성의 가능성을 없애는 것으로 보인다.
그렇다면 감정을 느끼는 로봇이 출현한다면 어떻게 될까? 그러한 상상은 SF에서는 이미 상당히 탐험되어 온 주제이다. 하지만 로봇이 감정을 느낀다는 것이 정확히 무엇인지 개념적으로 파악하는 것 자체도 아직은 쉽지 않은 문제이다. 만약 빅도그가 발로 차인 후에 덤덤하게 일어나지 않고 회피 반응을 보이거나 경련, 신음 등의 고통 반응을 보인다면 그것은 우리에게 더 큰 공감을 일으키겠지만 그것이 실제 고통의 존재를 증명하는 것은 아니다. 유려한 언어로 자신이 느끼고 있는 감정을 표현할 수 있다고 해도 상황은 마찬가지다. 사실 그러한 기능을 구현하는 것은 지금 기술로도 어려운 일은 아닐 것이다. 그러나 실제로 고통과 감정을 느끼는 로봇을 만드는 일은 요원하다. 감정을 느끼기 위해서는 의식이 있어야 한다고 철학자들은 생각한다. 인간은 의식이 있다. 침팬지나 강아지도 의식이 있을 것이라고 많은 철학자들은 생각한다. 돌이나 지금 현재 글을 쓰고 있는 PC는 의식이 없을 것이다. 이 차이가 무엇인지, 무엇인가가 의식이 있다고 증명하기 위해 필요한 기준은 무엇인지도 개념적으로조차 명확하지 않다. 사실 우리는 다른 인간이 실제로 의식을 가지고 있는지조차 확실하게 알지는 못한다. 이것은 철학사의 유서 깊은 문제인 “다른 마음의 문제(the problem of other minds)”로 이어진다. 우리는 1인칭적으로 우리의 마음, 즉 의식의 존재를 확인할 수 있지만 의식의 그 1인칭적인 속성 때문에 우리는 타인의 의식의 존재를 확인할 수 없다. 우리가 타인이 우리와 똑같은 뇌를 가지고 그것이 우리와 같은 방식으로 작동한다는 것을 fMRI등으로 확인한다고 해도 그것이 의식을 발생시키는지, 아니면 감정에 대응하는 특정한 반응들을 산출하는 기제인지 확인할 수는 없다. 그럼에도 불구하고 우리는 우리의 유사성에 기반해서 다른 인간들과 비인간 동물들의 의식의 존재를 믿는다.
로봇의 의식이라는 어려운 문제를 떠나서 로봇에 대한 도덕이라는 문제로 돌아가 보자. 만약 고통과 감정 반응을 산출하는 아주 인간과 흡사한 로봇들을 가지고 그것을 고문하는 서비스가 존재한다면 어떻게 될까? 이런 상황을 담은 SF작품으로는 “웨스트월드”가 있다. 이 작품은 인간과 구별하기 어려운 로봇들이 있는 테마파크같은 공간에서 손님들이 자신이 원하는 것은 무엇이든 할 수 있는 상황을 다룬다. 이것은 우리의 도덕적 직관에 어긋나는 것으로 느껴진다. 이와 비슷한 최근의 현실 이슈는 섹스돌이 있다. 만약 섹스돌이 고통과 감정 반응을 산출하고 많은 사람들이 그것을 고문하면서 쾌감을 느낀다면 그것은 도덕적으로 괜찮은 일인가? 법은 그것을 허용해도 되는가? 이 이슈는 그러나 로봇이 도덕적, 법적 권리의 담지자는 아닌 것으로 여겨진다. 인간과 유사한 로봇을 고문하는 인간의 존엄성에 대한 문제, 그리고 그러한 경험을 통해 다른 사람에게 해를 입힐 수 있다는 문제가 법적, 도덕적 딜레마로 작용할 것이다.
1) Morris, William Edward and Brown, Charlotte R., "David Hume", The Stanford Encyclopedia of Philosophy (Summer 2019 Edition), Edward N. Zalta (ed.), URL = <https://plato.stanford.edu/archives/sum2019/entries/hume/>.
<사회적 로봇의 출현과 인간의 미래> 칼럼은 아래 링크를 통해 확인 가능합니다.
https://terms.naver.com/entry.nhn?docId=3580852&cid=59550&categoryId=59550