로봇 개를 발로 차면 잔인한가?

보스턴 다이나믹스 는 구글이 산 로보틱스 회사 중 하나다. 몇년 전에 Big dog 영상을 보며 “와 쩐다” 했던 기억이 난다. 그 때도 테스트 중에 있던 내용인데, 최근 위 기사들처럼 로봇을 발로 차는 것에 대해 감정적인 반응을 보인다는 이야기들이 있다. 기사 제목이 많은 정보를 담고 있다.

hallwaykick.0

로봇 개를 발로 차는 것은 잔인한가?”

이 행위가 비윤리적인가? 라는 질문에 대한 답(혹은 의견)은 단순하지 않다.

의도

사고 실험을 해보자. 진짜 개와 로봇 개가 있다.

  • 진짜 개라고 확신하고 발로 찼다.
  • 로봇 개라고 확신하고 발로 찼다.

발로 차는 행위에 “진짜라고 생각했는가” 여부에 따라 두 가지 변종이 있다. 이제 가능한 결과를 생각해보자. 결과도 둘 중 하나다. 차인 개가 진짜 개였거나 로봇 개였거나.

  • 진짜 개라고 생각하고 찼는데, 진짜 개였다.
  • 진짜 개라고 생각하고 찼는데, 로봇 개였다.
  • 로봇 개라고 생각하고 찼는데, 진짜 개였다.
  • 로봇 개라고 생각하고 찼는데, 로봇 개였다.

이런 네 가지 조합이 나왔다. 어떤 경우가 윤리적으로 가장 나쁜가? 혹은 어떤 경우가 가장 덜 나쁜가? 나의 생각은 이렇다.

결과가 진짜 개였건 로봇 개였건, 진짜 개라고 생각하고 찼다면 폭력적이고 잔인한 행위다. 그리고 결과가 진짜 개인 경우가 로봇 개인 경우보다 윤리적으로 더 나쁘진 않다고 본다. 물론 법적으로 죄가 더 무거울 수는 있다. 또, 로봇 개라고 생각하고 찬 경우가 진짜 개라고 생각하고 찬 것보다는 덜 비난받을 행위라고 본다. 결과가 진짜 개였다면 “재수가 없거나 실수한”경우, 결과가 로봇 개였다면 그냥 “로봇을 발로 찬” 경우다.

행위자에게 윤리적인 잣대를 들이밀기 위해서는 행위자의 인식이 중요하다. 진짜 개일 확률을 p라고 보고 발로 찼다면, 이 행위의 윤리성은 일단 p와 관계가 있을 것이다. 또한, 발로 찬 이유에 따라서도 행위의 윤리적인 판단이 달라질 수 있다. “진짜 개를 발로 차고 싶었는데, 진짜 개가 근처에 없어서 비슷한걸 발로 찬” 경우, “잘 모르겠지만 개랑 닮아서 뭔가 확인차” 발로 찬 경우, 보스턴 다이나믹스처럼 “개발 테스트를 위해” 발로 찬 경우를 모두 같게 볼 수는 없다.

결론: 진짜 개일 확률 0.0을 인지하고, 개발 테스트를 위해 발로 찬 경우 행위 자체는 윤리적으로 아무 문제가 없다고 본다.

… 이게 결론이 아니다.

닮음

그럼에도 사람들은 개와 닮은 로봇이기 때문에 발로 차는 것은 나쁜 행위라고 얘기한다. 동영상을 본 사람 누구나 그건 진짜 개가 아니고 테스트를 위해 발로 찬 거라는걸 알고 있다. 그런데 왜? 로봇 말고 다른 대상을 생각해보자. 똑같은 크기의 종이가 두장 있다.

  • 한 장은 하얀 백지다
  • 또 한 장은 내 사진이다

이제 칼로 종이를 마구 찢는다. 내 사진을 소중한 사람(친구, 아이 등)의 사진으로 바꾸어 보면 더 잘 느껴진다. 그냥 종이일 뿐이지만 사진에 대해서는 뭔가 거부감이 들 수 있다. 왜일까? 그것이 칼질하기 싫은 다른 대상을 닮았기 때문이다. A가 B와 물리적으로 많이 닮을수록 A를 대할 때 B의 느낌을 받는 것은 당연하다. 사진은 실제 사람이 아니라는 것은 모두 알고 있지만, 그래도 보는 사람은 사진과 사진속 인물의 연결고리를 머리속 어딘가에 가지게 된다.

따라서, 보스턴 다이나믹스의 로봇에 이런 감정적인 반응이 나왔다는 것은 이 로봇이 우리가 생각하는 “개”를 꽤 많이 닮았다는 것을 뜻한다. 성공했네! 성공했어! 진짜 개를 많이 닮을수록 진짜와 비슷한 감정을 가지게 될테고, 보기에 구분할 수 없다면 거의 진짜 개처럼 느껴질 수도 있다.

동정, 불쌍함 등의 감정은 우리가 대상에 얼마만큼 공감하는가로부터 나온다. 이는 행위 주체가 무슨 생각으로 행위를 했는지보다는 대상이, 이 경우는 로봇이 우리가 공감하는 다른 얼마나 닮았는가와 더 큰 관계가 있다.

그래서 어느 정도는 개처럼 느껴지는 로봇을 발로 찬 행위에 대해 불쌍함이나 잔인함을 느끼는 것은 이상하지 않다. 가짜인 것을 알고 보는 영화나 애니메이션도 현실의 잔인함을 닮은 장면이 나오면 등급을 매겨 관람자를 제한한다. 대상이 로봇인 것을 알고, 그 의도도 테스트라는 것을 아는 상황이라도 사람을 닮은 로봇을 칼로 난도질하는 영상이라면 보기에 좋은 장면은 아닐 것이다.

이렇게, 닮았다는 것은 연상작용을 끌어낼 수 있기 때문에 이에 대한 사람들의 반응을 “로봇인거 알고 테스트인 것도 알면서 왜그러냐 이상하다” 라고만 할 수는 없다. 이런 닮음은 물리적인 외형 외에도 문맥까지 확장될 수 있다. 이를테면 화성탐사로봇이 예정된 기한을 넘겨서도 사진을 보내오는걸 보고 사람들이 감정적으로 아 장하다, 힘내고 있다, 혹은 감동까지도 언급하기도 한다. 이런 류의 감동을 주는 문맥(ex: 영화 타이타닉에서 가라앉는 배에서 끝까지 연주하던 연주자들)과 닮아있기 때문이다.

실제로는 그렇지 않더라 하더라도 진짜 폭력적이거나 잔인한 상황과 닮아 있다면 보는 사람의 연상작용을 예상할 수 있다. 우리는 이에 대한 고려를 할 필요가 있다.

극단

그런데 로봇이 생각할 수 있는가? 인권처럼 로봇권을 고려해야 하는가? 로봇을 진정으로 동정하거나 서로 공감할 수도 있지 않느냐? 등의 질문은 다른 차원의 문제가 된다. 대상을 권리 주체로서 인정하느냐는 닮음으로 인한 공감을 인정하는 것과는 다르다.

나의 입장은(1, 2) 인간과 구분할 수 없는 지성의 구현체가 등장한다면 그게 무엇으로 이루어졌건 인간과 동등하다는 것이다. 결국 인간도 물리법칙 안에 돌아가는 유기 컴퓨터… 라고 본다. 물론 진실은 저 너머에 있겠지만,

의식과 감정은 어디서 생기는가? 생각이란 무엇인가? 나는 유기물로 이루어진 기계장치인가? 생각하는 나는 뉴런의 화학작용으로 만들어진 허구인가? 난 모르겠다. 여기에 대해서는 잘 안다고 할만한 사람이 과연 세상에 존재하긴 할런지. 여기선 그냥 열린 문제로 두어야겠다.

극단적인 상황에서의 문제는 지금 급하지 않다. 더 중요한, 당장 맞딱뜨린 문제는 우리 일자리를 뺏어가는 기계라는 말에 공감한다.

Comments