기계 장치의 사랑이라는 두 권짜리 만화책을 질렀다. 이런 류의 이야기에 등장하는 기계는 인간과 대등한 수준의 종합적 정신 작용을 하는 지성체로, 그쪽 분야에서는 강인공지능(Strong AI) 라고 부른다. 인간과 같은 종합 지성은 아니지만 제한된 조건 안에서는 지적으로 보이는 인공지능을 약인공지능(Weak AI) 라고 한다는 것은 쉽게 예상 가능하다.

Strong AI 가 과연 가능한가? 자아, 의식, 감정 등을 인간이 구현할 수 있을까? 이 질문은 과학, 철학, 종교, 윤리 등의 거인들이 만나는 화개장터에서 아직도 피터지게 싸우는 떡밥이다. 이 질문에 대한 직접적인 답 이전에 필요한 개념들인 자아, 의식, 감정, 지성, 자유의지 등에 대한 정의조차 합의가 되지 않고 있다. 구글에서 검색해 보면 밤을 새도록 읽어도 다 못 볼 만큼 방대한 주장과 반론들이 있다. (재밌다)

관련 지식도 부족하고, 저기서 싸우는 사람들보다 고민을 더 많이 한 것도 아니지만, 그냥 큰 시각에서 문제를 바라보는 나의 의견은 이렇다.

• 물리적으로 불가능하지 않다.

  나는 유물론자다. 현재의 물리법칙의 범위 안에서 인간이 만들어졌다면, 동일한 물리법칙이 지배하는 우주가 계속되는 한 인간이 또 다른 자아를 가진 존재를 만들어낼 가능성은 0 이 아니다.

• 반도체 기반의 기계는 아닐수도 있다.

  지금의 컴퓨팅 기술을 기반으로 강인공지능이 가능할지는 모르겠다. 아직까진 된다/안된다 확답을 할 수 없는 형세인 것 같지만. 하지만 의식의 발현이 우리와 같은(탄소생명체) 형태에서만 가능하다고 하더라도, 우리는 우리 자신에게서 답을 베낄 수 있다! 다른 방식으로도 가능하다면 인류가 진보함에 따라 길을 찾을 수 있을 것이다.

• 실질적으로 가능할지는 모르겠다.

  1억개의 정수를 Bogosort 로 정렬하는 것은 가능성이 0은 아니지만 사실상 불가능하다. 비슷하게, 인류의 기술 수준이 자아를 가진 기계장치를 만들어내는 데까지 발전해 나갈 수 없을 수도 있다. 마지막 세계대전이나 전염병으로 멸망, 혹은 지구를 벗어날 기술을 확보하기 전에 적색거성이 된 태양에 삼켜져서 사라짐. 어느날 갑자기 나타난 외계종족과 우주전쟁으로 멸종 등의 가능성이 존재한다.

• 가능성에 대해서 말해보자면,

  아주 높은 확률로 도달할 수 있을 것 같다. 위에 언급했듯이, 우리 자신이라는 훌륭한 족보(..)가 있기 때문이다. 우리를 누가 혹은 무엇이 창조했건 간에, 우리는 “한정된 시간, 한정된 자원, 한정된 복잡도” 의 조건 안에서 유지되는 물리적 실체이며, 분명히 자아를 가지고 있(다고 주장한)다. 솔루션과 재료가 있는데 베낄 수 있겠…지?

• 만약 반도체 기반의, 인간과 구분할 수 없는 로봇을 만들었다면?

  자아를 가진걸까? 이걸 흔히 튜링테스트라고 하는데 … 왠지 튜링 테스트 통과할것 같은 로봇들이 어떤 모습일지 상상해보자 - <이브의 시간>, <바이센테니얼맨>, <I ROBOT>, <블레이드러너>

  일반적인 시각과는 좀 다르겠지만 내 기준은 이렇다. 자아가 있는 존재의 판단은 상대적이다. 시간과 공간을 초월한 절대적인 지성이 나를 본다면 길거리의 돌멩이와 다를 것이 하나 없을지도 모른다. 내가 무슨 짓을 하고 무슨 생각을 하더라도 발로 차면 굴러가는 돌멩이의 움직임처럼 자연스러운, 그저 법칙에 따르는 우주먼지 덩어리일 뿐이다. 그런 초지성은 내 쪽에서 바라보더라도(인지조차 못할것 같지만), 자아를 가진 지성체가 아니다. 따라서 Strong AI의 타겟은 인간과 비교할만한 수준으로 지성의 발현을 하고 있으며, 그 발현의 관찰만으로는 완벽하게 분석할 수 없는 사고회로를 가지고 있는 존재이다. 그리고 지성체 와 생명체 는 공통 부분이 크긴 하지만 다른 개념이다. 따라서 생명체가 아니라도 자아를 가진 지성과 그 양태만으로는 구분할 수 없는 존재가 있다면 Strong AI 는 성공했다고 보아야 한다.

마지막 사항에 대해서 조금만 더 이야기하자면, 나는 AI 의 행동을 결정하는 방식이 Non-trivial 해야 한다는게 핵심 조건이라고 본다. 전문가 시스템(lots of if-then-else)으로 만들어진 에이전트는 처음 보기에 아무리 인간같더라도 분석하면 파악된다. 흔히 하는 얘기로 “프로그램대로 움직이는 것은 가짜다” 라고 하는데, 여기 사용된 “프로그램대로”는 Deterministic 보다 Interpretable/Predictable 쪽을 지칭하는게 더 크지 않을까 한다. 행동 규칙을 완전하게 파악하고 예측하는 것이 불가능 - 심지어 그 과정이 결정적일지라도 - 하다는 사실이 상대에게 우리와 동등한 선에 설 수 있는 자격을 주는 것이 아닐까.