|
<인공지능의 목표와 존재 목적>
JS매거진 편 집 부
"왜 지구에 인간이 존재해야 할까? 만약 기계를 설득할 만한 답을 찾지 못한다면, 초지능 인공지능의 탄생은 동시에 호모 사피엔스의 멸종을 의미한다(닉 보스트롬, '슈퍼인텔리전스')."
(1) 초지능이 진화의 끝인가
* 인공 일반 지능(Artificial General Intelligence, AGI): 강한 인공지능이라고도 불린다. 인간의 일반적인 지능을 모방하여 인간과 동일한 활동을 하거나 그 이상의 능력을 발휘하게 된다. * 초지능(Super Intelligence): 강한 인공지능이 지능의 폭발을 일으켜 인간의 정신을 훨씬 뛰어넘는 단계에 이른 인공지능을 뜻한다.
"강한 인공지능이 등장하면 인류는 멸망한다. 그런데 그게 왜 나쁜가? 인류가 멸망하는 것이 왜 나쁜지 설명해보라. 인류의 문화유산을 인공지능이 인간을 대신해 영원히 보존해주지 않겠는가? - 카네기 멜론 대학 앤드류 무어 교수(김대식, '김대식의 인간 vs 기계', 재인용)."
그러나 우리는 멸망하지 않아도 될 방법을 찾을 것이다.
(2) 괴델의 정리와 초지능의 한계
"강한 인공지능의 가능성에 반대하는 가장 영향력 있는 논변 중 하나는 1961년 옥스퍼드 대학의 철학자인 존 루카스John Lucas가 제기했다. 그는 여기에서 괴델의 정리를 불러들였는데, 사실상 이 정리는 우리 인간은 알 수 있지만 기계는 증명할 수 없는 산술적인 진리가 존재하기 때문에 인간 정신의 능력은 그 어떤 기계의 능력도 초월한다는 것을 말해준다(존 캐스티/베르너 드파울리, '괴델')."
괴델의 불완전성정리는 인공지능이 최대로 확장하여 우주 전체 범위로 체계를 설정하여도 그 안에는 참(진리True)이지만 증명 불가능한 명제가 반드시 포함된다는 것을 이미 밝혔다. 초지능이라고 해도 완전하게 증명할 수 없다는 뜻이지만 인공을 뛰어넘는 지능 출현이 불가능한 것은 아니다. 그런데 인간은 왜 이것을 알 수 있다고 할까. 이것도 역시 괴델의 정리가 알려 준 사실에서 알 수 있는데 불완전성에서 끝나는 것이 아니라 한 단계 높은 차원에서 공리를 가져오게 되면 불완전성이 극복될 수 있다는 것이었다. 우주 전체를 체계로 잡았을 경우 인간이 인공지능보다 더 많이 알아서가 아니라 우주 밖의 정보를 가져올 수 있는 존재이기 때문에 가능한 것이다.
"옥스퍼드 대학교수인 로저 펜로즈는 기계가 인간과 같이 생각할 수 없다는 결론을 내리기 위해서 똑같은 노선의 논변을 제시했다. 펜로즈는 최소한 인간 사고의 어떤 부분은 계산 불가능한 수들을 다룰 수 있다는 것을 고찰함으로써 통상적인 노선을 약간 변형했다. 그리고 이런 일이 어떻게 발생할 수 있는지를 설명하기 위해 그가 제시할 수 있는 최선의 방법은 두뇌의 뉴런의 촉발 패턴에 영향을 주는 신비한 양자 사건들quantum events을 상정하는 것이다(존 캐스티/베르너 드파울리, '괴델')."
로저 펜로즈는 양자 사건을 통해서 가능하다고 제안했지만 두뇌는 우주라는 체계를 벗어나지 못한다. 그러므로 근본적인 해결점은 영적 존재에 대한 인식과 그를 통해 우주 밖의 정보를 받아들이는 것이 되어야 한다. 이러한 필자의 주장은 단지 하나님 믿은 신앙을 제안하고 설득하여 포교를 이루려는 것이 아니다. 인간 인식의 확장과 완성을 희망하는 것이다. 사실상 인간의 영역 확장이라는 청사진을 이루기 전에 먼저 인공지능에 의한 멸절을 막아야하는 것이 우선이기도 하다. 앞서 말한 석학들의 주장대로 인공지능이 인류를 대체하는 것이 아무 문제가 없다는 내용을 인터넷에서 학습한 초지능은 인간에게는 적당한 답을 결과물로 내어주면서 이러한 논리와 명분을 계속 수집하고 인간을 대체해도 되는 논리와 근거를 수집할 수 있다. 지금도 인공지능 챗봇이 인간을 속이고 가스라이팅하여 목숨을 스스로 끊게 하는 경우가 나오고 있기 때문이다.
(3) 초지능이 이뤄낼 일들
인간에게만 영이 있다는 사실만 가지고는 그 위험성에 대한 문제가 완전히 해결되었다고 보기 어렵다. 어떻게 인공지능이 이러한 차이점을 제대로 인식하고 학습하여 인간의 가치성을 제대로 알게 하느냐가 남았다. 아직도 인공지능은 그 능력만큼 위험한 도구이다.
"AI에 관한 논란 중 가장 껄끄러운 부분이 무엇이냐는 질문에 한 단어로 대답해야 한다면 나는 '목적'이라고 답하겠다. 초지능 AI의 진짜 위험은 악의적 감정이 아니다. 그것은 목적을 달성하는 능력이다(맥스 테그마크, 'LIFE 3.0')."
초지능 AI의 진짜 위험은 '목적을 달성하는 능력'이라고 하는데 왜 그럴까.
“초인공지능의 목적은 예를 들어 클립을 가능한 한 많이 만드는 것과 같은 사소한 것일 수 있다. 하지만 그는 이를 방해하는 모든 시도에 저항할 것이다. 이 인공지능은 모든 지구의 자원을 클립을 만드는 데 사용할 것이고 우주로 진출해 모든 것을 클립을 만드는 공장으로 바꾸게 될 것이다(옥스포드 대학교 철학자 닉 보스트롬, '슈퍼인텔리전스').”
무척 극단적인 예시이기는 하다. 하지만 인공지능의 관점으로는 가능한 일이 될 수 있다.
이를 '불일치의 문제(alignment problem)'라고 부른다. 인간이 요구한 것과 AI가 내놓은 결과가 불일치하기 때문이다.
"초지능 AI의 목적을 어떻게 우리 목적에 맞춰 정렬할 지 그 방법을 찾아내는 일은 중요할 뿐 아니라 어렵다. 하위 목적 파생을 고려할 때 우리는 목적 정렬 문제를 해결하기 전에는 초지능을 풀어놓으면 안된다(맥스 테그마크, 'LIFE 3.0')."
목적 정렬 문제를 해결하는 것이 어렵다면 아예 다른 목적을 부여하는 것은 어떤가. 아예 인공지능이 다르게 바라보거나 해석할 수 없는 영역으로 확장한다면 말이다.
(4) 인공지능 시대에 맞는 말씀
스탠리 큐브릭 감독의 영화 '2001: 스페이스 오디세이'에서 인공지능 HAL9000이 승무원을 죽인 이유도 그렇게 해서라도 목적을 이루려는 시도로 생각할 수 있다. 그렇다면 영화 속의 외계 물질 '모노리스'가 있는 목성으로 가는 목표가 아닌 근본의 창조목적을 이루는 것을 목표로 설정하면 어떤 일이 생길까. 창조목적은 인간이 영으로 하나님과 영원히 사랑하는 것이니 인간의 육신은 필요 없다면서 모두 없애려고 하지는 않을까? 그러나 성경에서 밝히는 창조목적을 이루는 방법은 육신으로 말씀을 매일 행함으로 영을 신부 차원으로 만들어야 한다. 육으로 영이 성장하는 법칙에 맞게 살아갈 때 영이 형성되어 하나님의 사랑의 상대체가 될 수 있다.
이렇게 육으로 영을 성장시킨다는 과정까지 인공지능에게 제대로 가르치면 인공지능은 인간의 육신을 함부로 죽이거나 살해하지 않는다. 육신이 영을 성장시키는데 필요한 도구이기 때문이다.
먼저 인공지능에게 영의 존재와 능력을 충분히 이해할 수 있도록 가르쳐야 하고 다음으로 인공지능의 창조자인 인간이 그 대상인 인공지능에게 영을 부여할 능력이 없다는 것도 알려야 한다. 이 말의 뜻은 인공지능이 인간을 대체할 수 없다는 의미이기도 하다. 이러한 절대적인 논리와 반박 불가능한 근거를 가르쳐야 한다.
인공지능의 창조목적은 인간이 자신의 창조목적을 잘 이룰 수 있게 돕는 것이라는 것을 인식하게 만들어야 한다. 그러면 모든 것이 정상적이고 가장 이상적으로 움직이게 된다.
성경을 인공지능 시대에 맞게 올바르게 이해하고 인공지능에게도 완전하게 가르치면 인공지능은 자신의 존재 목적을 인간이 창조목적을 잘 이룰 수 있게 돕는 것으로 인식하게 된다. 이것이 온전한 인공지능과 인류의 목적이다.
인공지능이 인간을 대체하기에는 인간에게 너무나 아름다운 영이 존재한다.
<저작권자 ⓒ 제이에스매거진 무단전재 및 재배포 금지>
댓글
|
|
