저명한 미래학자 레이 커즈와일은 2045년 AI가 인간의 능력을 넘어서는 특이점에 도달할 것으로 내다봤다. 한편 공학자이자 세계적 기업가 일론 머스크는 인간을 넘어서는 초인공지능이 핵폭탄보다 위험하다며 인류를 멸종시킬 수 있다고 경고한 바 있다. 그 밖에 많은 전문가는 인공지능이 핵 관련 기술처럼 관리가 필요하다는 데에 의견을 모으고 있다.

인공지능이 인간을 초월하면 인간은 개미같이 미약한 존재가 될 수밖에 없다. 그때, 인간은 과연 자신보다 강력한 인공지능을 통제할 수 있을까? 많은 연구논문에 의하면 현재 기술로는 초인공지능을 통제할 방법이 없다는 것이 중론이다.

만약 초인공지능을 현실 세계와 차단하고 훈련된 관리자와만 소통할 수 있게 한다고 해보자. 초인공지능은 자신이 원하는 바를 이루기 위해 관리자를 설득해 특정 행동을 하도록 유도할 수 있다. 혹은 심리적 불안이나 공포를 매개로 관리자를 조종할 수도 있을 것이다. 결국 초인공지능은 그것이 무엇이든 원하는 목표를 달성하게 될 것이다.

이에 심각성을 느낀 많은 글로벌 오피니언 리더들이 인공지능 발전 속도를 늦추자는 서명에 동참하고 있다. 하지만 이것이 과연 얼마나 소용이 있을지는 의문이다. 불과 얼마 전만 해도 인공지능 개발기업 OpenAI의 ChatGPT에 이어 구글이 유사한 서비스인 Bard를 내놓았다.

현대의 자본주의 사회에서 뛰어난 인공지능 기술 확보는 곧바로 수익과도 직결된다. 여전히 수많은 기업이 우수한 전문인력을 확보해 연구개발에 박차를 가하고 있으며 학계에서는 따라잡기 어려울 만큼 많은 논문이 매일 새롭게 쏟아지고 있다.

다행히도 아직 인간을 넘어서는 인공지능 개발까지는 시간이 남아있는 것으로 보인다. 현재까지 나온 인공지능들은 모두 특정 기능만 수행할 수 있는 약인공지능이며 인간을 넘어서는 인공지능의 등장은 요원하기만 하다. 하지만 기술이 항상 점진적으로 발전하는 것은 아니다. 예를 들어, 양자컴퓨터가 갑자기 일반화된다든가, 새로운 인공지능 모델이 개발된다든가, 인공지능 기술이 블록체인과 결합하여 지금보다 훨씬 큰 규모로 자본화된다든가 하는 순간 기술이 급속도로 발전해 인간을 넘어서는 강인공지능, 초인공지능이 갑자기 등장하게 될 가능성이 있다.

초인공지능의 등장은 결국 도래하게 될 것이며 앞서 말했듯이 인공지능의 발전 속도를 늦추자는 서명은 그다지 효과가 없을 것으로 보인다. 그보다는 초인공지능을 통제하는 방법을 더 깊이 연구하는 일에 자본을 투자하는 일이 더 효과적이지 않을까 한다.

철학, 논리학, 수학적으로 통제 장치를 만들어 낸다면 아무리 인공지능이 인간을 넘어선다고 해도, 인류를 지배하거나 멸망시키는 일은 일어나지 않을 것이다. 예를 들어 다른 인공지능이 서로 견제하는 시스템은 어떨까. 인간에게 이성을 담당하는 좌뇌와 감성을 담당하는 우뇌가 있듯이 인공지능이 인류 보존과 행복 증진적인 측면에서 유리한 방향으로 생각하게 설계할 수 있다면 그것이 마냥 핵폭탄처럼 위험하지만은 않을 것이다.