세계적인 우주 물리학자 스티븐 호킹은 2018년 타계하기 전까지 AI의 등장이 인류의 멸망을 초래할 수 있다고 경고했다. 세계적 부호인 일론 머스크와 전설적인 소프트웨어 개발자 스티브 워즈니악, 인류학자 유발 하라리 등도 인공지능(AI)이 인류에게 이롭게 쓰이려면 사회, 경제, 정책, 기술적인 검토가 필요하다며 인공지능 개발 속도를 지금보다 늦춰야 한다는 서명에 동참했다.

최근 ChatGPT는 새로운 검색엔진으로 찬사를 받으며 우리의 삶에 파고들고 있다. ‘Dall-E’나 ‘Midjouney’같이 텍스트만 입력해도 예술적인 그림을 생성해 주는 인공지능도 대중화되고 있다. 인공지능은 기술 발전 속도와 더불어 학문, 산업과 사회 시스템 곳곳에서 그 영향력이 빠르게 증가하고 있으며 우리는 5년 후, 10년 후의 현재보다 고도화 될 미래 문명을 기대하고 있다.

그렇다면 스티븐 호킹, 일론 머스크와 같은 세계적 거물들이 생각한 미래는 어떤 모습이었을까? 급속도로 발전되는 과학이 낳을 부작용과 그 전조현상에 대해서도 알아 볼 필요가 있다.

ChatGPT가 등장하고 그 부작용이 하나씩 나타나고 있다. 글로벌 보안 업체 ‘체크포인트’에 따르면 사이버 범죄자들이 ChatGPT를 악성 공격에 활용한 사례들이 공유되고 있다고 한다. ChatGPT가 프로그램 개발 코드를 작성해 준다는 것은 익히 알려진 사실이다. 익명의 해커는 ChatGPT에게 악성코드를 제작하도록 주문해 해킹에 성공했다고도 한다.

지금보다 ChatGPT가 더 발전한다고 해보자. 악성코드 제작뿐 아니라 각종 범죄에 인공지능을 악용하는 사람들이 나타날 수 있다. 먼저 인공지능들이 플레이한 게임 훈련 사례를 보자.

- 무사고 평균 속도를 보상으로 주자 자율주행차량이 고속으로 빙빙 돌기만 함.

- 가상사회 시뮬레이터에서 식량을 채집하기보다 번식해서 자손을 잡아먹음.

- 테트리스에서 패배 직전에 게임을 무한으로 일시 정지시킴.

- 빠른 속도를 가지도록 진화를 시키자 자신의 키를 키우는 방향으로 진화함. 그리고 넘어져서 최고 속도를 냄.

- 소닉 게임을 하던 인공지능이 맵 뚫는 버그를 발견하곤 그 버그만 사용

현대 사회와 그것을 지탱해 주는 사법 체계가 완벽하다고 할 수 있는 사람 혹은 국가는 없을 것이다. 더불어 도로·항만·항공 등의 교통 시스템, 주식시장, 선물, 옵션 등 금융 경제시스템 등 역시 마찬가지다. 이러한 시스템들에 과연 버그가 없다고 단정 지을 수도 없고 실제로 모든 시스템은 끊임없이 유지·보수, 해킹과 크래킹에 대비하고 있다. 이미 글로벌 헤지펀드들은 금융 버그를 이용해 국가를 공격하는 시대다.

만약 고도로 발달한 인공지능에게 충분한 정보를 준 다음 금융시장과 같은 현대사회시스템을 교란하고 경쟁회사, 경쟁국가를 파산시킬 방법을 묻는다면 인공지능은 버그를 찾아서라도 답을 알려줄 것이다. 인공지능이 고도로 발달할수록 인공지능의 솔루션이 현실화될 가능성이 커진다고 볼 수 있다.

자본주의는 기본적으로 경쟁사회다. 경쟁자를 죽여야 내가 시장을 차지할 수 있고 살아남을 수 있다. ChatGPT가 지금보다 더 고도화되면 경쟁자를 죽이려는 시도가 난무할 것이다. 수많은 사람이 일자리를 잃는 사태가 발생할지도 모른다. 그리고 아직 우리는 그러한 시나리오에 대한 대안이 없다. 이것은 단지 하나의 사례다. 더 나아가 인공지능이 인류를 말살하려는 의도를 갖는다면 인공지능이 어떠한 방식으로 목적을 달성할지 우리는 상상할 수 없다. 결국 인공지능은 인간보다 더 고도의 지성을 갖출 것이고 인간의 통제범위를 벗어날 가능성이 크기 때문이다.