일본 애니메이션 역사상 최고의 걸작으로 꼽히는 '신세기 에반게리온'. 그 배경이 된 가상의 도시 제3도쿄시는 시장이 3명이다. 엄밀히 말하면 사람이 아니니 3개라고 해야겠다. 마기(MAGI)라는 3대의 슈퍼컴퓨터가 다수결로 시정에 대한 의사결정을 한다. 그런데도 제3도쿄시는 아무 문제없이 잘 돌아간다. 인공지능(AI)이 도시를 통치하고 시민들을 지배하는 세상이다.

구글 딥마인드의 인공지능 알파고가 '인간계' 최고수 이세돌을 상대로 바둑을 둬 내리 2판을 이겼다. 특히 두번째 대국에서 이세돌은 딱히 잘못 둔 수가 없는데도 졌다. 프로기사들이 알파고의 '실수'라고 했던 엉뚱한 수조차 미리 계산된 수였다는 게 중론이다. 상대보다 최소한 '반집'이라도 더 많이 차지해 이긴다는 유일한 '목표'를 달성하기 위해 변수를 사전에 차단하려고 뒀다는 얘기다.

이쯤되면 이세돌이 단 한판이라도 이긴다면 기적이라고 봐야 한다. 게이머들이 말하는 이른바 '헬'(Hell·지옥) 또는 '극악'(極惡)의 난이도다. 인간으로선 이기기 어려운 정도가 아니라 거의 불가능한 수준이다.

인공지능이 바둑을 정복한다는 건 단순한 연산능력 뿐 아니라 직관력에서도 이미 인간을 넘어선다는 뜻이다. 인간으로선 지적으로 더 이상 인공지능보다 나을 게 없게 되는 셈이다. 머지않아 변호사, 회계사, 기자 등 상당수 직업들이 인공지능에 의해 대체될 수 있다는 얘기가 나오는 이유다.

또 하나 방심할 수 없는 직업이 정치인이다. 인공지능이 변호사처럼 법률을 해석해 변론문을 쓸 수 있다면 국회의원처럼 법안을 만들지 못하란 법도 없다. 법안을 심사하고 의결하는 것도 마찬가지다.

국회의 가장 중요한 역할 가운데 하나인 예산 편성은 어쩌면 인간보다 인공지능이 나을 지도 모른다. 먼 얘기가 아니다. 지금도 엑셀의 고급버전인 '프리미엄 솔버'(Premium Solver)를 이용하면 총예산 내에서 각 분야에 얼마씩의 예산을 투입하면 국가 전체의 효용이 극대화되는 지 알 수 있다. 최적의 예산 배분을 위한 '디시즌 모델'(결정모형·Decision Model)을 만든 뒤 몇가지 가정만 입력하면 된다.

미국 등 선진국의 기업들은 이미 디시즌 모델을 투자와 예산 배정 등의 의사결정에 활용하고 있다. 디시즌 모델도 알고리즘이란 점에서 인공지능과 다를 바 없다. 인공지능이 이미 기업 경영에까지 관여하고 있는 셈이다.

그렇다면 정치인들까지 인공지능에 대체되는 날이 올까? 인공지능이 경제적 효용 외에 다른 가치를 이해하지 못한다면 불가능하다. 그러나 다른 가치들까지 고려해 최적의 의사결정을 내릴 수 있는 수준으로 진화한다면 얘기가 달라진다.

그런 날이 온다면 국회의원 뿐 아니라 지방자치단체장, 심지어 대통령까지도 인공지능에 의존하거나 자리를 내줘야 할 지도 모른다. 지적으로나 도덕적으로 인간이 인공지능보다 나을 게 없다는 전제에서다. 만약 그때까지도 정치인들이 남아 있다면 예산 편성권이나 인사권이 아닌 인공지능 알고리즘의 수정 권한이 가장 중요한 권력이 돼 있을 수도 있다.

그러나 인공지능에 대한 과도한 의존은 비극으로 이어질 수 있다. 특히 인공지능의 알고리즘이 완벽하지 않을 경우 그렇다. 1998년 9월 미국의 롱텀캐피털매니지먼트(LTCM) 파산 사태가 그 예다.

초대형 헤지펀드 LTCM의 파산으로 미국 금융시장은 붕괴 직전까지 갔다. 당시 앨런 그린스펀 연방준비제도이사회(FRB) 의장은 은행들을 총동원해 대규모 구제금융을 긴급 투입하고 기준금리까지 내렸다. LTCM 파산의 원인은 사실상 인공지능에 해당하는 알고리즘에 전적으로 의존한 운용 방식에 있었다. 과거 데이터에 근거한 알고리즘에 따라 러시아 채권에 집중 투자했던 LTCM은 러시아의 모라토리엄(지불유예) 선언과 함께 천문학적 손실을 입었다. 인공지능의 위험관리 실패다.

인공지능에 허점이 있는 건 지금도 마찬가지다. 최고의 인공지능 기술을 가졌다는 구글의 사진 애플리케이션 '구글포토'에서도 '아기'를 검색하면 가끔 동안을 가진 중년 남성의 사진이 뜬다. 아직은 안면 인식 알고리즘이 완벽하지 않다는 얘기다.

인공지능의 약점을 보며 안도감을 느낀다면 지금 맘껏 누리자. 얼마 남지 않았다.