"AI요? '터미네이터' 스카이넷보다 '아이언맨' 자비스에 가깝죠"

[MT리포트] AI(인공지능)의 윤리학② 윤두현 국민의힘 의원 인터뷰

편집자주영화 '아이언맨'의 자비스처럼 AI(인공지능)가 인간의 머리를 완벽히 대체하는 AGI(일반인공지능)의 시대가 멀지 않았다. 그 전에 이미 운전과 전쟁은 AI의 손에 넘어갈 공산이 크다. 과연 우린 AI에게 목숨을 맡길 준비가 돼 있나. AI에 얽힌 윤리적 문제를 짚고 해법을 찾아보자.
윤두현 국민의힘 의원. /사진제공=윤두현 의원실
"우리가 AI(인공지능)하면 터미네이터의 스카이넷을 떠올리곤 했는데, 사실은 아이언맨의 자비스에 더 가깝다고 볼 수 있습니다."

윤두현 국민의힘 의원은 지난 25일 머니투데이 더300(the300)과 만나 AI와 사람의 관계를 영화를 예로 들어 설명했다. 스카이넷은 미국 할리우드 블록버스터 영화 '터미네이터' 시리즈에서 핵전쟁을 일으켜 인류와 대립하는 적으로 묘사되는 AI다. 반면 마블의 영화 '아이언맨'에 등장하는 'AI 비서' 자비스는 주인공 토니 스타크를 돕는 동료다.

AI 기술이 커다란 경제적 가치를 갖고 있을 뿐 아니라 인간의 사소한 삶까지 더 윤택하게 만드는 축복이 될 수 있다는 뜻이다. 윤 의원이 지난해 12월 '인공지능산업 육성 및 신뢰 확보에 관한 법률안'(이하 AI산업 육성법)을 발의한 것은 이런 인식에서다.

국회 과학기술정보방송통신위원회(과방위) 소속의 윤 의원은 AI산업의 가능성에 주목하고 있다. 그는 "챗GPT가 출시된 후 40일 만에 이용자수 1000만 명을 돌파하는 등 AI가 우리 삶에 빠르게 스며들고 있다. 높은 효용성이 증명되며 누구나 쉽게 AI를 활용하는 사회가 시작된 것"이라며 "현재로선 AI가 어디까지 진화할지 그 폭과 깊이를 예측하기 쉽지 않지만 우리 삶과 산업에 거대한 변화를 가져올 것은 분명하다"고 진단했다.

이어 "책 '사피엔스'의 저자 유발 하라리가 10주년 특별판에 AI가 쓴 서문을 실었고 국내에선 처음으로 챗GPT를 활용한 SF(공상과학)소설이 출간되기도 했다"며 "저 역시 챗GPT를 이용해 토론회 축사 초안을 작성해 봤다. (현재 AI가) 일상대화나 짧은 작문도 가능한데 향후 의료·법률 등 다양한 분야의 전문지식을 학습하면 그 영향력은 더욱 확대될 것"이라고 했다.

다만 윤 의원은 AI산업의 가능성을 인정하면서도 아직까지 AI기술을 온전히 신뢰할 수 없다고 보고 있다. 관련 법안을 발의하면서 단순히 산업을 장려하는 데 그치지 않고 AI 신뢰 확보까지 균형감을 강조한 이유다. 그는 "AI가 사회와 산업 전반에서 널리 활용되고 국민의 삶의질 향상에 도움이 되려면 위험성과 부작용에 대한 우려도 해소해야 한다"고 했다.

윤 의원의 AI산업 육성법은 크게 △AI산업에 대한 육성 지원근거 신설 △고위험영역 AI사업자에 대한 안전성과 신뢰성 확보 의무 부여로 요약된다. 산업적으로는 국가인공지능센터를 통해 관련 기술개발을 돕거나 정부·지자체가 관련 기업 컨설팅 및 자금지원을 할 수 있도록 했고, 신뢰 확보 측면에선 AI 제품·서비스가 고위험영역에 해당하는지를 정부가 확인하도록 해 불확실성을 해소하는 데 중점을 뒀다.

윤 의원은 "고위험영역에서 활용되는 인공지능에 대한 정의, 고지 의무 등 규제 사항과 함께 윤리, 신뢰성 검증, 인증 등에 대한 내용을 폭넓게 반영했다"며 "산업 육성과 신뢰 확보의 균형을 맞추기 위해 노력했단 점에서 다른 법안과 차별성을 가진다"고 했다. 과방위는 지난 2월 정보통신방송법안심사소위에서 윤 의원 안을 기본 골격으로 여야 의원들이 발의한 6개의 관련 법안을 통합·조정한 대안을 마련하며 이른바 AI기본법 입법에 시동을 건 상태다.

다만 산업계 일각에선 국내 AI산업 관련 시장이 이제 막 태동하는 단계인 만큼 신뢰확보 등을 이유로 한 규제가 혁신을 가로막을 수 있다는 우려가 나온다. AI기본법이 고위험영역 AI 사업자에 대한 책무를 부과하고 있단 점에서다. 일부 시민단체에선 AI로 인한 위험을 막기 위해 고위험영역에 아예 AI를 적용할 수 없도록 금지해야 한다는 주장도 나오고 있다.

윤 의원 역시 AI산업 육성에 방점을 둔 만큼 지나친 규제는 옳지 않다는 입장이다. 그는 "시장이 본격 형성되기 전에 규제를 선제적으로 도입할 경우 국내 기업의 글로벌 경쟁력 확보를 저해할 수 있다는 산업계의 우려에 일부 공감한다"며 "고위험영역에서 활용된다 하더라도 사람의 생명, 신체, 기본권과 관련이 없거나 오히려 도움이 되는 AI도 있어 일률적으로 금지하는 것은 바람직하지 않다"고 했다.

그러면서 "최근 영국이 발표한 AI 규제백서에서도 원자력발전소 등 중요 기반시설 표면에 피상적으로 긁힌 자국 확인을 위해 사용하는 AI처럼 위험성이 낮은 경우엔 완화된 규제를 적용해야 한다는 입장을 밝혔다"며 "산업적 측면도 고려한 적정수준의 규제 도입이 필요하단 점에서 AI산업 진흥과 규제의 균형이 잘 반영된 법안으로 조속히 제정이 될 수 있도록 지원해 나가겠다"고 덧붙였다.


목록