생성형 AI ‘챗 GPT'가 갖춘 능력이 연일 화제입니다. 일각에선 AI가 곧 사람의 일자리를 위협할 것이라는 우려도 나옵니다. 사실 급격한 기술의 발전은 대개 큰 부작용을 낳아왔습니다. 스웨덴 화학자 알프레드 노벨이 발명한 다이너마이트는 굴착 공사에서 요긴하게 활용됐지만, 전장에선 수많은 인명을 빼앗았습니다. 원자력을 활용하면 공해 없이 전기를 대량으로 생산할 수 있지만, 원자폭탄은 너무나 손쉽게 수십만 명을 죽였습니다. 이중용도 기술이 가진 맹점입니다. 무서운 속도로 성장하는 AI 역시 인류의 일자리는 물론이고, 생명까지도 위협할 수 있다는 지적이 제기됩니다. 지난 10일 넷플릭스에 공개된 다큐멘터리 ‘언노운: 킬러 로봇’(이하 ‘킬러 로봇)은 AI를 군수산업에 접목시키면서 발생할 수 있는 위험성을 폭로하는 내용입니다. 영국 가디언 등 일부 외신도 관심을 가지고 소개했습니다. ‘킬러 로봇’에 따르면 세계 각국은 AI 기술을 군사적 목적으로 사용하기 위해 개발 경쟁을 펼치고 있습니다. 자연스레 “생명을 빼앗는 결정을 컴퓨터 소프트웨어와 알고리즘에 맡겨도 되는가”라는 의문이 생깁니다. 미군은 이미 AI를 도입하기 시작했습니다. 최근 AI 조종사가 F-16 전투기 시뮬레이션 비행을 성공적으로 수행했다는 보도가 나온 바 있습니다. 앞서 2020년에는 미 국방부 산하 국방고등연구기획청(DARPA)에서 진행한 가상 근접 공중전(도그파이트) 대결에서 방산업체가 개발한 AI 시스템이 미 공군의 인간 F-16 조종사에 5전 전승을 거두기도 했습니다. ‘킬러 로봇’은 더욱 발전한 AI 조종사의 능력을 보여줍니다. 현역 미 공군 조종사가 AI 조종사와의 시뮬레이션 전투에서 처참히 연패합니다. 시무룩해진 인간 조종사는 전투기의 비행 궤적을 완벽히 계산해 무기를 발사하는 AI 조종사를 도저히 이길 수 없다는 사실을 인정합니다. AI 무기 개발자들은 이러한 막강한 능력이야말로 AI를 군수산업에 도입해야 할 이유라고 강조합니다. AI 기술이 접목된 무기로 신속하고 완벽하게 적을 제압하면 아군의 피해를 줄일 수 있다는 겁니다. 민간 AI 개발 연구원들은 분통을 터트립니다. 사족보행하는 수색·구조 로봇으로 인명을 구할 수 있지만, 이 로봇에 무기만 달면 살상로봇이 된다는 겁니다. ‘킬러 로봇’은 이러한 쟁점을 소개하며 시청자의 생각을 자극합니다. 전직 특수부대원, 전 미국 국방부 차관, MIT 연구원 등 각 분야 전문가들이 등장해 AI 무기 개발의 당위성과 위험성을 설파합니다. AI 무기 개발에는 필연적으로 딜레마가 발생합니다. 핵심은 ‘자율성 증대’입니다. 인간의 개입을 최소화하고 자체적으로 의사를 결정할 수 있도록 설정해 AI 무기의 자율성을 강화해야만 작전 수행 속도가 비약적으로 증가합니다. 긴박하게 돌아가는 전투 현장에서 적에게 발포할지 말지를 스스로 결정하도록 해야 신속한 제압이 가능합니다. 신속한 위협요소 제거는 아군의 안전과 직결됩니다. 그러나 ‘AI를 전적으로 신뢰할 수 있느냐’는 아직 의문입니다. ‘미션임파서블 7’의 엔티티처럼, AI가 인간의 통제를 벗어나 예상과 다른 선택을 내리게 되면 참사가 발생할 수 있습니다. AI가 합법성과 당위성을 구분하지 못한다는 점도 문제입니다. 전시국제법에 따르면 아프가니스탄에서 미군의 위치를 파악하기 위해 접근한 어린 소녀 정찰병을 쏘는 것은 위법사항이 아닙니다. 전시국제법을 철저히 따르도록 설계한 AI 무기는 인간 병사와 달리 소녀 정찰병을 지체 없이 쏴 죽일 겁니다. 더 많은 민간피해가 발생할 가능성이 높습니다. ‘킬러 로봇’은 전혀 생각 못한 분야에서 AI가 위협이 된 경우도 소개합니다. AI가 계산해내는 무한한 경우의 수는 무궁무진한 아이디어를 제공할 수 있습니다. 이에 일부 과학자들은 AI가 새로운 화학물질을 조합하도록 하고 질병 치료제를 개발하려 했습니다. 그런데 이들 과학자들은 아주 간단한 조작을 거치면 세계 최고의 맹독성 화학물질을 개발하는데도 AI가 사용될 수 있다는 점을 깨달았습니다. 그저 ‘시작’ 버튼을 누르는 것만으로 인류 역사상 가장 독성이 높은 맹독성 분자가 탄생했습니다. 과학자들은 화학테러에 AI가 사용될 가능성이 있다는 점을 경고했습니다. 그러나 백악관은 이런 상황이 발생할 위험성에 대해 인지하지 못하고 있었다고 합니다. 분명한 것은, AI 개발에 맞춰 적절한 규제가 필요하다는 점입니다. 다큐멘터리에 등장하지 않는 전문가들도 목소리를 모으고 있습니다. 에릭 슈밋 전 구글 최고경영자(CEO)는 지난 5월 24일 월스트리트저널(WSJ)이 주최한 행사에서 가까운 미래에 AI가 많은 인간을 다치게 하거나 죽일 수도 있다고 말했습니다. 같은 달 30일에는 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)를 포함한 IT기업 경영자·과학자 350여 명이 “AI로 인한 인류 절멸의 위험성을 낮추는 것을 글로벌 차원에서 우선순위로 삼아야 한다”는 내용의 성명을 내기도 했습니다. ‘킬러 로봇’은 AI 무기의 발전 가능성과 근미래에 펼쳐질 상황을 설명합니다. 구체적 시점까지 언급하며 AI 무기가 어느 수준까지 성장할지, 또 그로 인해 인류가 어떤 위험에 처할 수 있는지 이해하기 쉽고 선명하게 알려줍니다. 이중용도 기술을 제어하는데 실패해온 인류의 역사도 톺아봅니다. 동시에 AI 무기를 개발할 수밖에 없다는 측의 주장과 근거도 비중 있게 다룹니다. 다큐멘터리 장르지만 속도감 있는 편집과 깔끔한 연출, 68분이라는 짧은 러닝타임 덕에 그리 지루하지 않았습니다. 이세돌과 ‘알파고’의 바둑 대결, 김정남 피살사건 등 한국인에게 익숙한 사례도 일부 등장합니다. ‘킬러 로봇’을 다 보고 나면 인류멸망 시나리오가 한 가지 더 늘어난 것 같아 찝찝한 기분이 듭니다. 새로운 정보를 배웠다는 점은 좋지만, 영국 가디언지의 리뷰처럼 차라리 모르고 사는게 속이 편하겠습니다.
|