CBC캡처

앤트로픽 안전 책임자 “인류 멸종 가능성 10% 이상” 개인적 추산
캐나다 AI 전문가도 “최첨단 AI 개발 멈춰야”…미국 중심 개발 경쟁에 경고음
사이버 공격·생물무기·일자리 붕괴·통제 상실까지…북미 AI 안전 논쟁 확산

인공지능(AI)이 인간의 일자리를 빼앗는 수준을 넘어 앞으로 10년 안에 인류의 생존 자체를 위협할 수 있다는 충격적인 경고가 미국 AI 업계 내부에서 나오고 있다.

CBC 보도에 따르면 미국의 대표적인 AI 기업 앤트로픽(Anthropic)의 AI 안전 분야 연구자인 에번 허빙거(Evan Hubinger)는 고도로 발전한 AI가 향후 10년 안에 인류 전체를 멸종시키는 결과를 초래할 가능성을 자신은 10% 이상으로 추산한다는 취지의 견해를 밝혔다.

이는 AI가 반드시 인류를 멸망시킨다는 예측이 아니라, 그가 개인적으로 평가한 위험 확률이다. 최근 관련 보도에서도 그의 발언은 AI 개발 속도에 비해 안전장치 마련이 뒤처지고 있다는 경고의 맥락에서 소개됐다.

논란이 커진 계기는 또 다른 앤트로픽 연구자의 공개적인 문제 제기였다. 빠르게 진행되는 AI 개발 경쟁이 충분한 안전장치 없이 계속되는 것은 사실상 인간의 생명을 걸고 도박하는 것과 다름없다는 취지의 주장이 나오면서 실리콘밸리 내부의 AI 위험 논쟁이 다시 불붙었다.

이들이 우려하는 것은 영화에서처럼 어느 날 갑자기 로봇이 인간을 공격하는 단순한 시나리오만은 아니다.

AI가 인간보다 빠르게 학습하고 스스로 복잡한 업무를 수행하는 단계로 발전할 경우 대규모 사이버 공격에 악용되거나 생물학적 무기 개발을 돕고, 군사 분야에서 인간의 통제를 벗어난 의사결정을 내릴 가능성이 거론된다.

더 장기적으로는 인간이 충분히 이해하거나 통제하지 못하는 초지능 AI가 인간의 목표와 다른 방향으로 움직이는 이른바 ‘통제 상실’ 위험도 AI 안전 연구자들이 우려하는 시나리오다.

미국에서 시작된 경고는 캐나다에도 직접적인 파장을 주고 있다. 세계적인 AI 연구 거점인 몬트리올의 밀라(Mila) 소속 데이비드 크루거 교수도 최첨단 AI 시스템 개발을 일단 중단하고 안전성을 먼저 확보해야 한다는 강경한 입장을 밝혀왔다.

캐나다는 현대 AI 발전의 핵심 국가 가운데 하나다. 토론토와 몬트리올을 중심으로 세계적인 AI 연구진과 기업들이 활동하고 있는 만큼 미국의 AI 개발 경쟁이 캐나다와 동떨어진 문제가 아니라는 것이다.

특히 미국에서는 세계 최대 기술기업과 AI 기업들이 더 강력한 모델을 먼저 내놓기 위해 치열한 경쟁을 벌이고 있다. 한 기업이 안전 문제를 이유로 속도를 늦추더라도 경쟁사가 개발을 계속하면 시장에서 뒤처질 수 있다는 압박 때문에 업계 스스로 개발 속도를 조절하기 어렵다는 지적도 나온다.

AI 위험론자들이 가장 우려하는 부분도 바로 이 지점이다. 개별 기업의 자율적인 안전조치만으로는 경쟁을 멈추기 어렵기 때문에 미국과 캐나다를 비롯한 주요 국가들이 공동으로 안전기준과 감시 체계를 마련해야 한다는 주장이다.

그러나 모든 AI 전문가가 ‘인류 멸종’ 가능성을 같은 수준으로 평가하는 것은 아니다.

일부 연구자들은 현재 AI가 인간을 완전히 뛰어넘는 초지능 단계에 도달하지 않았으며, 언제 그런 시스템이 등장할지도 불확실한 상황에서 극단적인 멸종 시나리오에 지나치게 집중하면 오히려 현재 이미 발생하고 있는 일자리 변화, 허위정보, 사기, 개인정보 침해, 차별, 사이버 범죄 같은 현실적인 문제를 놓칠 수 있다고 지적한다.

실제로 AI가 인류 멸종을 일으킬 가능성이 얼마나 되는지에 대해서는 전문가들 사이에서도 상당한 의견 차이가 존재하며, 이를 확정된 과학적 사실로 받아들여서는 안 된다. AI가 심각한 위험을 초래할 수 있다는 문제의식은 확산되고 있지만 그 확률과 시기, 실제 발생 경로에 대해서는 아직 과학적 합의가 형성되지 않았다.

그럼에도 이번 경고가 주목받는 이유는 AI를 잘 모르는 외부 비평가가 아니라 세계에서 가장 강력한 AI를 직접 개발하고 안전성을 연구하는 업계 내부 인사들이 위험성을 공개적으로 제기하고 있기 때문이다.

미국이 세계 AI 개발 경쟁을 주도하고 캐나다가 핵심 연구 거점으로 자리 잡은 상황에서 북미가 앞으로 맞닥뜨릴 질문도 더욱 무거워지고 있다.

AI 경쟁에서 중국보다 먼저 앞서가는 것이 중요한가, 아니면 인간이 통제할 수 있다는 확신이 생길 때까지 속도를 늦추는 것이 중요한가.

AI가 가져올 막대한 경제적·의학적·과학적 혜택에 대한 기대가 커지는 동시에, 이제 미국과 캐나다에서는 전혀 다른 질문도 나오기 시작했다.

“우리가 AI를 얼마나 빨리 만들 수 있느냐”가 아니라 “우리가 만든 AI를 끝까지 통제할 수 있느냐”는 것이다. <뉴스/사진: 밴쿠버 교차로>