인공지능 기술은 어떤 방향으로 발전하고 있는가

이 책이 제시하는 AI 기술 발전의 특징에서 주목할 만한 점은, 오픈소스 AI 생태계의 활성화가 눈에 띈다는 점이다. 특히, 2023년 2월 메타가 라마 1(LLaMA 1) 모델을 발표하면서 오픈소스 AI 분야의 발전이 가속화되었다. 메타의 오픈소스 AI 모델이 주목받자, 여타의 경쟁기업들도 빠르게 오픈소스 AI 모델을 발표했다. 오픈소스 AI의 파괴력은 2025년 초 중국의 ‘딥시크(DeepSeek) 쇼크’에서 절정에 달했다. 딥시크가 충격으로 받아들여지는 것은 미국의 수출통제 강화에도 불구하고 개발된 점, 개발 비용을 대폭 절감함으로써 상업화의 가능성을 보여준 점 때문이다. 이에 미국이 고비용·폐쇄적 접근에 기반한 AI 전략을 지속할 것인지 여부에 대해 근본적인 문제가 제기되기도 하였다.

AI 기술 발전이 단순히 큰 모델(대규모언어모델)을 개발하는 것을 넘어 ‘스스로 생각하고 추론할 수 있는 능력’을 강화하는 방향으로 전환되고 있다는 점도 주요한 특징이다. AI의 응용에서는 정확성이 매우 중요한데, 그럴싸한 빠른 대답보다는 조금 침착하고 느리더라도 정확한 답변을 하는 쪽으로 발전하고 있다는 것이다. 이처럼 단순한 텍스트 생성이 아닌 논리적인 사고 과정을 거쳐 문제를 해결하는 능력을 강화한 ‘추론형 AI’의 등장과 더불어 AI 기술은 단순한 언어 처리를 넘어 다양한 입력을 처리하고 상징적 추론을 수행하는 등 포괄적이고 자율성이 더욱 향상되는 방향으로 발전하고 있다.

이처럼 AI 기술은 기업들 간의 치열한 성능 혁신 경쟁으로 인해 추론형 AI로까지 성능이 더욱 고도화되는 한편, 소형화·경량화 등의 수요에 따라 AI 모델 및 서비스의 유형이 다변화·다원화하고 있다. 앞으로 거의 모든 소프트웨어들이 어떤 형태로든 AI와 연동하는 상황, 즉 AI가 사실상 OS의 지위를 넘보는 단계로까지 발전할 수도 있다.

규제완화로 자국의 기술혁신을 적극 지원하고자 하는 미국

‘딥시크 쇼크’로 기술 추격의 단초를 보여준 중국

두 강대국으로 보는 글로벌 패권경쟁의 지도

미래 국제질서의 향배를 가늠할 ‘AI 기반의 국제정치 전환’을 보여주는 가장 대표적인 사례는 미중 AI 패권경쟁이다. 미중 AI 패권경쟁은 기술에서 앞서갈 뿐 아니라, 표준과 플랫폼, 생태계를 주도하고, 정책 차원의 규제와 안보담론 및 국제규범의 형성을 이끌며, 더 나아가 AI 기반 외교와 전쟁에서 승리하기 위해 벌이는 다차원의 경쟁이다. 이 책이 제1장과 제4장을 비롯하여 다수의 글에서 미중 AI 패권경쟁 사례를 다룬 것은, 글로벌 지형에서 영향력이 큰 두 강대국을 분석함으로써 미래 글로벌 패권경쟁의 지도를 그려보기 위함이다.

미국의 수출통제와 중국발 ‘딥시크 쇼크’는 최근 벌어지고 있는 미중 경쟁의 동학을 잘 보여주는 사례다. 트럼프 1기 정부부터 바이든 정부, 그리고 트럼프 2기 정부에 이르기까지 미국은 AI가 미래 산업 경쟁력을 확보하는 데 관건이 될 뿐 아니라, 군사적 함의가 지대할 것으로 판단하고, 중국에 대한 견제를 지속적으로 강화해 왔다. 이는 수출통제가 중국의 AI 추격을 지연시킴으로써 기술격차를 유지·확대하는 데 효과를 발휘할 것이라는 전망에 기초한 것이었다. 그러나 딥시크는 지속적인 견제 강화에도 불구하고 중국의 AI 추격의 단초를 보여주었다는 것이 미국의 딜레마다. 또한 수출통제가 미국 반도체에 대한 글로벌 수요를 감소시켰을 뿐 아니라 미국 AI 생태계가 아닌 대체 생태계를 모색하도록 만들어, 민간과 국가의 이익을 오히려 해쳤다는 비판도 있다. 수출통제 조치가 중국 내 AI 생태계 발전에 미치는 함의에도 주목해야 한다. 예를 들어, H20 칩의 통제는 중국의 자생적 생태계의 성장을 촉진했다. 역설적이게도 미국의 수출통제가 바이트댄스나 텐센트와 같은 중국 빅테크들로 하여금 화웨이 AI 칩 사용을 종용하는 양상이 된 것이다.

미국의 미래 AI 전략에 대한 이 책의 공통된 전망은 ‘규제완화’다. 이때 염두에 두어야 할 것은, 규제완화 정책을 기반으로 AI 발전의 균형추가 기술혁신 쪽으로 기울면서 사회적 안전과 국민 기본권을 위협하는 AI 기술이 출현할 가능성이 높아졌다는 점이다. 트럼프의 미국 우선주의적 AI 정책이 AI 기술의 효율성을 강화하는 방향으로 추진되면서, 서방국가들이 벌여온 AI 규범 형성을 위한 국제 협력의 행보가 약화될 가능성도 있다고 이 책은 지적한다.

인공지능은 동반자가 될 수도, 치명적인 행위자가 될 수도 있다

사이버 안보와 우주 안보에서 급증하고 있는 인공지능의 위협

AI 기술을 도구로 한 사이버 위협은 지속적으로 증가하고 있다. 그 수단과 형태 또한 고도화되고 있고, 사이버 공격의 대상 또한 다양해지고 있다. AI 모델을 배포하여 사이버 공격 대상의 취약점을 물색하는 등 새로운 위협이 등장했고, AI 프롬프트로부터 국가 기밀, 기업의 중요한 데이터와 개인정보를 유출하는 등 AI 시스템 자체도 사이버 공격의 대상이 될 수 있음이 드러났다. 이러한 상황은 AI 기술의 발전과 함께 사이버 보안의 중요성이 더욱 증대하고 있음을 시사한다.

이 책은 사이버 공격 영역에서 향후 AI 기술의 발전은 자율성과 행위성을 더욱 증대할 것으로 전망한다. 즉, 복잡한 네트워크 환경에서 최적의 공격 경로를 자체적으로 도출하거나, 인간의 개입 없이 장기적인 공격 캠페인을 수행하는 등의 고도화된 능력을 갖출 수 있게 되는 것이다. 나아가 다른 자아를 지닌 AI 시스템과의 협업을 통해 보다 정교한 공격을 수행할 가능성도 높아질 것이다.

우주 안보에서 AI 기술은 위성, 우주잔해, 지상·해상·공중 객체를 식별·분류·추적·감시하는 데 활용되고, 고품질 지구관측 데이터와 우주 기반 통신·항법 서비스는 AI 기술 발전에 기여하고 있다. 그러나 AI 기술이 우주 안보를 위협하기도 하고, 우주 안보의 부재가 AI 기술에 부정적 영향을 미칠 수 있는 위험이 존재한다. 이 책은 위성에 탑재된 AI 기술이 위협의 원천이 될 수 있다는 점, AI 알고리즘 및 학습 과정의 취약성을 악용하는 행위자로 인해 우주 안보가 위협받을 수 있다는 점, 특히 군사적 의사결정 과정에서 매우 치명적일 수 있다는 점을 주요 위협으로 꼽았다. 이에 이 책은, 민간 행위자를 포함한 다양한 행위자 간 파트너십을 통해 AI 기술 표준을 설정하고, 규제를 강화하는 방식, 그리고 AI 기술에 내재된 위험성을 최소화하려는 국제 협력과 거버넌스 구축 등을 대응 방안으로 제시하였다.

AI 기술의 발전 속도는 인간의 인지 능력뿐만 아니라, 상상력마저도 초월할 수 있다. 만약 그렇게 된다면, AI는 사이버와 우주 공간에 의존하고 있는 인류에게 이롭고 다재다능한 동반자로서 존재하거나, 아니면 극악한 위협을 끼치는, 인류에게 치명적인 행위자 또한 될 수 있음을 잊지 않아야 한다.

‘오펜하이머의 비극‘이 아닌, ‘프로메테우스의 도구’가 되려면?

강력한 군대, 전쟁의 억지를 위한 인공지능

AI가 극초음속 무기, 자율 드론, 전자전 및 사이버전과 결합하면서 기존의 억지 체계를 변화시키고 있다. 더 나아가, 상대국이 핵무기를 사용할 위협이 감지되는 경우에 AI 기반 극초음속 미사일과 같은 초정밀 비핵무기로 보복 가능한 역량이 있음을 보여준다면, 핵무기 일변도의 억지 체계에 추가적인 선택지를 제공, 핵 대결의 가능성을 보다 낮출 수 있을 것이라는 주장도 제기되었다.

반면에 AI의 자율적 의사결정 능력이 전장 환경에서 전략적·전술적 의사결정을 수행하는 수준으로 발전할 경우, 인간의 통제권을 넘어서는 안보 딜레마가 발생할 수 있다. AI가 인간의 사고방식을 모방하고, 더 나아가 인간과 융합하는 방식으로 발전할 경우, ‘인간이란 무엇인가’라는 철학적·윤리적 질문은 재구성될 수밖에 없다. 기존의 인간 중심적 사고에서 벗어나, 인간과 기계가 공존하는 새로운 존재론적 패러다임이 요구될 것이다. AI가 노동시장, 교육체계, 사회적 관계, 나아가 인간 존재의 개념을 변화시킬 가능성이 높아지는 만큼, 사회적 논의를 이끌어 내고 윤리적·법적 틀을 조기에 마련하여 AI와 인간의 공존을 위한 정책적 기반을 강화해야 한다고 이 책은 강조한다.

‘AI의 무기화’는 ‘오펜하이머의 비극’과 ‘프로메테우스 신화’가 혼재되어 있다. 인공지능이 전염병, 핵전쟁과 같은 공멸의 위험이 될 수 있다는 데 많은 사람들이 동의한다. 높은 상업성, 범용성, 그래서 군사적 전용의 장벽이 낮은 AI 기술은 핵무기와 달리 규제가 불가능하기 때문이다. AI를 활용하는 전혀 새로운 군비경쟁은 이미 시작되었고, 자유 민주 진영을 위협하는 적대적 위협에 대한 우위를 점하기 위해서는 도덕적 호소가 아닌 기술적 혁신이 우선되어야 할 것이다. 미래전에서 AI 기술은 오펜하이머의 비극이 아닌 강력한 군대, 전쟁의 억지를 위한 ‘프로메테우스의 도구’가 되어야 한다.

서로 상이한 입장을 가진 각국이 국제 거버넌스·규범 형성으로 나아가는 길

AI 글로벌 거버넌스를 장악하는 것은 AI 기술에 대한 지배력과 우위를 공고히 하는 데 도움이 된다. 현재 AI 규제 거버넌스는 기존의 패권국인 미국과 이에 도전하는 국가인 중국, 어느 쪽에도 편승하지 않고 독자적 노선을 가고자 하는 유럽연합으로 경쟁 구도가 형성되어 있다. 미국은 기술력을 통한 규제 거버넌스를 추구하고, 중국은 권위주의적 통제력과 대항 세력을 통한 규제 거버넌스를, 유럽연합은 규범력을 통한 규제 거버넌스를 제시한다. 여기에는 모두 상대를 저지하고 억지하기 위한 목적이 강하게 반영되어 있다고 할 수 있다.

이처럼 전 세계 각국이 처한 서로 다른 안보 환경과 AI 기술 발전 수준으로 인해 각국의 AI 기술에 대한 시각과 입장은 서로 상이하다. 중요한 것은 AI 기술경쟁이 각국의 의도와는 상관없이 통제 불가능한 방향으로 치닫는 상황을 국제규범이 관리할 수 있어야 한다는 점이다. 따라서 다양한 각국의 입장을 반영한 열린 거버넌스를 가동하기 위해서는 개발도상국의 AI 역량 구축을 우호적인 관계의 강대국이 지원할 수 있는 협력 관계가 전제되어야 한다. 국가 간 AI에 대한 지식의 격차가 좁혀져야 규범 구축 논의에 실질적으로 참여할 수 있기 때문이다.

한국 AI 전략의 방향성을 제시하다

한국은 중견국으로서 안고 있는 AI 국가전략의 과제가 있다. 첫째, 국가 역량의 ‘규모’ 차원에서 중견국인 한국은 AI 기술혁신 전략을 추구하는 데 있어 ‘선도 전략’과 ‘틈새 전략’ 중에서 무엇을 우선시할지 고민할 수밖에 없다. 둘째, 미중 사이에 ‘위치’한 중견국인 한국은 두 나라가 주도하는 ‘폐쇄형’과 ‘개방형’ AI 생태계·플랫폼 사이에서 어느 쪽을 선택할지의 갈림길에 서 있다. 셋째, 국제사회에서 담당할 ‘역할’ 차원에서 중견국인 한국은 AI 안보담론의 원칙을 고민할 뿐만 아니라 글로벌 차원에서 진행되는 AI 윤리규범 형성에도 참여할 과제를 안고 있다.

이에 이 책은 국내 정책·제도 환경의 방향이 AI 분야의 ‘진흥’보다는 ‘규제’ 쪽으로 기운 것이 문제임을 지적하고, 단순히 기술과 인재의 역량을 키우기 위해 투자 규모만 늘리는 것이 아니라, AI 분야에서 쌓아온 한국만의 경험과 성과를 반영한 새로운 개념의 AI 국가전략 수립을 강조했다. 한국이 가진 제한된 자원을 효율적으로 활용하는 국가전략의 필요성이 자주 거론되는 이유다. 결국 미중 경쟁 과정에서 미중 양국이 설정하는 AI 정책·담론의 단순 이분법이 아니라, 다양한 스펙트럼에서 제기되는 AI 정책·담론을 상황에 맞추어 유연하게 채택하는 ‘한국형 전략’의 정립이 필요하다는 것이다.