출처: https://www.ebn.co.kr/news/articleView.html?idxno=1713352
[AI 3대 강국, 인프라는 준비됐나①] 경쟁력의 첫 관문…GPU 확보 전쟁
발행일: 2026.06.22 13:29
정부, AI컴퓨팅센터·GPU 확충 투트랙…수년 내 대규모 인프라 조성
2028년 5만장·2030년 20만장 목표…정부, 최신 GPU 확보전 가세
엔비디아 GPU·CUDA 의존 확대…AI 개발·운영 환경 고착 우려
![젠슨 황 엔비디아 최고경영자(CEO)가 5일 서울 마포구 홍대 인근 삼겹살 음식점 '형님 저요'에서 최태원 SK그룹 회장, 구광모 LG그룹 회장, 이해진 네이버 의장과 '삼소(삼겹살·소주) 회동’을 하며 포즈를 취하고 있다. [출처=연합]](https://cdn.imweb.me/upload/S20210430d8535aed484d1/baa797189fe43.png)
젠슨 황 엔비디아 최고경영자(CEO)가 5일 서울 마포구 홍대 인근 삼겹살 음식점 '형님 저요'에서 최태원 SK그룹 회장, 구광모 LG그룹 회장, 이해진 네이버 의장과 '삼소(삼겹살·소주) 회동’을 하며 포즈를 취하고 있다. [출처=연합]
인공지능(AI)이 국가 경쟁력을 좌우하는 시대가 열렸다. 이재명 정부는 대한민국을 'AI 3대 강국'으로 도약시키겠다는 목표를 내걸고 대규모 투자와 산업 육성 정책을 추진하고 있다. 글로벌 빅테크와 주요 국가들이 AI 패권 경쟁에 뛰어든 가운데 AI는 반도체와 자동차를 잇는 미래 성장동력으로 주목받고 있다. 하지만 AI 경쟁력은 기술력만으로 완성되지 않는다. GPU, 데이터센터, 전력망, 통신 인프라, AI 반도체 생태계 등 기반 시설이 뒷받침돼야 한다. 미국·중국·일본 등이 인프라 확충에 속도를 내는 가운데 국내의 경우 GPU 확보와 데이터센터 건설이 활발하지만 전력·통신망 투자 등 해결 과제도 적지 않다. 본지는 [AI 3대 강국, 인프라는 준비됐나] 시리즈를 통해 국가 AI 경쟁력을 좌우할 핵심 인프라 현황과 과제를 짚어본다. [편집자 주]
AI 3대 강국 도약의 첫 관문으로 인프라가 꼽힌다. 아무리 우수한 인재와 데이터를 갖춰도 이를 학습·추론할 고성능 컴퓨팅 자원이 부족하면 AI 경쟁은 출발선에서 밀릴 수밖에 없기 때문이다.
특히 생성형 AI 경쟁이 대규모 언어모델을 넘어 피지컬 AI, 산업용 AI, 공공 AI로 확산하면서 그래픽처리장치(GPU) 확보전은 국가 경쟁력의 핵심 변수로 떠오르고 있다.
22일 업계에 따르면 정부는 국내 AI 인프라 공백을 메우기 위해 거대 하드웨어 기지를 짓는 '장기 인프라 조성'과 당장 현장에 칩을 공급하는 '단기 자원 확보' 투트랙 전략에 속도를 내고 있다. 중장기적으로는 국가 AI컴퓨팅센터를 구축하고 단기적으로는 민간 클라우드 기업과 손잡고 최신 GPU 물량을 확보하는 방식이다.
지난달 과학기술정보통신부는 삼성SDS 컨소시엄을 국가 AI컴퓨팅센터 구축 사업의 민간 참여 사업자로 선정했다. 정부는 오는 2028년까지 GPU 등 첨단 AI 반도체 1만5000장 규모의 대규모 컴퓨팅 인프라를 조성한다는 목표를 세웠다.
국가 AI컴퓨팅센터는 단순한 데이터센터가 아니다. 스타트업, 중소기업, 연구기관, 대학 등이 개별적으로 확보하기 어려운 고성능 AI 연산 자원을 국가 차원에서 제공하는 기반 시설이다. AI 모델 개발과 서비스 실증, 공공 AI 프로젝트, 국산 AI 반도체 검증까지 지원하는 이른바 '국가 AI 인프라 플랫폼' 역할을 맡는다.
이번 사업에는 삼성SDS를 중심으로 네이버클라우드, 삼성물산, 카카오, 삼성전자, KT, 전라남도, 서남해안기업도시개발 등이 참여한다. 센터는 전남 해남 솔라시도 데이터센터파크 부지에 조성될 예정이다.
!['GTC 타이베이'에서 발표하는 젠슨 황 엔비디아 CEO [출처=연합]](https://cdn.imweb.me/upload/S20210430d8535aed484d1/eafe8d3b355d1.png)
'
GTC 타이베이'에서 발표하는 젠슨 황 엔비디아 CEO [출처=연합]
◆삼성·SK·현대차·네이버도 GPU 확보전…엔비디아, 한국에 26만장 공급 구상
고질적인 데이터센터 전력난과 탄소배출 문제를 완화하기 위해 재생에너지 활용이 가능한 비수도권 대규모 부지를 택한 점도 특징이다. 정부와 민간은 특수목적법인(SPC)을 설립해 사업을 추진하고 추가 자금 조달을 거쳐 총 2조5000억원 규모로 사업을 확대해 나갈 구상이다.
정부는 당장 현장에 투입될 최신 GPU 확보에도 공을 들이고 있다. 정부는 앞서 오는 2028년까지 GPU 5만장, 2030년까지 20만장 규모의 AI 컴퓨팅 인프라 구축을 목표로 제시한 바 있다. 지난해 추가경정예산(추경)을 통해 엔비디아 GPU 1만3000장 구매가 이뤄졌다. 한국과학기술정보연구원(KISTI)의 슈퍼컴퓨터 6호기에도 약 9000장의 GPU가 투입될 예정이다.
과기정통부는 이달 클라우드 서비스 기업과 협력해 GPU 총 9704장을 확보·구축하는 계획도 세웠다. 구체적으로 확보할 GPU는 엔비디아의 차세대 제품인 베라루빈 2016장, B300 7688장이다. 과기정통부는 이 가운데 베라루빈 2016장과 B300 4360장을 독자 AI 파운데이션 모델 개발, 국가 AI 프로젝트, 산·학·연 AI 모델·서비스 개발 등에 지원할 예정이다.
배경훈 과기정통부 장관은 "베라루빈 등 이번에 확보할 첨단 GPU가 AI 연구개발 속도와 기술 역량을 한 차원 끌어올리는 핵심 동력이 될 것"이라고 강조했다.
민간 대기업들의 GPU 확보전도 본격화하고 있다. 엔비디아는 한국 정부와 삼성전자, SK그룹, 현대차그룹, 네이버클라우드 등과 협력해 한국에 26만장 이상의 GPU를 공급하는 AI 인프라 협력 구상을 발표했다. 이에 따라 정부는 최대 5만장, 삼성전자와 SK그룹, 현대차그룹은 각각 5만장 이상, 네이버클라우드는 6만장 이상의 GPU 도입을 추진한다.
![엔비디아 베라루빈 시스템과 루빈 GPU [출처=엔비디아]](https://cdn.imweb.me/upload/S20210430d8535aed484d1/08292cb0abc28.png)
엔비디아 베라루빈 시스템과 루빈 GPU [출처=엔비디아]
◆발표 물량과 실제 가동 물량은 온도차…대부분 중장기 AI 팩토리 계획
다만 발표 물량과 실제 가동 물량은 구분해야 한다. 수만장 단위의 GPU 도입 계획은 대부분 중장기 AI 팩토리 구축 구상에 가깝다. 반면 현재 사업자와 장비 구성이 구체화된 물량은 정부 GPU 확충 사업의 9704장이다. GPU 확보전이 본격화한 것은 분명하지만, 상당 부분은 아직 '확보 완료'가 아니라 '도입 예정' 단계에 머물러 있는 셈이다.
GPU 확보 경쟁은 한국만의 문제가 아니다. 미국은 빅테크를 중심으로 대규모 AI 데이터센터 투자에 나서고 있다. 중국은 정부 자금을 투입해 AI 데이터센터와 자국 반도체 생태계를 키우고 있다. 유럽연합(EU)도 AI 기가팩토리 구축을 통해 역내 AI 연산 인프라 확보에 나섰다. AI 모델 경쟁이 국가 단위 컴퓨팅 인프라 경쟁으로 옮겨붙은 것이다.
한국 입장에서는 당장 급한 불은 끄고 있지만 엔비디아 의존도 심화는 장기적인 부담이다. 현재 정부와 기업이 확보하거나 도입을 추진하는 핵심 AI 가속기 대부분은 엔비디아 GPU다. 하드웨어뿐 아니라 쿠다(CUDA) 등 엔비디아의 소프트웨어 생태계까지 활용해야 하는 만큼 향후 국내 AI 서비스와 데이터센터 운영 체계가 엔비디아 플랫폼에서 벗어나기 어려운 구조로 굳어질 수 있다.
단기적으로 엔비디아 GPU 확보는 불가피한 선택에 가깝다. 초거대 AI 모델 학습과 대규모 추론, 산업용 디지털트윈, 로보틱스, 자율주행, 반도체 공정 시뮬레이션 등에는 검증된 고성능 GPU 클러스터가 필요하기 때문이다. 삼성전자와 SK그룹이 AI 팩토리를 반도체 제조 지능화와 연구개발에 활용하려는 것도 같은 맥락이다. GPU는 이제 단순한 서버 부품이 아니라 제조 경쟁력과 서비스 경쟁력을 좌우하는 전략 자산이 됐다.
문제는 AI 인프라가 엔비디아 GPU 중심으로 고착될 경우 장기적으로 선택지가 좁아질 수 있다는 점이다. 글로벌 GPU 수급이 흔들리거나 가격이 급등하면 국내 AI 서비스 개발 비용도 함께 커진다. 미국의 수출 통제 정책 변화도 잠재 리스크다. 무엇보다 학습부터 추론까지 모두 외산 GPU에 의존하면 국산 AI 반도체 생태계가 성장할 공간은 제한될 수밖에 없다.
![이재명 대통령이 사인한 리벨리온 반도체 [출처=연합]](https://cdn.imweb.me/upload/S20210430d8535aed484d1/937c7a4a8dec8.png)
이재명 대통령이 사인한 리벨리온 반도체 [출처=연합]
◆추론 영역은 국산 NPU가 대안…"GPU 확보와 AI 반도체 생태계 병행해야"
이 같은 구조적 취약성을 줄이기 위한 중장기 대안으로는 리벨리온, 퓨리오사AI, 모빌린트, 딥엑스 등 국내 팹리스 기업들이 개발하는 국산 AI 반도체가 꼽힌다. 특히 신경망처리장치(NPU)는 모든 AI 연산을 범용으로 처리하는 GPU와 달리 특정 AI 연산에 맞춰 구조를 최적화한 반도체다. 대규모 모델 학습에서는 GPU가 여전히 강점을 갖지만, 이미 학습된 모델을 실제 서비스에 적용하는 추론 영역에서는 NPU가 전력 효율과 비용 측면에서 경쟁력을 가질 수 있다.
이는 AI 데이터센터의 전력 부담과도 연결된다. GPU 확보량이 늘어날수록 전력과 냉각 수요도 함께 커진다. 같은 서비스를 더 적은 전력으로 처리할 수 있다면 NPU는 데이터센터 운영 효율을 높이는 보완재가 될 수 있다. 정부가 국산 AI 반도체 실증과 성능 평가 체계를 마련하는 것도 엔비디아 GPU 의존도를 낮추고 국내 AI 반도체 생태계를 키우기 위한 포석으로 해석된다.
이병훈 포스텍 반도체공학과 교수는 "엔비디아가 GPU 시장의 90% 안팎을 차지하고 있어 현실적으로 다른 GPU를 선택할 여지는 크지 않다"며 "학습용 대규모 AI 인프라는 당장 엔비디아 GPU 중심으로 갈 수밖에 없는 구조"라고 말했다.
이 교수는 "NPU는 GPU와 완전히 다른 기술이라기보다 특정 목적에 맞게 구조를 특화한 반도체로 볼 수 있다"며 "같은 전기를 쓰더라도 특정 추론 작업에서는 NPU가 GPU보다 효율적일 수 있다"고 설명했다.
그러면서 "메타나 테슬라 같은 기업들도 엔비디아 GPU를 쓰면서 동시에 자체 AI 가속기를 개발하고 있다"며 "한국도 GPU 확보와 함께 추론용 NPU, 국산 AI 반도체 생태계를 어떻게 키울 것인지가 중요하다"고 강조했다.
신승훈 기자
출처: https://www.ebn.co.kr/news/articleView.html?idxno=1713352
[AI 3대 강국, 인프라는 준비됐나①] 경쟁력의 첫 관문…GPU 확보 전쟁
발행일: 2026.06.22 13:29
젠슨 황 엔비디아 최고경영자(CEO)가 5일 서울 마포구 홍대 인근 삼겹살 음식점 '형님 저요'에서 최태원 SK그룹 회장, 구광모 LG그룹 회장, 이해진 네이버 의장과 '삼소(삼겹살·소주) 회동’을 하며 포즈를 취하고 있다. [출처=연합]
인공지능(AI)이 국가 경쟁력을 좌우하는 시대가 열렸다. 이재명 정부는 대한민국을 'AI 3대 강국'으로 도약시키겠다는 목표를 내걸고 대규모 투자와 산업 육성 정책을 추진하고 있다. 글로벌 빅테크와 주요 국가들이 AI 패권 경쟁에 뛰어든 가운데 AI는 반도체와 자동차를 잇는 미래 성장동력으로 주목받고 있다. 하지만 AI 경쟁력은 기술력만으로 완성되지 않는다. GPU, 데이터센터, 전력망, 통신 인프라, AI 반도체 생태계 등 기반 시설이 뒷받침돼야 한다. 미국·중국·일본 등이 인프라 확충에 속도를 내는 가운데 국내의 경우 GPU 확보와 데이터센터 건설이 활발하지만 전력·통신망 투자 등 해결 과제도 적지 않다. 본지는 [AI 3대 강국, 인프라는 준비됐나] 시리즈를 통해 국가 AI 경쟁력을 좌우할 핵심 인프라 현황과 과제를 짚어본다. [편집자 주]
AI 3대 강국 도약의 첫 관문으로 인프라가 꼽힌다. 아무리 우수한 인재와 데이터를 갖춰도 이를 학습·추론할 고성능 컴퓨팅 자원이 부족하면 AI 경쟁은 출발선에서 밀릴 수밖에 없기 때문이다.
특히 생성형 AI 경쟁이 대규모 언어모델을 넘어 피지컬 AI, 산업용 AI, 공공 AI로 확산하면서 그래픽처리장치(GPU) 확보전은 국가 경쟁력의 핵심 변수로 떠오르고 있다.
22일 업계에 따르면 정부는 국내 AI 인프라 공백을 메우기 위해 거대 하드웨어 기지를 짓는 '장기 인프라 조성'과 당장 현장에 칩을 공급하는 '단기 자원 확보' 투트랙 전략에 속도를 내고 있다. 중장기적으로는 국가 AI컴퓨팅센터를 구축하고 단기적으로는 민간 클라우드 기업과 손잡고 최신 GPU 물량을 확보하는 방식이다.
지난달 과학기술정보통신부는 삼성SDS 컨소시엄을 국가 AI컴퓨팅센터 구축 사업의 민간 참여 사업자로 선정했다. 정부는 오는 2028년까지 GPU 등 첨단 AI 반도체 1만5000장 규모의 대규모 컴퓨팅 인프라를 조성한다는 목표를 세웠다.
국가 AI컴퓨팅센터는 단순한 데이터센터가 아니다. 스타트업, 중소기업, 연구기관, 대학 등이 개별적으로 확보하기 어려운 고성능 AI 연산 자원을 국가 차원에서 제공하는 기반 시설이다. AI 모델 개발과 서비스 실증, 공공 AI 프로젝트, 국산 AI 반도체 검증까지 지원하는 이른바 '국가 AI 인프라 플랫폼' 역할을 맡는다.
이번 사업에는 삼성SDS를 중심으로 네이버클라우드, 삼성물산, 카카오, 삼성전자, KT, 전라남도, 서남해안기업도시개발 등이 참여한다. 센터는 전남 해남 솔라시도 데이터센터파크 부지에 조성될 예정이다.
GTC 타이베이'에서 발표하는 젠슨 황 엔비디아 CEO [출처=연합]
◆삼성·SK·현대차·네이버도 GPU 확보전…엔비디아, 한국에 26만장 공급 구상
고질적인 데이터센터 전력난과 탄소배출 문제를 완화하기 위해 재생에너지 활용이 가능한 비수도권 대규모 부지를 택한 점도 특징이다. 정부와 민간은 특수목적법인(SPC)을 설립해 사업을 추진하고 추가 자금 조달을 거쳐 총 2조5000억원 규모로 사업을 확대해 나갈 구상이다.
정부는 당장 현장에 투입될 최신 GPU 확보에도 공을 들이고 있다. 정부는 앞서 오는 2028년까지 GPU 5만장, 2030년까지 20만장 규모의 AI 컴퓨팅 인프라 구축을 목표로 제시한 바 있다. 지난해 추가경정예산(추경)을 통해 엔비디아 GPU 1만3000장 구매가 이뤄졌다. 한국과학기술정보연구원(KISTI)의 슈퍼컴퓨터 6호기에도 약 9000장의 GPU가 투입될 예정이다.
과기정통부는 이달 클라우드 서비스 기업과 협력해 GPU 총 9704장을 확보·구축하는 계획도 세웠다. 구체적으로 확보할 GPU는 엔비디아의 차세대 제품인 베라루빈 2016장, B300 7688장이다. 과기정통부는 이 가운데 베라루빈 2016장과 B300 4360장을 독자 AI 파운데이션 모델 개발, 국가 AI 프로젝트, 산·학·연 AI 모델·서비스 개발 등에 지원할 예정이다.
배경훈 과기정통부 장관은 "베라루빈 등 이번에 확보할 첨단 GPU가 AI 연구개발 속도와 기술 역량을 한 차원 끌어올리는 핵심 동력이 될 것"이라고 강조했다.
민간 대기업들의 GPU 확보전도 본격화하고 있다. 엔비디아는 한국 정부와 삼성전자, SK그룹, 현대차그룹, 네이버클라우드 등과 협력해 한국에 26만장 이상의 GPU를 공급하는 AI 인프라 협력 구상을 발표했다. 이에 따라 정부는 최대 5만장, 삼성전자와 SK그룹, 현대차그룹은 각각 5만장 이상, 네이버클라우드는 6만장 이상의 GPU 도입을 추진한다.
엔비디아 베라루빈 시스템과 루빈 GPU [출처=엔비디아]
◆발표 물량과 실제 가동 물량은 온도차…대부분 중장기 AI 팩토리 계획
다만 발표 물량과 실제 가동 물량은 구분해야 한다. 수만장 단위의 GPU 도입 계획은 대부분 중장기 AI 팩토리 구축 구상에 가깝다. 반면 현재 사업자와 장비 구성이 구체화된 물량은 정부 GPU 확충 사업의 9704장이다. GPU 확보전이 본격화한 것은 분명하지만, 상당 부분은 아직 '확보 완료'가 아니라 '도입 예정' 단계에 머물러 있는 셈이다.
GPU 확보 경쟁은 한국만의 문제가 아니다. 미국은 빅테크를 중심으로 대규모 AI 데이터센터 투자에 나서고 있다. 중국은 정부 자금을 투입해 AI 데이터센터와 자국 반도체 생태계를 키우고 있다. 유럽연합(EU)도 AI 기가팩토리 구축을 통해 역내 AI 연산 인프라 확보에 나섰다. AI 모델 경쟁이 국가 단위 컴퓨팅 인프라 경쟁으로 옮겨붙은 것이다.
한국 입장에서는 당장 급한 불은 끄고 있지만 엔비디아 의존도 심화는 장기적인 부담이다. 현재 정부와 기업이 확보하거나 도입을 추진하는 핵심 AI 가속기 대부분은 엔비디아 GPU다. 하드웨어뿐 아니라 쿠다(CUDA) 등 엔비디아의 소프트웨어 생태계까지 활용해야 하는 만큼 향후 국내 AI 서비스와 데이터센터 운영 체계가 엔비디아 플랫폼에서 벗어나기 어려운 구조로 굳어질 수 있다.
단기적으로 엔비디아 GPU 확보는 불가피한 선택에 가깝다. 초거대 AI 모델 학습과 대규모 추론, 산업용 디지털트윈, 로보틱스, 자율주행, 반도체 공정 시뮬레이션 등에는 검증된 고성능 GPU 클러스터가 필요하기 때문이다. 삼성전자와 SK그룹이 AI 팩토리를 반도체 제조 지능화와 연구개발에 활용하려는 것도 같은 맥락이다. GPU는 이제 단순한 서버 부품이 아니라 제조 경쟁력과 서비스 경쟁력을 좌우하는 전략 자산이 됐다.
문제는 AI 인프라가 엔비디아 GPU 중심으로 고착될 경우 장기적으로 선택지가 좁아질 수 있다는 점이다. 글로벌 GPU 수급이 흔들리거나 가격이 급등하면 국내 AI 서비스 개발 비용도 함께 커진다. 미국의 수출 통제 정책 변화도 잠재 리스크다. 무엇보다 학습부터 추론까지 모두 외산 GPU에 의존하면 국산 AI 반도체 생태계가 성장할 공간은 제한될 수밖에 없다.
이재명 대통령이 사인한 리벨리온 반도체 [출처=연합]
◆추론 영역은 국산 NPU가 대안…"GPU 확보와 AI 반도체 생태계 병행해야"
이 같은 구조적 취약성을 줄이기 위한 중장기 대안으로는 리벨리온, 퓨리오사AI, 모빌린트, 딥엑스 등 국내 팹리스 기업들이 개발하는 국산 AI 반도체가 꼽힌다. 특히 신경망처리장치(NPU)는 모든 AI 연산을 범용으로 처리하는 GPU와 달리 특정 AI 연산에 맞춰 구조를 최적화한 반도체다. 대규모 모델 학습에서는 GPU가 여전히 강점을 갖지만, 이미 학습된 모델을 실제 서비스에 적용하는 추론 영역에서는 NPU가 전력 효율과 비용 측면에서 경쟁력을 가질 수 있다.
이는 AI 데이터센터의 전력 부담과도 연결된다. GPU 확보량이 늘어날수록 전력과 냉각 수요도 함께 커진다. 같은 서비스를 더 적은 전력으로 처리할 수 있다면 NPU는 데이터센터 운영 효율을 높이는 보완재가 될 수 있다. 정부가 국산 AI 반도체 실증과 성능 평가 체계를 마련하는 것도 엔비디아 GPU 의존도를 낮추고 국내 AI 반도체 생태계를 키우기 위한 포석으로 해석된다.
이병훈 포스텍 반도체공학과 교수는 "엔비디아가 GPU 시장의 90% 안팎을 차지하고 있어 현실적으로 다른 GPU를 선택할 여지는 크지 않다"며 "학습용 대규모 AI 인프라는 당장 엔비디아 GPU 중심으로 갈 수밖에 없는 구조"라고 말했다.
이 교수는 "NPU는 GPU와 완전히 다른 기술이라기보다 특정 목적에 맞게 구조를 특화한 반도체로 볼 수 있다"며 "같은 전기를 쓰더라도 특정 추론 작업에서는 NPU가 GPU보다 효율적일 수 있다"고 설명했다.
그러면서 "메타나 테슬라 같은 기업들도 엔비디아 GPU를 쓰면서 동시에 자체 AI 가속기를 개발하고 있다"며 "한국도 GPU 확보와 함께 추론용 NPU, 국산 AI 반도체 생태계를 어떻게 키울 것인지가 중요하다"고 강조했다.
신승훈 기자