Korea Pushes an Open AI Computing Stack Beyond GPU Dependence

과학기술정보통신부는 8월 20일 서울에서 AMD코리아와 퓨리오사AI·망고부스트·모레 등 국내 AI 반도체 기업을 만나 ‘개방형 AI 컴퓨팅 인프라’ 구축 방안을 논의했다.

Date: 2026-08-20 Topic: AI Infrastructure and Semiconductors Primary source: Yonhap News Agency

과학기술정보통신부는 8월 20일 서울에서 AMD코리아와 퓨리오사AI·망고부스트·모레 등 국내 AI 반도체 기업을 만나 ‘개방형 AI 컴퓨팅 인프라’ 구축 방안을 논의했다. 지난 7월 과기정통부와 AMD가 맺은 협약의 후속 자리로, AMD CPU·GPU와 국산 NPU를 함께 쓰는 환경을 실제 데이터센터와 AI 서비스에서 검증하는 것이 핵심이다.

정부와 업계는 AI 시장의 중심이 대규모 모델 학습에서 서비스 단계의 추론으로 옮겨가면서 전력 효율과 운영비가 더 중요해졌다고 봤다. 다만 구체적인 예산이나 구축 일정이 확정된 것은 아니다. 정부는 국산 NPU의 현장 적용 사례를 만들 수 있도록 하드웨어부터 소프트웨어까지 아우르는 실증 지원을 강화하겠다는 방향을 밝혔다.

What Happened

과기정통부는 배경훈 부총리 겸 장관 주재로 ‘개방형 AI 컴퓨팅 인프라 생태계 구축을 위한 업계 간담회’를 열었다. AMD코리아와 국내 AI 반도체·소프트웨어 기업, 유관기관 관계자들이 참석해 서로 다른 종류의 연산 장치를 연결하는 방법과 국산 NPU의 현장 적용 조건을 논의했다.

이번 간담회는 새로운 반도체 한 종류를 발표한 자리가 아니다. CPU, GPU, NPU뿐 아니라 메모리와 네트워크, 소프트웨어를 하나의 시스템으로 묶어 AI 작업의 성격에 맞게 배치하는 이기종 컴퓨팅 환경을 만들자는 논의에 가깝다. 퓨리오사AI는 해외 동향과 국내 업계의 대응 방향을 소개했고, 망고부스트와 모레는 AMD와 진행 중인 최적화 및 소프트웨어 협력 현황을 공유했다.

Key Details

  • 정부와 AMD는 AMD CPU·GPU에 한국 기업이 개발한 NPU를 결합하는 공동 실증 방안을 검토하고 있다.
  • 과기정통부는 국산 NPU가 데이터센터와 상용 AI 서비스에서 쓰인 사례를 조기에 확보하도록 풀스택 실증 지원을 강화하겠다고 밝혔다.
  • 업계는 CXL과 DPU 같은 연결·데이터 처리 기술, PIM과 뉴로모픽 반도체 같은 차세대 기술에 대한 투자 필요성을 제안했다.
  • 개방형 인터페이스와 국제표준, 오픈소스 소프트웨어를 바탕으로 여러 업체의 장비가 함께 작동할 수 있는 시험 환경도 필요하다는 의견이 나왔다.
  • AMD는 7월 협약에서 한국에 AI 우수 연구센터를 세우고 국내 대학·연구기관·기업과 소프트웨어 및 인재 협력을 확대하겠다는 계획을 발표했다.

여기서 중요한 구분이 있다. 현재 확인된 것은 간담회 개최, 협력 방향, 실증 지원 방침이다. 국가 차원의 통합 인프라가 이미 구축됐거나 국산 NPU 도입 물량과 예산이 확정됐다는 의미는 아니다.

Why Heterogeneous Computing Matters

GPU는 대규모 AI 모델을 학습하고 서비스하는 데 널리 쓰이지만, 모든 작업을 같은 칩에서 처리하는 방식이 항상 가장 경제적인 것은 아니다. 학습이 끝난 모델에 질문을 보내 답을 받는 추론 작업은 서비스마다 모델 크기, 응답 시간, 전력 한도가 다르다. 특정 작업에 맞춘 NPU는 이런 조건에서 비용과 전력 사용량을 줄일 여지가 있다.

그러나 칩의 연산 성능만 높다고 바로 데이터센터에 투입할 수 있는 것은 아니다. 운영체제와 개발 도구, 모델 변환, 장애 대응, 모니터링, 서버 간 통신까지 안정적으로 연결돼야 한다. 국내 NPU 기업들이 요구하는 ‘실증 환경’은 성능표를 만드는 시험을 넘어, 실제 서비스에서 이 전체 과정이 작동한다는 근거를 쌓기 위한 공간이다.

Core Lens
이번 정책의 핵심은 엔비디아 GPU를 한 번에 밀어내는 것이 아니라, AI 작업에 따라 여러 칩을 골라 쓸 수 있는 선택권과 운용 경험을 국내에 축적하는 데 있다.

What It Means

한국의 접근은 단일 업체 의존도를 줄이면서도 기존 GPU 인프라를 버리지 않는 현실적인 절충안이다. AMD의 CPU·GPU와 국산 NPU가 공통 소프트웨어 환경에서 연결된다면 국내 반도체 기업은 개별 칩 판매를 넘어 서버와 서비스 단위의 공급 경험을 확보할 수 있다. 이용 기업도 작업별 가격과 전력 효율을 비교할 선택지가 생긴다.

반대로 실증이 제품 채택으로 이어지려면 호환성과 개발 편의성이 입증돼야 한다. 새로운 NPU를 추가했는데 모델을 다시 손보는 비용이 크거나 운영 도구가 부족하면, 칩 가격이 저렴해도 전체 비용은 줄지 않을 수 있다. 따라서 이번 구상의 성패는 최고 성능 수치보다 기존 AI 소프트웨어가 얼마나 적은 수정으로 여러 가속기에서 돌아가는지에 달려 있다.

What To Watch

  • 정부가 실증 사업의 예산, 참여 데이터센터, 일정과 평가 기준을 언제 공개하는지
  • 국산 NPU가 어떤 상용 모델과 추론 서비스에서 실제 성능·전력·비용을 검증받는지
  • AMD의 한국 AI 우수 연구센터가 소프트웨어 호환성과 개발자 지원에 어떤 역할을 맡는지
  • 실증 결과가 공공·민간 데이터센터의 실제 구매와 장기 공급 계약으로 이어지는지

현재 단계에서는 ‘탈엔비디아’라는 구호보다 서로 다른 칩을 함께 운영할 수 있는 기술과 소프트웨어를 확보할 수 있느냐가 더 정확한 관전 지점이다. 구체적인 실증 대상과 성능 기준이 공개돼야 정책 방향이 산업 성과로 이어질 가능성을 판단할 수 있다.

Sources