AI 반도체 시장의 주도권을 둘러싼 균열이 가시화되고 있다. 표면적으로는 젠슨 황 엔비디아 최고경영자(CEO)가 한국·대만을 잇따라 방문하며 'AI 동맹'의 외연을 넓히는 데 주력하고 있지만, 그 이면에서는 구글·마이크로소프트·메타 등 빅테크들이 엔비디아 의존도를 낮추기 위한 전선을 조용히 구축하는 중이다.
엔비디아의 시장 지배력은 수치로 확인된다. 올해 1분기 엔비디아의 영업이익률은 65.6%에 달한다. 하드웨어 업체로서는 이례적인 수준으로, AI 인프라 구축 경쟁이 심화될수록 엔비디아 GPU를 선택할 수밖에 없는 기업들의 의존 구조가 이 수치에 고스란히 반영돼 있다. 엔비디아는 여기에 더해 GPU에 네트워크·이더넷 등 인프라를 묶어 패키지로 판매하는 전략으로 마진을 극대화하고 있다.
바로 이 지점에서 균열이 시작됐다. 막대한 비용을 감내하던 빅테크들이 GPU의 대안으로 주목한 것이 ASIC(주문형 반도체)다. 범용성은 낮지만, 추론·계산·추천 등 특정 작업에 특화된 ASIC은 가격과 전력 소모 측면에서 GPU 대비 유리하다. 구글은 브로드컴과 함께 7세대 TPU '아이언우드'를 포함한 자체 AI 칩을 개발해왔고, 아마존은 마벨 테크놀로지와 손잡고 '트레이니움' 시리즈를 키우고 있다. 오픈AI도 올해 하반기부터 브로드컴과 공동 개발한 칩을 10GW(기가와트) 규모로 배치할 계획이고, 앤트로픽 역시 브로드컴·구글과 3.5GW 규모의 칩 계약을 체결했다. 시장조사업체 트렌드포스에 따르면 ASIC 기반 서버 비중은 올해 27.8%에 달하고, 2030년에는 40%에 근접할 것으로 전망된다. 2026년 클라우드 서비스 공급업체의 자체 설계 ASIC 성장률은 44.6%로, GPU의 16.1%를 크게 웃돌 것으로 예상된다.
반도체 칩에 국한되지 않는다. AI 가속기를 연결하는 인터커넥트 분야에서도 엔비디아 종속에서 벗어나려는 움직임이 구체화되고 있다. 엔비디아의 NV링크는 수십 개의 GPU를 묶는 핵심 연결 기술로, 이른바 '락인(lock-in)' 효과를 일으키는 장치였다. 이에 맞서 마이크로소프트·메타·구글·애플 등은 2024년 10월 개방형 인터커넥트 표준을 추진하는 'UA링크 컨소시엄'을 출범시켰다. 현재 65개 이상의 기업이 참여 중이며, AMD·인텔 등 엔비디아에 밀려온 반도체 기업들도 가세했다. 컨소시엄은 지난 4월 UA링크 2.0의 주요 사양을 공개하며 "개방형 거버넌스와 다중 공급사 생태계를 통해 벤더 종속 없는 상호운용 솔루션을 구현한다"고 밝혔다.
모델 공급망에서도 변화가 감지된다. 마이크로소프트는 올해 4월 오픈AI 모델을 자사 제품에 독점 제공하던 구조를 완화하는 방향으로 관계를 재편했고, 이후 자체 추론 칩을 발표하며 에이전트 AI 시장에 직접 진출했다. 오픈AI도 아마존 등과 컴퓨팅 용량을 계약하며 인프라 공급망 다변화에 나섰다.
엔비디아도 방어 전선을 치고 있다. 코어위브·네비우스그룹 등 GPU를 대량 구축해 기업들에 임대하는 '네오클라우드' 기업들과 손잡고 GPU를 우선 공급하는 체계를 구축했다. 또 마벨 테크놀로지에 20억 달러를 투자하며 경쟁사까지 생태계 안으로 끌어들이는 행보를 보이고 있다. 경쟁자를 억제하기보다 협력 관계로 흡수해 주도권을 유지하는 전략이다.
이 같은 구도는 한국 반도체 기업들에게 복잡한 함의를 던진다. 빅테크의 ASIC 확대가 현실화될 경우, 삼성전자는 오히려 기회를 잡을 수 있다는 분석이 나온다. 기술전문매체 디인포메이션은 지난 11일 구글이 차세대 AI 칩 생산 일부를 삼성전자 파운드리에 맡기는 방안을 검토 중이라고 보도했다. TSMC 중심의 공급망을 분산하려는 구글의 의도와 삼성전자의 이해관계가 맞아떨어지는 지점이다. 삼성전자는 올해 1분기 실적발표에서 "커스텀 HBM4의 일부 과제는 스탠더드 HBM4와 더불어 2026년부터 판매에 기여할 것"이라고 밝혔다. SK하이닉스도 고객 맞춤형 HBM 경쟁력 강화에 속도를 내고 있다.
그러나 낙관만 하기는 이르다. SK하이닉스의 올해 1분기 영업이익률은 72%로, 메모리 반도체가 현재 AI 데이터센터의 핵심 병목임을 보여준다. 하지만 최태원 SK그룹 회장은 지난 4월 "메모리가 너무 비싸지면 사람들이 메모리를 쓰지 않을 수 있는 모든 방법을 연구하기 시작할 것"이라고 언급했다. AI 기업들이 언젠가 메모리 반도체 의존도를 낮추는 방향을 모색할 수 있다는 경고이기도 하다. AI 인프라를 둘러싼 동맹의 재편이 가속화되는 지금, 삼성전자와 SK하이닉스가 어떤 생존 전략을 선택하느냐가 국내 반도체 산업의 중장기 향방을 가를 것으로 보인다.