GPU 넘은 TPU, 구글 왕의 귀환과 시사점

구글이 자체 개발한 인공지능(AI) 반도체인 텐서처리장치(TPU)를 외부에 판매하겠다고 선언하며 엔비디아 중심의 AI 칩 시장에 판도 변화를 예고
단순히 구글이 AI 칩을 판매하는 차원을 넘어 엔비디아의 독점적 지위를 흔들고 빅테크 기업들이 주도하는 주문형반도체(ASIC) 다극화 체제로 시장이 재편될 것임을 알리는 신호탄으로 평가
25일 외신 등에 따르면 구글은 그동안 자사 클라우드 서버용으로만 폐쇄적으로 사용하던 TPU를 메타 등 외부 기업에 판매하는 방안을 추진 중
특히 메타가 2027년부터 자사 데이터센터에 구글 TPU를 도입하기 위해 수십억 달러 규모의 투자를 논의 중인 것으로 알려졌음
구글은 AI 데이터센터 구축 비용 절감을 원하는 빅테크 기업들에 TPU가 엔비디아 그래픽처리장치(GPU)의 강력한 대안이자 공급망 안정화의 열쇠임을 강조하고 있음
구글이 TPU의 외부 판매를 검토하기로 한 것은 연산 속도와 전력 효율 면에서 엔비디아 GPU와의 경쟁에서 밀리지 않음이 확인됐기 때문
실제로 최근 공개된 제미나이 3.0은 엔비디아 GPU 없이 구글 TPU만으로 데이터 학습과 추론 작업이 이뤄졌는데 이용자 직접 평가 지표인 ‘LM아레나 리더보드’에서 1501점을 기록하며 1위를 차지
시장은 구글이 쏘아 올린 ‘반(反)엔비디아 연합’의 부상 가능성에 즉각 반응
구글의 모회사 알파벳 주가는 24일(현지 시간) 뉴욕증시에서 전 거래일 대비 18.82달러(6.28%) 급등한 318.47달러에 마감
김정회 한국반도체산업협회 상근부회장은 “구글이 TPU를 외부에 판매한다는 것은 AI 칩 시장이 엔비디아라는 절대 권력에서 벗어나 각 기업의 목적에 맞춘 ASIC 중심으로 다변화하는 신호탄으로서 의미가 있다”고 설명

흔들리는 엔비디아 천하

‘엔비디아 세금(tax)’으로 불리는 고비용 구조와 전력 비효율을 타개하기 위해 빅테크 기업들이 자체 주문형반도체(ASIC) 개발에 사활을 걸고 있음
특히 구글이 자사 텐서처리장치(TPU)의 외부 판매를 선언한 것은 단순한 수익 모델 확장을 넘어 엔비디아의 범용 그래픽처리장치(GPU)가 장악한 시장을 목적 기반의 ASIC 중심으로 재편하겠다는 ‘선전포고’나 다름없음
인공지능(AI) 시장의 무게 추가 모델 ‘학습’에서 실제 서비스를 24시간 가동하는 ‘추론’으로 이동함에 따라 올해는 ASIC 반도체 개화의 원년이 될 것으로 전망됨
25일 업계에 따르면 구글의 TPU 개방 전략은 자체 AI 모델 ‘제미나이 3.0’의 성공과 추론 비용 절감이라는 시장의 니즈가 맞물린 결과
구글은 엔비디아 칩 없이 100% 자체 TPU 클러스터로 학습시킨 제미나이 3.0이 AI 성능 평가에서 1501점(LM아레나 리더보드 기준)으로 1위를 차지하자 이 성과를 앞세워 본격적인 칩 판매에 나섰음

업계는 구글 TPU의 ‘가성비’와 ‘전력효율’에 주목
생성형 AI 서비스 비용의 80% 이상은 모델 개발(학습) 단계가 아닌 이용자의 질문에 답을 생성하는 추론 과정에서 발생
구글이 “메타가 TPU를 도입할 경우 연간 수십억 달러의 인프라 비용을 절감할 수 있다”고 자신하는 이유
비용 절감이 가능한 만큼 이번 구글의 TPU 외부 판매 선언으로 최근 확산되는 ‘AI 거품론’ 논란도 한풀 꺾일 것으로 보임
아울러 수익성 우려가 커질수록 ASIC의 중요성은 더욱 부각될 것으로 전망
실제 관련 시장은 폭발적인 성장세를 보이고 있음
모건스탠리 리서치에 따르면 전 세계 ASIC 시장 규모는 2024년 120억 달러에서 2027년 300억 달러(약 43조 5000억 원)로 연평균 34% 성장할 것으로 전망
전체 AI 반도체 시장 내 ASIC 비중 역시 2024년 11%에서 2030년 15%까지 확대될 것으로 관측
빅테크들의 ASIC을 활용한 ‘탈(脫)엔비디아’ 전선도 구체화하고 있음
전략은 크게 △클라우드 서비스형 △자체 최적화형 △하드웨어(TPU) 판매형으로 나뉨
아마존웹서비스(AWS)와 마이크로소프트(MS)는 클라우드 고객을 겨냥
AWS는 자체 개발한 ‘트레이니움(학습용)’과 ‘인퍼런시아(추론용)’를, MS는 ‘마이아 100’을 자사 데이터센터에 적용해 고객들이 엔비디아 GPU 기반 서비스보다 저렴하게 AI 모델을 운용하도록 지원
테슬라는 독자 노선을 걷고 있음. 자율주행을 넘어 휴머노이드 로봇 ‘옵티머스’와 데이터센터까지 아우르는 자체 칩 ‘AI5’의 설계를 마치고 양산을 앞두고 있음
AI5는 3000~4000TOPS(초당 1조 번 연산)에 달해 엔비디아의 주력 GPU에 버금가는 성능을 낼 것으로 추산
이들 기업의 공통된 목표는 엔비디아 의존도를 낮춰 가격 협상력을 높이고 공급망 리스크를 해소하는 것임
이 중 구글의 행보는 가장 파격적이라는 평가를 받고 있음
아마존이나 MS가 자사 클라우드 서비스의 일환으로 칩을 활용하는 것과 달리 구글은 폐쇄적으로 운영하던 자체 칩을 메타 등 경쟁사 데이터센터에 하드웨어 형태로 직접 공급하겠다는 전략이기 때문
이는 단순한 기술 과시를 넘어 AI 하드웨어 생태계의 표준을 엔비디아의 소프트웨어 플랫폼 ‘쿠다(CUDA)’에서 구글 TPU 기반으로 가져오겠다는 포석임
실제로 블룸버그통신은 구글이 TPU 외부 판매를 발표한 뒤 페이스북 모회사인 메타플랫폼이 수십억 달러 규모로 TPU라 불리는 구글 AI 칩을 도입하는 방안을 논의 중이라고 전했음. 구글의 의도에 빅테크들도 동참하는 모습을 보인 셈임
구글은 생산 단가 낮추기에도 돌입. 기존 TPU는 브로드컴과 주로 협력했으나 차세대 칩부터는 대만의 미디어텍과 손잡고 가격경쟁력을 확보할 계획
스마트폰 칩 시장에서 가성비로 성공한 미디어텍의 노하우를 이식해 엔비디아 대비 압도적인 가격 우위를 점하겠다는 셈법
일각에서는 기업들의 TPU 채택이 확대될 경우 엔비디아 연간 매출의 최대 10%가 잠식될 수 있다는 전망도 내놓고 있음
권석준 성균관대 화학공학부·반도체융합공학과 교수는 “초기 AI 시장은 무조건 성능이 좋은 엔비디아 GPU 확보가 관건이었지만 서비스가 대중화된 지금은 총소유비용(TCO)을 낮추는 게 기업 생존의 핵심 경쟁력이 됐다”며 “구글·아마존 등이 주도하는 고효율 ASIC이 확산되면 반도체 시장은 엔비디아 ‘1강’ 체제에서 용도별로 쪼개지는 다극화 체제로 빠르게 전환될 것”이라고 내다봤음

더 똑똑해진 제미나이 3

“세상이 다시 변했다. 3년 동안 매일 챗GPT를 써왔고 ‘제미나이 3’는 단 2시간 사용한 게 전부지만, (챗GPT로) 다시 돌아가진 않을 것이다.”

빅테크인 세일스포스의 마크 베니오프 창업자 겸 최고경영자(CEO)가 구글이 이달 18일 출시한 인공지능(AI) 모델 ‘제미나이 3’에 대해 극찬한 발언
실제로 AI 시장에선 구글 제미나이 3에 대한 호평이 쏟아지고 있음
구글 제미나이 3가 오픈AI의 아성을 위협하며 AI 산업에 지각변동이 예고되는 모양새

역대 가장 똑똑한 AI 모델로 평가받는 ‘제미나이 3’와 이를 기반으로 한 이미지 생성·편집 모델 ‘나노 바나나 프로’는 공개되자마자 AI업계에 돌풍을 일으키고 있음
샘 올트먼 오픈AI CEO조차 순다르 피차이 구글 CEO의 게시물에 “훌륭한 모델로 보인다”고 댓글을 남겼음
올트먼은 사내 메모를 통해 “구글의 최근 진전은 오픈AI에 일시적인 경제적 역풍을 불러올 수 있음
단기적으로는 어려운 분위기(rough vibes)가 될 수도 있다”고 언급한 것으로 전해졌음
일론 머스크 테슬라 CEO 역시 X 계정을 통해 이례적으로 구글에 “축하한다”는 말을 남겼음
제미나이 3 프로는 AI 모델 평가 사이트 LM아레나(Arena) 리더보드에서 1501점을 기록해 기존 1위였던 제미나이 2.5 프로를 제쳤음
AI의 능력을 비교하는 주요 벤치마크인 ‘인류의 마지막 시험(Humanity’s Last Exam)’에서도 제미나이 3 프로는 정답률 37.5%를 기록하며 오픈AI의 GPT 5 프로(31.6%)를 앞섰음

자료 : 동아일보

업계에선 구글이 오픈AI가 3년간 주도해 온 AI 경쟁 구도를 재편할 수 있을지 주목
구글은 AI반도체(텐서프로세싱유닛·TPU), 픽셀폰 같은 하드웨어에서부터 모바일 운영체제인 안드로이드, 브라우저 크롬, 검색엔진 구글 등 소프트웨어까지 AI 전체 생태계를 확보한 기업
특히 자체 개발한 추론 반도체 TPU를 AI 학습에 이용하며 엔비디아에 대한 의존도를 획기적으로 낮췄음
오픈AI와 비교하면 투자 여력에서도 앞서 있음. 마틴 피어스 디인포메이션 칼럼니스트는 “구글은 현금 창출력과 탄탄한 재무 구조를 바탕으로 향후 몇년간 필요한 AI 투자 비용을 충당할 수 있는 유리한 입지를 갖추고 있다”라고 분석
선발주자인 오픈AI는 챗GPT로 선점한 사용자 이탈을 막기 위해 ‘록인(Lock-in) 전략으로 맞서고 있음. 지난달 기준 챗GPT 주간활성이용자는 약 8억 명으로, 월간활성이용자가 6억5000만 명인 제미나이보다 우위를 보이고 있음
오픈AI는 챗GPT에 각종 쇼핑과 예약 에이전트, 그룹 채팅, 헬스케어, 성인용 콘텐츠 등을 도입하고 AI브라우저도 출시하며 생태계를 확장하고 있음
앤스로픽 등 다른 경쟁사들의 추격도 만만치 않다. 앤스로픽은 자사 AI 모델 중 최상위 모델인 ‘클로드 오퍼스4.5’를 24일(현지 시간) 출시했음
한편 제미나이 3의 영향으로 구글의 주가는 크게 상승
24일(현지 시간) 미국 뉴욕 증시에서 구글의 모회사 알파벳의 주가는 6% 넘게 상승. 그 결과 구글의 시가총액은 3조8500억 달러(약 5700조 원)에 육박하며 시총 2위 애플(4조800억 달러)과의 격차를 좁혔음
반면 엔비디아의 그래픽처리장치(GPU)의 대체재가 생길 수 있다는 우려에 장중 2.05% 상승했던 엔비디아 주가는 장외거래에서 2%가량 하락하는 등 약세를 보였음

<시사점>

구글이 내놓은 제미나이(Gemini) 3.0이 단순한 모델 업그레이드로 보여지지는 않습니다. LLM(초거대언어모델)의 성능 경쟁을 넘어, 엔비디아 중심의 AI 권력 지형에 균열을 일으키는 결정적 신호탄으로 파악됩니다. GPU 독점에 기반한 엔비디아의 지배력이 흔들리는 초기 조짐도 포착됩니다. 제미나이 3.0은 구글의 TPU·ASIC 기반 AI 인프라 확장을 가속하고 있으며, 이는 결국 엔비디아–구글의 새로운 과점 구도를 형성해 AI 생태계를 다시 재편할 것으로 전망됩니다.

우선 AI 산업의 중심이 ‘모델’에서 ‘컴퓨팅 플랫폼’으로 급속히 이동하고 있다는 점이 중요합니다. 구글이 제미나이를 통해 클라우드·검색·안드로이드·유튜브 등 자사 플랫폼 전반에 AI를 심으면서, AI는 하드웨어·소프트웨어·서비스가 얽힌 거대한 네트워크 산업으로 변모해 나갈 것으로 보입니다. 이 과정에서 GPU 단일 공급자인 엔비디아의 영향력은 견고하지만, 구글·메타·아마존 등 거대 플랫폼 기업이 자체 AI칩을 본격 도입하면서 ‘탈(脫)엔비디아’ 흐름도 병행될 것이 분명합니다. 결국 AI는 다극화된 생태계를 향해 움직일 것입니다.

새로운 질서는 엔비디아 독점 체제에서 엔비디아–구글 과점 체제로의 전환으로 요약됩니다. 이 전환은 시장 전반의 역동성을 키우는 방향이라 하겠습니다. 하나의 기업이 주도권을 독점하는 구조에서는 기술의 진화 속도가 느려지기 마련입니다. 반면 두 강자의 경쟁은 반도체·모델·패키징·데이터센터 등 전 분야의 혁신 속도를 배가시키고, 산업 전체를 확장시키는 촉매가 됩니다. 특히 GPU 중심의 아키텍처와 TPU·ASIC 기반의 수직형 아키텍처가 동시에 성장하면서, AI 경제는 단일 구조가 아닌 다중 구조로 진화할 가능성이 커졌습니다.

이 구조 변화는 한국 반도체 산업에도 중대한 영향을 미친 것입니다. 많은 투자자들이 “삼성엔 호재, 하이닉스엔 악재”라는 단순한 구도로 해석하지만 이는 절반의 진실에 불과합니다.

삼성전자는 분명한 기회를 맞고 있습니다. 엔비디아와 구글 모두 메모리 공급 다변화를 절실히 원하고 있고, 이는 삼성의 HBM 점유율 확대와 파운드리 및 첨단 패키징 사업의 반등 가능성을 동시에 키우고 있습니다. 특히 구글이 제미나이 3.0 이후 TPU·엔드투엔드 AI 시스템을 강화하는 과정에서 삼성과의 협업 가능성은 더욱 높아질 전망입니다(과거에도 삼성은 구글과 협력한 사례가 있음). 2nm 파운드리, HBM4, CoWoS-L과 같은 분야에서 삼성은 ‘추격자’에서 ‘대안 공급자’로 위상이 바뀌고 있습니다.

반면 SK하이닉스는 구조적 성장세는 유지되지만, 초과 이익의 정상화라는 숙제를 안게 됐습니다. 하이닉스는 HBM의 기술·품질·납기 면에서 압도적 우위를 갖고 있으며, 고급 AI칩엔 사실상 하이닉스 의존이 불가피합니다. 제미나이 3.0과 같은 멀티모달(텍스트, 이미지, 음성, 동영상 등 여러 종류의 데이터를 동시에 처리하고 통합하는 기술) 초대형 모델은 메모리 대역폭과 발열 조건을 더욱 강화하기 때문에, 하이닉스의 기술적 지위는 당분간 공고합니다. 다만 엔비디아–구글 과점 체제가 형성되면 가격 협상력이 낮아질 수 있고, 삼성의 HBM3E·HBM4 성능이 빠르게 따라오면 점유율 일부가 조정될 가능성은 존재한다고 봅니다. 다만 이것이 ‘악재’가 아니라 ‘독점 프리미엄의 조정’에 가깝다는 점을 냉정하게 판단해야 합니다.

AI 패러다임은 이미 한 방향으로 움직이고 있습니다. 모델의 성능 경쟁 → 컴퓨팅 경쟁 → 메모리·패키징 경쟁 → 전체 인프라 생태계 경쟁이라는 흐름은 앞으로 몇 년간 더 가속될 것입니다. 제미나이 3.0이 만든 충격은 이러한 전환을 앞당긴 것이며, 이는 삼성전자와 SK하이닉스 모두에게 큰 도전이자 거대한 기회입니다.

결국 한국 반도체 산업의 미래는 ‘누가 더 많은 GPU를 파느냐’가 아니라 누가 글로벌 AI 인프라 공급망에서 더 큰 역할을 차지하느냐에 달려 있습니다. 삼성은 추격의 속도를 높여야 하고, 하이닉스는 기술 리더십을 지키면서 신규 고객 다변화에 나서야 합니다. AI 생태계의 격변 속에서 한국이 AI 산업의 중심에 우뚝설 수 있기를 기대해 봅니다.