'포스트 엔비디아'로 떠오르는 美 AI스타트업은 이곳[포카Chip]

[이데일리 최영지 기자] 인공지능(AI) 반도체가 글로벌 산업계의 핵심으로 떠오른 가운데 AI 유니콘에 대한 관심 역시 늘어나고 있습니다. 이 중에서도 제2의 엔비디아, 젠슨 황으로 꼽히는 기업·인물을 엄선해 알기 쉬운 정보로 전해드립니다. 인기있는 캐릭터 및 연예인 포토를 한데 모으는 포토카드(포카)처럼 꼭 알아야 할 반도체 유망기업·인물들도 매주 소개하겠습니다. <편집자주>

엔비디아는 지난 1993년 미국 실리콘밸리의 한 작은 사무실에서 태어났다. 처음엔 회사 이름도 없었다. 젠슨 황을 비롯한 당시 창업자들이 자사 그래픽카드(GPU) 제품에 ‘NV’(New Version)이라는 이름을 붙이던 것을 시작으로 ‘부러움’(envy)이라는 뜻을 가진 라틴어 ‘invidia’를 사용하기로 하면서 현재의 회사명이 정해졌다. 현재 인공지능(AI) 시장을 독점하며 모두가 이름처럼 부러워하는 빅테크로 자리 잡았다.

AI 붐에 힘입어 엔비디아를 지향하는 AI반도체 스타트업이 생겨나는 가운데 그로크(Groq)가 ‘포스트 엔비디아’로 주목 받고 있다. 그로크는 조나단 로스 등 구글 엔지니어 출신들이 2016년 창업한 회사로, 엔비디아와 마찬가지로 미국 반도체산업의 발상지인 실리콘밸리 태생이다. 본사는 실리콘밸리 기업의 시초인 페어차일드가 창업한 마운틴뷰에 있다.

조나단 로스 그로크 CEO 겸 창업자(사진=그로크)

“LPU, 생성형 AI에 최적…엔비디아 대항마로 부상”

그로크는 데이터센터와 자율주행 자동차 개발에 필요한 AI반도체 설계에 주력하고 있다. 또 생성형 AI 시장이 개화하며 지난 2월 LLM(대규모 언어 모델)을 위한 언어처리장치(LPU) 칩을 출시하며 AI반도체 시장을 독점하는 엔비디아에 도전장을 내밀었다는 평가도 나온다. 그로크의 LPU는 생성형 AI 서비스를 염두에 두고 개발돼 AI반도체로 활용되는 그래픽처리장치(GPU)보다 연산 효율성과 전력소모 등 측면에서 더 우월하다는 평가를 받고 있어서다. 다시 말해 챗GPT와 같은 AI서비스를 실행할 때 기존에 사용되던 엔비디아 반도체보다 훨씬 빠른 속도로 작업을 수행할 수 있다.

외신 등에 따르면 그로크 LPU는 LLM을 탑재한 챗봇인 오픈AI의 ‘챗GPT’, 구글의 ‘제미나이’ 등의 응답 속도 향상에 특화됐다. 사용자 질문에 1초도 안 되는 시간에 영어 기준 수백단어의 답변을 생성할 수 있다.

그로크는 “LPU는 LLM과 관련해 GPU와 중앙처리장치(CPU)보다 더 큰 연산 능력을 가지고 있어 단어당 계산되는 시간이 줄어 언어 추론·응답속도가 훨씬 빠르다”며 “외부 메모리 병목 현상도 제거함으로써 GPU에 비해 LLM에서 훨씬 더 나은 성능을 제공할 수 있다”고도 설명했다.

지난달 그로크 클라우드를 새롭게 만들어 자사 LPU 서비스를 기업 고객들에 제공하고 있다. 현재는 이 시장에 그로크 외에도 AMD, 삼바노바, 세레브라스 등이 공개적인 기술 경쟁을 벌이고 있다.

그로크의 언어 처리장치(LPU)를 활용한 AI 서비스 시연 화면.(사진=그로크)

“헤이 일론, ‘그로크’ 이름 바꿔…우리한테 상표권 있어”

그로크(Groq)는 일론 머스크가 공개한 생성형 AI 기반 챗봇인 그로크 AI(Grok AI)와 이름이 비슷하다. 이처럼 고객들에 혼란을 야기하자 머스크에 공개 지적을 하기도 했다. 그로크 AI라는 이름이 붙은 이 챗봇은 머스크가 AI 모델이 우주의 기본 개념을 이해하고 더 안전한 세상을 만든다는 목적으로 설립한 생성형 AI 벤처인 xAI에서 만들었다.

이에 대해 그로크는 “Groq(우리)는 Grok(당신)과 매우 비슷하게 들리나 우리가 상표권을 소유하고 있다”며 “다른 이름을 빨리 선택해달라”고 밝혔다.

삼성전자의 미국 텍사스 테일러 공장 구축 현장 (사진=경계현 삼성전자 사장 인스타그램 갈무리)

삼성전자와 파운드리 협업 눈길…테일러 공장서 반도체 생산

그로크는 삼성전자(005930) 테일러 파운드리(반도체 위탁생산) 팹(공장)의 첫번째 고객사로도 알려져 있다. 현재 상용화한 1세대 LPU에 14나노 미세공정을 활용하고 있으며 향후 출시가 예정된 2세대 제품에는 기술이 훨씬 발전한 4나노 파운드리 도입을 계획하고 있다.

이와 관련 삼성전자와 4나노 파운드리를 통해 그로크의 차세대 AI반도체를 위탁생산하는 계약도 지난해 8월 체결했다. 그로크는 초미세 선단공정에서 첨단반도체를 공급받을 수 있게 됐고 삼성전자는 고객사를 확보하게 된 것이다.

당시 마르코 치사리 삼성반도체혁신센터장(부사장)은 “삼성 파운드리는 반도체 기술을 발전시키고 획기적인 AI, 고성능컴퓨딩(HPC), 데이터센터 솔루션을 시장에 출시하기 위해 최선을 다하고 있다”며 “그로크와의 파트너십은 삼성의 첨단 공정을 사용해 새로운 AI 혁신을 시장에 출시하는 방법을 보여주는 또 다른 증거”라고 강조했다.