AI 붐으로 인해 칩 네트워킹 속도에 대한 요구가 커지고 있습니다.

새로운 시대 Silicon Valley는 LinkedIn에서 찾을 수 있는 종류가 아닌 네트워킹을 기반으로 운영됩니다.

기술 산업이 AI 데이터 센터에 수십억 달러를 투자함에 따라 크고 작은 칩 제조업체는 칩을 다른 칩에 연결하고 서버 랙을 다른 서버 랙에 연결하는 기술에 대한 혁신을 강화하고 있습니다.

네트워킹 기술은 컴퓨터가 탄생한 이래로 존재해 왔으며, 메인프레임을 중요하게 연결하여 데이터를 공유할 수 있었습니다. 반도체 세계에서 네트워킹은 칩 자체의 트랜지스터 간 상호 연결부터 칩 상자나 랙 사이에 이루어진 외부 연결에 이르기까지 스택의 거의 모든 수준에서 중요한 역할을 합니다.

Nvidia, Broadcom, Marvell과 같은 거대 칩 기업은 이미 확고한 네트워킹 선의를 갖추고 있습니다. 그러나 AI 붐 속에서 일부 기업은 데이터 센터를 통해 흐르는 엄청난 양의 디지털 정보 속도를 높이는 데 도움이 되는 새로운 네트워킹 접근 방식을 찾고 있습니다. 여기에는 광학 기술을 사용해 고속 컴퓨팅을 가속화하는 Lightmatter, Celestial AI, PsiQuantum과 같은 딥테크 스타트업이 등장합니다.

광학 기술, 즉 포토닉스는 이제 새로운 시대를 맞이하고 있습니다. PsiQuantum의 공동 창업자이자 최고 과학 책임자인 Pete Shadbolt에 따르면, AI 붐이 이 기술에 대한 관심을 다시 불러일으킬 때까지 이 기술은 25년 동안 “불량하고, 비싸며, 약간의 유용성”으로 간주되었습니다. (Shadbolt는 지난 주 WIRED가 공동 주최한 패널에 출연했습니다.)

칩 혁신의 차세대 물결을 포착하거나 적어도 적절한 인수 목표를 찾기를 희망하는 일부 벤처 자본가와 기관 투자자는 데이터 처리 속도를 높이는 새로운 방법을 찾은 이와 같은 스타트업에 수십억 달러를 투자하고 있습니다. 그들은 전자에 의존하는 전통적인 상호 연결 기술이 고대역폭 AI 워크로드에 대한 수요 증가를 따라잡을 수 없다고 믿습니다.

오랫동안 기술 분석가로 활동했으며 연구 회사인 Creative Strategies의 CEO인 Ben Bajarin은 “역사적으로 되돌아보면 네트워킹은 다루기 정말 지루했습니다. 비트 패킷을 전환하는 일이었기 때문입니다.”라고 말합니다. “이제 AI로 인해 상당히 강력한 워크로드를 이동해야 하기 때문에 속도에 대한 혁신이 나타나고 있습니다.”

빅 칩 에너지

Bajarin과 다른 사람들은 Nvidia가 몇 년 전 기술 분야에서 두 가지 주요 인수를 수행했을 때 네트워킹의 중요성에 대해 선견지명을 갖고 있었던 것에 대해 공로를 인정합니다. 2020년 Nvidia는 서버 및 데이터 센터용 고속 네트워킹 솔루션을 만드는 이스라엘 회사 Mellanox Technologies를 인수하는 데 거의 70억 달러를 지출했습니다. 얼마 지나지 않아 Nvidia는 컴퓨터 네트워킹용 Linux 기반 소프트웨어 시스템을 강화하기 위해 Cumulus Networks를 구입했습니다. 이것은 GPU와 GPU의 병렬 컴퓨팅 기능이 다른 GPU와 클러스터링되어 데이터 센터에 배치될 때 훨씬 더 강력해질 것이라고 당연히 베팅한 Nvidia의 전환점이었습니다.

Nvidia가 수직 통합 GPU 스택을 장악하고 있는 반면, Broadcom은 맞춤형 칩 가속기 및 고속 네트워킹 기술 분야의 핵심 기업이 되었습니다. 1조 7천억 달러 규모의 이 회사는 데이터 센터용 칩에 관해 Google, Meta, 그리고 최근에는 OpenAI와 긴밀히 협력하고 있습니다. 또한 실리콘 포토닉스의 최전선에 있습니다. 그리고 지난달 로이터 통신은 다음과 같이 보도했습니다. Broadcom은 새로운 네트워킹 칩을 준비하고 있습니다 “AI 시스템과 나머지 데이터 센터 간의 중요한 링크”를 제공하도록 설계된 Thor Ultra라고 합니다.

지난 주 실적 발표에서 반도체 설계 대기업인 ARM은 네트워킹 회사인 DreamBig을 2억 6,500만 달러에 인수할 계획을 발표했습니다. DreamBig은 삼성과 협력하여 AI 칩렛(더 큰 칩 시스템에 함께 패키징되도록 설계된 소형 모듈식 회로)을 만듭니다. 스타트업은 “흥미로운 지적 재산을 가지고 있습니다. [is] ARM CEO Rene Haas는 실적 발표에서 스케일업 및 스케일아웃 네트워킹에 매우 중요하다고 말했습니다. (이는 구성요소를 연결하고 데이터를 단일 칩 클러스터로 전송하는 것뿐만 아니라 칩 랙을 다른 랙과 연결하는 것을 의미합니다.)

라이트 온

Lightmatter CEO 닉 해리스(Nick Harris)는 지적했다 이제 AI에 필요한 컴퓨팅 성능의 양은 3개월마다 두 배씩 증가합니다. 이는 무어의 법칙이 지시하는 것보다 훨씬 빠른 속도입니다. 컴퓨터 칩은 점점 더 커지고 있습니다. Harris는 “만들 수 있는 가장 큰 칩의 최첨단 상태에 있을 때마다 그 이후의 모든 성능은 칩을 서로 연결하는 데서 비롯됩니다.”라고 말합니다.

그의 회사의 접근 방식은 최첨단이며 전통적인 네트워킹 기술에 의존하지 않습니다. Lightmatter는 칩을 서로 연결하는 실리콘 포토닉스를 구축합니다. 이는 본질적으로 광 기반 상호 연결 기술로 연결된 3D 실리콘 스택인 AI 칩용 세계에서 가장 빠른 광자 엔진을 만든다고 주장합니다. 이 스타트업은 지난 2년 동안 GV 및 T. Rowe Price와 같은 투자자로부터 5억 달러 이상을 모금했습니다. 지난해 기업 가치는 44억 달러에 달했다.