Intel Capital은 AI 배포를 규모로 향상시키는 데 도움이되는 Truefoundry의 1 억 1900 만 달러에 연료를 공급합니다.

Enterprises가 AI 시스템을 규모로 배치하도록 도와주기 위해 이전 메타 엔지니어 그룹이 운영하는 Startup 인 TrueFoundry는 인텔 캐피탈이 이끄는 새로운 투자로 1,900 만 달러를 모금했습니다.

2022 년 11 월 Chatgpt가 출시 된 후 Genai의 출현으로 모든 규모의 기업은 AI를 받아 들일 수있는 방법을 조사했습니다. 그러나 Genai는 대형 언어 모델에 의존하여 인텔리전스 (읽기 효율성)를 제공하여 상당한 계산 능력을 요구합니다. 모든 기업이 수백 또는 수천 개의 GPU에 액세스 할 수있는 이점이있는 것은 아니기 때문에 GPU 최적화가 필수적입니다. 또한 기업은 사용 사례에 가장 적합한 것을 찾아 기존 모델을 미세 조정하여 AI 시스템을 운영과 관련시킬 수 있도록 여러 모델을 실험해야합니다.

TrueFoundry는 전체 스택 데이터 과학자를 대상으로 플랫폼으로 서비스로 제공되는 소프트웨어를 사용 하여이 모든 것을 해결합니다. 자동 스케일링, 사전 예방 적 유지 관리, 중앙 집중식 액세스 컨트롤 및 실시간 모니터링과 같은 기능을 제공하여 엔드 투 엔드 AI 배포를 단순화합니다.

2021 년 6 월에 전 메타 엔지니어 Nikunj Bajaj와 Abhishek Choudhary와 IIT Kharagpur 배치 메이트 인 Anuraag Gutgutia가 설립 한 TrueFoundry는 처음에 기계 학습 배포 속도를 높이기 위해 크로스 클라우드 기본 소프트웨어를 제공했습니다. 그러나 2023 년 Genai가 주류가되면서 스타트 업은 Genai 기능을 지원하기 위해 시스템을 수정했습니다.

“이전에는 데이터 과학자들이 모델과 함께 일하고 이들을 실험했지만 많은 배포가 ML 엔지니어에게 전달되었습니다. 우리의 시스템을 통해 우리가 가능하게하는 것은 데이터 과학자들이 실제로이 전체 복잡한 시스템을 구축하고 최종 배포를 위해 플랫폼 팀에 넘겨주기 전에 규모로 테스트 할 수 있다는 것입니다.”라고 Gutgutia는 독점 인터뷰에서 말했습니다.

스타트 업은 AutoPilot 시스템이라는 소프트웨어 솔루션을 제공합니다. AUI는 AI를 사용하여 로그 및 메트릭을보고 GPU 사용을 조정하고 메모리 요구 사항을 수정하여 AI 응용 프로그램을 확장하는 데 도움이됩니다.

Gutgutia는 자동 조종 장치 시스템을 사용하여 TrueFoundry의 고객 중 한 명인 TechCrunch에 2 명으로 구성된 소규모 팀이 초당 천만 명의 요청을 관리했다고 말했습니다.

TrueFoundry는 현재 실험을 위해 오픈 소스 래그 프레임 워크에 액세스하는 “많은”사용자와 함께 전 세계 30 명의 유료 고객을 보유하고 있습니다. 이 고객 중 GPU 거대 NVIDIA는 소프트웨어를 사용하여 GPU 클러스터를 최적화하는 에이전트를 구축하고 배포합니다. Med-Tech Company Resmed는 또한 TrueFoundry의 제안을 사용하여 내부 AI 플랫폼을 개발합니다. 마찬가지로 Siemens Healthineers, Automation Aloneways, Games24X7 및 WhatFix가 고객 중 하나입니다.

스타트 업은 Kubernetes를 사용하여 소프트웨어를 아키텍처하여 AWS, Google Cloud 플랫폼 및 Azure를 포함한 모든 주요 클라우드 플랫폼과 다중 클라우드를 준비하고 호환 할 수 있습니다. 또한 기업은 기본적으로 온 프레미스를 배치 할 수 있습니다.

TrueFoundry를 사용하는 기업은 2 개월 만에 내부 AI 플랫폼을 구축하고 출시했으며 업계 평균 14 개월과 달리 4 개월 안에 ROI를 달성했다고 Bajaj는 밝혔다. Gutgutia는 신생 기업이 에이전트, 헝겊, 복잡한 딥 러닝 모델 또는 훌륭한 조정 된 모델.

클라우드 공급 업체는 Amazon의 Sagemaker 및 Google Cloud의 Vertex와 같은 AI 모델의 건물 및 배포를 용이하게하기 위해 자체 소프트웨어를 제공하기 시작했습니다. 그럼에도 불구하고 Gutgutia는 TechCrunch에 TrueFoundry의 솔루션이 클라우드 제공 업체의 “컴퓨팅 사용을 가속화”하고 AI 앱의 시장 시간을 가속화하고 전반적인 비용을 줄이는 데 도움이되므로 여전히 적절하다고 말했다.

All-Equity Series A 라운드는 Eniac Ventures, Peak XV Partners 및 Jump Capital의 참여뿐만 아니라 Gokul Rajaram, Mohit Aron 및 Cyan Banister를 포함한 Angel Investors의 참여를 보았습니다.

신생 기업은 자금을 활용하여 인도에 본사를 둔 45 명의 회원에서 판매, 고객 성공 및 제품 마케팅 역할을 포함하여 미국의 45 명의 회원에서 시장을 확장 할 것입니다. 또한 파트너십, 특히 클라우드 공급 업체와 투자 할 계획이며 AWS 마켓 플레이스부터 시작하여 주요 클라우드 마켓 플레이스에 등재되는 과정에 있습니다.

또한 TrueFoundry는 올바른 리소스를 제안하고 자동 스케일링 및 문제 해결을 가능하게하는 AI 에이전트를 시작하는 것을 목표로합니다.

Truefoundry는 새로운 자금 조달을 통해 2022 년 9 월 Peak XV (Sequoia India) 급증이 이끄는 2022 년 9 월 종자 라운드에서 230 만 달러를 포함하여 총 2,100 만 달러 이상을 모금했습니다.

스타트 업은 작년에 고객 기반을 4 배로 늘리고 ML 워크로드를 위해 클라이언트에 1,000 개가 넘는 클러스터를 배포했습니다. Gutgutia는 또한 TechCrunch에게“150 만 달러의 북쪽”에 있으며 올해 두 배가 될 것이라고 말했다.

TechCrunch에는 AI 중심 뉴스 레터가 있습니다! 매주 수요일에받은 편지함에 넣으려면 여기에 가입하십시오.