Langchain 생태계를 최대한 활용합니다

저자의 이미지

틀 소개

복잡한 AI 시스템을 구축하는 것은 특히 생산 준비, 확장 가능하며 유지 관리 가능한 솔루션을 목표로 할 때 작은 위업이 아닙니다. 최근 에이전트 AI 경쟁에 참여함으로써, 다양한 프레임 워크를 사용하더라도 강력한 AI 에이전트 워크 플로를 구성하는 것은 여전히 어려운 일이라는 것을 깨달았습니다.

커뮤니티에서 약간의 비판에도 불구하고, 나는 Langchain 생태계가 실용성, 모듈성 및 빠른 개발 기능으로 두드러진다는 것을 발견했습니다.

이 기사에서는 AI 시스템을 구축, 테스트, 배포, 모니터링 및 시각화하기위한 Langchain의 생태계를 활용하는 방법을 살펴보고 각 구성 요소가 최신 AI 파이프 라인에서 어떻게 역할을하는지 보여줍니다.

틀 1. 기초 : 핵심 파이썬 패키지

Langchain은 Github에서 가장 인기있는 LLM 프레임 워크 중 하나입니다. AI 모델, 도구, 데이터베이스 등과의 수많은 통합으로 구성됩니다. Langchain 패키지에는 몇 분 안에 지능형 AI 애플리케이션을 구축하는 데 도움이되는 체인, 에이전트 및 검색 시스템이 포함되어 있습니다.

두 가지 핵심 구성 요소로 구성됩니다.

랭케어 코어 : 재단은 필수 추상화와 구성 요소를 구성하고 연결하기위한 Langchain 표현 언어 (LCE)를 제공합니다.
랭케인-커뮤니티 : 벡터 저장에서 새로운 모델 제공 업체에 이르기까지 다양한 타사 통합 모음으로 인해 핵심 라이브러리를 팽팽하게하지 않고 응용 프로그램을 쉽게 확장 할 수 있습니다.

이 모듈 식 디자인은 Langchain이 가볍고 유연하며 지능형 AI 응용 프로그램의 빠른 개발 준비를 유지합니다.

틀 2. 명령 센터 : Langsmith

Langsmith를 사용하면 비 결정적 에이전트 시스템의 경우에도 응용 프로그램의 단계별 동작을 추적하고 이해할 수 있습니다. 디버깅, 테스트 및 모니터링에 필요한 X- 레이 비전을 제공하는 통합 플랫폼입니다.

주요 기능 :

추적 및 디버깅: 체인 또는 에이전트의 모든 단계에 대해 정확한 입력, 출력, 도구 통화, 대기 시간 및 토큰 수를 참조하십시오.
테스트 및 평가 : 고품질 테스트 데이터 세트를 구축하기 위해 사용자 피드백 및 주석 실행을 수집하십시오. 자동 평가를 실행하여 성능을 측정하고 회귀를 방지하십시오.
모니터링 및 경고 : 생산시 오류율, 대기 시간 또는 사용자 피드백 점수에 대한 실시간 알림을 설정하여 고객보다 실패를 포착 할 수 있습니다.

틀 3. 복잡한 논리 건축가 : Langgraph & Langgraph Studio

Langgraph는 다양한 도구를 가진 여러 에이전트가 함께 작동하여 복잡한 문제를 해결하는 에이전트 AI 응용 프로그램을 만드는 데 인기가 있습니다. 선형 접근법 (langchain)이 충분하지 않으면 Langgraph가 필수화됩니다.

langgraph : 그래프로 표현하여 상태의 다중 액티커 애플리케이션을 구축하십시오. 간단한 입력-출력 체인 대신 노드 (액터 또는 도구) 및 가장자리 (흐름을 지시하는 논리)를 정의하여 루프 및 조건부 로직을 구축 할 수있는 조건부 논리를 정의합니다.
Lightgraph Studio : 이것은 Langgraph의 시각적 동반자입니다. 그래픽 인터페이스에서 에이전트의 상호 작용을 시각화, 프로토 타입 및 디버깅 할 수 있습니다.
langgraph 플랫폼 : 에이전트를 설계 한 후 Langgraph 플랫폼을 사용하여 장기 실행되는 상태의 워크 플로를 배포, 관리 및 확장하십시오. Langsmith 및 Langgraph Studio와 완벽하게 통합됩니다.

틀 4. 공유 부품 저장소 : Langchain Hub

Langchain Hub는 고품질 프롬프트 및 런닝 가능한 객체를 발견하고 공유하기위한 중앙 버전 제어 저장소입니다. 이로 인해 응용 프로그램 논리가 프롬프트의 콘텐츠에서 분리되어 일반적인 작업에 대한 전문적으로 제작 된 프롬프트를 쉽게 찾을 수 있으며 일관성을 위해 자신의 팀의 프롬프트를 관리 할 수 있습니다.

틀 5. 코드에서 제작까지 : Langserve, 템플릿 및 UI

Langchain 응용 프로그램이 준비되고 테스트되면 배포는 올바른 도구를 사용하여 간단합니다.

긴 서빙 : Langchain Runnables와 Chains를 생산 준비가 된 REST API로 즉시 전환하여 자동 생성 문서, 스트리밍, 배치 및 내장 모니터링으로 완성됩니다.
langgraph 플랫폼 : 보다 복잡한 워크 플로 및 에이전트 오케스트레이션을 위해 Langgraph 플랫폼을 사용하여 고급 다중 단계 또는 다중 에이전트 시스템을 배포하고 관리하십시오.
템플릿 및 UIS : 기성품 템플릿 및 Agent-Chat-UI와 같은 사용자 인터페이스로 개발을 가속화하여 에이전트를 쉽게 빌드하고 상호 작용할 수 있습니다.

틀 모든 것을 정리하십시오 : 현대적인 워크 플로

Langchain 생태계가 아이디어에서 제작에 이르기까지 AI 애플리케이션 라이프 사이클의 모든 단계를 지원하는 방법은 다음과 같습니다.

Ideate & 프로토 타입 : Langchain-Core 및 Langchain-Community를 사용하여 올바른 모델과 데이터 소스를 가져 오십시오. Langchain Hub에서 전투 테스트 프롬프트를 잡으십시오.
디버그 및 정제 : 처음부터 Langsmith가 달리고 있습니다. 모든 실행을 추적하여 후드 아래에서 무슨 일이 일어나고 있는지 정확하게 이해하십시오.
복잡성 추가 : 논리에 루프와 상태가 필요한 경우 langgraph를 사용하여 리팩터링하십시오. Langgraph Studio로 복잡한 흐름을 시각화하고 디버깅하십시오.
테스트 및 평가 : Langsmith를 사용하여 흥미로운 에지 케이스를 수집하고 테스트 데이터 세트를 만듭니다. 응용 프로그램의 품질이 일관되게 향상되도록 자동 평가를 설정하십시오.
배포 및 모니터 : 확장 가능한 상태의 워크 플로우를 위해 Langgraph 플랫폼을 사용하여 에이전트를 배포하십시오. 더 간단한 체인의 경우 Langserve를 사용하여 REST API를 만듭니다. Langsmith Alerts를 설정하여 생산에서 앱을 모니터링하십시오.

틀 최종 생각

Crewai와 같은 많은 인기있는 프레임 워크는 실제로 Langchain 생태계 위에 세워져 있습니다. 추가 레이어를 추가하는 대신 Langchain, Langgraph 및 기본 도구를 사용하여 복잡한 AI 응용 프로그램을 빌드, 테스트, 배포 및 모니터링하여 워크 플로를 간소화 할 수 있습니다.

여러 프로젝트를 구축하고 배치 한 후, 나는 핵심 Langchain 스택을 고수하면 단순하고 유연하며 생산 준비가 된 것을 유지한다는 것을 알게되었습니다.

Langchain 생태계가 이미 현대 AI 개발에 필요한 모든 것을 제공 할 때 추가 종속성으로 물건을 복잡하게하는 이유는 무엇입니까?

Abid Ali Awan (@1abidaliawan)은 기계 학습 모델 구축을 좋아하는 공인 데이터 과학자입니다. 현재 그는 컨텐츠 제작 및 기계 학습 및 데이터 과학 기술에 대한 기술 블로그 작성에 중점을두고 있습니다. Abid는 기술 관리 석사 학위와 통신 공학 학사 학위를 취득했습니다. 그의 비전은 정신 질환으로 어려움을 겪고있는 학생들을위한 그래프 신경망을 사용하여 AI 제품을 구축하는 것입니다.

출처 참조