Agentic AI를 마스터하는 7단계

작성자별 이미지

# 소개

에이전트 AI 시스템 목표를 달성하기 위해 복잡한 작업을 세분화하고, 도구를 사용하고, 여러 단계에 걸쳐 의사결정을 내릴 수 있습니다. 단일 쿼리에 응답하는 단순한 챗봇과 달리 상담원은 결과에 따라 접근 방식을 계획, 실행 및 조정합니다. 이 기능은 이전 AI 시스템에서는 불가능했던 자동화 및 문제 해결 가능성을 열어줍니다.

효과적인 에이전트를 구축하려면 통제력과 안정성을 유지하면서 AI 시스템에 주체를 부여하는 방법을 이해해야 합니다. 에이전트 AI 개발을 마스터하기 위한 7단계는 다음과 같습니다.

# 1단계: 핵심 에이전트 루프 이해

모든 에이전트는 기본 주기를 따릅니다. 현재 상태를 관찰하고, 다음에 무엇을 해야 할지 추론하고, 조치를 취하고, 결과를 관찰합니다.. 이 루프는 에이전트가 작업을 완료하거나 진행할 수 없다고 판단할 때까지 계속됩니다.

• 관찰 단계에는 어떤 정보가 이용 가능하고 목표가 무엇인지 이해하는 것이 포함됩니다.
• 추론 단계에서는 LLM(대형 언어 모델)이 지침과 현재 상태를 기반으로 어떤 조치를 취할지 결정합니다.
• 작업 단계에서는 API 호출, 코드 실행, 정보 검색 등의 결정을 실행합니다.
• 마지막으로 에이전트는 결과를 관찰하고 이를 다음 추론 단계에 통합합니다.

이 루프를 이해하는 것이 기본입니다. 각 구성 요소는 실패하거나 예상치 못한 결과를 초래할 수 있습니다. 에이전트 디자인은 이러한 가능성을 적절하게 처리해야 합니다. 코드를 작성하기 전에 이 주기를 중심으로 정신 모델을 구축하세요.

당신은 읽을 수 있습니다 꼭 알아야 할 7가지 에이전트 AI 디자인 패턴 에이전트 디자인 패턴의 개요를 얻으려면

# 2단계: 명확한 작업 경계 및 목표 정의

상담원에게는 잘 정의된 목표가 필요합니다.. 모호한 목표는 에이전트가 관련 없는 작업을 수행하거나 작업이 언제 완료되었는지 전혀 인식하지 못하는 혼란스러운 행동으로 이어집니다. 작업 정의에서는 성공의 형태와 적용되는 제약 조건을 지정해야 합니다.

고객 서비스 상담원의 경우 성공은 고객의 문제를 해결하거나 담당자에게 올바르게 에스컬레이션하는 것일 수 있습니다. 제약 조건에는 특정 금액 이상의 환불을 약속하지 않는 것이 포함될 수 있습니다. 이러한 경계는 에이전트가 목표를 추구하는 동안 부적절한 행동을 취하는 것을 방지합니다.

에이전트가 확인할 수 있는 명시적인 목표 기준 작성. “사용자를 도와주세요” 대신 “지식 기반을 사용하여 사용자의 질문에 대답하거나 질문에 사람의 도움이 필요함을 알립니다.”를 지정하세요. 구체적인 목표는 구체적인 평가를 가능하게 합니다.

# 3단계: 에이전트에 적합한 도구 선택

도구는 에이전트가 환경과 상호작용하기 위해 호출할 수 있는 기능입니다.. 여기에는 데이터베이스 검색, API 호출, 코드 실행, 파일 읽기 또는 메시지 보내기가 포함될 수 있습니다. 귀하가 제공하는 도구는 에이전트의 기능을 정의합니다.

최소한의 도구 세트로 시작하세요. 모든 도구는 복잡성과 잠재적인 실패 모드를 추가합니다. 에이전트가 정보를 검색해야 하는 경우 검색 도구를 제공하세요. 계산을 수행해야 하는 경우 계산기나 코드 실행 도구를 제공하십시오. 조치를 취해야 하는 경우 해당 조치에 대한 특정 기능을 제공하십시오.

상담원의 프롬프트에 각 도구를 명확하게 문서화하세요. 도구의 목적, 필수 매개변수, 예상되는 결과를 포함합니다. 좋은 도구 설명은 상담원이 각 상황에 적합한 도구를 선택하는 데 도움이 됩니다. 잘못된 설명은 도구의 오용과 오류로 이어집니다.

도구에 적절한 오류 처리를 구현하십시오. 도구가 실패하면 에이전트가 무엇이 잘못되었는지 이해하고 잠재적으로 다른 접근 방식을 시도하는 데 도움이 되는 정보 오류 메시지를 반환합니다.

읽다 에이전트 워크플로란 무엇입니까? 패턴, 사용 사례, 예제 등 도구, 메모리 및 검색을 통해 LLM을 강화하여 에이전트 및 워크플로를 구축하는 방법을 이해합니다. 건물을 통해 배우고 싶다면 Python을 이용한 Agentic AI 실습: 비디오 튜토리얼.

# 4단계: 효과적인 프롬프트 및 지침 설계

당신의 상담원의 시스템 프롬프트 사용 설명서입니다. 이 프롬프트는 상담원의 목적, 사용 가능한 도구, 문제를 추론하는 방법, 응답 형식을 지정하는 방법을 설명합니다. 신속한 품질은 상담원의 신뢰성에 직접적인 영향을 미칩니다.

상담원의 역할과 목표, 사용 가능한 도구와 사용 방법, 추론 전략, 출력 형식 요구 사항, 제약 조건 또는 규칙 등 명확한 섹션을 사용하여 프롬프트를 구성하세요. 예시를 사용하여 상담원에게 일반적인 시나리오를 처리하는 방법을 보여주세요.

명시적인 추론 지침을 포함합니다. 상담원에게 단계별로 생각하고, 행동하기 전에 정보를 확인하고, 불확실성을 인정하고, 필요할 때 설명을 요청하도록 지시하세요. 이러한 메타인지 지침은 의사결정의 질을 향상시킵니다.

복잡한 작업의 경우 실행하기 전에 에이전트에게 계획을 작성하도록 지시하세요. 에이전트가 접근 방식을 간략하게 설명하는 계획 단계는 직접 조치를 취하는 것보다 일관성 있는 실행으로 이어지는 경우가 많습니다.

# 5단계: 강력한 상태 및 메모리 관리 구현

에이전트는 여러 턴에 걸쳐 작업하며 작업하면서 컨텍스트를 구축합니다. 상태와 메모리 모두 관리 효과적으로 필요합니다. 에이전트는 대화 기록, 이전 작업 결과, 수집한 중간 데이터에 액세스해야 합니다.

상태 표현을 신중하게 디자인하세요. 상담원은 어떤 정보를 추적해야 합니까? 연구 대리인의 경우 여기에는 이미 시도한 쿼리, 찾은 소스 및 추출된 정보가 포함될 수 있습니다. 일정 관리 담당자의 경우 사용 가능한 시간 슬롯, 참가자 기본 설정 및 제약 조건이 포함될 수 있습니다.

토큰 제한을 고려하세요. 긴 대화는 컨텍스트 창을 초과할 수 있으므로 메모리 관리 전략을 구현해야 합니다.

• 요약은 주요 사실을 보존하면서 오래된 상호 작용을 간결한 요약으로 압축합니다.
• 슬라이딩 창은 이전 컨텍스트를 압축하거나 삭제하는 동안 최근 교환 내용을 완전히 자세하게 유지합니다.
• 선택적 보존은 사용자 기본 설정, 작업 목표 또는 중요한 결정과 같은 중요한 정보를 식별하고 보존하는 동시에 관련성이 낮은 세부 정보를 제거합니다.

복잡한 에이전트의 경우 단기 및 장기 기억을 모두 구현합니다. 단기 기억은 현재 작업에 필요한 즉각적인 맥락을 보유합니다. 장기 기억은 사용자 선호도, 학습된 패턴 또는 참조 데이터와 같이 세션 전반에 걸쳐 지속되어야 하는 정보를 저장합니다. 필요할 때 에이전트가 쿼리할 수 있는 데이터베이스 또는 벡터 저장소에 장기 메모리를 저장합니다.

상태 변경 사항을 에이전트에 표시합니다. 작업으로 인해 상태가 수정되면 무엇이 변경되었는지 에이전트에게 명확하게 보여주세요. 이는 해당 작업의 효과를 이해하고 그에 따라 다음 단계를 계획하는 데 도움이 됩니다. 에이전트가 안정적으로 구문 분석하고 추론할 수 있도록 상태 업데이트의 형식을 일관되게 지정합니다.

당신은 읽을 수 있습니다 AI 에이전트 메모리: 작동 내용, 이유 및 방식 AI 에이전트의 메모리에 대한 자세한 개요는 mem0 팀에서 제공합니다.

# 6단계: 가드레일 및 안전 조치 구축

에이전트 시스템에는 유해하거나 의도하지 않은 동작을 방지하기 위한 제약이 필요합니다. 이러한 가드레일은 여러 수준에서 작동합니다. 에이전트가 액세스할 수 있는 도구, 해당 도구가 수행할 수 있는 작업, 에이전트가 자율적으로 내릴 수 있는 결정.

고위험 작업에 대한 조치 확인을 구현합니다. 에이전트가 이메일을 보내거나, 구매하거나, 데이터를 삭제하기 전에 사람의 승인을 필수로 설정하세요. 이것 인간 참여형(Human-In-The-Loop) 접근 방식 일상적인 작업에 대한 자동화를 제공하는 동시에 비용이 많이 드는 실수를 방지합니다.

상담원 행동에 대한 명확한 제한을 설정하세요. 최대 루프 반복 횟수는 무한 루프를 방지합니다. 최대 비용 예산은 외부 시스템의 부담을 방지합니다. 속도 제한은 외부 시스템의 부담을 방지합니다.

실패 모드를 모니터링합니다. 에이전트가 동일한 실패 작업을 반복적으로 시도하는 경우 개입하십시오. 존재하지 않는 환각적인 도구 호출이 시작되면 중지하십시오. 작업에서 벗어나면 리디렉션하세요. 문제가 발생하면 실행을 중단하는 회로 차단기를 구현합니다.

모든 상담원의 행동과 결정을 기록하세요. 이 감사 추적은 디버깅하고 에이전트가 프로덕션에서 어떻게 작동하는지 이해하는 데 매우 중요합니다. 문제가 발생하면 로그를 통해 상담원이 무엇을 생각하고 행동했는지 정확하게 알 수 있습니다.

당신은 확인할 수 있습니다 AI 에이전트를 위한 고급 가드레일 자세한 내용은 James Briggs의 튜토리얼을 참조하세요.

# 7단계: 지속적인 테스트, 평가 및 개선

에이전트 행동은 단일 턴 완료보다 예측하기가 어렵습니다. 모든 시나리오를 예상할 수는 없으므로 엄격한 테스트가 필수적입니다. 일반적인 시나리오, 엣지 케이스, 실패 모드를 다루는 테스트 케이스를 만듭니다.

작업 완료와 행동 품질을 모두 평가합니다. 상담원이 목표를 달성했나요? 그렇게 효율적으로 했나요? 지침과 제약사항을 따랐나요? 오류를 적절하게 처리했습니까? 이 모든 차원이 중요합니다.

적대적인 입력으로 테스트:

• 도구가 예상치 못한 데이터를 반환하면 어떻게 되나요?
• 사용자가 모순되는 지침을 제공하면 어떻게 되나요?
• 외부 API가 다운되면 어떻게 되나요?

강력한 에이전트는 이를 중단하지 않고 우아하게 처리합니다. 또한 가능한 경우 성능을 정량적으로 측정합니다. 성공률, 완료까지의 단계 수, 도구 사용 패턴 및 작업당 비용을 추적하세요. 이러한 지표는 개선 사항을 식별하고 회귀를 파악하는 데 도움이 됩니다.

사용자 피드백이 중요합니다. 실제 사용에서는 테스트에서 놓친 문제가 드러납니다. 사용자가 문제를 신고하면 상담원의 결정 프로세스를 추적하여 무엇이 잘못되었는지 파악하세요. 즉각적인 문제였나요? 도구 문제인가요? 추론 실패? 이러한 통찰력을 사용하여 에이전트를 개선하세요.

더 자세히 알아보고 싶다면 다음을 통해 이동하세요. AI 에이전트 평가 DeepLearning.AI의 ​​강좌입니다.

# 결론

Agentic AI는 상당한 관심과 채택을 얻은 흥미로운 분야입니다. 따라서 항상 새로운 프레임워크와 향상된 디자인 패턴이 있을 것입니다.

최신 개발 상황을 유지하는 것이 필수적입니다. 그러나 명확한 목표 설정, 적절한 도구, 좋은 프롬프트, 강력한 상태 및 메모리 관리, 적절한 가드레일, 지속적인 평가와 같은 기본 사항은 변하지 않습니다. 그러니 그들에게 집중하세요.

이러한 기본 사항을 숙지하고 나면 실제 문제를 안정적으로 해결하는 에이전트를 구축할 수 있습니다. 인상적인 데모와 바로 제작 가능한 에이전트의 차이점은 사려 깊은 디자인, 신중한 제약 조건 관리, 엄격한 테스트 및 평가에 있습니다. 계속 건설하세요! 또한 에이전트 AI를 스스로 가르치고 싶다면 다음을 확인하세요. Agentic AI: 자율 학습 로드맵 체계화된 학습 경로를 위해

# 유용한 학습 리소스

소녀 프리야 C 인도 출신의 개발자이자 기술 작가입니다. 그녀는 수학, 프로그래밍, 데이터 과학, 콘텐츠 제작의 교차점에서 일하는 것을 좋아합니다. 그녀의 관심 분야와 전문 분야에는 DevOps, 데이터 과학, 자연어 처리가 포함됩니다. 그녀는 읽기, 쓰기, 코딩, 커피를 즐깁니다! 현재 그녀는 튜토리얼, 방법 가이드, 의견 등을 작성하여 개발자 커뮤니티에서 자신의 지식을 학습하고 공유하는 데 힘쓰고 있습니다. Bala는 또한 매력적인 리소스 개요와 코딩 튜토리얼을 만듭니다.