RAG에서 환각 감지 | 데이터 과학을 향하여
RAG의 출력이 얼마나 정확한지 측정하는 방법
나는 최근 벡터 스토어 지원 RAG보다 Graph RAG를 더 선호하기 시작했습니다.
벡터 데이터베이스에 대한 위반은 없습니다. 대부분의 경우 환상적으로 작동합니다. 주의할 점은 올바른 컨텍스트를 검색하려면 텍스트에 명시적인 언급이 필요하다는 것입니다.
이에 대한 해결 방법이 있으며 이전 게시물에서 몇 가지를 다루었습니다.
예를 들어 ColBERT 및 다중 표현은 RAG 앱을 구축할 때 고려해야 할 유용한 검색 모델입니다.
GraphRAG는 검색 문제로 인해 고통을 덜 받습니다(문제가 없다고는 말하지 않았습니다.) 검색에 추론이 필요할 때마다 GraphRAG는 탁월한 성능을 발휘합니다.
관련 컨텍스트를 제공하면 LLM 기반 응용 프로그램의 주요 문제인 환각이 해결됩니다. 그러나 환각이 완전히 제거되는 것은 아닙니다.
뭔가를 고칠 수 없을 때는 그것을 측정합니다. 그리고 이것이 이번 포스팅의 핵심입니다. 다시 말해서, RAG 앱을 어떻게 평가하나요??
%20(5).png?w=300&resize=300,300&ssl=1 "Apple은 사용자 데이터를 개인적으로 분석하여 AI 모델을 개선하는 방법에 대해 자세히 설명합니다.")
Post Comment