요약
검색 증강 세대는 데이터베이스를 큰 언어 모델의 기능에 연결합니다. 모델의 학습 데이터에 의존하는 대신 사용자 고유의 테이블에서 현재 관련 정보를 제공합니다.
전체 RAG 패턴은 T-SQL에서 실행됩니다. 데이터베이스는 검색, 형식, 프롬프트, 호출, 구문 분석 등의 흐름을 오케스트레이션합니다. 애플리케이션 스택을 다시 설계하지 않고 저장 프로시저를 수정하여 기존 애플리케이션에 AI 기능을 추가할 수 있습니다.
이 모듈에서는 다음 방법을 알아보았습니다.
- RAG 사용 사례 식별: 데이터베이스 콘텐츠에서 LLM(대규모 언어 모델) 응답을 접지하면 정확도와 관련성이 향상되는 시나리오 인식
-
SQL에서 컨텍스트 준비: 쿼리 결과를 LLM이 효과적으로 처리할 수 있는 텍스트로 변환하는 데 사용
FOR JSON - 보강 프롬프트 생성: 시스템 지침, 검색된 컨텍스트 및 사용자 질문을 결합하는 요청 페이로드 빌드
-
RAG 파이프라인 실행:
sp_invoke_external_rest_endpoint를 사용하여 Azure OpenAI 엔드포인트 호출 후 응답 구문 분석