Riassunto

  • 3 minuti

RAG (Retrieval Augmented Generation) collega il database alle funzionalità dei modelli linguistici di grandi dimensioni. Invece di basarsi sui dati di training di un modello, è possibile fornire informazioni aggiornate e rilevanti dalle tabelle personalizzate.

L'intero modello RAG viene eseguito in T-SQL. Il database orchestra il flusso: ricerca, formato, richiesta, chiamata, analisi. È possibile aggiungere funzionalità di intelligenza artificiale alle applicazioni esistenti modificando le stored procedure, senza riprogettare lo stack di applicazioni.

In questo modulo, hai imparato come:

  • Identificare i casi d'uso RAG: Riconoscere gli scenari in cui ancorare le risposte dei modelli di linguaggio di grandi dimensioni (LLM) nel contenuto del database migliora l'accuratezza e la pertinenza
  • Preparare il contesto da SQL: usare FOR JSON per convertire i risultati delle query in testo che LLM possono elaborare in modo efficace
  • Creare richieste aumentate: compilare payload delle richieste che combinano istruzioni di sistema, contesto recuperato e domande utente
  • Eseguire la pipeline RAG: chiamare gli endpoint OpenAI di Azure usando sp_invoke_external_rest_endpoint e analizzare le risposte

Ulteriori informazioni