Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Go istemci kitaplığıyla Azure DocumentDB'de vektör aramasını kullanın. Vektör verilerini verimli bir şekilde depolayın ve sorgulayın.
Bu hızlı başlangıçta, modelden text-embedding-3-small önceden hesaplanmış vektörlere sahip bir JSON dosyasında örnek bir otel veri kümesi kullanılmaktadır. Veri kümesi otel adlarını, konumlarını, açıklamalarını ve vektör eklemelerini içerir.
GitHub'da örnek kodu bulun.
Prerequisites
Azure aboneliği
- Azure aboneliğiniz yoksa ücretsiz bir hesap oluşturun
Mevcut bir Azure DocumentDB kümesi
-
Özel alan adı yapılandırıldı
text-embedding-3-smalldağıtılan model
Azure Cloud Shell'de Bash ortamını kullanın. Daha fazla bilgi için bkz. Azure Cloud Shell'i kullanmaya başlama.
CLI referans komutlarını yerel olarak çalıştırmayı tercih ediyorsanız, Azure CLI'yi yükleyin. Windows veya macOS üzerinde çalışıyorsanız, Azure CLI'yi bir Docker konteynerinde çalıştırmayı düşünün. Daha fazla bilgi için Azure CLI'nin bir Docker konteynerında nasıl çalıştırılacağını inceleyin.
Yerel bir kurulum kullanıyorsanız, az login komutunu kullanarak Azure CLI'ye giriş yapın. Kimlik doğrulama işlemini tamamlamak için, terminalinizde görüntülenen adımları takip edin. Diğer oturum açma seçenekleri için bkz. Azure CLI kullanarak Azure'da kimlik doğrulaması.
İstendiğinde, ilk kullanımda Azure CLI uzantısını yükleyin. Uzantılar hakkında daha fazla bilgi için bkz. Azure CLI ile uzantıları kullanma ve yönetme.
Yüklü olan sürümü ve bağımlı kütüphaneleri bulmak için az version komutunu çalıştırın. En son sürüme yükseltmek için az upgrade komutunu çalıştırın.
- Go sürüm 1.24 veya üzeri
Vektörlerle veri dosyası oluşturma
Oteller veri dosyası için yeni bir veri dizini oluşturun:
mkdir dataVektörleri olan
Hotels_Vector.jsonham veri dosyasını dizininizedatakopyalayın.
Go projesi oluşturma
Projeniz için yeni bir dizin oluşturun ve Visual Studio Code'da açın:
mkdir vector-search-quickstart cd vector-search-quickstart code .Go modülünü başlatma:
go mod init vector-search-quickstartGerekli Go paketlerini yükleyin:
go get go.mongodb.org/mongo-driver go get github.com/Azure/azure-sdk-for-go/sdk/azcore go get github.com/Azure/azure-sdk-for-go/sdk/azidentity go get github.com/openai/openai-go/v3 go get github.com/joho/godotenv-
go.mongodb.org/mongo-driver: MongoDB Go sürücüsü -
github.com/Azure/azure-sdk-for-go/sdk/azcore: HTTP işlem hatları ve kimlik doğrulaması için Azure SDK temel yardımcı programları -
github.com/Azure/azure-sdk-for-go/sdk/azidentity: Parolasız belirteç tabanlı kimlik doğrulaması için Azure Kimlik kitaplığı -
github.com/openai/openai-go/v3: Vektör oluşturmak için OpenAI Go istemci kitaplığı -
github.com/joho/godotenv: .env dosyalarından ortam değişkeni yükleniyor
-
Ortam değişkenleri için proje kökünde bir
.envdosya oluşturun:# Identity for local developer authentication with Azure CLI AZURE_TOKEN_CREDENTIALS=AzureCliCredential # Azure OpenAI Embedding Settings AZURE_OPENAI_EMBEDDING_MODEL=text-embedding-3-small AZURE_OPENAI_EMBEDDING_API_VERSION=2023-05-15 AZURE_OPENAI_EMBEDDING_ENDPOINT=<AZURE_OPENAI_ENDPOINT> EMBEDDING_SIZE_BATCH=16 # Azure DocumentDB configuration MONGO_CLUSTER_NAME=<DOCUMENTDB_NAME> # Data file DATA_FILE_WITH_VECTORS=../data/Hotels_Vector.json EMBEDDED_FIELD=DescriptionVector EMBEDDING_DIMENSIONS=1536 LOAD_SIZE_BATCH=50Dosyadaki
.envyer tutucu değerlerini kendi bilgilerinizle değiştirin:-
AZURE_OPENAI_EMBEDDING_ENDPOINT: Azure OpenAI kaynak uç noktası URL'niz -
MONGO_CLUSTER_NAME: Azure DocumentDB kaynak adınız
Her zaman parolasız kimlik doğrulamasını tercih etmelisiniz, ancak ek kurulum gerektirir. Yönetilen kimliği ayarlama ve kimlik doğrulama seçeneklerinizin tamamı hakkında daha fazla bilgi için bkz. Azure Kimlik kitaplığını kullanarak Azure hizmetlerinde Go uygulamalarının kimliğini doğrulama.
-
Vektör araması için Go kaynak dosyaları oluşturma
Vektör araması için kod dosyaları oluşturarak projeye devam edin.
Go dosyalarınız için bir src dizin oluşturun. İki dosya ekleyin: diskann.go ve utils.go DiskANN dizin uygulaması için:
mkdir src
touch src/diskann.go
touch src/utils.go
İşiniz bittiğinde proje yapısı şu şekilde görünmelidir:
data
│── Hotels_Vector.json
vector-search-quickstart
├── .env
├── go.mod
├── src
│ ├── diskann.go
│ └── utils.go
Vektör araması için kod oluşturma
src/diskann.go dosyasına aşağıdaki kodu ekleyin:
package main
import (
"context"
"fmt"
"log"
"strings"
"time"
"go.mongodb.org/mongo-driver/bson"
"go.mongodb.org/mongo-driver/mongo"
"github.com/openai/openai-go/v3"
)
// CreateDiskANNVectorIndex creates a DiskANN vector index on the specified field
func CreateDiskANNVectorIndex(ctx context.Context, collection *mongo.Collection, vectorField string, dimensions int) error {
fmt.Printf("Creating DiskANN vector index on field '%s'...\n", vectorField)
// Drop any existing vector indexes on this field first
err := DropVectorIndexes(ctx, collection, vectorField)
if err != nil {
fmt.Printf("Warning: Could not drop existing indexes: %v\n", err)
}
// Use the native MongoDB command for DocumentDB vector indexes
// Note: Must use bson.D for commands to preserve order and avoid "multi-key map" errors
indexCommand := bson.D{
{"createIndexes", collection.Name()},
{"indexes", []bson.D{
{
{"name", fmt.Sprintf("diskann_index_%s", vectorField)},
{"key", bson.D{
{vectorField, "cosmosSearch"}, // DocumentDB vector search index type
}},
{"cosmosSearchOptions", bson.D{
// DiskANN algorithm configuration
{"kind", "vector-diskann"},
// Vector dimensions must match the embedding model
{"dimensions", dimensions},
// Vector similarity metric - cosine is good for text embeddings
{"similarity", "COS"},
// Maximum degree: number of edges per node in the graph
// Higher values improve accuracy but increase memory usage
{"maxDegree", 20},
// Build parameter: candidates evaluated during index construction
// Higher values improve index quality but increase build time
{"lBuild", 10},
}},
},
}},
}
// Execute the createIndexes command directly
var result bson.M
err = collection.Database().RunCommand(ctx, indexCommand).Decode(&result)
if err != nil {
// Check if it's a tier limitation and suggest alternatives
if strings.Contains(err.Error(), "not enabled for this cluster tier") {
fmt.Println("\nDiskANN indexes require a higher cluster tier.")
fmt.Println("Try one of these alternatives:")
fmt.Println(" • Upgrade your DocumentDB cluster to a higher tier")
fmt.Println(" • Use HNSW instead: go run src/hnsw.go")
fmt.Println(" • Use IVF instead: go run src/ivf.go")
}
return fmt.Errorf("error creating DiskANN vector index: %v", err)
}
fmt.Println("DiskANN vector index created successfully")
return nil
}
// PerformDiskANNVectorSearch performs a vector search using DiskANN algorithm
func PerformDiskANNVectorSearch(ctx context.Context, collection *mongo.Collection, openAIClient openai.Client, queryText, vectorField, modelName string, topK int) ([]SearchResult, error) {
fmt.Printf("Performing DiskANN vector search for: '%s'\n", queryText)
// Generate embedding for the query text
queryEmbedding, err := GenerateEmbedding(ctx, openAIClient, queryText, modelName)
if err != nil {
return nil, fmt.Errorf("error generating embedding: %v", err)
}
// Construct the aggregation pipeline for vector search
// DocumentDB uses $search with cosmosSearch
pipeline := []bson.M{
{
"$search": bson.M{
// Use cosmosSearch for vector operations in DocumentDB
"cosmosSearch": bson.M{
// The query vector to search for
"vector": queryEmbedding,
// Field containing the document vectors to compare against
"path": vectorField,
// Number of final results to return
"k": topK,
},
},
},
{
// Add similarity score to the results
"$project": bson.M{
"document": "$$ROOT",
// Add search score from metadata
"score": bson.M{"$meta": "searchScore"},
},
},
}
// Execute the aggregation pipeline
cursor, err := collection.Aggregate(ctx, pipeline)
if err != nil {
return nil, fmt.Errorf("error performing DiskANN vector search: %v", err)
}
defer cursor.Close(ctx)
var results []SearchResult
for cursor.Next(ctx) {
var result SearchResult
if err := cursor.Decode(&result); err != nil {
fmt.Printf("Warning: Could not decode result: %v\n", err)
continue
}
results = append(results, result)
}
if err := cursor.Err(); err != nil {
return nil, fmt.Errorf("cursor error: %v", err)
}
return results, nil
}
// main function demonstrates DiskANN vector search functionality
func main() {
ctx := context.Background()
// Load configuration from environment variables
config := LoadConfig()
fmt.Println("\nInitializing MongoDB and Azure OpenAI clients...")
mongoClient, azureOpenAIClient, err := GetClientsPasswordless()
if err != nil {
log.Fatalf("Failed to initialize clients: %v", err)
}
defer mongoClient.Disconnect(ctx)
// Get database and collection
database := mongoClient.Database(config.DatabaseName)
collection := database.Collection("hotels_diskann")
// Load data with embeddings
fmt.Printf("\nLoading data from %s...\n", config.DataFile)
data, err := ReadFileReturnJSON(config.DataFile)
if err != nil {
log.Fatalf("Failed to load data: %v", err)
}
fmt.Printf("Loaded %d documents\n", len(data))
// Verify embeddings are present
var documentsWithEmbeddings []map[string]interface{}
for _, doc := range data {
if _, exists := doc[config.VectorField]; exists {
documentsWithEmbeddings = append(documentsWithEmbeddings, doc)
}
}
if len(documentsWithEmbeddings) == 0 {
log.Fatalf("No documents found with embeddings in field '%s'. Please run create_embeddings.go first.", config.VectorField)
}
// Insert data into collection
fmt.Printf("\nInserting data into collection '%s'...\n", config.CollectionName)
// Clear existing data to ensure clean state
deleteResult, err := collection.DeleteMany(ctx, bson.M{})
if err != nil {
log.Fatalf("Failed to clear existing data: %v", err)
}
if deleteResult.DeletedCount > 0 {
fmt.Printf("Cleared %d existing documents from collection\n", deleteResult.DeletedCount)
}
// Insert the hotel data
stats, err := InsertData(ctx, collection, documentsWithEmbeddings, config.BatchSize, nil)
if err != nil {
log.Fatalf("Failed to insert data: %v", err)
}
if stats.Inserted == 0 {
log.Fatalf("No documents were inserted successfully")
}
fmt.Printf("Insertion completed: %d inserted, %d failed\n", stats.Inserted, stats.Failed)
// Create DiskANN vector index
err = CreateDiskANNVectorIndex(ctx, collection, config.VectorField, config.Dimensions)
if err != nil {
log.Fatalf("Failed to create DiskANN vector index: %v", err)
}
// Wait briefly for index to be ready
fmt.Println("Waiting for index to be ready...")
time.Sleep(2 * time.Second)
// Perform sample vector search
query := "quintessential lodging near running trails, eateries, retail"
results, err := PerformDiskANNVectorSearch(
ctx,
collection,
azureOpenAIClient,
query,
config.VectorField,
config.ModelName,
5,
)
if err != nil {
log.Fatalf("Failed to perform vector search: %v", err)
}
// Display results
PrintSearchResults(results, 5, true)
fmt.Println("\nDiskANN demonstration completed successfully!")
}
Bu ana modül şu özellikleri sağlar:
- Yardımcı program işlevlerini içerir
- Ortam değişkenleri için yapılandırma yapısı oluşturur
- Azure OpenAI ve Azure DocumentDB için istemciler oluşturur
- MongoDB'ye bağlanır, veritabanı ve koleksiyon oluşturur, veri ekler ve standart dizinler oluşturur
- IVF, HNSW veya DiskANN kullanarak vektör dizini oluşturur
- OpenAI istemcisini kullanarak örnek sorgu metni için ekleme oluşturur. Sorguyu ana işlevde değiştirebilirsiniz
- Ekleme işlemini kullanarak vektör araması çalıştırır ve sonuçları yazdırır
Yardımcı program işlevleri oluşturma
Aşağıdaki kodu src/utils.go dosyasına ekleyin:
package main
import (
"context"
"encoding/json"
"fmt"
"log"
"os"
"strconv"
"strings"
"time"
"github.com/Azure/azure-sdk-for-go/sdk/azcore/policy"
"github.com/Azure/azure-sdk-for-go/sdk/azidentity"
"github.com/joho/godotenv"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/azure"
"github.com/openai/openai-go/v3/option"
"go.mongodb.org/mongo-driver/bson"
"go.mongodb.org/mongo-driver/mongo"
"go.mongodb.org/mongo-driver/mongo/options"
)
// Config holds the application configuration
type Config struct {
ClusterName string
DatabaseName string
CollectionName string
DataFile string
VectorField string
ModelName string
Dimensions int
BatchSize int
}
// SearchResult represents a search result document
type SearchResult struct {
Document interface{} `bson:"document"`
Score float64 `bson:"score"`
}
// HotelData represents a hotel document structure
type HotelData struct {
HotelName string `bson:"HotelName" json:"HotelName"`
Description string `bson:"Description" json:"Description"`
DescriptionVector []float64 `bson:"DescriptionVector,omitempty" json:"DescriptionVector,omitempty"`
// Add other fields as needed
}
// InsertStats holds statistics about data insertion
type InsertStats struct {
Total int `json:"total"`
Inserted int `json:"inserted"`
Failed int `json:"failed"`
}
// LoadConfig loads configuration from environment variables
func LoadConfig() *Config {
// Load environment variables from .env file
// For production use, prefer Azure Key Vault or similar secret management
// services instead of .env files. For development/demo purposes only.
err := godotenv.Load()
if err != nil {
log.Printf("Warning: Error loading .env file: %v", err)
}
dimensions, _ := strconv.Atoi(getEnvOrDefault("EMBEDDING_DIMENSIONS", "1536"))
batchSize, _ := strconv.Atoi(getEnvOrDefault("LOAD_SIZE_BATCH", "100"))
return &Config{
ClusterName: getEnvOrDefault("MONGO_CLUSTER_NAME", "vectorSearch"),
DatabaseName: "Hotels",
CollectionName: "vectorSearchCollection",
DataFile: getEnvOrDefault("DATA_FILE_WITH_VECTORS", "../data/Hotels_Vector.json"),
VectorField: getEnvOrDefault("EMBEDDED_FIELD", "DescriptionVector"),
ModelName: getEnvOrDefault("AZURE_OPENAI_EMBEDDING_MODEL", "text-embedding-3-small"),
Dimensions: dimensions,
BatchSize: batchSize,
}
}
// getEnvOrDefault returns environment variable value or default if not set
func getEnvOrDefault(key, defaultValue string) string {
if value := os.Getenv(key); value != "" {
return value
}
return defaultValue
}
// GetClients creates MongoDB and Azure OpenAI clients with connection string authentication
func GetClients() (*mongo.Client, openai.Client, error) {
ctx := context.Background()
// Get MongoDB connection string
mongoConnectionString := os.Getenv("MONGO_CONNECTION_STRING")
if mongoConnectionString == "" {
return nil, openai.Client{}, fmt.Errorf("MONGO_CONNECTION_STRING environment variable is required. " +
"Set it to your DocumentDB connection string or use GetClientsPasswordless() for OIDC auth")
}
// Create MongoDB client with optimized settings for DocumentDB
clientOptions := options.Client().
ApplyURI(mongoConnectionString).
SetMaxPoolSize(50).
SetMinPoolSize(5).
SetMaxConnIdleTime(30 * time.Second).
SetServerSelectionTimeout(5 * time.Second).
SetSocketTimeout(20 * time.Second)
mongoClient, err := mongo.Connect(ctx, clientOptions)
if err != nil {
return nil, openai.Client{}, fmt.Errorf("failed to connect to MongoDB: %v", err)
}
// Test the connection
err = mongoClient.Ping(ctx, nil)
if err != nil {
return nil, openai.Client{}, fmt.Errorf("failed to ping MongoDB: %v", err)
}
// Get Azure OpenAI configuration
azureOpenAIEndpoint := os.Getenv("AZURE_OPENAI_EMBEDDING_ENDPOINT")
azureOpenAIKey := os.Getenv("AZURE_OPENAI_EMBEDDING_KEY")
if azureOpenAIEndpoint == "" || azureOpenAIKey == "" {
return nil, openai.Client{}, fmt.Errorf("Azure OpenAI endpoint and key are required")
}
// Create Azure OpenAI client
openAIClient := openai.NewClient(
option.WithBaseURL(fmt.Sprintf("%s/openai/v1", azureOpenAIEndpoint)),
option.WithAPIKey(azureOpenAIKey))
return mongoClient, openAIClient, nil
}
// GetClientsPasswordless creates MongoDB and Azure OpenAI clients with passwordless authentication
func GetClientsPasswordless() (*mongo.Client, openai.Client, error) {
ctx := context.Background()
// Get MongoDB cluster name
clusterName := os.Getenv("MONGO_CLUSTER_NAME")
if clusterName == "" {
return nil, openai.Client{}, fmt.Errorf("MONGO_CLUSTER_NAME environment variable is required")
}
// Create Azure credential
credential, err := azidentity.NewDefaultAzureCredential(nil)
if err != nil {
return nil, openai.Client{}, fmt.Errorf("failed to create Azure credential: %v", err)
}
// Attempt OIDC authentication
mongoURI := fmt.Sprintf("mongodb+srv://%s.global.mongocluster.cosmos.azure.com/", clusterName)
fmt.Println("Attempting OIDC authentication...")
mongoClient, err := connectWithOIDC(ctx, mongoURI, credential)
if err != nil {
return nil, openai.Client{}, fmt.Errorf("OIDC authentication failed: %v", err)
}
fmt.Println("OIDC authentication successful!")
// Get Azure OpenAI endpoint
azureOpenAIEndpoint := os.Getenv("AZURE_OPENAI_EMBEDDING_ENDPOINT")
if azureOpenAIEndpoint == "" {
return nil, openai.Client{}, fmt.Errorf("AZURE_OPENAI_EMBEDDING_ENDPOINT environment variable is required")
}
// Create Azure OpenAI client with credential-based authentication
openAIClient := openai.NewClient(
option.WithBaseURL(fmt.Sprintf("%s/openai/v1", azureOpenAIEndpoint)),
azure.WithTokenCredential(credential))
return mongoClient, openAIClient, nil
}
// connectWithOIDC attempts to connect using OIDC authentication
func connectWithOIDC(ctx context.Context, mongoURI string, credential *azidentity.DefaultAzureCredential) (*mongo.Client, error) {
// Create OIDC machine callback using Azure credential
oidcCallback := func(ctx context.Context, args *options.OIDCArgs) (*options.OIDCCredential, error) {
scope := "https://ossrdbms-aad.database.windows.net/.default"
fmt.Printf("Getting token with scope: %s\n", scope)
token, err := credential.GetToken(ctx, policy.TokenRequestOptions{
Scopes: []string{scope},
})
if err != nil {
return nil, fmt.Errorf("failed to get token with scope %s: %v", scope, err)
}
fmt.Printf("Successfully obtained token")
return &options.OIDCCredential{
AccessToken: token.Token,
}, nil
}
// Set up MongoDB client options with OIDC authentication
clientOptions := options.Client().
ApplyURI(mongoURI).
SetConnectTimeout(30 * time.Second).
SetServerSelectionTimeout(30 * time.Second).
SetRetryWrites(true).
SetAuth(options.Credential{
AuthMechanism: "MONGODB-OIDC",
// For local development, don't set ENVIRONMENT=azure to allow custom callbacks
AuthMechanismProperties: map[string]string{
"TOKEN_RESOURCE": "https://ossrdbms-aad.database.windows.net",
},
OIDCMachineCallback: oidcCallback,
})
mongoClient, err := mongo.Connect(ctx, clientOptions)
if err != nil {
return nil, err
}
return mongoClient, nil
}
// connectWithConnectionString attempts to connect using a connection string
func connectWithConnectionString(ctx context.Context, connectionString string) (*mongo.Client, error) {
clientOptions := options.Client().
ApplyURI(connectionString).
SetMaxPoolSize(50).
SetMinPoolSize(5).
SetMaxConnIdleTime(30 * time.Second).
SetServerSelectionTimeout(5 * time.Second).
SetSocketTimeout(20 * time.Second)
mongoClient, err := mongo.Connect(ctx, clientOptions)
if err != nil {
return nil, err
}
return mongoClient, nil
}
// ReadFileReturnJSON reads a JSON file and returns the data as a slice of maps
func ReadFileReturnJSON(filePath string) ([]map[string]interface{}, error) {
file, err := os.ReadFile(filePath)
if err != nil {
return nil, fmt.Errorf("error reading file '%s': %v", filePath, err)
}
var data []map[string]interface{}
err = json.Unmarshal(file, &data)
if err != nil {
return nil, fmt.Errorf("error parsing JSON in file '%s': %v", filePath, err)
}
return data, nil
}
// WriteFileJSON writes data to a JSON file
func WriteFileJSON(data []map[string]interface{}, filePath string) error {
jsonData, err := json.MarshalIndent(data, "", " ")
if err != nil {
return fmt.Errorf("error marshalling data to JSON: %v", err)
}
err = os.WriteFile(filePath, jsonData, 0644)
if err != nil {
return fmt.Errorf("error writing to file '%s': %v", filePath, err)
}
fmt.Printf("Data successfully written to '%s'\n", filePath)
return nil
}
// InsertData inserts data into a MongoDB collection in batches
func InsertData(ctx context.Context, collection *mongo.Collection, data []map[string]interface{}, batchSize int, indexFields []string) (*InsertStats, error) {
totalDocuments := len(data)
insertedCount := 0
failedCount := 0
fmt.Printf("Starting batch insertion of %d documents...\n", totalDocuments)
// Create indexes if specified
if len(indexFields) > 0 {
for _, field := range indexFields {
indexModel := mongo.IndexModel{
Keys: bson.D{{Key: field, Value: 1}},
}
_, err := collection.Indexes().CreateOne(ctx, indexModel)
if err != nil {
fmt.Printf("Warning: Could not create index on %s: %v\n", field, err)
} else {
fmt.Printf("Created index on field: %s\n", field)
}
}
}
// Process data in batches
for i := 0; i < totalDocuments; i += batchSize {
end := i + batchSize
if end > totalDocuments {
end = totalDocuments
}
batch := data[i:end]
batchNum := (i / batchSize) + 1
// Convert to []interface{} for MongoDB driver
documents := make([]interface{}, len(batch))
for j, doc := range batch {
documents[j] = doc
}
// Insert batch
result, err := collection.InsertMany(ctx, documents, options.InsertMany().SetOrdered(false))
if err != nil {
// Handle bulk write errors
if bulkErr, ok := err.(mongo.BulkWriteException); ok {
inserted := len(bulkErr.WriteErrors)
insertedCount += len(batch) - inserted
failedCount += inserted
fmt.Printf("Batch %d had errors: %d inserted, %d failed\n", batchNum, len(batch)-inserted, inserted)
// Print specific error details
for _, writeErr := range bulkErr.WriteErrors {
fmt.Printf(" Error: %s\n", writeErr.Message)
}
} else {
// Handle unexpected errors
failedCount += len(batch)
fmt.Printf("Batch %d failed completely: %v\n", batchNum, err)
}
} else {
insertedCount += len(result.InsertedIDs)
fmt.Printf("Batch %d completed: %d documents inserted\n", batchNum, len(result.InsertedIDs))
}
// Small delay between batches
time.Sleep(100 * time.Millisecond)
}
return &InsertStats{
Total: totalDocuments,
Inserted: insertedCount,
Failed: failedCount,
}, nil
}
// DropVectorIndexes drops existing vector indexes on the specified field
func DropVectorIndexes(ctx context.Context, collection *mongo.Collection, vectorField string) error {
// Get all indexes for the collection
cursor, err := collection.Indexes().List(ctx)
if err != nil {
return fmt.Errorf("could not list indexes: %v", err)
}
defer cursor.Close(ctx)
var vectorIndexes []string
for cursor.Next(ctx) {
var index bson.M
if err := cursor.Decode(&index); err != nil {
continue
}
// Check if this is a vector index on the specified field
if key, ok := index["key"].(bson.M); ok {
if indexType, exists := key[vectorField]; exists && indexType == "cosmosSearch" {
if name, ok := index["name"].(string); ok {
vectorIndexes = append(vectorIndexes, name)
}
}
}
}
// Drop each vector index found
for _, indexName := range vectorIndexes {
fmt.Printf("Dropping existing vector index: %s\n", indexName)
_, err := collection.Indexes().DropOne(ctx, indexName)
if err != nil {
fmt.Printf("Warning: Could not drop index %s: %v\n", indexName, err)
}
}
if len(vectorIndexes) > 0 {
fmt.Printf("Dropped %d existing vector index(es)\n", len(vectorIndexes))
} else {
fmt.Println("No existing vector indexes found to drop")
}
return nil
}
// PrintSearchResults prints search results in a formatted way
func PrintSearchResults(results []SearchResult, maxResults int, showScore bool) {
if len(results) == 0 {
fmt.Println("No search results found.")
return
}
if maxResults > len(results) {
maxResults = len(results)
}
fmt.Printf("\nSearch Results (showing top %d):\n", maxResults)
fmt.Println(strings.Repeat("=", 80))
for i := 0; i < maxResults; i++ {
result := results[i]
// Extract HotelName from document (assuming bson.D structure)
doc := result.Document.(bson.D)
var hotelName string
for _, elem := range doc {
if elem.Key == "HotelName" {
hotelName = fmt.Sprintf("%v", elem.Value)
break
}
}
// Display results
fmt.Printf("%d. HotelName: %s", i+1, hotelName)
if showScore {
fmt.Printf(", Score: %.4f", result.Score)
}
fmt.Println()
}
}
// GenerateEmbedding generates an embedding for the given text using Azure OpenAI
func GenerateEmbedding(ctx context.Context, client openai.Client, text, modelName string) ([]float64, error) {
resp, err := client.Embeddings.New(ctx, openai.EmbeddingNewParams{
Input: openai.EmbeddingNewParamsInputUnion{
OfString: openai.String(text),
},
Model: modelName,
})
if err != nil {
return nil, fmt.Errorf("failed to generate embedding: %v", err)
}
if len(resp.Data) == 0 {
return nil, fmt.Errorf("no embedding data received")
}
// Convert []float32 to []float64
embedding := make([]float64, len(resp.Data[0].Embedding))
for i, v := range resp.Data[0].Embedding {
embedding[i] = float64(v)
}
return embedding, nil
}
Bu yardımcı program modülü şu özellikleri sağlar:
-
Config: Ortam değişkenleri için yapılandırma yapısı -
SearchResult: Puanlı arama sonucu belgelerinin yapısı -
HotelData: Otel belgelerini temsil eden yapı -
GetClients: Azure OpenAI ve Azure DocumentDB için istemciler oluşturur ve döndürür -
GetClientsPasswordless: Parolasız kimlik doğrulaması (OIDC) kullanarak istemciler oluşturur ve döndürür. Her iki kaynakta da RBAC'yi etkinleştirin ve Azure CLI'da oturum açın -
ReadFileReturnJSON: Bir JSON dosyasını okur ve içeriğini bir harita dilimi olarak döndürür -
WriteFileJSON: JSON dosyasına veri yazar -
InsertData: MongoDB koleksiyonuna toplu olarak veri ekler ve belirtilen alanlarda standart dizinler oluşturur -
PrintSearchResults: Puan ve otel adı dahil olmak üzere bir vektör aramasının sonuçlarını yazdırır -
GenerateEmbedding: Azure OpenAI kullanarak eklemeler oluşturur
Azure CLI ile kimlik doğrulaması
Uygulamayı çalıştırmadan önce Azure CLI'da oturum açın; böylece Azure kaynaklarına güvenli bir şekilde erişebilir.
az login
Kod, Azure DocumentDB ve Azure OpenAI'ye erişmek için yerel geliştirici kimlik doğrulamanızı kullanır. ayarladığınızda AZURE_TOKEN_CREDENTIALS=AzureCliCredential, bu ayar işleve kimlik doğrulaması için belirleyici olarak Azure CLI kimlik bilgilerini kullanmasını söyler. Kimlik doğrulaması, ortamda Azure kimlik bilgilerinizi bulmak için DefaultAzureCredential içindeki azidentity kullanır.
Azure Kimlik kitaplığını kullanarak Azure hizmetlerinde Go uygulamalarının kimliğini doğrulama hakkında daha fazla bilgi edinin.
Uygulamayı derleme ve çalıştırma
Go uygulamasını derleyin ve çalıştırın:
Uygulamanın günlük ve çıktıları şunları gösterir:
- Koleksiyon oluşturma ve veri ekleme durumu
- Vektör dizini oluşturma
- Otel adları ve benzerlik puanları ile arama sonuçları
Starting DiskANN vector search demonstration...
Initializing MongoDB and Azure OpenAI clients...
Attempting OIDC authentication...
OIDC authentication successful!
Loading data from ../data/Hotels_Vector.json...
Loaded 50 documents
Inserting data into collection 'hotels_diskann'...
Getting token with scope: https://ossrdbms-aad.database.windows.net/.default
Successfully obtained token
Starting batch insertion of 50 documents...
Batch 1 completed: 50 documents inserted
Insertion completed: 50 inserted, 0 failed
Creating DiskANN vector index on field 'DescriptionVector'...
No existing vector indexes found to drop
DiskANN vector index created successfully
Waiting for index to be ready...
Performing DiskANN vector search for: 'quintessential lodging near running trails, eateries, retail'
Search Results (showing top 5):
================================================================================
1. HotelName: Royal Cottage Resort, Score: 0.4991
2. HotelName: Country Comfort Inn, Score: 0.4785
3. HotelName: Nordick's Valley Motel, Score: 0.4635
4. HotelName: Economy Universe Motel, Score: 0.4461
5. HotelName: Roach Motel, Score: 0.4388
DiskANN demonstration completed successfully!
Visual Studio Code'da verileri görüntüleme ve yönetme
Azure DocumentDB hesabınıza bağlanmak için Visual Studio Code'da DocumentDB uzantısını seçin.
Hotels veritabanındaki verileri ve dizinleri görüntüleyin.
Kaynakları temizle
Ek maliyetlerden kaçınmak için gerekli olmadığında kaynak grubunu, DocumentDB hesabını ve Azure OpenAI kaynağını silin.