Forstå og opret batchslutpunkter

Hvis du vil have en model til at generere batchforudsigelser, kan du udrulle modellen til et batchslutpunkt.

Du får mere at vide om, hvordan du bruger batchslutpunkter til asynkron batchscore.

Batchforudsigelser

Hvis du vil hente batchforudsigelser, kan du udrulle en model til et slutpunkt. Et slutpunkt er et HTTPS-slutpunkt, som du kan kalde for at udløse et batchscorejob. Fordelen ved et sådant slutpunkt er, at du kan udløse batchscorejobbet fra en anden tjeneste, f.eks. Azure Synapse Analytics eller Azure Databricks. Et batchslutpunkt giver dig mulighed for at integrere batchscore med en eksisterende dataindtagelses- og transformationspipeline.

Når slutpunktet aktiveres, sendes der et batchscorejob til Azure Machine Learning-arbejdsområdet. Jobbet bruger typisk en beregningsklyng til at score flere input. Resultaterne kan gemmes i et datalager, der er forbundet til Azure Machine Learning-arbejdsområdet.

Opret et batchslutpunkt

Hvis du vil udrulle en model til et batchslutpunkt, skal du først oprette batchslutpunktet.

Hvis du vil oprette et batchslutpunkt, skal du bruge klassen BatchEndpoint. Navne på batchslutpunkter skal være entydige i et Azure-område.

Hvis du vil oprette et slutpunkt, skal du bruge følgende kommando:

# create a batch endpoint
endpoint = BatchEndpoint(
    name="endpoint-example",
    description="A batch endpoint",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

Udrul en model til et batchslutpunkt

Du kan udrulle flere modeller til et batchslutpunkt. Når du kalder batchslutpunktet, som udløser et batchscorejob, bruges standardinstallations-, medmindre andet er angivet.

Brug beregningsklynger til batchinstallationer

Den ideelle beregning, der skal bruges til batchinstallationer, er Azure Machine Learning-beregningsklyngen. Hvis du vil have, at batchscorejobbet skal behandle de nye data i parallelle batches, skal du klargøre en beregningsklyng med mere end ét maksimumforekomster.

Hvis du vil oprette en beregningsklynger, kan du bruge klassen AMLCompute.

from azure.ai.ml.entities import AmlCompute

cpu_cluster = AmlCompute(
    name="aml-cluster",
    type="amlcompute",
    size="STANDARD_DS11_V2",
    min_instances=0,
    max_instances=4,
    idle_time_before_scale_down=120,
    tier="Dedicated",
)

cpu_cluster = ml_client.compute.begin_create_or_update(cpu_cluster)