Înțelegerea și crearea punctelor finale în loturi

Pentru a obține un model care să genereze predicții batch, puteți implementa modelul într-un punct final batch.

Veți învăța cum să utilizați punctele finale de lot pentru evaluarea asincronă a lotului.

Predicții pe loturi

Pentru a obține predicții în lot, puteți implementa un model într-un punct final. Un punct final este un punct final HTTPS pe care îl puteți apela pentru a declanșa o lucrare de evaluare în lot. Avantajul unui astfel de punct final este că puteți declanșa lucrarea de evaluare în lot de la un alt serviciu, cum ar fi Azure Synapse Analytics sau Azure Databricks. Un punct final batch vă permite să integrați scorul batch cu o conductă existentă de ingestie și transformare a datelor.

Ori de câte ori punctul final este invocat, o lucrare de evaluare în lot este trimisă la spațiul de lucru Azure Machine Learning. Lucrarea utilizează de obicei un cluster de calcul pentru a evalua mai multe intrări. Rezultatele pot fi stocate într-un depozit de date, conectat la spațiul de lucru Azure Machine Learning.

Crearea unui punct final batch

Pentru a implementa un model într-un punct final de lot, va trebui mai întâi să creați punctul final de lot.

Pentru a crea un punct final batch, veți utiliza BatchEndpoint clasa. Numele punctelor finale batch trebuie să fie unice într-o regiune Azure.

Pentru a crea un punct final, utilizați următoarea comandă:

# create a batch endpoint
endpoint = BatchEndpoint(
    name="endpoint-example",
    description="A batch endpoint",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

Implementarea unui model într-un punct final batch

Puteți implementa mai multe modele într-un punct final batch. Ori de câte ori apelați punctul final batch, care declanșează o lucrare de evaluare batch, se va utiliza implementarea implicită , cu excepția cazului în care se specifică altfel.

Utilizarea clusterelor de calcul pentru implementări în loturi

Calculul ideal de utilizat pentru implementări în lot este clusterul de calcul Azure Machine Learning. Dacă doriți ca lucrarea de evaluare a loturilor să proceseze noile date în loturi paralele, trebuie să furnizați un cluster de calcul cu mai multe instanțe maxime.

Pentru a crea un cluster de calcul, puteți utiliza AMLCompute clasa.

from azure.ai.ml.entities import AmlCompute

cpu_cluster = AmlCompute(
    name="aml-cluster",
    type="amlcompute",
    size="STANDARD_DS11_V2",
    min_instances=0,
    max_instances=4,
    idle_time_before_scale_down=120,
    tier="Dedicated",
)

cpu_cluster = ml_client.compute.begin_create_or_update(cpu_cluster)