ปรับใช้โมเดลไปยังปลายทาง

หลังจากเลือกแบบจําลองจากแค็ตตาล็อกแล้ว คุณจะปรับใช้เพื่อให้สามารถเข้าถึงได้ผ่านจุดสิ้นสุดที่แอปพลิเคชันของคุณสามารถใช้ได้ พอร์ทัล Microsoft Foundry จะ guides คุณตลอดกระบวนการปรับใช้และมีเครื่องมือในการทดสอบโมเดลที่ปรับใช้ของคุณทันที

ทําความเข้าใจประเภทการปรับใช้

Microsoft Foundry รองรับการปรับใช้หลายประเภท โดยแต่ละชนิดมีลักษณะที่แตกต่างกันสําหรับถิ่นที่อยู่ของข้อมูล การปรับขนาด และการเรียกเก็บเงิน:

• การปรับใช้แบบจําลองมาตรฐานสากลสามารถใช้ภูมิภาค Azure ใดก็ได้บนพื้นฐานการจ่ายต่อโทเค็น เหมาะที่สุดสําหรับปริมาณงานทั่วไป และให้โควต้าสูงสุด
• การปรับใช้ที่เตรียมใช้งานส่วนกลางสามารถใช้ภูมิภาค Azure ใดก็ได้ และการใช้งานจะขึ้นอยู่กับหน่วยปริมาณงานของการเตรียมใช้งานที่จองไว้ (PTU) เพื่อให้ปริมาณงานสูงที่คาดการณ์ได้
• การปรับใช้ชุดงานส่วนกลางสามารถใช้ภูมิภาค Azure ใดก็ได้ในราคาส่วนลด 50% สําหรับงานอะซิงโครนัสขนาดใหญ่ภายใน 24 ชั่วโมง
• การปรับใช้โซนข้อมูลมาตรฐานช่วยให้มั่นใจได้ว่าข้อมูลจะอยู่ในโซนข้อมูลเฉพาะแบบจ่ายต่อโทเค็น เหมาะที่สุดสําหรับสถานการณ์ที่จําเป็นต้องมีการปฏิบัติตามข้อกําหนดของโซนข้อมูลของสหภาพยุโรป/สหรัฐอเมริกา
• การปรับใช้โซนข้อมูลที่จัดเตรียมไว้ให้ปริมาณการประมวลผลที่คาดการณ์ได้ตาม PTU ที่สงวนไว้ภายในโซนข้อมูล
• การปรับใช้ชุดงาน Data Zone ได้รับการออกแบบมาสําหรับชุดงานแบบอะซิงโครนัสขนาดใหญ่ภายในโซนข้อมูล/
• การปรับใช้มาตรฐานจะถูกปรับใช้ภายในภูมิภาคเดียวแบบจ่ายต่อโทเค็น เหมาะอย่างยิ่งเมื่อคุณต้องการการปฏิบัติตามข้อกําหนดด้านถิ่นที่อยู่ของข้อมูลระดับภูมิภาคหรือสําหรับสถานการณ์ที่มีปริมาณน้อย
• การปรับใช้ที่เตรียมใช้งานระดับภูมิภาคมี PTU ที่สงวนไว้ภายในภูมิภาคเดียว
• ผู้พัฒนา การปรับใช้ของนักพัฒนาใช้ภูมิภาค Azure ใดๆ บนพื้นฐานการจ่ายต่อโทเค็น และมีไว้สําหรับการประเมินแบบจําลองที่ปรับแต่งอย่างละเอียดเท่านั้น

แต่ละรุ่นในแค็ตตาล็อกระบุว่ารองรับชนิดการปรับใช้ พอร์ทัลจะเลือกตัวเลือกการปรับใช้ที่ดีที่สุดโดยอัตโนมัติตามสภาพแวดล้อมและความต้องการของแบบจําลองของคุณ การปรับใช้มาตรฐานสากลในทรัพยากร Foundry ควรใช้เมื่อใดก็ตามที่เป็นไปได้เพื่อความสามารถสูงสุด

ปรับใช้แบบจําลอง

เมื่อต้องการปรับใช้แบบจําลองจากพอร์ทัล Microsoft Foundry:

ขั้นแรก ให้นําทางไปยังแบบจําลองที่คุณเลือกในแค็ตตาล็อกแบบจําลอง จากหน้าแรกของพอร์ทัล Foundry ให้เลือก ค้นพบ ในการนําทาง จากนั้นเลือก แบบจําลอง ในบานหน้าต่างด้านซ้าย เปิดการ์ดแบบจําลองเพื่อตรวจสอบข้อมูลจําเพาะและชนิดการปรับใช้ที่รองรับ

เลือก ปรับใช้ เพื่อเริ่มกระบวนการปรับใช้ คุณสามารถเลือก:

• การตั้งค่าเริ่มต้น เพื่อปรับใช้อย่างรวดเร็วด้วยการกําหนดค่าที่แนะนํา
• การตั้งค่าแบบกําหนดเอง เพื่อปรับแต่งตัวเลือกการปรับใช้ของคุณ

ถ้าแบบจําลองต้องการการสมัครใช้งาน Azure Marketplace (ทั่วไปสําหรับแบบจําลองจากคู่ค้าและชุมชน) คุณจะเห็นข้อกําหนดการใช้งาน ตรวจสอบข้อกําหนดเหล่านี้แล้วเลือก ตกลง และดําเนินการ ต่อเพื่อยอมรับ โมเดลที่ขายโดยตรงโดย Azure เช่น โมเดล Azure OpenAI เช่น GPT-4o-mini ไม่จําเป็นต้องสมัครใช้งานตลาดกลาง

กําหนดการตั้งค่าการปรับใช้ของคุณ:

• ชื่อการปรับใช้: โดยค่าเริ่มต้น ระบบจะใช้ชื่อแบบจําลอง คุณสามารถปรับเปลี่ยนสิ่งนี้เพื่อสร้างชื่อที่มีความหมายสําหรับการปรับใช้หลายรายการของแบบจําลองเดียวกัน ในระหว่างการอนุมาน โค้ดของคุณจะใช้ชื่อการปรับใช้นี้ใน model พารามิเตอร์เพื่อกําหนดเส้นทางคําขอ
• ชนิดการปรับใช้: พอร์ทัลจะเลือกชนิดการปรับใช้ที่เหมาะสมโดยอัตโนมัติตามแบบจําลองและสภาพแวดล้อมของคุณ แต่ละรุ่นรองรับประเภทการปรับใช้ที่แตกต่างกัน โดยให้การรับประกันถิ่นที่อยู่ของข้อมูลหรือปริมาณงานที่แตกต่างกัน

สําหรับการปรับใช้การประมวลผลที่มีการจัดการ คุณยังกําหนดค่า:

• SKU ของเครื่องเสมือน: เลือกจากประเภท VM ที่รองรับ คุณต้องมีโควต้าการคํานวณ Azure Machine Learning สําหรับ SKU ที่เลือกในการสมัครใช้งานของคุณ
• จํานวนอินสแตนซ์: ระบุจํานวนอินสแตนซ์ที่จะปรับใช้สําหรับการกระจายโหลดและความซ้ําซ้อน

หลังจากกําหนดการตั้งค่าทั้งหมดแล้ว ให้เลือก ปรับใช้ เมื่อการปรับใช้เสร็จสิ้น คุณจะเข้าสู่ Foundry Playground ซึ่งคุณสามารถทดสอบโมเดลแบบโต้ตอบได้ ตรวจสอบว่าสถานะการปรับใช้แสดง สําเร็จ ในรายการการปรับใช้ของคุณ

จัดการโมเดลที่ปรับใช้

หลังจากการปรับใช้ คุณจะจัดการแบบจําลองของคุณจากส่วน สร้าง ในพอร์ทัล Microsoft Foundry เลือก สร้าง ในการนําทาง จากนั้นเลือก แบบจําลอง ในบานหน้าต่างด้านซ้ายเพื่อดูรายการการปรับใช้ในทรัพยากรของคุณ

จากรายการการปรับใช้ ให้เลือกรุ่นเฉพาะเพื่อดูรายละเอียด:

• การกําหนดค่าและสถานะการปรับใช้
• URL ปลายทางสําหรับ API access
• คีย์หรือโทเค็นการรับรองความถูกต้อง
• ตัวชี้วัดการตรวจสอบและการใช้งาน
• ตัวเลือกในการปรับการตั้งค่าการปรับใช้หรือลบการปรับใช้

หน้ารายละเอียดการปรับใช้ให้ข้อมูลแอปพลิเคชันของคุณจําเป็นต้องเชื่อมต่อและใช้แบบจําลอง

ทดสอบในสนามเด็กเล่น

พอร์ทัล Microsoft Foundry มีสนามเด็กเล่นแบบโต้ตอบที่คุณทดสอบโมเดลที่ปรับใช้ทันทีโดยไม่ต้องเขียนโค้ด หลังจากการปรับใช้เสร็จสิ้น คุณจะเข้าสู่ Playground โดยอัตโนมัติ หรือคุณสามารถเลือกการปรับใช้จากรายการโมเดลของคุณเพื่อเปิด Playground

Playground จะเลือกการปรับใช้ของคุณล่วงหน้า คุณจึงสามารถเริ่มการทดสอบได้ทันที ในอินเทอร์เฟซการแชท:

ป้อนข้อความแจ้งในกล่องข้อความและสังเกตการตอบกลับ Playground จะแสดงทั้งอินพุตของคุณและเอาต์พุตที่สร้างขึ้นของโมเดล ช่วยให้คุณเข้าใจพฤติกรรมและคุณภาพ

ทดลองกับข้อความแจ้งประเภทต่างๆ เพื่อทดสอบความสามารถต่างๆ ดังนี้

• คําถามง่ายๆ เพื่อตรวจสอบความเข้าใจพื้นฐาน
• ปัญหาการให้เหตุผลหลายขั้นตอนที่ซับซ้อน
• คําขอสําหรับรูปแบบหรือสไตล์ที่เฉพาะเจาะจง
• กรณีขอบที่อาจเปิดเผยข้อจํากัด

ปรับข้อความของระบบเพื่อเป็นแนวทางในลักษณะการทํางานของโมเดล ข้อความของระบบจะตั้งค่าบริบท น้ําเสียง และคําแนะนําที่ใช้กับการป้อนข้อมูลของผู้ใช้ทั้งหมด ตัวอย่างเช่น คุณอาจสั่งให้โมเดล "ตอบกลับในฐานะตัวแทน customer service" หรือ "ให้คําอธิบายทางเทคนิคที่กระชับ"

แก้ไขพารามิเตอร์ เช่น อุณหภูมิ (ความคิดสร้างสรรค์เทียบกับความสม่ําเสมอ) โทเค็นสูงสุด (ขีดจํากัดความยาวการตอบสนอง) และ top-p (การสุ่มตัวอย่างนิวเคลียส) เพื่อปรับแต่งพฤติกรรมการสร้างอย่างละเอียด

เลือกแท็บ รหัส เพื่อดูตัวอย่างวิธีการเรียกแบบจําลองที่ปรับใช้ของคุณโดยทางโปรแกรม ตัวอย่างโค้ดแสดงการรับรองความถูกต้อง การกําหนดค่าปลายทาง และการจัดรูปแบบคําขอในภาษาต่างๆ เช่น Python, C# และ JavaScript คุณสามารถคัดลอกตัวอย่างเหล่านี้ลงในใบสมัครของคุณได้โดยตรง

สนามเด็กเล่นทําหน้าที่เป็นสภาพแวดล้อมการพัฒนาของคุณสําหรับวิศวกรรมและการทดสอบที่รวดเร็วก่อนที่จะรวมโมเดลเข้ากับแอปพลิเคชันของคุณ

Access แบบจําลองโดยทางโปรแกรม

เมื่อคุณพร้อมที่จะรวมโมเดลเข้ากับแอปพลิเคชันของคุณ คุณต้องมีข้อมูลสําคัญสามส่วนจากรายละเอียดการปรับใช้:

URL ปลายทาง: ตําแหน่งข้อมูล API ที่แอปพลิเคชันส่งคําขอ Microsoft Foundry รองรับตําแหน่งข้อมูลโครงการสําหรับฟังก์ชันเฉพาะของ Foundry และตําแหน่งข้อมูล OpenAI v1 เพื่อความเข้ากันได้อย่างกว้างขวางกับ API แบบจําลอง OpenAI

คีย์การรับรองความถูกต้อง: คีย์ลับหรือโทเค็นที่แอปพลิเคชันของคุณนําเสนอเพื่อตรวจสอบสิทธิ์คําขอ อีกวิธีหนึ่งคือ คุณสามารถใช้การรับรองความถูกต้องของ Microsoft Entra ID และให้แอปพลิเคชันของคุณแสดงโทเค็นการรับรองความถูกต้องตามข้อมูลประจําตัว is แนะนําให้ใช้การรับรองความถูกต้อง Entra ID สําหรับสถานการณ์การผลิต

ชื่อการปรับใช้: ชื่อที่คุณระบุระหว่างการปรับใช้ ซึ่งใช้ใน model พารามิเตอร์ของคําขอ API เพื่อกําหนดเส้นทางไปยังการปรับใช้เฉพาะของคุณ

แอปพลิเคชันของคุณใช้รายละเอียดเหล่านี้เพื่อสร้างคําขอ API พอร์ทัล Microsoft Foundry มีเอกสารประกอบ SDK และ REST API สําหรับภาษาการเขียนโปรแกรมต่างๆ พร้อมด้วยตัวอย่างโค้ดที่แสดงการจัดรูปแบบคําขอ การรับรองความถูกต้อง และการจัดการการตอบสนอง

เมื่อปรับใช้และทดสอบโมเดลของคุณแล้ว คุณก็พร้อมที่จะรวมเข้ากับแอปพลิเคชันหรือดําเนินการประเมินที่ครอบคลุมมากขึ้นโดยใช้เมตริกอัตโนมัติและชุดข้อมูลทดสอบ