Summary

ในโมดูลนี้ คุณได้สํารวจเวิร์กโฟลว์ทั้งหมดสําหรับการเลือก ปรับใช้ และประเมินแบบจําลองโรงหล่อ คุณได้เรียนรู้วิธีตัดสินใจอย่างชาญฉลาดเกี่ยวกับการเลือกแบบจําลองโดยใช้เกณฑ์มาตรฐาน วิธีปรับใช้แบบจําลองกับปลายทาง และวิธีประเมินประสิทธิภาพโดยใช้แนวทางการประเมินต่างๆ

ประเด็นสําคัญ

<แคตตาล็อกโมเดล> ของพอร์ทัล Microsoft Foundry ให้ access กับโมเดลมากกว่า 1,900 รุ่นจากผู้ให้บริการ รวมถึง Microsoft, OpenAI, Meta, Mistral และ Hugging Face การกรองที่มีประสิทธิภาพตามคอลเลกชัน ความสามารถ ตัวเลือกการปรับใช้ และแอตทริบิวต์อื่นๆ ช่วยให้คุณจํากัดแค็ตตาล็อกให้แคบลงเป็นแบบจําลองที่ตรงกับความต้องการของคุณ

เกณฑ์มาตรฐานแบบจําลองนําเสนอการเปรียบเทียบตามวัตถุประสงค์ในมิติคุณภาพ ความปลอดภัย ต้นทุน และประสิทธิภาพ เมตริกคุณภาพ เช่น ความแม่นยํา ความสอดคล้องกัน และความคล่องแคล่วจะประเมินว่าโมเดลสร้างการตอบสนองที่เหมาะสมได้ดีเพียงใด เมตริกความปลอดภัยจะระบุความเสี่ยงเกี่ยวกับเนื้อหาที่เป็นอันตราย เกณฑ์มาตรฐานต้นทุนช่วยสร้างสมดุลระหว่างคุณภาพกับข้อจํากัดด้านงบประมาณ ตัวชี้วัดประสิทธิภาพ เช่น เวลาแฝงและปริมาณงานบ่งบอกถึงการตอบสนองสําหรับแอปพลิเคชันแบบเรียลไทม์

ตัวเลือกการปรับใช้ ประกอบด้วย API แบบไร้เซิร์ฟเวอร์เพื่อความยืดหยุ่นในการจ่ายต่อการโทรการปรับใช้ที่จัดเตรียมไว้สําหรับปริมาณงานที่มีปริมาณมากที่สม่ําเสมอการประมวลผลที่มีการจัดการสําหรับโฮสติ้งที่ใช้ VM และการประมวลผลแบบแบตช์สําหรับงานที่ไม่ใช่แบบโต้ตอบที่ปรับต้นทุนให้เหมาะสม แต่ละตัวเลือกมีลักษณะที่แตกต่างกันสําหรับการปรับขนาด การเรียกเก็บเงิน และการควบคุม

การทดสอบใน Playground ให้ ข้อเสนอแนะทันทีเกี่ยวกับพฤติกรรมของโมเดลโดยไม่ต้องเขียนโค้ด คุณสามารถทดลองกับข้อความแจ้ง ปรับพารามิเตอร์ และสังเกตการตอบสนองเพื่อทําความเข้าใจความสามารถของโมเดลก่อนที่จะรวมเข้ากับแอปพลิเคชัน

แนวทางการประเมินมี ตั้งแต่การทดสอบด้วยตนเองไปจนถึงตัวชี้วัดอัตโนมัติ การประเมินด้วยตนเองจะรวบรวมแง่มุมด้านคุณภาพตามอัตนัย เช่น ความพึงพอใจของผู้ใช้และความเหมาะสมตามบริบท ตัวชี้วัดที่ใช้ AI ช่วยประเมินคุณภาพการผลิตและความเสี่ยงด้านความปลอดภัยโดยอัตโนมัติ ตัวชี้วัด NLP เช่น F1-score และ ROUGE ให้การเปรียบเทียบทางคณิตศาสตร์กับข้อมูลความจริงพื้นฐาน

โฟลว์การประเมินที่ครอบคลุม ในพอร์ทัล Microsoft Foundry ช่วยให้คุณสามารถเรียกใช้การประเมินอย่างเป็นระบบโดยใช้ชุดข้อมูลการทดสอบและเมตริกหลายรายการ ผลลัพธ์ระบุจุดแข็ง จุดอ่อน และส่วนที่ต้องปรับปรุง เป็นแนวทางในการพัฒนาแอปพลิเคชัน Generative AI ของคุณซ้ําๆ

ขั้นตอนถัดไป

เมื่อปรับใช้และประเมินแบบจําลองแล้ว ให้พิจารณาขั้นตอนต่อไปเหล่านี้:

รวมโมเดลเข้ากับแอปพลิเคชัน โดยใช้ SDK, REST API และตัวอย่างโค้ดที่ให้ไว้ในพอร์ทัล Microsoft Foundry แอปพลิเคชันของคุณสามารถใช้โมเดลที่ปรับใช้ผ่านการเรียก API ที่รับรองความถูกต้องได้แล้ว

ใช้ Retrieval Augmented Generation (RAG) เพื่อตอบสนองแบบจําลองพื้นฐานในข้อมูลขององค์กรของคุณ RAG รวมโมเดลเข้ากับความสามารถในการค้นหาเพื่อให้การตอบสนองที่ถูกต้องและเกี่ยวข้องกับบริบทตามเอกสารและฐานความรู้ของคุณ

ใช้บริการ Azure AI Content Safety เพื่อเพิ่มชั้นการป้องกันเนื้อหาที่เป็นอันตรายอีกชั้นหนึ่ง ตัวกรองเนื้อหาสามารถบล็อกอินพุตและเอาต์พุตที่ไม่เหมาะสม ซึ่งช่วยเสริมคุณสมบัติด้านความปลอดภัยระดับโมเดล

ปรับแต่งโมเดล (เมื่อรองรับ) ในโดเมนหรือกรณีการใช้งานเฉพาะของคุณเพื่อปรับปรุงประสิทธิภาพสําหรับสถานการณ์เฉพาะ การปรับแต่งอย่างละเอียดจะปรับโมเดลเอนกประสงค์ให้เข้ากับความต้องการเฉพาะของคุณ

ตรวจสอบประสิทธิภาพการผลิต โดยใช้ Azure Monitor และ Application Insights เพื่อติดตามการใช้งาน เวลาแฝง ต้นทุน และข้อผิดพลาด การตรวจสอบอย่างต่อเนื่องช่วยให้มั่นใจได้ว่าแอปพลิเคชันของคุณยังคงแข็งแรงและมีประสิทธิภาพ

ทําซ้ําตามความคิดเห็นของผู้ใช้ โดยการรวบรวมข้อมูลการใช้งานในโลกแห่งความเป็นจริงและดําเนินการประเมินใหม่เป็นระยะ การปรับปรุงอย่างต่อเนื่องช่วยให้แอปพลิเคชัน Generative AI ของคุณสอดคล้องกับความต้องการของผู้ใช้

ทักษะที่คุณพัฒนาในโมดูลนี้ ได้แก่ การเลือกโมเดลที่เหมาะสม การปรับใช้อย่างมีประสิทธิภาพ และการประเมินประสิทธิภาพ เป็นรากฐานสําหรับการสร้างแอปพลิเคชัน Generative AI คุณภาพสูงที่มีประสิทธิภาพโดยใช้ Microsoft Foundry