เหตุใด NPU จึงเปลี่ยนวิธีที่พีซีเรียกใช้ AI

เสร็จสมบูรณ์เมื่อ

ในส่วนก่อนหน้านี้ คุณได้เรียนรู้ว่า NPU คืออะไร และพีซี Copilot+ PCs ใช้เพื่อขับเคลื่อนสถานการณ์ทางธุรกิจในโลกแห่งความเป็นจริงอย่างไร ส่วนนี้จะพิจารณาอย่างละเอียดยิ่งขึ้นที่ ทําไม NPU เป็นการเปลี่ยนแปลงที่สําคัญในสถาปัตยกรรมพีซี และมีความหมายต่ออนาคตของ Windows ในฐานะแพลตฟอร์มสําหรับ AI

เห็นความแตกต่าง: CPU กับ GPU กับ NPU

เพื่อให้เข้าใจว่าเหตุใด NPU จึงมีความสําคัญ ควรดูว่าโปรเซสเซอร์ทั้งสามจัดการกับงาน AI เดียวกันอย่างไร

ในการสาธิตต่อไปนี้ โมเดล AI ถูกขอให้ระบุและนับใบหน้าในฟีดวิดีโอสด งานเดียวกันนี้ทํางานบน CPU, GPU และ NPU

การเปรียบเทียบภาพประกอบของความเร็วในการโหลดภาพบน NPU, GPU และ CPU

โปรเซสเซอร์ทั้งสามทํางานเสร็จสมบูรณ์ แต่ผลลัพธ์ต่างกัน:

หน่วยประมวลผลกลาง ความเร็ว การใช้พลังงาน ความร้อนที่เกิดขึ้น
ซีพียู ช้าที่สุด สูงสุด มากที่สุด
GPU ปานกลาง ปานกลาง ปานกลาง
เอ็นพียู เร็วที่สุด ต่ำ สุด น้อยที่สุด

NPU ทํางานเสร็จเร็วขึ้นในขณะที่สร้างความร้อนน้อยลงและใช้พลังงานน้อยลง ประสิทธิภาพนี้คือสิ่งที่ช่วยให้พีซี Copilot+ PCs สามารถเรียกใช้คุณสมบัติ AI ได้อย่างต่อเนื่อง เช่น คําบรรยายสดหรือเอฟเฟกต์ Windows Studio ระหว่างการสนทนาทางวิดีโอ โดยไม่ทําให้อายุการใช้งานแบตเตอรี่หมดหรือทําให้แอปพลิเคชันอื่นๆ ทํางานช้าลง

เคล็ดลับ

การสาธิตนี้แสดงให้เห็นถึงแนวคิดหลัก: NPU ไม่ได้ทํางาน AI เร็วกว่า แต่มีประสิทธิภาพมากกว่า ในบริบททางธุรกิจ ประสิทธิภาพหมายความว่าพนักงานสามารถใช้คุณสมบัติ AI ได้ตลอดทั้งวันโดยไม่ต้องพกที่ชาร์จหรือปิดแอปอื่นๆ เพื่อเพิ่มทรัพยากร

AI บนอุปกรณ์เปลี่ยนรูปแบบการประมวลผลอย่างไร

ตามเนื้อผ้า การประมวลผล AI อาศัยบริการบนคลาวด์ เช่น การส่งข้อมูลไปยังเซิร์ฟเวอร์ระยะไกล ประมวลผลที่นั่น และส่งคืนผลลัพธ์ วิธีนี้ใช้ได้ดีกับหลายสถานการณ์ แต่จะทําให้เกิดเวลาแฝง ต้องมีการเชื่อมต่ออินเทอร์เน็ต และหมายความว่าข้อมูลที่ละเอียดอ่อนจะออกจากอุปกรณ์

NPU ใน Copilot+ PCs เปิดใช้งานโมเดลอื่น: การประมวลผล AI บนอุปกรณ์ ด้วย NPU ที่มีความสามารถ 40+ TOPS งาน AI จํานวนมากสามารถทํางานในเครื่องได้โดยตรงบนฮาร์ดแวร์โดยไม่ต้องส่งข้อมูลไปยังระบบคลาวด์ ในเวิร์กโฟลว์ในโลกแห่งความเป็นจริง การประมวลผล AI เกิดขึ้นในโมเดลไฮบริด งานบางอย่างทํางานในเครื่องบนอุปกรณ์โดยใช้ NPU เพื่อความเร็ว ความเป็นส่วนตัว หรือการเข้าถึงแบบออฟไลน์ ในขณะที่คําขอที่ซับซ้อนมากขึ้นต้องอาศัยบริการ AI บนคลาวด์ Copilot+ PCs ได้รับการออกแบบมาเพื่อรองรับแนวทางนี้โดยสร้างสมดุลระหว่างความชาญฉลาดบนอุปกรณ์กับการประมวลผลบนคลาวด์ตามต้องการ

รูปแบบการประมวลผล วิธีการทำงาน เหมาะที่สุดสําหรับ
AI บนคลาวด์ ข้อมูลจะถูกส่งไปยังบริการระยะไกลเพื่อประมวลผลและผลลัพธ์จะถูกส่งคืนทางอินเทอร์เน็ต งานที่ซับซ้อนที่ต้องใช้โมเดลขนาดใหญ่ การสืบค้นข้อมูลข้ามองค์กร สถานการณ์ที่อินเทอร์เน็ตพร้อมใช้งาน
AI บนอุปกรณ์ ข้อมูลจะถูกประมวลผลในเครื่องบน NPU โดยไม่ต้องออกจากอุปกรณ์ งานที่มีเวลาแฝงต่ํา, สถานการณ์ออฟไลน์, ปริมาณงานที่ละเอียดอ่อนต่อความเป็นส่วนตัว, ฟีเจอร์แบบเรียลไทม์ เช่น คําบรรยายภาพและเอฟเฟกต์วิดีโอ
AI แบบไฮบริด งานบางอย่างทํางานภายในเครื่องบน NPU ในขณะที่งานอื่นๆ ได้รับการจัดการโดยบริการคลาวด์ ขึ้นอยู่กับปริมาณงาน องค์กรที่ต้องการทั้งฟีเจอร์บนอุปกรณ์แบบเรียลไทม์และระบบอัจฉริยะที่ขับเคลื่อนด้วยระบบคลาวด์ เช่น Microsoft 365 Copilot

พีซี Copilot+ PCs รองรับทั้งสามรุ่น คุณสมบัติบนอุปกรณ์ เช่น คําบรรยายสด เอฟเฟกต์ Windows Studio และคลิกเพื่อทําจะทํางานบน NPU ฟีเจอร์บนระบบคลาวด์ เช่น Microsoft 365 Copilot ใช้การประมวลผลบนระบบคลาวด์ เวิร์กโฟลว์จํานวนมากรวมทั้งสองอย่างเข้าด้วยกัน เช่น การใช้การค้นหาบนอุปกรณ์เพื่อค้นหาไฟล์ภายในเครื่อง จากนั้นใช้ Microsoft 365 Copilot เพื่อสรุปเนื้อหา

Windows เป็นแพลตฟอร์มสําหรับ AI

NPU เป็นส่วนหนึ่งของการเปลี่ยนแปลงที่กว้างขึ้นในวิธีที่ Windows รองรับ AI ทั่วทั้งองค์กร Windows 11 Pro ทําหน้าที่เป็นแพลตฟอร์มที่เชื่อมต่อความสามารถของ AI บนอุปกรณ์กับระบบอัจฉริยะบนคลาวด์และเครื่องมือการจัดการด้านไอที

แนวทางแพลตฟอร์มนี้ประกอบด้วย:

  • การประมวลผล AI บนอุปกรณ์ ผ่าน NPU ทําให้ตอบสนองได้เร็วขึ้นและลดการพึ่งพาการเชื่อมต่อระบบคลาวด์สําหรับคุณสมบัติที่รองรับ
  • ตัวแทน AI ภายใน Windows ที่สามารถให้เหตุผล วางแผน และดําเนินการในนามของผู้ใช้ เช่น การกําหนดการตั้งค่าอุปกรณ์ผ่านภาษาธรรมชาติ หรือแนะนําขั้นตอนถัดไปตามเนื้อหาบนหน้าจอ
  • Windows AI Foundry สําหรับการสร้างแอปพลิเคชันที่ขับเคลื่อนด้วย AI แบบกําหนดเองซึ่งใช้ประโยชน์จากการเร่งฮาร์ดแวร์ในเครื่องควบคู่ไปกับบริการคลาวด์
  • การกํากับดูแลและการควบคุมด้านไอที จนถึง Microsoft Intune ช่วยให้องค์กรสามารถจัดการความสามารถของ AI ที่พร้อมใช้งานและวิธีที่ตัวแทนโต้ตอบกับข้อมูลขององค์กร

Important

ตัวแทน AI ใน Windows ทํางานภายในกรอบการจัดการและความปลอดภัยที่มีอยู่ขององค์กร ผู้ดูแลระบบไอทีสามารถควบคุมพฤติกรรมของตัวแทนและการเข้าถึงข้อมูลผ่านเครื่องมือเดียวกับที่ใช้ในการจัดการนโยบายและการกําหนดค่า Windows 11 Pro อื่นๆ

สิ่งนี้มีความหมายต่อองค์กรอย่างไร

การผสมผสานระหว่าง AI บนอุปกรณ์ ระบบคลาวด์อัจฉริยะ และการกํากับดูแลแพลตฟอร์มสร้างโมเดลที่ใช้งานได้จริงสําหรับองค์กรที่นํา AI มาใช้ในวงกว้าง:

  • พนักงาน จะได้รับฟีเจอร์ AI ที่รวดเร็วและตอบสนองมากขึ้น ซึ่งทํางานได้แม้ไม่มีการเชื่อมต่ออินเทอร์เน็ต ซึ่งช่วยปรับปรุงประสิทธิภาพการทํางานในภาคสนาม ระหว่างการเดินทาง หรือในสภาพแวดล้อมที่มีการเชื่อมต่อต่ํา
  • ทีมไอที รักษาการควบคุมความสามารถของ AI ผ่านเครื่องมือการจัดการที่คุ้นเคย โดยมีคุณลักษณะด้านความปลอดภัยที่เปิดใช้งานโดยค่าเริ่มต้นและพฤติกรรมของตัวแทนที่ควบคุมในระดับนโยบาย
  • Developers สามารถสร้างโซลูชัน AI แบบกําหนดเองได้โดยใช้ Windows AI Foundry โดยรวมโมเดลโอเพนซอร์สและโมเดลที่เป็นกรรมสิทธิ์ที่ทํางานในเครื่องบน NPU โดยเก็บข้อมูลที่ละเอียดอ่อนไว้บนอุปกรณ์ในขณะที่ยังคงเชื่อมต่อกับบริการคลาวด์เมื่อจําเป็น

เมื่อพูดคุยเกี่ยวกับ Copilot+ PCs กับผู้มีอํานาจตัดสินใจทางธุรกิจ เรื่องราวของแพลตฟอร์มมักจะเป็นมุมที่น่าสนใจที่สุด: พีซีเหล่านี้ไม่ใช่พีซีที่เร็วกว่า แต่เป็นรากฐานสําหรับวิธีที่องค์กรสร้าง ปรับใช้ และจัดการ AI ในอนาคต NPU เป็นส่วนสําคัญของรากฐานนั้น ทําให้ประสบการณ์ที่ขับเคลื่อนด้วย AI คลาสใหม่มีประสิทธิภาพ ตอบสนอง และปลอดภัย