AMD NPU 技術啟動工作坊，帶領競賽團隊探索本地端 AI 開發應用
【人工智慧跨域研究中心訊】
如何有效應用算力已成為人機協作的顯學，國立政治大學人工智慧跨域研究中心（AI中心）今年度再次舉辦「2026 AI跨域永續創新競賽」，為使入圍團隊善用 AI 運算以加速作品開發與優化，中心於7月23日推動「AMD NPU技術啟動工作坊」，由 AI 中心吳怡潔助理教授主持，帶領入圍團隊認識 AMD AI PC 與神經網路處理器（NPU）的基礎架構，並透過實機操作，引導團隊如何善用模型部署及本地端 AI 應用方式。
認識NPU架構，掌握跨平台模型部署
吳怡潔助理教授首先介紹AMD AI PC的運算架構，說明中央處理器（CPU）、整合式繪圖處理器（iGPU）及NPU在不同AI任務中的運算分工，增加AI應用部署的彈性。
在模型部署方面，吳怡潔助理教授進一步介紹開放神經網路交換格式（ONNX）及模型量化流程。透過將 PyTorch、TensorFlow 等框架訓練完成的模型轉換為 ONNX 格式後，再透過 ONNX Runtime 依 Windows 或 Linux 作業環境進行後續部署，並藉由調整模型精度，評估執行速度、模型大小與辨識效果之間的差異。
實際演示 AI 推論，引導學生模擬本地端可能情境
工作坊現場使用 AMD NPU筆記型電腦進行多項實機展示。吳怡潔助理教授首先以 YOLOv8 模型進行即時物件偵測，並透過系統監測工具觀察 NPU 與 iGPU 的運算情形，讓參與團隊了解不同運算模式在模型推論上的實際表現。
此外，工作坊亦介紹 Lemonade 、 LM Studio 等本地端 AI 開發工具，示範如何在個人電腦載入及執行大型語言模型，並觀察模型於 GPU、NPU 等不同硬體資源上的運作狀況。透過實際操作，參與團隊得以進一步了解本地端 AI 在即時回應、離線運作及資料隱私等應用情境上的發展潛力。
吳怡潔助理教授也提醒，不同作業系統、驅動程式及模型格式，皆可能影響 AI 模型的部署與執行結果。團隊在開發作品時，除了考量模型效能，也應同步確認硬體環境及軟體支援程度，選擇更符合作品需求的技術方案。
串聯AMD開發資源，加速競賽作品落地
本屆競賽是首度結合 AMD 技術資源，單位共提供 10 台 AI PC，其中 9 台開放入圍團隊申請借用，另保留1台作為設備調度與備援。借用團隊可將設備運用於模型測試、作品開發及決賽成果展示，實際體驗從模型部署到應用呈現的完整流程。
活動中亦介紹 AMD Developer Program 所提供的線上課程、技術社群及雲端運算資源，協助團隊持續探索本地端與雲端 AI 開發。AI 中心期盼透過工作坊、設備借用及後續 Mentor 輔導機制，降低跨領域學生接觸 AI 技術的門檻，協助入圍團隊將創意構想逐步轉化為具實踐價值的 AI 應用成果。
更多活動資訊及相關資源請參閱：2026 AI跨域永續創新競賽加速系列｜AMD NPU技術啟動工作坊
中心於7月23日推動「AMD NPU技術啟動工作坊」，帶領入圍團隊認識 AMD AI PC 與神經網路處理器（NPU）的基礎架構。（圖片來源：AI中心）