![]() |
| ภาพจาก TechXplore โดย Korea Advanced Institute of Science and Technology |
ทีมนักวิจัยจาก Korea Advanced Institute of Science & Technology (KAIST) พบว่า ระบบ AI Agents ที่มีความสามารถในการวางแผน ใช้เครื่องมือทำงาน และประมวลผลหลายขั้นตอน มีการใช้พลังงานต่อหนึ่งคำสั่ง (Query) สูงกว่าระบบ AI เชิงสร้างสรรค์ (Generative AI) แบบทั่วไปถึง 136.5 เท่า
ทางทีมวิจัยระบุว่า ระบบสถาปัตยกรรมแบบ Agentic Systems นี้ จะต้องทำการเรียกใช้งานโมเดลภาษาขนาดใหญ่ (LLM) ซ้ำๆ หลายครั้ง ส่งผลให้เกิดความหน่วง (Latency) ในการทำงานเพิ่มขึ้นสูงถึง 153.7 เท่า และทำให้มีช่วงที่ปล่อยให้ชิปประมวลผลกราฟิก (GPU) เปิดทิ้งไว้โดยเปล่าประโยชน์ (Idle)
จากการทดสอบพบว่า AI Agent ขนาด 7 หมื่นล้านพารามิเตอร์ (70-billion-parameter) มีอัตราการใช้พลังงานเฉลี่ยสูงถึง 348.41 วัตต์-ชั่วโมง ต่อหนึ่งคำสั่ง ซึ่งมากกว่าปริมาณพลังงานที่ระบบ Generative AI ทั่วไปใช้ในการตอบคำถามง่ายๆ ถึง 136.5 เท่า
อ่านข่าวเต็มได้ที่: TechXplore โดย Korea Advanced Institute of Science and Technology




