วันพฤหัสบดีที่ 27 มีนาคม พ.ศ. 2568

เราจะทำให้ AI ใช้พลังงานน้อยลงได้ไหม? นักวิจัยกำลังหาทางอยู่

power-grid
ภาพจาก Ars Technica โดย Jacek Krywko

นักวิจัยที่ทำงานร่วมกับ ML Energy Initiative กำลังพยายามลดการใช้พลังงานของ AI โดยไม่กระทบต่อประสิทธิภาพ 

เพื่อเปลี่ยนแปลงการทำงานภายในของโมเดล AI นักวิจัยได้ใช้เทคนิคต่าง ๆ เพื่อลดพารามิเตอร์ของโมเดลและปรับปรุงวิธีการให้เหมาะสมเพื่อลดปริมาณหน่วยความจำที่พารามิเตอร์ที่เหลือต้องการ 

เพื่อปรับปรุงประสิทธิภาพการทำงานของศูนย์ข้อมูลที่รันโมเดล AI พวกเขาได้พัฒนาเครื่องมือซอฟต์แวร์ที่สามารถชะลอความเร็วของ GPU บางตัวในคลัสเตอร์เพื่อให้ใช้พลังงานน้อยลง ในขณะที่ยังคงมั่นใจได้ว่า GPU จะประมวลผลงานเสร็จพร้อมกัน

อ่านข่าวเต็มได้ที่: Ars Technica โดย Jacek Krywko

ไม่มีความคิดเห็น:

แสดงความคิดเห็น