LLM 1 บิตสามารถแก้ปัญหาความต้องการพลังงานของ AI ได้

ภาพจาก IEEE Spectrum โดย Matthew Hutson

นักวิจัยจาก ETH Zurich ของสวิตเซอร์แลนด์ Beihang University ของจีน และ University of Hong Kong ได้ใช้การควอนไทเซชันหลังการฝึกเพื่อสร้าง large language model (LLM) ขนาด 1 บิต ซึ่งสามารถช่วยลดความต้องการพลังงานของระบบ AI 

วิธี BiLLM ใช้บิตเดียวเพื่อประมาณค่าพารามิเตอร์เครือข่ายส่วนใหญ่ และสองบิตสำหรับพารามิเตอร์ที่มีอิทธิพลต่อประสิทธิภาพมากที่สุด วิธีนี้ถูกใช้เพื่อทำให้ LLM เวอร์ชันหนึ่งของ LLaMa ของ Meta ที่มี 13 พันล้านพารามิเตอร์เป็นแบบไบนาไรซ์ (binarize)  

BiLLM ทำงานได้ดีกว่าคู่แข่งแบบไบนาไรซ์ที่ใกล้เคียงที่สุดในขณะที่ใช้ความจุหน่วยความจำเพียงหนึ่งในสิบของรุ่นดั้งเดิม

อ่านข่าวเต็มได้ที่: IEEE Spectrum โดย Matthew Hutson 

เครื่องมือ AI พร้อมสร้างคำโกหกเกี่ยวกับการเลือกตั้งจากเสียงของผู้นำทางการเมือง

ภาพจาก Associated Press โดย Ali Swenson

การทดสอบเครื่องมือโคลนเสียงด้วย AI ที่ได้รับความนิยม 6 ตัว โดยนักวิจัยจากศูนย์ต่อต้านความเกลียดชังทางดิจิทัล (Center for Countering Digital Hate) ซึ่งเป็นกลุ่มสิทธิพลเมืองดิจิทัลในกรุงวอชิงตัน พบว่าเครื่องมือเหล่านี้สามารถสร้างเสียงโคลนของบุคคลสำคัญทางการเมืองได้อย่างน่าเชื่อถือ 

จากการทดสอบ 240 ครั้ง เครื่องมือสามารถสร้างเสียงโคลนที่น่าเชื่อถือได้ถึง 193 ครั้ง หรือคิดเป็น 80% ของการทดสอบทั้งหมด แม้ว่าเครื่องมือบางตัวจะตั้งกฎ หรือใช้การขัดขวางทางเทคโนโลยีเพื่อป้องกันการสร้างข้อมูลเท็จเกี่ยวกับการเลือกตั้ง แต่นักวิจัยพบว่าสิ่งจ่าง ๆ เหล่านั้นสามารถหลีกเลี่ยงได้โดยง่าย

อ่านข่าวเต็มได้ที่: Associated Press โดย Ali Swenson

ชิป Tianmouc และกล้องไฮบริดช่วยเพิ่มโอกาสให้ยานพาหนะไร้คนขับที่ปลอดภัยยิ่งขึ้น

ภาพจาก https://www.youtube.com/watch?v=9IwcBBoxci4&t=19s

นักวิจัยจาก Tsinghua University ในประเทศจีนได้พัฒนาชิป Tianmouc ซึ่งเป็นชิปรุ่นใหม่สำหรับระบบขับเคลื่อนอัตโนมัติ ที่รวมความสามารถในการตรวจจับอิงเหตุการณ์ (event-based) ที่รวดเร็วแต่มีความแม่นยำต่ำ เข้ากับการแสดงผลภาพแบบช้าแต่มีความแม่นยำสูง 

ขณะเดียวกัน นักวิจัยจาก University of Zurich ในสวิตเซอร์แลนด์ได้พัฒนากล้องไฮบริดที่ผสมผสานการประมวลผลตามเหตุการณ์ กับการประมวลผลภาพที่มีแบนด์วิดธ์สูง เพื่อแก้ปัญหาความหน่วงในการรับรู้และการคำนวณ 

เครื่องตรวจจับวัตถุแบบไฮบริดนี้สามารถลดเวลาที่ใช้ในการตรวจจับวัตถุในสถานการณ์ความเร็วสูงได้

อ่านข่าวเต็มได้ที่: The Register (U.K.) โดย Lindsay Clark

ศูนย์ข้อมูลอาจใช้ไฟฟ้า 9% ของสหรัฐอเมริกาภายในปี 2030

ภาพจาก Reuters โดย Laila Kearney

รายงานฉบับใหม่จากสถาบันวิจัยพลังงานไฟฟ้า (Electric Power Research Institute) พบว่าการใช้พลังงานไฟฟ้าของศูนย์ข้อมูลอาจเพิ่มขึ้นมากกว่าสองเท่า โดยอาจสูงถึง 9% ของพลังงานไฟฟ้าทั้งหมดที่ผลิตในสหรัฐอเมริกาภายในสิ้นทศวรรษนี้ 

สถาบันดังกล่าวระบุว่าอัตราการเติบโตต่อปีโดยประมาณของการใช้ไฟฟ้าในอุตสาหกรรมนี้จนถึงปี 2030 อยู่ในช่วง 3.7% ถึง 15% รายงานดังกล่าวเรียกร้องให้มีการปรับปรุงประสิทธิภาพการใช้พลังงานของศูนย์ข้อมูลและเพิ่มการลงทุนในโครงข่ายไฟฟ้า ท่ามกลางการใช้งานปัญญาประดิษฐ์เชิงสร้างสรรค์ (generative AI) ที่เพิ่มขึ้น

อ่านข่าวเต็มได้ที่: Reuters โดย Laila Kearney

ปลั๊กอินของเบราว์เซอร์ปรับปรุงความรู้ด้านความเป็นส่วนตัวทางดิจิทัล ต่อสู้กับการออกแบบที่บิดเบือน

ภาพจาก Notre Dame News โดย Brandi Wampler

นักวิจัยจากมหาวิทยาลัย University of Notre Dame ได้พัฒนาส่วนขยาย (plug-in) สำหรับเบราว์เซอร์ Google Chrome ชื่อว่า Privacy Sandbox ซึ่งสามารถช่วยให้ผู้ใช้เห็นว่าเว็บไซต์ต่าง ๆ พุ่งเป้าหมายพวกเขาอย่างไร โดยใช้อายุ เชื้อชาติ ถิ่นที่อยู่ รายได้ และขนาดของครัวเรือน 

นอกจากนี้ นักวิจัยยังพัฒนาส่วนขยาย Chrome อีกตัวหนึ่งชื่อ Dark Pita ซึ่งสามารถตรวจจับ แบบรูปด้านมืด (Dark Pattern) บนเว็บไซต์อย่าง Amazon, YouTube, Netflix, Facebook และ X และอธิบายถึงผลกระทบของมันได้ ทั้งนี้ ส่วนขยายทั้งสองยังไม่เปิดให้บุคคลทั่วไปใช้งาน

อ่านช่าวเต็มได้ที่: Notre Dame News โดย Brandi Wampler