 |
| Yuyeung Lau on Unsplash |
นักวิจัยจาก OpenAI บริษัทวิจัยปัญญาประดิษฐ์ (artificil intelligence) หรือ AI ได้พัฒนาเทคนิคใหม่เพื่อตรวจสอบการทำงานภายในของเครือข่ายประสาทเทียม เพื่อช่วยตีความการตัดสินใจของพวกมัน เหมือนกับที่นักประสาทวิทยาได้ค้นพบในการศึกษาเกี่ยวกับสมองของมนุษย์ นักวิจัยพบว่าเซลล์ประสาทแต่ละเซลล์ในเครือข่ายประสาทขนาดใหญ่ที่ใช้ในการระบุและจัดหมวดหมู่ภาพ สามารถเข้ารหัสแนวคิดแบบเฉพาะด้านได้ การค้นพบนี้มีความสำคัญ เนื่องจากมันเป็นความท้าทายในการทำความเข้าใจเหตุผลเบื้องหลังการตัดสินใจของเครือข่ายประสาทเทียม นักวิจัยใช้เทคนิควิศวกรรมย้อนกลับ (reverse engineering) เพื่อตรวจสอบว่าอะไรที่กระตุ้นเซลล์ประสาทเทียมมากที่สุด เหนือสิ่งอื่นใดนักวิจัยสามารถระบุอคติ ที่อาจทำให้ใครบางคนสามารถหลอก AI ให้ทำการระบุตัวตนที่ไม่ถูกต้องได้
อ่านข่าวเต็มได้ที่: Fortune
ไม่มีความคิดเห็น:
แสดงความคิดเห็น