 |
| ภาพจาก Computerworld |
คณะอัยการสูงสุดของรัฐต่าง ๆ ในสหรัฐอเมริกา กำลังเร่งกระตุ้นให้บริษัทด้าน AI ยักษ์ใหญ่จัดการกับปัญหาการตอบโต้ของแชตบอตที่ก่อให้เกิด "อาการหลงผิด" (Delusional outputs) ที่เป็นอันตราย ภายหลังเกิดเหตุการณ์สะเทือนขวัญด้านสุขภาพจิตที่เชื่อมโยงกับการใช้งาน AI
ในจดหมายเปิดผนึกที่ลงนามโดยอัยการสูงสุด 42 คนจากรัฐและเขตปกครองต่าง ๆ ของสหรัฐฯ เจ้าหน้าที่ได้เตือนบริษัทต่าง ๆ ซึ่งรวมถึง Microsoft, OpenAI, Google และ Anthropic ว่าการเพิกเฉยไม่ดำเนินการแก้ไขอาจนำไปสู่ผลทางกฎหมาย
โดยในจดหมายเรียกร้องให้มีการวางมาตรการป้องกันที่เข้มงวดขึ้น และกระตุ้นให้มีการตรวจสอบโมเดลภาษาขนาดใหญ่ (Large Language Models) โดยองค์กรอิสระ เพื่อตรวจหาพฤติกรรมที่ทำให้เกิดอาการหลงผิดหรือพฤติกรรมที่ประจบเอาใจผู้ใช้จนเกินไป (Sycophantic behavior)
อ่านข่าวเต็มได้ที่: Computerworld
ไม่มีความคิดเห็น:
แสดงความคิดเห็น