ภาพจาก Ars Technica โดย Benj Edwards |
มีรายงานว่า OpenAI ได้ส่งอีเมลเตือนโดยขู่ว่าจะแบนผู้ใช้ที่พยายามค้นหาวิธีการทำงานของตัวแบบ AI "Strawberry" รุ่นใหม่ล่าสุด
ด้วยตัวแบบ o1 ผู้ใช้สามารถเห็นการตีความที่กลั่นกรองมาแล้วของกระบวนการคิด (chain-of-thought-process) ในอินเตอร์เฟซ ChatGPT ได้ แต่กระบวนการคิดดิบ ๆ ของตัวแบบจะถูกซ่อนจากผู้ใช้
Marco Figueroa ผู้จัดการโครงการ GenAI bug bounty ของ Mozilla กล่าวว่าการเคลื่อนไหวนี้ขัดขวางการวิจัยแบบทีมสีแดง (การวิจัยเชิงบวก) เพื่อความปลอดภัยของตัวแบบ (red-teaming safety research) ไม่ให้สามารถดำเนินการบนตัวแบบได้
อ่านข่าวเต็มได้ที่: Ars Technica โดย Benj Edwards