วันอังคารที่ 10 พฤศจิกายน พ.ศ. 2563

นักวิจัยพัฒนาเทคนิคในการเขียนประโยคเพื่อหลอกตัวแยกประเภทข้อความ

 

Image Credit: raindrop74 / Shutterstock

นักวิจัยจาก Massachusetts Institute of Technology (MIT) สร้างเฟรมเวอร์กเพื่อเขียนประโยคขึ้นมาใหม่โดยมีจุดประสงค์เพื่อทำให้ตัวแยกประเภทข้อความทำงานผิดพลาด โดยการจู่โจมนี้จะมีผลต่ออุตสาหกรรมอย่างเช่นการให้กู้ยืมเงิน ซึ่งใช้ปัญญาประดิษฐ์ (artificial intelligence) หรือ AI ในการประมวลผลเอกสาร โดยการจู่โจมนี้ใช้การสร้างประโยคซึ่งทำให้การจู่โจมได้ผลกว่าการใช้คำ โดยให้นักวิจัยได้ใช้โปรแกรมแต่งประโยคขึ้นมาใหม่ โดยให้มีความหมายเหมือนับประโยคเดิม อย่างเช่น ประโยคเดิมคือ "Turkey is put on track for EU membership,” โปรแกรมแยกข้อความจะจัดกลุ่มของประโยคต้นฉบับอยู่ในกลุ่ม "World"  ถ้าเปลี่ยนเป็น “EU puts Turkey on track for full membership” ประโยคนี้จะถูกจัดกลุ่มอยู่ในกลุ่ม "Business" นักวิจัยบอกว่าถึงแม้วิธีการนี้จะถูกนำไปใช้แบบผิด ๆ เพื่อการโจมตี แต่มันก็สามารถนำมาใช้ประโยชน์ได้ในการฝึกให้โมเดลที่มีอยู่ต่อสู้กับการโจมตีในลักษณะนี้ได้ดีขึ้น

อ่านข่าวเต็มได้ที่: VentureBeat

ไม่มีความคิดเห็น:

โพสต์ความคิดเห็น