วันจันทร์ที่ 22 สิงหาคม พ.ศ. 2565

คำที่สร้างขึันเอง หลอก AI ที่ใช้สร้างภาพจากข้อความ

circuit-board
ภาพจาก Discover

Raphaël Millière แห่ง Columbia University' พบว่าคำที่สร้าวขึ้นเองสามารถหลอกลวงเครื่องมือสร้างข้อความเป็นรูปภาพ ทำให้เกิดคำถามเกี่ยวกับความปลอดภัย 

Millièreสร้างคำที่ไร้สาระโดยใช้เทคนิคการรวมเอาคำที่มีความหมายจริงจากภาษาต่าง ๆ มาประกอบกัน ตัวอย่างเช่น คำว่า "falaiscoglieklippantilado" ที่ประกอบขึ้นจากคำภาษาเยอรมัน อิตาลี ฝรั่งเศส และสเปนสำหรับ "หน้าผา" ซึ่งผลลัพธ์คือเครื่องสร้างภาพของหน้าผาหลายรูป เมื่อป้อนข้อมูลลงในเครื่องมือสร้างข้อความเป็นรูปภาพ DALL-E 2 

Millière กล่าวว่า "การทดลองเบื้องต้นชี้ให้เห็นว่าสตริงแบบผสมสามารถสร้างขึ้นอย่างเป็นระบบเพื่อสร้างภาพของวัตถุแทบทุกประเภทที่ต้องการ หรือแม้กระทั่งรวมเข้าด้วยกันเพื่อสร้างฉากที่ซับซ้อนมากขึ้น" 

อย่างไรก็ตาม Millière ตั้งข้อสังเกตว่า "โดยหลักการแล้ว การผสมคำแบบนี้อาจเป็นวิธีที่ง่าย และน่าจะเลี่ยงจากตัวกรอง [เนื้อหา] ได้เป็นอย่างดี ซึ่งอาจนำไปสู่เพื่อสร้างเนื้อหาที่เป็นอันตราย ล่วงละเมิด ผิดกฎหมาย หรือมีความละเอียดอ่อน ซึ่งรวมถึงความรุนแรง ความเกลียดชัง การเหยียดผิว การเหยียดเพศ หรือ ภาพลามกอนาจาร

อ่านข่าวเต็มได้ที่: Discover

ไม่มีความคิดเห็น:

แสดงความคิดเห็น