เกือบครึ่งหนึ่งของโค้ดทั้งหมดที่สร้างโดย AI มีข้อบกพร่องด้านความปลอดภัย

ภาพจาก TechRadar โดย Craig Hale

งานวิจัยล่าสุดจาก Veracode ผู้ให้บริการโซลูชันความปลอดภัยแอปพลิเคชัน เปิดเผยว่า 45% ของโค้ดที่สร้างโดย AI มีช่องโหว่ด้านความปลอดภัย โดยยังไม่พบการปรับปรุงที่ชัดเจนในจุดนี้ จากโมเดลภาษาขนาดใหญ่ (Large Language Model) หรือ LLM ที่มีขนาดใหญ่ขึ้น หรือใหม่กว่า

จากการวิเคราะห์โมเดลกว่า 100 โมเดลในงานเขียนโค้ด 80 ชิ้น พบว่า โค้ดภาษา Java ได้รับผลกระทบมากที่สุด โดยมีอัตราความล้มเหลวเกิน 70% ตามมาด้วย Python, C# และ JavaScript 

รายงานยังเตือนว่า การพึ่งพาการเขียนโค้ดด้วย AI โดยไม่มีการกำหนดมาตรการความปลอดภัยที่ชัดเจน ซึ่งเรียกว่า "vibe coding" อาจเพิ่มความเสี่ยงให้สูงขึ้น

อ่านข่าวเต็มได้ที่: TechRadar โดย Craig Hale

หนึ่งในห้าของบทความวิทยาการคอมพิวเตอร์อาจมีเนื้อหาที่สร้างจาก AI

ภาพจาก Science โดย Phie Jacobs 

จากการวิเคราะห์บทคัดย่อและบทนำของบทความกว่า 1 ล้านชิ้นในวงกว้าง โดยนักวิจัยจาก Stanford University และ University of California, Santa Barbara พบว่า เกือบหนึ่งในห้าของบทความวิทยาการคอมพิวเตอร์ที่ตีพิมพ์ในปี 2024 อาจมีข้อความที่สร้างขึ้นโดย AI

ผลการศึกษาพบว่า ณ เดือนกันยายน 2024 บทความวิทยาการคอมพิวเตอร์ถึง 22.5% แสดงร่องรอยการได้ข้อมูลมาจากโมเดลภาษาขนาดใหญ่ (large language models) เช่น ChatGPT 

นักวิจัยใช้การสร้างตัวแบบทางสถิติเพื่อตรวจจับรูปแบบคำศัพท์ทั่วไปที่เชื่อมโยงกับงานเขียนของ AI

อ่านข่าวเต็มได้ที่: Science โดย Phie Jacobs