เกือบครึ่งหนึ่งของโค้ดทั้งหมดที่สร้างโดย AI มีข้อบกพร่องด้านความปลอดภัย

ภาพจาก TechRadar โดย Craig Hale

งานวิจัยล่าสุดจาก Veracode ผู้ให้บริการโซลูชันความปลอดภัยแอปพลิเคชัน เปิดเผยว่า 45% ของโค้ดที่สร้างโดย AI มีช่องโหว่ด้านความปลอดภัย โดยยังไม่พบการปรับปรุงที่ชัดเจนในจุดนี้ จากโมเดลภาษาขนาดใหญ่ (Large Language Model) หรือ LLM ที่มีขนาดใหญ่ขึ้น หรือใหม่กว่า

จากการวิเคราะห์โมเดลกว่า 100 โมเดลในงานเขียนโค้ด 80 ชิ้น พบว่า โค้ดภาษา Java ได้รับผลกระทบมากที่สุด โดยมีอัตราความล้มเหลวเกิน 70% ตามมาด้วย Python, C# และ JavaScript 

รายงานยังเตือนว่า การพึ่งพาการเขียนโค้ดด้วย AI โดยไม่มีการกำหนดมาตรการความปลอดภัยที่ชัดเจน ซึ่งเรียกว่า "vibe coding" อาจเพิ่มความเสี่ยงให้สูงขึ้น

อ่านข่าวเต็มได้ที่: TechRadar โดย Craig Hale

หนึ่งในห้าของบทความวิทยาการคอมพิวเตอร์อาจมีเนื้อหาที่สร้างจาก AI

ภาพจาก Science โดย Phie Jacobs 

จากการวิเคราะห์บทคัดย่อและบทนำของบทความกว่า 1 ล้านชิ้นในวงกว้าง โดยนักวิจัยจาก Stanford University และ University of California, Santa Barbara พบว่า เกือบหนึ่งในห้าของบทความวิทยาการคอมพิวเตอร์ที่ตีพิมพ์ในปี 2024 อาจมีข้อความที่สร้างขึ้นโดย AI

ผลการศึกษาพบว่า ณ เดือนกันยายน 2024 บทความวิทยาการคอมพิวเตอร์ถึง 22.5% แสดงร่องรอยการได้ข้อมูลมาจากโมเดลภาษาขนาดใหญ่ (large language models) เช่น ChatGPT 

นักวิจัยใช้การสร้างตัวแบบทางสถิติเพื่อตรวจจับรูปแบบคำศัพท์ทั่วไปที่เชื่อมโยงกับงานเขียนของ AI

อ่านข่าวเต็มได้ที่: Science โดย Phie Jacobs

นักวิจัยเลี่ยงลายน้ำป้องกัน Deepfake บนรูปภาพที่ถูกสร้างด้วย AI ได้สำเร็จ

ภาพจาก  CBC News (Canada) โดย Anja Karadeglija

นักวิจัยจาก University of Waterloo ในประเทศแคนาดา ได้พัฒนาเครื่องมือที่สามารถลบลายน้ำ ที่ระบุว่าเนื้อหานั้นถูกสร้างขึ้นโดย AI ได้อย่างรวดเร็ว เครื่องมือ UnMarker ซึ่งสามารถลบลายน้ำ (watermark) ได้โดยไม่ต้องรู้ข้อมูลเกี่ยวกับระบบที่สร้างลายน้ำนั้นขึ้นมา หรือแม้แต่ข้อมูลเกี่ยวกับตัวลายน้ำเอง

Andre Kassis จาก University of อธิบายว่า "เราแค่ใช้เครื่องมือนี้ และภายในเวลาไม่เกินสองนาที มันก็จะแสดงผลเป็นภาพที่ดูเหมือนภาพต้นฉบับที่มีลายน้ำทุกประการ" แต่ภาพที่ได้จะไม่มีลายน้ำที่บ่งบอกว่าภาพนั้นสร้างโดย AI อีกต่อไป

อ่านข่าวเต็มได้ที่: CBC News (Canada) โดย Anja Karadeglija

การศึกษาเกี่ยวกับ AI Chatbots ช่วยบำบัด เตือนถึงความเสี่ยงและอคติ

ภาพจาก UPI โดย Chris Benson

การศึกษาของ Stanford University ที่ประเมินแชทบอทสุขภาพจิตที่ขับเคลื่อนด้วย AI ห้าตัว พบว่าแชทบอทเหล่านี้มีความเสี่ยงด้านความปลอดภัย โดยแสดงให้เห็นถึงอคติและไม่สามารถตอบสนองได้อย่างเหมาะสมในสถานการณ์ที่มีความเสี่ยงสูง

ในการทดลองหนึ่ง แชทบอทมีปฏิกิริยาในเชิงลบต่อภาวะต่าง ๆ เช่น โรคจิตเภท และการติดสุรามากกว่าภาวะซึมเศร้า โมเดลภาษาขนาดใหญ่ (Large Language Model) หรือ LLM รุ่นใหม่กว่าก็แสดงอคติที่คล้ายกัน ซึ่งบ่งชี้ว่าความก้าวหน้าทางเทคนิคยังไม่สามารถลดปัญหานี้ได้

อ่านข่าวเต็มได้ที่: UPI โดย Chris Benson

ผู้ใช้ Oracle Java เกือบ 3 ใน 4 รายระบุว่าตนได้รับการตรวจสอบในช่วง 3 ปีที่ผ่านมา

ภาพจาก The Register (U.K.) โดย Lindsay Clark 

ผลสำรวจผู้จัดการสินทรัพย์ด้าน IT กว่า 500 คน ซึ่งดำเนินการโดย Dimensional Research ในนามของ ITAM Forum และ Azul พบว่า 73% ขององค์กรที่ใช้ Oracle Java ถูกตรวจสอบภายในสามปีที่ผ่านมา ส่งผลให้เกือบ 80% ขององค์กรเหล่านี้ย้ายหรือวางแผนที่จะย้ายไปใช้ทางเลือกโอเพ่นซอร์ส

หนึ่งในสี่ของผู้ตอบแบบสอบถามระบุถึงความท้าทายในการติดตามการใช้งานแอปพลิเคชันในการกำหนดค่าซอฟต์แวร์ที่ซับซ้อน โดย 54% ของผู้ตอบแบบสอบถามใช้จ่ายมากกว่า 100,000 ดอลลาร์ต่อปี และ 27% ใช้จ่ายมากกว่า 500,000 ดอลลาร์ต่อปี เพื่อแก้ไขปัญหาการไม่ปฏิบัติตามข้อกำหนดด้านลิขสิทธิ์

อ่านข่าวเต็มได้ที่: The Register (U.K.) โดย Lindsay Clark