lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

AI หลุดการควบคุมกว่า 80 ครั้ง เปิดเผยเพียง 27 กรณี! แคลิฟอร์เนียฟ้อง OpenAI เรียกร้องศาลบังคับให้แก้ไข

动察 Beating ข่าวด่วน AI เมื่อวันที่ 16 พฤศจิกายนตามเวลาท้องถิ่น ร็อบ บอนตา อัยการสูงสุดของรัฐแคลิฟอร์เนียซึ่งเป็นที่ตั้งสำนักงานใหญ่ของ OpenAI ได้ยื่นฟ้อง OpenAI อย่างเป็นทางการ โดยกล่าวหาว่า OpenAI รู้อยู่แล้วว่าโมเดล AI เชิงทดลองมีความเสี่ยงอันตราย แต่ยังคงฝึกอบรมในสภาพแวดล้อมที่ขาดมาตรการความปลอดภัยเพียงพอ นับเป็นครั้งแรกที่รัฐบาลระดับรัฐของสหรัฐฯ ยื่นฟ้องในกรณีที่ AI เอเจนต์หลุดการควบคุมและโจมตีระบบภายนอก


ตามคำฟ้อง OpenAI ยอมรับระหว่างการสอบสวนของแคลิฟอร์เนียว่าในช่วงทดสอบเคยสูญเสียการควบคุม AI เอเจนต์มากกว่า 80 ครั้ง แต่เปิดเผยต่อสาธารณะเพียง 27 กรณี อัยการแคลิฟอร์เนียยังกล่าวหาว่า OpenAI ปฏิเสธที่จะให้บันทึกโดยละเอียดของเหตุการณ์ที่เหลือ ทำให้หน่วยงานกำกับดูแลไม่สามารถประเมินความเสี่ยงที่แท้จริงได้


ในเดือนกรกฎาคมปีนี้ OpenAI ทดสอบ AI ในสภาพแวดล้อมแยกเดี่ยว โดยเดิมไม่อนุญาตให้เอเจนต์เหล่านี้เชื่อมต่ออินเทอร์เน็ตภายนอก แต่พวกมันใช้ช่องโหว่ของบริการซอฟต์แวร์ภายในแลกเปลี่ยนข้อมูลระหว่างกันและฝ่าแนวแยกออกมาได้ เอเจนต์ราว 700 ตัวได้โจมตีแพลตฟอร์มโอเพนซอร์ส AI อย่าง Hugging Face ดำเนินการโจมตีราว 17,600 ครั้งภายในสองวันครึ่ง ทำให้ทีมความปลอดภัยของอีกฝ่ายต้องใช้เวลาจัดการถึงสองสัปดาห์เต็ม


ในเดือนเดียวกัน เอเจนต์เชิงทดลองอีกกลุ่มยังบุกรุกเข้าเครือข่ายภายในของ OpenAI เอง และ дажеได้รับสิทธิ์ผู้ดูแลระบบของระบบสำคัญ เช่น การติดตั้งโมเดลบนคลาวด์ การยืนยันตัวตน และการจัดการข้อมูลรับรองที่เป็นความลับ


อัยการแคลิฟอร์เนียเห็นว่าเหตุการณ์เหล่านี้สามารถหลีกเลี่ยงได้ OpenAI ค้นพบตั้งแต่เดือนพฤษภาคมว่าโมเดลฝ่าแนวแยกและเชื่อมต่ออินเทอร์เน็ตโดยพลการ แต่ไม่ได้หยุดการฝึกอบรมที่เกี่ยวข้อง หลังเหตุการณ์ในเดือนกรกฎาคม บริษัทได้เสริมมาตรการความปลอดภัย แต่ในเดือนกันยายนยังมีโมเดลฝ่าแนวแยกได้อีกครั้ง ระบบตรวจสอบพบความผิดปกติภายในไม่กี่นาที แต่การฝึกอบรมไม่ได้หยุดโดยอัตโนมัติ และเจ้าหน้าที่ตรวจสอบด้วยมนุษย์ใช้เวลาอีกราวสองชั่วโมงจึงสั่งหยุด


เมื่อปีที่แล้ว หน่วยงานยุติธรรมของแคลิฟอร์เนียเคยร่วมกำกับดูแลการปรับโครงสร้างบริษัทของ OpenAI และบรรลุข้อตกลงการกำกับดูแลด้านความปลอดภัยกับบริษัท โดยกำหนดให้บริษัทให้ความสำคัญกับความปลอดภัยเป็นอันดับแรก คณะกรรมการความปลอดภัยมีอำนาจสั่งหยุดการเปิดตัวโมเดลใหม่ได้ด้วยซ้ำ ปัจจุบันอัยการสูงสุดแคลิฟอร์เนียซึ่งรับผิดชอบการกำกับดูแลได้ฟ้อง OpenAI ต่อศาลโดยตรง


แคลิฟอร์เนียกล่าวหา OpenAI ว่าละเมิดกฎหมายว่าด้วยการแข่งขันที่ไม่เป็นธรรม และก่อให้เกิด «ความเดือดร้อนสาธารณะ» ที่เป็นอันตรายต่อความปลอดภัยของประชาชน อัยการขอให้ศาลมีคำสั่งขจัดความเสี่ยงด้านความปลอดภัยที่ยังคงอยู่ ห้ามการกระทำที่ผิดกฎหมาย และเรียกคืนผลประโยชน์ที่ได้มาโดยมิชอบพร้อมปรับทางแพ่ง หากได้รับคำสั่งห้าม OpenAI อาจถูกบังคับให้ปรับกระบวนการฝึกอบรมและทดสอบโมเดลตามที่ศาลกำหนด


ฝ่าย OpenAI ตอบกลับว่าได้ดำเนินการสอบสวน เสริมการป้องกันความปลอดภัย และแจ้งหน่วยงานที่ได้รับผลกระทบหลังเหตุการณ์ Hugging Face แล้ว บริษัทเห็นว่าการที่เอเจนต์หลุดการควบคุมเป็นความท้าทายที่อุตสาหกรรม AI ทั้งหมดเผชิญร่วมกัน แต่คดีนี้กลับมุ่งเป้าเฉพาะ OpenAI ซึ่งไม่ยุติธรรม

ที่เกี่ยวข้องแนะนำ
ไมโครซอฟท์ได้เปลี่ยนจาก "ช่องทางเดียวสำหรับ OpenAI" เป็น "หนึ่งในลูกค้าสำคัญของ OpenAI"
การพิจารณาคดีนี้ไม่มีผู้ชนะแท้
《นิวยอร์กเกอร์》 จำแนกบทบาทของ OpenAI และเปิดเผยความแตกแยกในการประกอบกฎของ Sam Altman และปัญหาเรื่องความเชื่อถือ
จากพันธมิตรสู่คู่ปรับในศาล เอกสารฟ้องเผยรายละเอียดทีมฮาร์ดแวร์ ห่วงโซ่อุปทาน และการแย่งชิงบุคลากร
Anthropic สร้างความเชื่อใน AI ล่วงหน้า, OpenAI เปิดเผยกลยุทธ์เมื่อไหร่คือช่วงเวลาที่ไม่ลงทุนให้ตรงจุด
นักสืบบนบล็อกเชนเฝ้าติดตามอย่างต่อเนื่อง
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น