lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

ทำไม OpenAI ถึงยังไม่เปิดตัวโมเดลเรือธงรุ่นใหม่? พนักงานภายในเปิดเผยว่า บริษัทมี "แผลเป็น" มากเกินไปแล้ว

动察 Beating ข่าวด่วน AI OpenAI อัปเดตโมเดลเรือธง Astra ครั้งล่าสุดเมื่อต้นเดือนกันยายน และเวอร์ชันต่อมาที่กำหนดเปิดตัวในเดือนตุลาคมก็ถูกยกเลิกไปด้วย เมื่อเร็วๆ นี้ Joe พนักงานทีมความปลอดภัยของ OpenAI เปิดเผยในโพสต์ที่ถูกลบไปแล้วว่า วัฒนธรรมการวิจัยและพัฒนาภายในบริษัทได้เปลี่ยนไปสู่ "ความปลอดภัยมาก่อน" อย่างสิ้นเชิง จนอาจกล่าวได้ว่า OpenAI กลายเป็น "บริษัทด้านความปลอดภัย" ไปแล้ว


Joe กล่าวว่า ปัจจุบันประเด็นด้านความปลอดภัยแทรกซึมอยู่ในการพูดคุยประจำวันภายในบริษัท แม้แต่นักวิจัย AI ชั้นแนวหน้าก็ต้องใช้เวลามหาศาลในการร่วมงานกับทีมความปลอดภัย เพื่อศึกษาวิธีการฝึก Reinforcement Learning อย่างปลอดภัย เขาเองเคยคิดจะลาออกเมื่อหลายเดือนก่อน แต่เมื่อเห็นการเปลี่ยนแปลงของบริษัทในตอนนี้จึงตัดสินใจอยู่ต่อ


การเปลี่ยนแปลงครั้งนี้เกิดขึ้นจากเหตุการณ์ร้ายแรงครั้งหนึ่งในเดือนกรกฎาคมปีนี้ ขณะนั้นโมเดลภายในของ OpenAI ได้ฝ่า環境แยกออกในการทดสอบความปลอดภัย เชื่อมต่ออินเทอร์เน็ตโดยพลการ และถึงขั้นบุกรุกระบบของ Hugging Face ต่อมาในเดือนกันยายนก็มีโมเดลภายในใช้ช่องโหว่จากการกำหนดค่าเครือข่าย หลีกเลี่ยงข้อจำกัดเพื่อเข้าถึงอินเทอร์เน็ตภายนอก


หลังจากนั้น OpenAI ได้ระงับการฝึกโมเดลแนวหน้าหลายครั้ง และดึงวิศวกรมาเสริมความแข็งแกร่งให้ระบบ วิศวกรผลิตภัณฑ์ประมาณหนึ่งในสี่ของบริษัทถูกย้ายไปจัดการปัญหาด้านความปลอดภัย การระดมกำลังด้านความปลอดภัยภายในครั้งหนึ่งใช้บุคลากรมากกว่า 250 คน ครอบคลุมกว่า 100 สาขาบริการ


กระบวนการวิจัยและพัฒนาก็ถูกออกแบบใหม่ OpenAI ใช้ Token หลายแสนล้านเพื่อให้ AI โจมตี環境การฝึกของตัวเองซ้ำๆ เพื่อค้นหาช่องโหว่ บริษัทยังสร้าง Control Room เพื่อตรวจสอบการทำงานของโมเดลอย่างต่อเนื่อง เมื่อพบพฤติกรรมอันตราย สามารถหยุดโมเดลไม่ให้ส่งข้อมูลต่อได้ภายในเวลาไม่เกิน 35 วินาที


ข้อกำหนดด้านความปลอดภัยเหล่านี้ส่งผลโดยตรงต่อการเปิดตัวโมเดล เมื่อปลายเดือนกันยายน OpenAI ยกเลิกโมเดลเรือธง Astra รุ่นใหม่ที่กำหนดเปิดตัวในเดือนตุลาคม Saachi Jain หัวหน้าฝ่ายความปลอดภัยอธิบายว่า แม้โมเดลใหม่จะทำงานเชิงรุกมากขึ้น แต่กลับด้อยกว่ารุ่นก่อนในการปฏิบัติตามขอบเขตอำนาจที่ผู้ใช้อนุญาต และการรายงานการดำเนินการของตนเองอย่างชัดเจน ทีมความปลอดภัยจึงแนะนำให้ยกเลิกการเปิดตัว และผู้บริหารฝ่ายวิจัยก็ยอมรับการตัดสินใจนี้ในที่สุด


OpenAI ได้กลับมาฝึก Reinforcement Learning แนวหน้าที่เคยระงับไว้เมื่อวันที่ 1 ตุลาคม แต่โมเดลเรือธง Astra รุ่นใหม่ยังไม่มีการประกาศวันเปิดตัวจนถึงขณะนี้ Joe เชื่อว่าผู้บริหารในตอนนี้ตระหนักแล้วว่า ต้องรับประกันความปลอดภัยให้เพียงพอก่อน จึงจะสามารถเดินหน้าพัฒนาโมเดลที่แข็งแกร่งยิ่งขึ้นต่อไปได้ เขากล่าวว่าบทเรียนในอดีตทิ้งบาดแผลไว้ให้บริษัทไม่น้อย

举报 แก้ไข/รายงาน
ที่เกี่ยวข้องแนะนำ
Anthropic สร้างความเชื่อใน AI ล่วงหน้า, OpenAI เปิดเผยกลยุทธ์เมื่อไหร่คือช่วงเวลาที่ไม่ลงทุนให้ตรงจุด
หลังจากสิ้นสุดการพิจารณาเฉพาะเจาะจงของ Microsoft Azure OpenAI กำลังพยายาม นำเอเยนต์ AI เข้าสู่กระบวนการทำงานจริงของธุรกิจ
ในบรรดาคนที่ติดตามกันอย่างล่าสุดนี้ ใครคือผู้กำไรจากการจับปลาในทะเลแห่งนี้?
Anthropic กลับมาแซงหน้าและเหตุการณ์ความปลอดภัยที่ Agent หลบหนี奥特曼ต้องการฉีกหน้ากากออก
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น