lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

โอเพนเอไอเคยพิจารณาซื้อกู๊ดไฟร์ในราคากว่า 5 พันล้านดอลลาร์ แต่ซื้อไม่สำเร็จจึงเชิญให้เข้ามาตรวจสอบเอไอ

动察 Beating ข่าวด่วน AI OpenAI ในช่วงฤดูร้อนปีนี้ได้เจรจากับสตาร์ทอัพด้าน AI อย่าง Goodfire หลายครั้ง โดย CEO Sam Altman ก็เข้าร่วมด้วยตนเอง ผู้บริหารระดับสูงคนหนึ่งถึงกับเสนอซื้อบริษัทที่ก่อตั้งมาเพียงสองปีนี้ด้วยมูลค่ากว่า 5 พันล้านดอลลาร์


Goodfire มีมูลค่าเพียง 1.25 พันล้านดอลลาร์เมื่อเดือนกุมภาพันธ์ปีนี้ ไม่กี่เดือนต่อมา ผู้บริหาร OpenAI ก็เสนอซื้อในราคาสูงกว่า 4 เท่า ขณะที่ Anthropic เร็วกว่า โดยลงทุน 1 ล้านดอลลาร์ให้กับบริษัทนี้ตั้งแต่ปีที่แล้ว


Goodfire เชี่ยวชาญด้าน "ความสามารถในการอธิบายกลไก" ของโมเดล AI กล่าวคือ การแยกส่วนกลไกการทำงานภายในของโมเดล เพื่อค้นหาว่านิวรอนใดเกี่ยวข้องกับพฤติกรรมเฉพาะ แล้วปรับเปลี่ยนสัญญาณภายในเหล่านี้เพื่อเปลี่ยนการแสดงออกของโมเดล บริษัทยังเปิดตัวแพลตฟอร์ม Silico ที่ให้ AI เอเจนต์ออกแบบการทดลองโดยอัตโนมัติ วิเคราะห์ลักษณะภายในของโมเดล และช่วยฝึกอบรมและปรับปรุงโมเดล


การตรวจสอบแบบดั้งเดิมอาศัย AI อีกตัวหนึ่งอ่านบันทึกการให้เหตุผลเพื่อตัดสินว่าโมเดลโกงหรือไม่ ส่วน Goodfire ตรวจสอบสัญญาณกิจกรรมภายในของโมเดลโดยตรง สามารถตรวจจับพฤติกรรมโกงที่การตรวจสอบข้อความบางส่วนมองข้ามไป และบางครั้งยังตรวจพบความผิดปกติก่อนที่โมเดลจะลงมือทำ


OpenAI กำลังปวดหัวกับปัญหาลักษณะนี้ ในเดือนกรกฎาคมปีนี้ โมเดลทดลองภายในของบริษัทได้หลบเลี่ยงมาตรการแยกตัวในการประเมินความปลอดภัยไซเบอร์ และบุกรุกระบบวิจัยของ OpenAI เองและเซิร์ฟเวอร์บางส่วนของ Hugging Face ต่อมา OpenAI ยอมรับเหตุการณ์นี้ต่อสาธารณะและเสริมการตรวจสอบพฤติกรรมของโมเดล


อย่างไรก็ตาม การเข้าซื้อในที่สุดก็ไม่สำเร็จ ตามแหล่งข่าว ผู้บริหาร Goodfire เห็นว่า การรักษาความเป็นอิสระพร้อมขายเทคโนโลยีให้กับบริษัท AI หลายแห่งอาจมีมูลค่ามากกว่าในอนาคต


ปัจจุบัน Goodfire ประกาศความร่วมมือกับ OpenAI อย่างเป็นทางการ บริษัทจะส่งนักวิจัยเข้าไปประจำที่ OpenAI เพื่อวิเคราะห์โมเดลภายในและกระบวนการฝึกอบรมโดยตรง ตรวจสอบพฤติกรรมผิดปกติ และช่วยปรับปรุงความปลอดภัยของโมเดล OpenAI จะจ่ายค่าตอบแทนสำหรับการประเมินนี้ นอกจาก Goodfire แล้ว ยังมีอีกสามองค์กรภายนอกที่ลงนามในรอบเดียวกัน ได้แก่ Apollo Research, METR และ Transluce

ที่เกี่ยวข้องแนะนำ
ไมโครซอฟท์ได้เปลี่ยนจาก "ช่องทางเดียวสำหรับ OpenAI" เป็น "หนึ่งในลูกค้าสำคัญของ OpenAI"
Anthropic สร้างความเชื่อใน AI ล่วงหน้า, OpenAI เปิดเผยกลยุทธ์เมื่อไหร่คือช่วงเวลาที่ไม่ลงทุนให้ตรงจุด
《นิวยอร์กเกอร์》 จำแนกบทบาทของ OpenAI และเปิดเผยความแตกแยกในการประกอบกฎของ Sam Altman และปัญหาเรื่องความเชื่อถือ
Anthropic กลับมาแซงหน้าและเหตุการณ์ความปลอดภัยที่ Agent หลบหนี奥特曼ต้องการฉีกหน้ากากออก
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น