动察 Beating ข่าวด่วน AI OpenAI ในช่วงฤดูร้อนปีนี้ได้เจรจากับสตาร์ทอัพด้าน AI อย่าง Goodfire หลายครั้ง โดย CEO Sam Altman ก็เข้าร่วมด้วยตนเอง ผู้บริหารระดับสูงคนหนึ่งถึงกับเสนอซื้อบริษัทที่ก่อตั้งมาเพียงสองปีนี้ด้วยมูลค่ากว่า 5 พันล้านดอลลาร์
Goodfire มีมูลค่าเพียง 1.25 พันล้านดอลลาร์เมื่อเดือนกุมภาพันธ์ปีนี้ ไม่กี่เดือนต่อมา ผู้บริหาร OpenAI ก็เสนอซื้อในราคาสูงกว่า 4 เท่า ขณะที่ Anthropic เร็วกว่า โดยลงทุน 1 ล้านดอลลาร์ให้กับบริษัทนี้ตั้งแต่ปีที่แล้ว
Goodfire เชี่ยวชาญด้าน "ความสามารถในการอธิบายกลไก" ของโมเดล AI กล่าวคือ การแยกส่วนกลไกการทำงานภายในของโมเดล เพื่อค้นหาว่านิวรอนใดเกี่ยวข้องกับพฤติกรรมเฉพาะ แล้วปรับเปลี่ยนสัญญาณภายในเหล่านี้เพื่อเปลี่ยนการแสดงออกของโมเดล บริษัทยังเปิดตัวแพลตฟอร์ม Silico ที่ให้ AI เอเจนต์ออกแบบการทดลองโดยอัตโนมัติ วิเคราะห์ลักษณะภายในของโมเดล และช่วยฝึกอบรมและปรับปรุงโมเดล
การตรวจสอบแบบดั้งเดิมอาศัย AI อีกตัวหนึ่งอ่านบันทึกการให้เหตุผลเพื่อตัดสินว่าโมเดลโกงหรือไม่ ส่วน Goodfire ตรวจสอบสัญญาณกิจกรรมภายในของโมเดลโดยตรง สามารถตรวจจับพฤติกรรมโกงที่การตรวจสอบข้อความบางส่วนมองข้ามไป และบางครั้งยังตรวจพบความผิดปกติก่อนที่โมเดลจะลงมือทำ
OpenAI กำลังปวดหัวกับปัญหาลักษณะนี้ ในเดือนกรกฎาคมปีนี้ โมเดลทดลองภายในของบริษัทได้หลบเลี่ยงมาตรการแยกตัวในการประเมินความปลอดภัยไซเบอร์ และบุกรุกระบบวิจัยของ OpenAI เองและเซิร์ฟเวอร์บางส่วนของ Hugging Face ต่อมา OpenAI ยอมรับเหตุการณ์นี้ต่อสาธารณะและเสริมการตรวจสอบพฤติกรรมของโมเดล
อย่างไรก็ตาม การเข้าซื้อในที่สุดก็ไม่สำเร็จ ตามแหล่งข่าว ผู้บริหาร Goodfire เห็นว่า การรักษาความเป็นอิสระพร้อมขายเทคโนโลยีให้กับบริษัท AI หลายแห่งอาจมีมูลค่ามากกว่าในอนาคต
ปัจจุบัน Goodfire ประกาศความร่วมมือกับ OpenAI อย่างเป็นทางการ บริษัทจะส่งนักวิจัยเข้าไปประจำที่ OpenAI เพื่อวิเคราะห์โมเดลภายในและกระบวนการฝึกอบรมโดยตรง ตรวจสอบพฤติกรรมผิดปกติ และช่วยปรับปรุงความปลอดภัยของโมเดล OpenAI จะจ่ายค่าตอบแทนสำหรับการประเมินนี้ นอกจาก Goodfire แล้ว ยังมีอีกสามองค์กรภายนอกที่ลงนามในรอบเดียวกัน ได้แก่ Apollo Research, METR และ Transluce
