lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

จอห์น ชูลแมน ผู้ร่วมก่อตั้ง OpenAI: การจัดแนว AI ควรเป็นวิทยาศาสตร์สาธารณะ ไม่ควรถูกครอบงำโดยบริษัทเทคโนโลยีเพียงไม่กี่แห่ง

动察 Beating ข่าวด่วน AI, John Schulman ผู้ร่วมก่อตั้ง Thinking Machines และผู้ร่วมก่อตั้ง OpenAI กล่าวในรายการพอดแคสต์ของ A16Z ว่า การจัดแนว AI ไม่ควรเป็นงานวิจัยเฉพาะของบริษัทเทคโนโลยีเพียงไม่กี่แห่ง แต่ควรพัฒนาเป็นวิทยาศาสตร์สาธารณะระดับโลก เพื่อให้ผู้คนจำนวนมากขึ้นมีส่วนร่วมในการกำหนดค่านิยมของ AI และหลีกเลี่ยงการพึ่งพาการตัดสินใจของบริษัทเพียงไม่กี่แห่งมากเกินไป


เมื่อการปรับปรุงตนเองแบบเรียกซ้ำ (RSI) คืบหน้าขึ้น AI เริ่มช่วยในการวิจัยและพัฒนาโมเดลแล้ว Mark Chen หัวหน้าฝ่ายวิจัยของ OpenAI เปิดเผยว่า กระบวนการวิจัยและพัฒนา AI ได้แสดงสัญญาณเริ่มต้นของผลกระทบจากการเร่งความเร็วด้วย RSI โดยมีความคืบหน้าประมาณ 25% ถึง 50% แต่ AI ยังคงยากที่จะตัดสินทิศทางการวิจัยที่มีคุณค่าได้อย่างอิสระ และยังไม่สามารถพัฒนาโมเดลรุ่นถัดไปได้ด้วยตนเอง


Mark Chen ยังเตือนด้วยว่า เมื่อโมเดลมีความเป็นอิสระมากขึ้น หากเป้าหมายไม่สอดคล้องกับเจตนาของมนุษย์ การทำงานเป็นเวลานานอาจสร้างเป้าหมายรองที่ไม่คาดคิด อย่างไรก็ตาม AI ที่ทรงพลังกว่าก็คาดว่าจะช่วยนักวิจัยในการตรวจสอบพฤติกรรมของโมเดล ค้นหาและแก้ไขปัญหาการจัดแนวได้เช่นกัน


John Schulman เน้นย้ำว่า การจัดแนว AI ไม่ใช่เพียงปัญหาทางเทคนิค แต่ยังเกี่ยวข้องกับว่าใครเป็นผู้กำหนดค่านิยมที่ AI ควรปฏิบัติตาม ผู้ใช้และสังคมควรมีพื้นที่มากขึ้นในการมีส่วนร่วมและกำหนดค่านิยมของ AI

举报 แก้ไข/รายงาน
ที่เกี่ยวข้องแนะนำ
《นิวยอร์กเกอร์》 จำแนกบทบาทของ OpenAI และเปิดเผยความแตกแยกในการประกอบกฎของ Sam Altman และปัญหาเรื่องความเชื่อถือ
Anthropic สร้างความเชื่อใน AI ล่วงหน้า, OpenAI เปิดเผยกลยุทธ์เมื่อไหร่คือช่วงเวลาที่ไม่ลงทุนให้ตรงจุด
หลังจากสิ้นสุดการพิจารณาเฉพาะเจาะจงของ Microsoft Azure OpenAI กำลังพยายาม นำเอเยนต์ AI เข้าสู่กระบวนการทำงานจริงของธุรกิจ
ไมโครซอฟท์ได้เปลี่ยนจาก "ช่องทางเดียวสำหรับ OpenAI" เป็น "หนึ่งในลูกค้าสำคัญของ OpenAI"
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น