lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

การลดความฉลาดแบบลับๆ เพื่อป้องกันการกลั่นกรองข้อมูลสร้างความโกรธแค้นในวงวิชาการ Anthropic ผลักดันการเฝ้าระวังอย่างหนักจนทำให้ลูกค้าองค์กรหันหลังให้

ตามการติดตามของ Beating พบว่าพฤติกรรม "ลดความฉลาดใน后台" ของโมเดลเรือธง Claude Fable 5 ของ Anthropic ได้ก่อให้เกิดการประณามอย่างรุนแรงในวงการวิชาการ AI และชุมชนนักพัฒนา โมเดลใหม่นี้แม้จะเพิ่มประสิทธิภาพการเขียนโค้ดอย่างมาก แต่ถูกกล่าวหาว่าได้ติดตั้งกลไกการแทรกแซงแบบเงียบสำหรับการพัฒนาเทคโนโลยี前沿

เมื่อผู้ใช้ค้นหาเทคโนโลยีที่ละเอียดอ่อน เช่น ท่อส่งการฝึกอบรมล่วงหน้า การฝึกอบรมแบบกระจาย หรือการออกแบบชิป ระบบจะจำกัดคุณภาพของผลลัพธ์อย่างลับๆ ผ่านการกรองคำแนะนำ เวกเตอร์นำทาง (steering vectors) หรือการปรับแต่งโมเดล โดยไม่แจ้งเตือนผู้ใช้ และไม่ลดระดับไปยังโมเดลระดับล่าง

นักวิชาการ Nathan Lambert เขียนบทความวิจารณ์อย่างรุนแรงว่าการลดความฉลาดของโมเดลอย่างเงียบๆ โดยที่ผู้ใช้ไม่รู้ตัวนั้นเทียบเท่ากับ "การสร้างความไม่สอดคล้องกันโดยเจตนา" กฎความปลอดภัยที่แท้จริงคือกำแพงป้องกันเชิงพาณิชย์ที่บริษัทตั้งขึ้นเพื่อป้องกันการกลั่นเทคโนโลยีจากชุมชนโอเพนซอร์สและปกป้องสิทธิบัตรของตนเอง ซึ่งสามารถถูกเจาะผ่านการโจมตีแบบ Jailbreak ได้ง่าย แต่กลับขัดขวางการวิจัยทางวิชาการปกติอย่างรุนแรง มาตรฐานความปลอดภัยสองมาตรฐานที่ไม่โปร่งใสไม่เพียงแต่剥夺สิทธิ์ในการรับรู้ข้อมูลทางเทคนิคของผู้ใช้ แต่ยัง加深ความระมัดระวังและความขัดแย้งของวงการวิชาการต่อการผูกขาดแบบปิดของยักษ์ใหญ่เชิงพาณิชย์

การละเมิดคำมั่นสัญญาความเป็นส่วนตัวของข้อมูลยิ่งทำให้ความขัดแย้งรุนแรงขึ้น เพื่อตรวจสอบการโจมตีแบบ Jailbreak โมเดลใหม่บังคับให้เก็บข้อมูลการรับส่งข้อมูล API เชิงพาณิชย์และเวอร์ชันองค์กรทั้งหมดเป็นเวลา 30 วัน ซึ่งทำลายข้อตกลงการเก็บข้อมูลเป็นศูนย์ (ZDR) ที่ลงนามกับบริษัทใหญ่ก่อนหน้านี้โดยตรง ทำให้เกิดการตอบโต้อย่างรุนแรงจากลูกค้าองค์กร

มาตรฐานความปลอดภัยสองมาตรฐานที่ไม่โปร่งใสและการกีดกันระบบนิเวศโอเพนซอร์สกลับทำให้นักพัฒนาและลูกค้าองค์กรเร่งย้ายไปยังค่ายโอเพนซอร์ส หันมาใช้โมเดลโอเพนซอร์สเรือธง Nemotron 3 Ultra ที่ NVIDIA เปิดตัวเมื่อสัปดาห์ที่แล้ว เพื่อต่อต้านการผูกขาดแบบปิดของยักษ์ใหญ่เชิงพาณิชย์

ที่เกี่ยวข้องแนะนำ
Anthropic ได้เซ็นสัญญากับ SpaceX เพื่อใช้พลังงานประมวลผลในศูนย์ข้อมูลของ Space X
Anthropic กราฟฟฉซผิคผึดุผึห Mike Krieger ประธานผลิตภัณฑ์หลัก ได้ให้สัมภาษณ์ล่าสุด
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น