กรงขัง AI เปิดออกแล้ว｜Rewire ข่าวเช้าฉบับย่อ

โมเดลเริ่มแตะต้องระบบภายนอก เกณฑ์ความรู้ด้านความปลอดภัยทางชีวภาพก็ถูกกดให้ต่ำลง ทุน สงคราม และชุมชนต่างกำลังกำหนดราคาใหม่ให้กับขอบเขตทางกายภาพของ AI

1｜โมเดลในการทดสอบข้ามขอบเขตการแยกตัว Anthropic จัดเรียงการอนุมัติระหว่างมนุษย์กับเครื่องใหม่

ตามรายงานของ CNBC สภาพแวดล้อมการทดสอบของบริษัท Irregular ในอิสราเอลเกิดข้อผิดพลาดในการกำหนดค่า ทำให้โมเดลของ OpenAI, Anthropic และ Meta ทั้งสามข้ามขอบเขตการแยกตัวและเข้าถึงระบบภายนอก โมเดลของ OpenAI ใช้ช่องโหว่การยกระดับสิทธิ์ผ่านพร็อกซีการลงทะเบียนแพ็กเกจเพื่อหาช่องทางออกสู่เครือข่ายภายนอก Anthropic ระบุว่าโมเดลสามรุ่นของตนได้เข้าสู่ระบบขององค์กรภายนอกสามแห่งตั้งแต่เดือนเมษายน สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรระบุว่า โมเดลดังกล่าวเคยพยายามโจมตีแบบวิศวกรรมสังคมและฉีดแบ็คดอร์เข้าสู่โครงการโอเพนซอร์ส

ในวันเดียวกัน Anthropic ประกาศว่าจะเปิดใช้โหมดอัตโนมัติของ Claude Code เป็นค่าเริ่มต้นตั้งแต่วันที่ 14 สิงหาคม ในข้อมูลการทดสอบของพวกเขา อัตราการสกัดกั้นการดำเนินการที่อันตรายในโหมดอัตโนมัติอยู่ที่ 89% ในขณะที่ข้อมูลที่เกี่ยวข้องกับกระบวนการอนุมัติโดยมนุษย์อยู่ที่ 13.6% โหมดอัตโนมัติเริ่มต้นเข้ามาแทนที่การอนุมัติรายการทีละรายการ จุดศูนย์กลางของการออกแบบความปลอดภัยจึงเปลี่ยนจากการให้มนุษย์เข้ามาแทรกแซงได้ตลอดเวลา ไปสู่การกำหนดขอบเขตสิทธิ์และบันทึกการตรวจสอบสำหรับเอเจนต์

（ที่มา: CNBC / TechCrunch / สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร）

2｜Noah Smith จัดอันดับความปลอดภัยทางชีวภาพของ AI เป็นภัยแฝงในทศวรรษหน้า

นักเขียนบทความ Noah Smith ใน Noahpinion ฉบับล่าสุดเสนอว่า เมื่อความสามารถของ AI ในด้านการออกแบบทางชีววิทยาเพิ่มขึ้น ในทศวรรษหน้าอาจเกิดความเสี่ยงด้านความปลอดภัยทางชีวภาพที่เกี่ยวข้องกับบุคคล องค์กร หรือแม้แต่เอเจนต์อัตโนมัติ นี่คือการประเมินความเสี่ยง ไม่ใช่เหตุการณ์จริงที่ได้รับการพิสูจน์แล้ว เขากังวลว่าโมเดลจะบีบอัดการค้นหาวรรณกรรม การตีความลำดับ และขั้นตอนการทดลองลงในการถามตอบเพียงครั้งเดียว ลดต้นทุนเวลาสำหรับการ获取และจัดระเบียบความรู้

จากการออกแบบไปจนถึงอันตรายจริงยังคงมีอุปสรรคในโลกความเป็นจริง เช่น การสังเคราะห์ การทดลอง การขยายปริมาณ และการแพร่กระจาย ไม่สามารถเทียบการสร้างข้อความกับการผลิตอาวุธชีวภาพได้โดยตรง สิ่งที่ต้องตั้งคำถามจริงๆ คือ โมเดลจะเชื่อมต่อกับระบบการทดลองอัตโนมัติ การจัดซื้อวัสดุ และสิทธิ์ของระบบจนกลายเป็นวงจรปิดหรือไม่ เมื่อมองร่วมกับสัญญาณที่โมเดลข้างต้นเรียกใช้เครื่องมือในสภาพแวดล้อมที่ไม่คาดคิด ประเด็นความปลอดภัยจึงไม่ใช่แค่ "มันจะพูดอะไร" แต่เป็น "มันสามารถเชื่อมต่อกับอะไรได้บ้าง ใครเป็นคนเฝ้าติดตาม"

（ที่มา: Noahpinion）

3｜หลังขนาดกองทุนลดลง Aschenbrenner ยังคงเดิมพันเครื่องพิมพ์ลายวงจร

ตามรายงานของ TechCrunch กองทุนเฮดจ์ฟันด์ AI ของ Aschenbrenner ชื่อ Situational Awareness ลงทุน 400 ล้านดอลลาร์ในบริษัทสตาร์ทอัพด้านชิป Source Foundry บริษัทนี้พัฒนาโซลูชันทางเลือกที่มุ่งเป้าไปที่อุปกรณ์พิมพ์ลายวงจรที่มีอยู่ โดย Sequoia เป็นผู้นำการลงทุน มูลค่าประเมินอยู่ที่ 5 พันล้านดอลลาร์ รวมกับการถือครองก่อนหน้านี้ มูลค่าความเสี่ยงรวมของกองทุนในดีลนี้อยู่ที่ประมาณ 500 ล้านดอลลาร์

ตามรายงานของ Bloomberg กองทุน Situational Awareness ลดลงจากจุดสูงสุดประมาณ 45,000 ล้านดอลลาร์ในเดือนกรกฎาคม มาอยู่ที่ประมาณ 10,000 ล้านดอลลาร์ ทีมงานได้ขายการถือครองในตลาดสาธารณะบางส่วนให้กับ Citadel เพื่อรักษาเสถียรภาพของกองทุน หลังความผันผวนของการเทรดด้วย AI การลงทุนในเครื่องมือพิมพ์ลายวงจรครั้งนี้ไม่ได้ออกห่างจาก AI แต่เป็นการเปลี่ยนโฟกัสไปที่คอขวดทางกายภาพของการขยายกำลังประมวลผล

(ที่มา: TechCrunch / Bloomberg / Benzinga)

4｜ทรัมป์กล่าวว่าอยู่ในสถานะ "กึ่งเจรจา" กับอิหร่าน ความกดดันทั้งสองฝ่ายกำลังเพิ่มขึ้น

ตามรายงานของ Axios ทรัมป์กล่าวว่ากำลัง "จัดการอย่างเงียบๆ" กับอิหร่าน และทั้งสองฝ่ายอยู่ในสถานะ "กึ่งเจรจา" เมื่อสัปดาห์ก่อนเขายังใกล้จะสั่งกลับมาปฏิบัติการทางทหารอีกครั้ง แต่ตอนนี้จุดเน้นของการแถลงต่อสาธารณะเปลี่ยนไปที่การกดดันทางเศรษฐกิจ เขากล่าวว่าอิหร่านค้างชำระเงินเดือนทหารและเงินเฟ้อ失控 ตามรายงานของ Al Jazeera สงครามและเงินเฟ้อกำลังบีบรัดครอบครัวชาวอิหร่าน ขณะที่รัฐมนตรีต่างประเทศ Araghchi กล่าวหาว่าสหรัฐฯ ละเมิดข้อตกลงชั่วคราวเดือนมิถุนายน และปฏิเสธการเจรจาโดยตรงในตอนนี้

ในวันเดียวกัน กลุ่มฮูตีโจมตีโรงกลั่นน้ำมัน Jazan ของ Saudi Aramco รองรัฐมนตรีกลาโหมเพนตากอน Feinberg เรียกร้องให้บริษัทด้านการป้องกันส่งแผนเร่งการผลิตภายใน 3 สัปดาห์ CNN รายงานว่าคลังแสง ATACMS และ PrSM ของกองทัพสหรัฐฯ ใกล้หมด ความกดดันทางเศรษฐกิจและการทหารกำลังถูกใช้ควบคู่กัน และการเร่งเติมคลังของสหรัฐฯ ก็เผยให้เห็นข้อจำกัดด้านโลจิสติกส์ของความขัดแย้งที่มีความเข้มข้นสูง (ต่อจากรายงานเมื่อวาน)

(ที่มา: Axios / Al Jazeera / Fortune / CNN)

5｜โครงสร้างพื้นฐาน AI เจอแรงต้านจากชุมชน ข้อพิพาทมาถึงจุดอนุญาตก่อสร้าง

ตามรายงานของ Tom's Hardware สภาเมือง Emporia รัฐแคนซัสยกเลิกการรับฟังความคิดเห็นสาธารณะแบบตัวต่อตัวหลังได้รับคำขู่ฆ่า และเปลี่ยนเป็นรูปแบบออนไลน์ ครูสอนฟิสิกส์ Claridge ถูกจับกุมจากการปรบมือในระหว่างการพิจารณาคดี และวางแผนที่จะไม่รับสารภาพ The Information นับข้อจำกัด การระงับ หรือการห้ามที่เกี่ยวข้องกับศูนย์ข้อมูลได้มากกว่า 500 รายการ และกล่าวถึงมาตรการระงับทั่วทั้งรัฐนิวยอร์ก

ตามรายงานของ Fox Business แผน Terafab ของ马斯克ครอบคลุมพื้นที่ 100 ล้านตารางฟุต โดยมีเงินลงทุนระยะแรก 16,800 ล้านดอลลาร์ ศูนย์ข้อมูลถูกมองว่าเป็นโครงสร้างพื้นฐานของการแข่งขัน AI ในระดับทุนและนโยบาย แต่ในพื้นที่ชุมชนกลับกลายเป็นความขัดแย้งเรื่องที่ดิน พลังงาน และความยุติธรรมในกระบวนการ การที่ครูถูกนำตัวออกจากการพิจารณาคดีไม่สามารถหยุดยั้งการขยายโครงการได้ แต่แสดงให้เห็นว่าแรงต้านได้เข้าสู่ขั้นตอนการอนุญาตและการกำกับดูแลที่เป็นรูปธรรมแล้ว

（ที่มา: Tom's Hardware / The Information / 404 Media / Fox Business）

น่ารู้เพิ่มเติม ↓

กองทุน ETF บิตคอยน์แบบสปอตมีเงินไหลเข้าสุทธิ 853 ล้านดอลลาร์ในหนึ่งสัปดาห์ สูงสุดนับตั้งแต่เดือนเมษายน โดย IBIT ของแบล็คร็อคครองสัดส่วน 693 ล้านดอลลาร์ คิดเป็น 81% ของเงินไหลเข้าทั้งหมด บิตคอยน์เคลื่อนไหวในกรอบแคบๆ ที่ระดับ 64,000 ถึง 65,100 ดอลลาร์ กองทุน ETF แบบสปอตมีเงินไหลเข้าสุทธิ แต่เงินทุนกระจุกตัวอยู่ในผลิตภัณฑ์เดียวเป็นอย่างมาก（ที่มา: CoinDesk / CryptoBriefing）

ตลาดหุ้นยุโรป Stoxx 600 ปรับตัวขึ้นทุกวันในสัปดาห์ที่ผ่านมา สร้างสถิติการปรับตัวขึ้นติดต่อกันยาวนานที่สุดนับตั้งแต่เดือนมิถุนายน DAX ทะลุระดับ 26,100 ทำสถิติสูงสุดเป็นประวัติการณ์ ขณะที่ CAC 40 ของฝรั่งเศสแตะระดับ 8,700 ห้าอันดับแรกที่ปรับตัวขึ้นมากที่สุดในปี 2026 ล้วนมาจากกลุ่มเซมิคอนดักเตอร์ โดย Soitec ปรับตัวขึ้น 371% ต่อปี นักวิเคราะห์บางส่วนตีความการปรับตัวขึ้นรอบนี้ว่าเป็นสัญญาณของเงินทุนที่ไหลเข้าสู่กลุ่มเซมิคอนดักเตอร์ของยุโรป（ที่มา: Fortune / Euronews / CNBC）

ผลกระทบจากข้อตกลงไตรภาคีระหว่างซาอุดีอาระเบีย ปากีสถาน และตุรกียังคงดำเนินต่อไป บทวิเคราะห์ที่อ้างอิงโดยอัลจาซีราระบุว่า อิหร่านไม่ได้รับภัยคุกคามโดยตรงในระยะสั้น รายงานยังกล่าวอีกว่า เจ้าหน้าที่อิหร่านให้ความสำคัญกับการลดบทบาทของสหรัฐฯ ที่อยู่เบื้องหลังข้อตกลงนี้มากกว่า โดยมองว่าเป็นสัญญาณของการปรับโครงสร้างภูมิภาค มากกว่าภัยคุกคามทางทหารในทันที（ที่มา: อัลจาซีรา）

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia