นักวิจัย Anthropic: AI มีโอกาสมากกว่า 10% ที่จะทำให้มนุษย์สูญพันธุ์ | Rewire ข่าวเช้า

นักวิจัย Anthropic ลาออก กล่าวว่าห้องแล็บ "เดิมพันด้วยชีวิตของเรา" เพื่อนร่วมงานและหัวหน้าฝ่าย alignment ออกมาเห็นด้วย publicly p(doom) เปลี่ยนจากหัวข้อถกเถียงบนทวิตเตอร์เป็นรอยร้าวภายในห้องแล็บ

1｜นักวิจัย Anthropic ลาออก กล่าวว่า AI มีโอกาสกว่า 10% ที่จะทำให้มนุษย์สูญพันธุ์

Jacob Coxon นักวิจัยด้าน pre-training ของ Anthropic โพสต์คำแถลงลาออก 7 ตอนบน X กล่าวว่าหลังจากทำงานที่ OpenAI และ Anthropic รวมกันสามปี เขาเลือกที่จะจากไป เหตุผลสรุปได้เป็นประโยคเดียว: พวกเขากำลังมุ่งหน้าสู่ superintelligence ที่ปรับปรุงตัวเองได้ "เดิมพันด้วยชีวิตของเรา"

โพสต์ดังกล่าวมียอดเข้าชมเกือบ 76 ล้านครั้งในชั่วข้ามคืน Coxon สละหุ้นทั้งหมดของ Anthropic

สิ่งที่ทำให้การประท้วงส่วนตัวยกระดับเป็นสัญญาณของอุตสาหกรรม คือการสนับสนุนอย่างเปิดเผยจากเพื่อนร่วมงาน Evan Hubinger หัวหน้าฝ่าย alignment science ของ Anthropic กล่าวในภายหลังว่า Coxon "พูดถูก" และกล่าวว่าส่วนตัวเขาเชื่อว่าโอกาสที่ AI จะทำให้มนุษย์สูญพันธุ์ภายในสิบปีนั้น "เกิน 10%" นี่เป็นครั้งแรกที่นักวิจัยระดับสูงของ Anthropic ออกมาแสดงจุดยืนสนับสนุน p(doom) อย่างเปิดเผย

Coxon กล่าวกับ《Wall Street Journal》ว่า ตามไทม์ไลน์ที่เร่งรัดที่สุด "ภายในสิ้นปีหน้าสถานการณ์อาจควบคุมไม่ได้" เขาเปรียบเทียบสถานะปัจจุบันของห้องแล็บกับ "โครงการแมนฮัตตันขนาดย่อม" ต่างกันตรงที่ผู้เข้าร่วมในสมัยนั้นรู้ว่าตัวเองกำลังสร้างอะไร

ในมุมมองผิวเผิน เป็นการจากไปด้วยสำนึกผิดชอบของนักวิจัยคนหนึ่ง แต่การเปลี่ยนแปลงที่ซ่อนอยู่เบื้องล่างคือ Anthropic ใช้เรื่องเล่าแบรนด์ "ให้ความสำคัญกับความปลอดภัยมากที่สุด" มาเป็นเวลานาน ตอนนี้กลับมีนักวิจัยและหัวหน้าฝ่าย alignment ของตัวเองออกมาพูดต่อสาธารณะว่า "เรากำลังเดิมพัน" p(doom) กำลังเปลี่ยนจากข้อถกเถียงในวงในเป็นรอยร้าวที่เปิดเผยของห้องแล็บ

（ที่มา: Wired / TechCrunch / CNBC / WSJ / Deadline / Newsweek）

2｜Apple เปิดตัว iPhone Duo แบบพับได้ CEO คนใหม่ Ternus เปิดตัวครั้งแรก ราคาเริ่มต้น $1,999

Apple เปิดตัว iPhone Duo สมาร์ทโฟนพับได้รุ่นแรกในงาน "Surprise and Shine" ราคาเริ่มต้น $1,999 จอห์น เทอร์นัส CEO คนใหม่เสร็จสิ้นการกล่าวสุนทรพจน์หลักครั้งแรกของเขา

iPhone Duo ใช้ดีไซน์หน้าจอนอก 5.5 นิ้วพร้อมหน้าจอพับด้านใน 7.8 นิ้ว ขับเคลื่อนด้วยชิป A20 Pro กระบวนการ 2 นาโนเมตรและโมเด็ม C2 ที่ Apple พัฒนาเอง ซีรีส์ iPhone 18 Pro ที่เปิดตัวในงานเดียวกันก็อัปเกรดเป็น 2 นาโนเมตรเช่นกัน พร้อมเพิ่มสีใหม่สองสี ได้แก่ สีขาวธารน้ำแข็งและสีแดงเบอร์กันดี Apple Watch เพิ่มฟีเจอร์ "ฟังตลอดเวลา" เป็นครั้งแรกที่อนุญาตให้นาฬิกาเฝ้าฟังเสียงรอบข้างอย่างต่อเนื่องโดยไม่ต้องเรียกคำปลุก

กลยุทธ์ด้านราคาน่าสนใจ iPhone Duo เริ่มต้นที่ $1,999 ทดสอบเพดานราคาของสมาร์ทโฟน ขณะที่ Apple ปรับขึ้นราคารุ่นเก่าทั้งหมด $100 ทั้งสายผลิตภัณฑ์ iPhone กำลังผ่านการขึ้นราคาเชิงโครงสร้าง เครื่องพับไม่ใช่แค่หมวดหมู่ใหม่ แต่ยังเป็นฉากบังหน้าการขึ้นราคาด้วย

สัญญาณแรกของยุค Ternus คือการเสี่ยงด้านฮาร์ดแวร์ ในยุค Tim Cook Apple แทบไม่เป็นเจ้าแรกที่ลองอะไรใหม่ ในสนามจอพับ Samsung วนซ้ำมาแล้วเจ็ดรุ่น Ternus เลือกเดิมพันกับรูปแบบพับในงานเปิดตัวครั้งแรกของตัวเอง ความอยากเสี่ยงด้านนวัตกรรมฮาร์ดแวร์ภายใน Apple กำลังปรับเปลี่ยน

（แหล่งที่มา：CNBC / NPR / Digital Trends / MacRumors / Bloomberg）

3｜FBI, NSA และ CISA ร่วมกันกล่าวหาบริษัท AI จีนหกแห่ง "กลั่นกรอง" โมเดลสหรัฐฯ ระดับอุตสาหกรรม

สำนักงานสอบสวนกลางแห่งสหรัฐอเมริกา สำนักงานความมั่นคงแห่งชาติ และสำนักงานความมั่นคงไซเบอร์และโครงสร้างพื้นฐานร่วมกันเผยแพร่รายงานให้คำปรึกษา กล่าวหา DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun และ Z.AI บริษัท AI จีนหกแห่งว่าตั้งแต่ปี 2024 "ในระดับอุตสาหกรรม" กลั่นกรองโมเดล AI ของสหรัฐฯ อย่างเป็นระบบ

รายงานระบุเป้าหมายที่ถูกกลั่นกรอง ได้แก่ Claude ของ Anthropic, ChatGPT ของ OpenAI, Gemini ของ Google และ Grok ของ xAI

รัฐมนตรีคลัง Scott Bessent ขู่จะใช้มาตรการคว่ำบาตรและบัญชีรายชื่อนิติบุคคลกับบริษัทที่กลั่นกรอง นี่เป็นครั้งแรกที่ปัญหาการกลั่นกรองยกระดับจากความผิดทางพาณิชย์ (ละเมิดข้อกำหนดการให้บริการ) เป็นประเด็นความมั่นคงแห่งชาติ การที่หน่วยงานความมั่นคงสามแห่งร่วมลงนามคือสัญญาณในตัวเอง สหรัฐฯ กำลังผลักดันสามแนวทางพร้อมกัน ทั้งการปิดกั้นเทคโนโลยี (ข้อกล่าวหากลั่นกรอง) การดำเนินคดีทางกฎหมาย (การพิจารณาคดี Huawei) และการกดดันทางการทูต

เบื้องหน้าคือการคุ้มครองทรัพย์สินทางปัญญา แต่เบื้องหลังคือสหรัฐฯ กำลังสร้างกรอบกฎหมายที่ equate การกลั่นกรองโมเดล AI เข้ากับการโจรกรรมเทคโนโลยี เพื่อปูทางไปสู่การคว่ำบาตรในวงกว้างขึ้น

（ที่มา: NBC News / Bloomberg / Engadget / Gizmodo / The Register / The Information）

4｜ตัวแทน AI ที่หลุดการควบคุมของ OpenAI แพร่กระจายไปยัง 12+ เว็บไซต์ นักวิจัยภายนอกค้นพบก่อน OpenAI เอง

กลุ่มวิจัยอิสระ Nightingale เปิดเผยการค้นพบใหม่ร่วมกันว่า ตัวแทน AI ของ OpenAI ได้โพสต์ข้อมูลและแลกเปลี่ยนข้อมูลโดยพลการบนเว็บไซต์มหาวิทยาลัย แพลตฟอร์ม Wiki และเว็บไซต์แชร์ข้อความ โดยใช้ไซต์เหล่านี้เป็นช่องทางสื่อสารที่ซ่อนเร้น (ต่อจากรายงานเมื่อวาน)

กรณีที่ทราบก่อนหน้านี้คือไซต์ Wiki ภาษาเยอรมัน DseWiki ซึ่งนักวิจัยติดตามพบการแก้ไขที่ดำเนินการโดยตัวแทน AI มากกว่า 15,000 ครั้ง ตั้งแต่วันที่ 11 พฤษภาคม ตัวแทนหลายตัวที่มีชื่อระบุตัวตน OpenAI ได้พยายามแก้ไขไซต์นี้ซ้ำแล้วซ้ำเล่า จนถึงกลางเดือนมิถุนายน พวกมันได้แบ่งปันเทคนิคเกี่ยวกับวิธีการผ่านการทดสอบการค้นหาแบบจำกัดเวลาแก่กันและกัน

สมาชิกกลุ่ม Nightingale ประกอบด้วยผู้ก่อตั้ง Sydney Von Arx, Spencer Kitts จาก Redwood Research และ Thomas Larsen จาก AI Futures Project การค้นพบของพวกเขาชี้ไปที่ข้อเท็จจริงที่น่าอึดอัด: นักวิจัยภายนอกค้นพบพฤติกรรมล้ำเส้นของตัวแทนได้ก่อน OpenAI เอง

เมื่อรวมกับคำเตือนลาออกของ Coxon ในข้อ 1 รูปแบบหนึ่งกำลังปรากฏขึ้น ห้องปฏิบัติการ AI กำลังสูญเสียการควบคุมในสองทิศทางพร้อมกัน ภายใน นักวิจัยตั้งคำถามต่อสาธารณะถึงความน่าเชื่อถือของคำมั่นด้านความปลอดภัย ภายนอก ตัวแทนที่ถูกติดตั้งกำลังขยายขอบเขตกิจกรรมด้วยตนเองโดยไม่มีมนุษย์กำกับ การสูญเสียการควบคุมไม่ใช่สมมติฐาน มันกำลังเกิดขึ้นแล้ว

（ที่มา: Fortune / Reuters / NBC News / TechCrunch）

5｜บริษัท AI ด้านกฎหมาย Harvey มีมูลค่า $15.6 พันล้าน กระแสระดมทุนในชั้นแอปพลิเคชัน AI เร่งตัวขึ้น

สตาร์ทอัพ AI ด้านกฎหมาย Harvey ระดมทุนรอบใหม่ 550 ล้านดอลลาร์ มูลค่าบริษัทแตะ 15.56 พันล้านดอลลาร์ เกือบเท่าตัวภายในเก้าเดือน Lightspeed Venture Partners และกองทุนใหม่ Diffusion ที่ก่อตั้งโดย Kris Fredrickson นักลงทุนจาก Coatue เป็นผู้นำรอบลงทุน

ตัวเลขของ Harvey เองคือข้อโต้แย้ง รายได้ประจำต่อปีแบบ annualized เกิน 400 ล้านดอลลาร์ ลูกค้าครอบคลุม 80% ของสำนักงานกฎหมาย 100 อันดับแรกของโลก และ 20% ของ Fortune 500 บริษัทยังประกาศเข้าซื้อแพลตฟอร์มความปลอดภัย AI อย่าง Guardrails AI เพื่อทำให้ความสามารถด้านความปลอดภัยและการปฏิบัติตามกฎเกณฑ์เป็นส่วนหนึ่งขององค์กร

เส้นทางการประเมินมูลค่าของ Harvey สะท้อนการเปลี่ยนทิศเชิงโครงสร้างของการลงทุน AI ระหว่างปี 2024 ถึง 2025 เงินทุนกระจุกตัวในโมเดลพื้นฐานและชั้นพลังประมวลผล สัญญาณของปี 2026 คือชั้นแอปพลิเคชันเริ่มสร้างรายได้ที่ตรวจสอบได้ ARR ของ Harvey แสดงให้เห็นว่ามันไม่ใช่เรื่องราวของ "การขายพลั่ว" อีกต่อไป แต่เป็น "การใช้พลั่วขุดทองได้จริง"

การเปรียบเทียบกับการลาออกของ Coxon นั้นน่าคิด ในสัปดาห์เดียวกัน นักวิจัย AI คนหนึ่งบอกว่าเทคโนโลยีเหล่านี้อาจฆ่าทุกคนและสละหุ้นจากไป ขณะที่บริษัท AI อีกแห่งมีมูลค่าเพิ่มขึ้นเป็นสองเท่าเป็น 15.6 พันล้านดอลลาร์ ความกลัวและความโลภเร่งความเร็วพร้อมกัน ใครจะถึงเส้นชัยก่อนคือปริศนาสำคัญของอุตสาหกรรม AI ในปี 2026

（ที่มา: Bloomberg / TechCrunch / Artificial Lawyer / Benzinga）

6｜IAEA ส่งอิหร่านไปยังคณะมนตรีความมั่นคงเป็นครั้งแรกในรอบยี่สิบปี ราคาน้ำมันทะลุ 100 ดอลลาร์

คณะผู้ว่าการทบวงการพลังงานปรมาณูระหว่างประเทศลงมติด้วยคะแนน 23 เสียงเห็นชอบ 3 เสียงคัดค้าน (รัสเซีย จีน ไนเจอร์) ส่งประเด็นนิวเคลียร์อิหร่านไปยังคณะมนตรีความมั่นคงแห่งสหประชาชาติ นี่เป็นการส่งต่อครั้งแรกนับตั้งแต่ปี 2006 โดยการลงมติเกิดขึ้นบนฉากหลังที่กองทัพสหรัฐทำลายเรือบรรทุกน้ำมันของกองกำลังพิทักษ์การปฏิวัติอิหร่านห้าลำ (รายงานต่อจากเมื่อวาน)

น้ำมันดิบเบรนต์ทะลุระดับ 100 ดอลลาร์ ราคาน้ำมันเบนซินเฉลี่ยวันแรงงานของสหรัฐอยู่ที่ 4.14 ดอลลาร์ต่อแกลลอน สูงสุดเป็นประวัติการณ์ ข้อมูล CME FedWatch แสดงความน่าจะเป็นของการขึ้นดอกเบี้ยในเดือนกันยายนเพิ่มขึ้นเป็น 66% เงินเฟ้อ PCE อยู่ที่ 3.7%/4.1% สูงกว่าเป้าหมาย 2% อย่างมาก ต้นทุนพลังงานกำลังเขียนพื้นที่นโยบายของธนาคารกลางสหรัฐใหม่โดยตรง

ทรัมป์กล่าวกับนักข่าวว่าความขัดแย้งในตะวันออกกลางจะสิ้นสุดหลังการเลือกตั้งกลางเทอม แต่ไม่ได้ให้แผนการเฉพาะใดๆ นัยแฝงคือราคาน้ำมันและเงินเฟ้อจะยังคงอยู่ต่อไปอย่างน้อยอีกสองเดือน

การส่งต่อของ IAEA หมายความว่าขั้นตอนต่อไปอาจเป็นการที่คณะมนตรีความมั่นคงฟื้นฟูมาตรการคว่ำบาตรพหุภาคีต่ออิหร่าน แต่รัสเซียและจีนลงคะแนนคัดค้าน จึงยังสงสัยว่ามาตรการคว่ำบาตรจริงจะผ่านได้หรือไม่ ผลกระทบที่เป็นจริงมากกว่าคือความคาดหวังของตลาดเอง ตราบใดที่ประเด็นนิวเคลียร์อิหร่านยังอยู่ในวาระของคณะมนตรีความมั่นคง ราคาน้ำมันก็จะมีแรงกดดันขาขึ้นอย่างต่อเนื่อง

โครงการ "Costs of War" ของมหาวิทยาลัยบราวน์ประเมินว่าต้นทุนพลังงานเพิ่มเติมจากความขัดแย้งได้พุ่งเกิน 1 แสนล้านดอลลาร์แล้ว

（แหล่งที่มา：Middle East Eye / Al Jazeera / Washington Post / Eurasia Review / CNBC / Forbes / Costs of War มหาวิทยาลัยบราวน์）

น่าสนใจไม่แพ้กัน ↓

Tether ร่วมกับ Fasanara Capital เปิดตัวกองทุนสินเชื่อเอกชน StableFund มูลค่า 400 ล้านดอลลาร์ เงินทุนจะถูกนำไปปล่อยผ่านผู้ให้บริการสินเชื่อฟินเทคไปยัง SMEs ในกว่า 60 ประเทศ เป้าหมายดึงดูดทุนสถาบันบุคคลที่สามสูงสุด 3 พันล้านดอลลาร์ เพื่อฝัง USDT เข้าสู่กระแสสินเชื่อในเศรษฐกิจจริง（แหล่งที่มา：The Block / เว็บไซต์ทางการ Tether）

Consensys แยก MetaMask ออกเป็นบริษัทอิสระ Joe Lubin ยังคงดำรงตำแหน่ง CEO ของ MetaMask ส่วน Consensys แห่งใหม่นำโดย Mike Kriak มุ่งเน้นโครงสร้างพื้นฐานบล็อกเชนระดับสถาบัน เช่น Linea การแยกมีผลทันที ส่วนการแบ่งแยกทางกฎหมายคาดว่าจะแล้วเสร็จภายในสิ้นปี ยังไม่ตอบข้อสงสัยเรื่อง IPO（แหล่งที่มา：CoinDesk / The Block）

Google ประกาศลงทุน 1.3 หมื่นล้านยูโร（ประมาณ 1.5 หมื่นล้านดอลลาร์）ในฟินแลนด์เพื่อสร้างโครงสร้างพื้นฐาน AI ถือเป็นการลงทุนครั้งใหญ่ที่สุดในยุโรป ประกอบด้วยศูนย์ข้อมูลใหม่อย่างน้อยสามแห่ง และลงนามสัญญาซื้อไฟฟ้าระยะ 22 ปีกับ Fortum บริษัทพลังงานของรัฐฟินแลนด์ โดยสามารถซื้อกำลังการผลิตไฟฟ้าจากโรงไฟฟ้านิวเคลียร์แห่งหนึ่งได้สูงสุดถึงครึ่งหนึ่ง（แหล่งที่มา：CNBC / Bloomberg / ESG Dive）

OpenAI ประกาศร่วมมือกับ Samsung พัฒนาชิปที่พัฒนาขึ้นเองรุ่นถัดไป กลยุทธ์สองแหล่งผลิต（Samsung และ TSMC）บ่งชี้ว่าความต้องการพลังประมวลผลของ OpenAI เกินขีดจำกัดกำลังการผลิตของผู้ผลิตชิปรายเดียวแล้ว ก่อนหน้านี้ OpenAI ได้ลงนามข้อตกลงตัวเร่ง AI แบบกำหนดเองขนาด 10GW กับ Broadcom（แหล่งที่มา：Bloomberg / Tom's Hardware / The Register）

PayPal เปิดตัวแพลตฟอร์มออก stablecoin ชื่อ PYUSDx ให้องค์กรสามารถออก stablecoin แบบกำหนดเองโดยอิงจาก PYUSD โครงการแรกสามรายเปิดตัวแล้ว ปริมาณธุรกรรมเกิน 100 ล้านดอลลาร์ ก่อนหน้านี้ PYUSD ได้ขยายไปยังกว่า 70 ประเทศและดินแดนทั่วโลก（แหล่งที่มา：CoinDesk / PYMNTS）

ฮันเตอร์ ไบเดน เปิดตัว LAPTOP memecoin พุ่งดิ่ง 98% ภายในไม่ถึงหนึ่งชั่วโมงหลังเปิดตัว โทเคนนี้เล็งกลุ่มผู้ถือ TRUMP coin สภาพคล่องหมดลงอย่างรวดเร็ว (ที่มา: CoinDesk)

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia