zkPyTorch: การฉีดหลักฐานความรู้เป็นศูนย์ลงในการใช้เหตุผลของ PyTorch เพื่อสร้าง AI ที่เชื่อถือได้อย่างแท้จริง

ชื่อเรื่องต้นฉบับ: zkPyTorch--Verifiable PyTorch with Zero-Knowledge Proofs

เขียนโดย: Jiaheng Zhang

ด้วยการนำปัญญาประดิษฐ์ (AI) มาใช้ในเชิงลึกในสาขาสำคัญๆ เช่น การดูแลสุขภาพ การเงิน และการขับขี่อัตโนมัติ จึงมีความสำคัญมากขึ้นกว่าเดิมที่จะต้องรับรองความน่าเชื่อถือ ความโปร่งใส และความปลอดภัยของกระบวนการคิดแบบการเรียนรู้ของเครื่องจักร (ML)

อย่างไรก็ตาม บริการการเรียนรู้ของเครื่องจักรแบบดั้งเดิมมักจะทำงานเหมือน "กล่องดำ" ซึ่งผู้ใช้จะเห็นเฉพาะผลลัพธ์เท่านั้น และยากต่อการตรวจสอบกระบวนการ ความทึบนี้ทำให้บริการโมเดลเสี่ยงต่อความเสี่ยง:

โมเดลถูกขโมย

ผลการอนุมานถูกดัดแปลงอย่างไม่ตั้งใจ

ข้อมูลผู้ใช้เสี่ยงต่อการรั่วไหลของความเป็นส่วนตัว

ZKML (การเรียนรู้ของเครื่องจักรโดยไม่จำเป็นต้องมีความรู้) นำเสนอโซลูชันการเข้ารหัสใหม่เพื่อรับมือกับความท้าทายนี้ พึ่งพาเทคโนโลยีการพิสูจน์ความรู้เป็นศูนย์ (ZKPs) เพื่อให้โมเดลการเรียนรู้ของเครื่องสามารถตรวจสอบด้วยการเข้ารหัสได้ นั่นคือพิสูจน์ว่ามีการดำเนินการคำนวณอย่างถูกต้องโดยไม่เปิดเผยข้อมูลที่ละเอียดอ่อน

พูดอีกอย่างก็คือ ZKPs ช่วยให้ผู้ให้บริการพิสูจน์ต่อผู้ใช้ได้ดังนี้:

"ผลลัพธ์อนุมานที่คุณได้นั้นเป็นผลลัพธ์ที่ฉันใช้กับโมเดลที่ผ่านการฝึกจริง ๆ แต่ฉันจะไม่เปิดเผยพารามิเตอร์ใด ๆ ของโมเดล"

ซึ่งหมายความว่าผู้ใช้สามารถเชื่อถือในความถูกต้องของผลลัพธ์อนุมานได้ ขณะที่โครงสร้างและพารามิเตอร์ของโมเดล (ซึ่งมักจะเป็นทรัพย์สินที่มีมูลค่าสูง) จะยังคงเป็นความลับ

zkPyTorch:

Polyhedra Network ได้เปิดตัว zkPyTorch ซึ่งเป็นคอมไพเลอร์ปฏิวัติวงการที่ออกแบบมาสำหรับการเรียนรู้ของเครื่องแบบความรู้เป็นศูนย์ (ZKML) ซึ่งมุ่งหวังที่จะเชื่อมโยงไมล์สุดท้ายระหว่างกรอบงาน AI กระแสหลักและเทคโนโลยี ZK

zkPyTorch ผสานรวมความสามารถด้านการเรียนรู้ของเครื่องจักรอันทรงพลังของ PyTorch เข้ากับกลไกการพิสูจน์ความรู้เป็นศูนย์ที่ล้ำสมัยอย่างล้ำลึก นักพัฒนา AI สามารถสร้างแอปพลิเคชัน AI ที่ตรวจสอบได้ในสภาพแวดล้อมที่คุ้นเคยโดยไม่ต้องเปลี่ยนนิสัยการเขียนโปรแกรมหรือเรียนรู้ภาษา ZK ใหม่

คอมไพเลอร์นี้สามารถแปลการดำเนินการของโมเดลระดับสูง (เช่น การม้วนรวม การคูณเมทริกซ์ ReLU ซอฟต์แมกซ์ และกลไกการใส่ใจ) เป็นวงจร ZKP ที่ตรวจสอบได้ทางการเข้ารหัสโดยอัตโนมัติ และเมื่อรวมกับชุดการเพิ่มประสิทธิภาพ ZKML ที่พัฒนาเองของ Polyhedra ก็จะบีบอัดและเร่งความเร็วเส้นทางการใช้เหตุผลหลักอย่างชาญฉลาดเพื่อให้แน่ใจว่าวงจรถูกต้องและมีประสิทธิภาพในการคำนวณ

การสร้างโครงสร้างพื้นฐานสำคัญของระบบนิเวศ AI ที่เชื่อถือได้

ระบบนิเวศการเรียนรู้ของเครื่องจักรในปัจจุบันกำลังเผชิญกับความท้าทายมากมาย เช่น ความปลอดภัยของข้อมูล ความสามารถในการตรวจสอบด้วยคอมพิวเตอร์ และความโปร่งใสของโมเดล โดยเฉพาะอย่างยิ่งในอุตสาหกรรมสำคัญ เช่น การดูแลสุขภาพ การเงิน และการขับขี่อัตโนมัติ โมเดล AI ไม่เพียงแต่เกี่ยวข้องกับข้อมูลส่วนบุคคลที่ละเอียดอ่อนจำนวนมากเท่านั้น แต่ยังมีทรัพย์สินทางปัญญาที่มีมูลค่าสูงและความลับทางธุรกิจหลักอีกด้วย

การเรียนรู้ของเครื่องจักรแบบไร้ความรู้ (ZKML) ถือกำเนิดขึ้นและกลายเป็นความก้าวหน้าที่สำคัญในการแก้ไขปัญหาที่น่าหนักใจนี้ ด้วยเทคโนโลยีการพิสูจน์ความรู้เป็นศูนย์ (ZKP) ZKML สามารถทำการตรวจสอบความสมบูรณ์ของการใช้เหตุผลของแบบจำลองได้โดยไม่รั่วไหลของพารามิเตอร์แบบจำลองหรือข้อมูลอินพุต ซึ่งทั้งปกป้องความเป็นส่วนตัวและรับรองความน่าเชื่อถือ

แต่ในความเป็นจริง การพัฒนา ZKML มักจะมีเกณฑ์ที่สูงมากและต้องใช้พื้นฐานด้านการเข้ารหัสที่ลึกซึ้ง ซึ่งอยู่นอกเหนือขอบเขตของวิศวกร AI แบบดั้งเดิมมาก

นี่คือภารกิจของ zkPyTorch zkPyTorch สร้างสะพานเชื่อมระหว่าง PyTorch และเอ็นจิ้น ZKP ช่วยให้ผู้พัฒนาสามารถสร้างระบบ AI ที่รักษาความเป็นส่วนตัวและตรวจสอบได้ด้วยโค้ดที่คุ้นเคยโดยไม่ต้องเรียนรู้ภาษาการเข้ารหัสที่ซับซ้อนอีกครั้ง

ด้วย zkPyTorch เครือข่าย Polyhedra ช่วยลดอุปสรรคทางเทคนิคของ ZKML ลงอย่างมาก ผลักดันให้แอปพลิเคชัน AI ที่ปรับขนาดได้และเชื่อถือได้กลายเป็นกระแสหลัก และสร้างกรอบแนวคิดใหม่สำหรับการรักษาความปลอดภัยและความเป็นส่วนตัวของ AI ขึ้นใหม่

เวิร์กโฟลว์ zkPyTorch

รูปที่ 1: ภาพรวมของสถาปัตยกรรมโดยรวมของ ZKPyTorch

ดังที่แสดงในรูปที่ 1 zkPyTorch จะแปลงโมเดล PyTorch มาตรฐานเป็นวงจรที่เข้ากันได้กับ ZKP (การพิสูจน์ความรู้เป็นศูนย์) โดยอัตโนมัติผ่านโมดูลที่ออกแบบอย่างพิถีพิถัน 3 โมดูล โมดูลทั้งสามนี้ได้แก่ โมดูลการประมวลผลล่วงหน้า โมดูลการวัดปริมาณแบบไร้ความรู้ และโมดูลการเพิ่มประสิทธิภาพวงจร

ขั้นตอนนี้ไม่จำเป็นต้องให้ผู้พัฒนาเชี่ยวชาญวงจรเข้ารหัสหรือไวยากรณ์พิเศษใดๆ นักพัฒนาเพียงแค่ต้องใช้ PyTorch มาตรฐานในการเขียนโมเดล และ zkPyTorch สามารถแปลงโมเดลเหล่านั้นเป็นวงจรที่สามารถรับรู้ได้โดยกลไกพิสูจน์ไร้ความรู้ เช่น Expander และสร้างการพิสูจน์ ZK ที่สอดคล้องกัน

การออกแบบแบบโมดูลาร์สูงนี้ช่วยลดเกณฑ์การพัฒนาของ ZKML ลงได้อย่างมาก ช่วยให้ผู้พัฒนา AI สามารถสร้างแอปพลิเคชันการเรียนรู้ของเครื่องที่มีประสิทธิภาพ ปลอดภัย และตรวจยืนยันได้อย่างง่ายดาย โดยไม่ต้องเปลี่ยนภาษาหรือเรียนรู้การเข้ารหัส

บล็อก 1: การประมวลผลล่วงหน้าของโมเดล

ในขั้นแรก zkPyTorch จะแปลงโมเดล PyTorch เป็นกราฟการคำนวณแบบมีโครงสร้างโดยใช้รูปแบบ Open Neural Network Exchange (ONNX) ONNX เป็นมาตรฐานการแทนค่าระดับกลางที่ใช้กันอย่างแพร่หลายในอุตสาหกรรม ซึ่งสามารถแทนค่าการดำเนินการเรียนรู้ของเครื่องจักรที่ซับซ้อนต่างๆ ได้อย่างสม่ำเสมอ ผ่านขั้นตอนการประมวลผลเบื้องต้นนี้ zkPyTorch สามารถชี้แจงโครงสร้างของโมเดลและแยกส่วนกระบวนการประมวลผลหลักได้ ซึ่งจะช่วยวางรากฐานที่มั่นคงสำหรับวงจรพิสูจน์ความรู้เป็นศูนย์รุ่นถัดไป

โมดูล 2: การวัดปริมาณแบบเป็นมิตรกับ ZKP

โมดูลการวัดปริมาณเป็นส่วนสำคัญของระบบ ZKML โมเดลการเรียนรู้ของเครื่องแบบดั้งเดิมนั้นอาศัยการดำเนินการแบบจุดลอยตัว ในขณะที่สภาพแวดล้อมของ ZKP นั้นเหมาะสมกว่าสำหรับการดำเนินการแบบจำนวนเต็มในฟิลด์จำกัด zkPyTorch ใช้รูปแบบการวัดปริมาณจำนวนเต็มที่ปรับให้เหมาะสมสำหรับฟิลด์จำกัด เพื่อแมปการคำนวณแบบจุดลอยตัวไปยังการคำนวณแบบจำนวนเต็มอย่างแม่นยำ ในขณะที่แปลงการดำเนินการแบบไม่เชิงเส้นที่ไม่เอื้อต่อ ZKP (เช่น ReLU, Softmax) เป็นรูปแบบตารางค้นหาที่มีประสิทธิภาพ

กลยุทธ์นี้ไม่เพียงแต่ช่วยลดความซับซ้อนของวงจรได้อย่างมาก แต่ยังปรับปรุงความสามารถในการตรวจสอบและประสิทธิภาพการทำงานของระบบทั้งหมดในขณะที่รับประกันความแม่นยำของโมเดลอีกด้วย

โมดูล 3: การเพิ่มประสิทธิภาพวงจรแบบลำดับชั้น

zkPyTorch ใช้กลยุทธ์หลายระดับสำหรับการเพิ่มประสิทธิภาพวงจร รวมถึง:

การเพิ่มประสิทธิภาพแบบแบตช์
ออกแบบมาเป็นพิเศษสำหรับการคำนวณแบบอนุกรม ช่วยลดความซับซ้อนในการคำนวณและการใช้ทรัพยากรได้อย่างมากโดยการประมวลผลขั้นตอนการอนุมานหลายขั้นตอนในเวลาเดียวกัน ซึ่งเหมาะเป็นพิเศษสำหรับสถานการณ์การตรวจสอบของโมเดลภาษาขนาดใหญ่ เช่น Transformer

การเร่งความเร็วของการดำเนินการดั้งเดิม
ด้วยการรวมเทคโนโลยีการแปลงฟูเรียร์ (FFT) ที่รวดเร็วและการม้วนรวมตารางค้นหา ช่วยปรับปรุงความเร็วในการดำเนินการวงจรของการดำเนินการพื้นฐาน เช่น การม้วนรวมและ Softmax ได้อย่างมีประสิทธิภาพ และช่วยเพิ่มประสิทธิภาพการประมวลผลโดยรวมอย่างแท้จริง

การดำเนินการวงจรคู่ขนาน
ใช้ประโยชน์จากข้อได้เปรียบของพลังการประมวลผลของ CPU และ GPU แบบมัลติคอร์อย่างเต็มที่ แยกการคำนวณภาระหนักเช่นการคูณเมทริกซ์ออกเป็นหลายงานย่อยสำหรับการดำเนินการคู่ขนาน และปรับปรุงความเร็วและความสามารถในการปรับขนาดของการสร้างหลักฐานความรู้เป็นศูนย์อย่างมีนัยสำคัญ

การอภิปรายทางเทคนิคเชิงลึก

กราฟแบบมีทิศทางแบบไม่มีวงจร (DAG)

zkPyTorch ใช้กราฟแบบมีทิศทางแบบไม่มีวงจร (DAG) เพื่อจัดการกระบวนการคำนวณของการเรียนรู้ของเครื่อง โครงสร้าง DAG สามารถจับความสัมพันธ์ของโมเดลที่ซับซ้อนได้อย่างเป็นระบบ ดังที่แสดงในรูปที่ 2 โหนดแต่ละโหนดในกราฟแสดงการดำเนินการเฉพาะ (เช่น การเปลี่ยนตำแหน่งเมทริกซ์ การคูณเมทริกซ์ การหาร และ Softmax) และขอบจะอธิบายการไหลของข้อมูลระหว่างการดำเนินการเหล่านี้ได้อย่างแม่นยำ

การแสดงที่ชัดเจนและมีโครงสร้างนี้ไม่เพียงแต่ช่วยอำนวยความสะดวกให้กับกระบวนการแก้ไขข้อบกพร่องเท่านั้น แต่ยังช่วยเพิ่มประสิทธิภาพการทำงานอีกด้วย ลักษณะแบบไม่มีวงจรของ DAG ช่วยหลีกเลี่ยงการพึ่งพาแบบมีวงจร และรับรองการดำเนินการตามลำดับการคำนวณที่มีประสิทธิภาพและควบคุมได้ ซึ่งเป็นสิ่งสำคัญสำหรับการเพิ่มประสิทธิภาพการสร้างวงจรที่พิสูจน์ความรู้เป็นศูนย์

นอกจากนี้ DAG ยังช่วยให้ zkPyTorch ประมวลผลสถาปัตยกรรมโมเดลที่ซับซ้อน เช่น Transformer และ Residual Network (ResNet) ได้อย่างมีประสิทธิภาพ โมเดลเหล่านี้มักจะมีการไหลของข้อมูลแบบหลายเส้นทาง ไม่เชิงเส้น และซับซ้อน การออกแบบของ DAG ตอบสนองความต้องการในการประมวลผลของโมเดลเท่านั้น โดยรับประกันความแม่นยำและประสิทธิภาพของการใช้เหตุผลของโมเดล

รูปที่ 2: ตัวอย่างของโมเดลการเรียนรู้ของเครื่องที่แสดงในรูปแบบของกราฟแบบมีทิศทางไม่มีวงจร (DAG)

เทคนิคการหาปริมาณขั้นสูง

ใน zkPyTorch เทคนิคการหาปริมาณขั้นสูงเป็นขั้นตอนสำคัญในการแปลงการคำนวณจุดลอยตัวเป็นการดำเนินการจำนวนเต็มที่เหมาะสำหรับเลขคณิตฟิลด์จำกัดที่มีประสิทธิภาพในระบบการพิสูจน์ความรู้เป็นศูนย์ (ZKP) zkPyTorch ใช้เมธอดการหาปริมาณจำนวนเต็มคงที่ซึ่งออกแบบมาอย่างพิถีพิถันเพื่อรักษาสมดุลระหว่างประสิทธิภาพการคำนวณและความแม่นยำของโมเดล ทำให้มั่นใจได้ว่าจะทั้งรวดเร็วและแม่นยำเมื่อสร้างการพิสูจน์

กระบวนการหาปริมาณนี้เกี่ยวข้องกับการสอบเทียบที่เข้มงวดเพื่อกำหนดมาตราการหาปริมาณที่เหมาะสมที่สุดอย่างแม่นยำเพื่อแสดงจำนวนจุดลอยตัวได้อย่างมีประสิทธิภาพโดยไม่มีการล้นและสูญเสียความแม่นยำอย่างมาก สำหรับความท้าทายในการดำเนินการแบบไม่เชิงเส้นเฉพาะตัวของ ZKP (เช่น Softmax และการทำให้เลเยอร์เป็นมาตรฐาน) zkPyTorch จะแปลงฟังก์ชันที่ซับซ้อนเหล่านี้ให้เป็นการดำเนินการค้นหาตารางที่มีประสิทธิภาพอย่างสร้างสรรค์

กลยุทธ์นี้ไม่เพียงแต่ช่วยปรับปรุงประสิทธิภาพของการสร้างหลักฐานอย่างมากเท่านั้น แต่ยังช่วยให้แน่ใจว่าผลลัพธ์ของหลักฐานที่สร้างขึ้นนั้นสอดคล้องอย่างสมบูรณ์กับผลลัพธ์ของแบบจำลองการวัดเชิงปริมาณที่มีความแม่นยำสูง โดยคำนึงถึงทั้งประสิทธิภาพและความน่าเชื่อถือ และส่งเสริมการใช้งานจริงของการเรียนรู้ของเครื่องที่ตรวจสอบได้

กลยุทธ์การเพิ่มประสิทธิภาพวงจรหลายระดับ

zkPyTorch ใช้ระบบการเพิ่มประสิทธิภาพวงจรหลายระดับที่มีความซับซ้อนสูงเพื่อให้มั่นใจถึงประสิทธิภาพสูงสุดของการใช้เหตุผลแบบไม่ต้องมีความรู้ในด้านประสิทธิภาพและความสามารถในการปรับขนาดจากมิติต่างๆ:

การเพิ่มประสิทธิภาพการประมวลผลแบบแบตช์

การรวมงานการใช้เหตุผลหลายงานเข้าในการประมวลผลแบบแบตช์ช่วยลดความซับซ้อนในการคำนวณโดยรวมได้อย่างมาก ซึ่งเหมาะเป็นอย่างยิ่งสำหรับสถานการณ์การทำงานแบบต่อเนื่องในโมเดลภาษา เช่น Transformer ดังที่แสดงในรูปที่ 3 กระบวนการใช้เหตุผลของโมเดลภาษาขนาดใหญ่แบบดั้งเดิม (LLM) ทำงานในโหมดการสร้างโทเค็นต่อโทเค็น ในขณะที่วิธีการที่สร้างสรรค์ของ zkPyTorch จะรวบรวมโทเค็นอินพุตและเอาต์พุตทั้งหมดเข้าในกระบวนการพร้อมท์เดียวเพื่อการตรวจสอบ วิธีการประมวลผลนี้สามารถยืนยันได้ว่าการใช้เหตุผลโดยรวมของ LLM ถูกต้องในแต่ละครั้งหรือไม่ ในขณะที่รับรองว่าโทเค็นเอาต์พุตแต่ละอันสอดคล้องกับการใช้เหตุผล LLM มาตรฐาน

ในการใช้เหตุผล LLM ความถูกต้องของกลไกแคช KV (แคชคีย์-ค่า) เป็นกุญแจสำคัญในการรับรองความน่าเชื่อถือของผลลัพธ์การใช้เหตุผล หากตรรกะการใช้เหตุผลของแบบจำลองไม่ถูกต้อง แม้ว่าจะใช้แคชก็ตาม ก็ไม่สามารถคืนค่าผลลัพธ์ที่สอดคล้องกับกระบวนการถอดรหัสมาตรฐานได้ zkPyTorch รับประกันว่าผลลัพธ์ทุกรายการในการพิสูจน์ความรู้เป็นศูนย์มีความแน่นอนและความสมบูรณ์ที่ตรวจสอบได้โดยการจำลองกระบวนการนี้อย่างแม่นยำ

รูปที่ 3: การตรวจสอบแบบแบตช์ของการคำนวณแบบจำลองภาษาขนาดใหญ่ (LLM) โดยที่ L แทนความยาวลำดับอินพุต N แทนความยาวลำดับเอาต์พุต และ H แทนมิติเลเยอร์ที่ซ่อนอยู่ของแบบจำลอง

การเพิ่มประสิทธิภาพการทำงานหลัก

zkPyTorch ได้เพิ่มประสิทธิภาพพื้นฐานของการเรียนรู้ของเครื่องอย่างล้ำลึก เพื่อปรับปรุงประสิทธิภาพของวงจรอย่างมาก ตัวอย่างเช่น การดำเนินการคอนโวลูชั่นเป็นงานที่ต้องใช้การคำนวณมากเสมอมา zkPyTorch ใช้เมธอดการเพิ่มประสิทธิภาพที่อิงตามการแปลงฟูเรียร์อย่างรวดเร็ว (FFT) เพื่อแปลงคอนโวลูชั่นที่ดำเนินการในโดเมนเชิงพื้นที่เดิมเป็นการดำเนินการคูณในโดเมนความถี่ ซึ่งช่วยลดต้นทุนการคำนวณได้อย่างมาก ในขณะเดียวกัน สำหรับฟังก์ชันที่ไม่เชิงเส้น เช่น ReLU และ softmax ระบบจะใช้เมธอดตารางค้นหาที่คำนวณไว้ล่วงหน้าเพื่อหลีกเลี่ยงการคำนวณที่ไม่เชิงเส้นซึ่งไม่เป็นมิตรกับ ZKP ซึ่งช่วยปรับปรุงประสิทธิภาพการทำงานของวงจรอนุมานได้อย่างมาก

การทำงานของวงจรคู่ขนาน

zkPyTorch จะคอมไพล์การทำงานของ ML ที่ซับซ้อนลงในวงจรคู่ขนานโดยอัตโนมัติ ซึ่งจะช่วยปลดปล่อยศักยภาพของฮาร์ดแวร์ของ CPU/GPU แบบมัลติคอร์ได้อย่างเต็มที่ และช่วยให้สามารถสร้างหลักฐานคู่ขนานขนาดใหญ่ได้ ตัวอย่างเช่น เมื่อทำการคูณเทนเซอร์ zkPyTorch จะแบ่งงานการคำนวณออกเป็นงานย่อยอิสระหลายงานโดยอัตโนมัติ และแจกจ่ายไปยังหน่วยประมวลผลหลายหน่วยเพื่อดำเนินการพร้อมกัน กลยุทธ์การทำงานคู่ขนานนี้ไม่เพียงแต่ช่วยปรับปรุงปริมาณงานของการทำงานของวงจรได้อย่างมีนัยสำคัญ แต่ยังทำให้การตรวจสอบแบบจำลองขนาดใหญ่มีประสิทธิภาพมากขึ้นอีกด้วย ซึ่งจะช่วยเปิดมิติใหม่ให้กับ ZKML ที่ปรับขนาดได้

การทดสอบประสิทธิภาพเต็มรูปแบบ: การพัฒนาก้าวกระโดดสองเท่าในด้านประสิทธิภาพและความแม่นยำ

zkPyTorch ได้แสดงให้เห็นถึงประสิทธิภาพที่ยอดเยี่ยมและความสามารถในการใช้งานจริงในโมเดลการเรียนรู้ของเครื่องกระแสหลักหลายโมเดลผ่านการทดสอบประสิทธิภาพที่เข้มงวด:

การทดสอบโมเดล VGG-16

ในชุดข้อมูล CIFAR-10 zkPyTorch สามารถสร้างหลักฐาน VGG-16 ของภาพเดียวได้สำเร็จในเวลาเพียง 6.3 วินาที และความแม่นยำนั้นแทบจะเท่ากับการคำนวณจุดลอยตัวแบบเดิม ซึ่งบ่งบอกว่า zkML มีความสามารถในทางปฏิบัติในงานคลาสสิก เช่น การจดจำภาพ

การทดสอบโมเดล Llama-3

สำหรับโมเดลภาษาขนาดใหญ่ Llama-3 ที่มีขนาดพารามิเตอร์สูงสุดถึง 8 พันล้านตัว zkPyTorch สามารถสร้างหลักฐานที่มีประสิทธิภาพได้ในเวลาประมาณ 150 วินาทีต่อโทเค็น สิ่งที่น่าทึ่งยิ่งกว่าคือผลลัพธ์ยังคงรักษาความคล้ายคลึงของโคไซน์ที่ 99.32% เมื่อเทียบกับโมเดลเดิม ทำให้มีความน่าเชื่อถือสูงในขณะที่ยังคำนึงถึงความสอดคล้องทางความหมายของผลลัพธ์จากโมเดลอีกด้วย

ตารางที่ 1: ประสิทธิภาพของโครงร่าง ZKP ต่างๆ ในเครือข่ายประสาทเทียมแบบคอนโวลูชั่นและเครือข่ายทรานสฟอร์มเมอร์

สถานการณ์การใช้งานที่หลากหลายสำหรับโลกแห่งความเป็นจริง

การเรียนรู้ของเครื่องจักรที่สามารถตรวจสอบได้ในรูปแบบบริการ (Verifiable MLaaS)

เนื่องจากมูลค่าของโมเดลการเรียนรู้ของเครื่องจักรยังคงเพิ่มขึ้น นักพัฒนา AI จำนวนมากขึ้นเรื่อยๆ จึงเลือกที่จะนำโมเดลของตนเองไปใช้งานบนคลาวด์และให้บริการ MLaaS (การเรียนรู้ของเครื่องจักรในรูปแบบบริการ) แก่โลกภายนอก อย่างไรก็ตาม ในความเป็นจริง ผู้ใช้มักพบว่ายากที่จะตรวจสอบว่าผลลัพธ์ที่อนุมานได้นั้นแท้จริงหรือไม่ และผู้ให้บริการโมเดลยังหวังที่จะปกป้องทรัพย์สินหลัก เช่น โครงสร้างและพารามิเตอร์ของโมเดล เพื่อหลีกเลี่ยงการโจรกรรมหรือการละเมิด

zkPyTorch ถือกำเนิดขึ้นเพื่อแก้ไขข้อขัดแย้งนี้ โดยทำให้บริการ AI บนคลาวด์มี "ความสามารถในการตรวจสอบความรู้เป็นศูนย์" แบบดั้งเดิม และตระหนักถึงระดับการเข้ารหัสของผลลัพธ์การอนุมาน สามารถตรวจสอบได้

ดังที่แสดงในรูปที่ 4 นักพัฒนาสามารถเชื่อมต่อโมเดลขนาดใหญ่ เช่น Llama-3 กับ zkPyTorch ได้โดยตรงเพื่อสร้างระบบ MLaaS ที่เชื่อถือได้พร้อมความสามารถในการพิสูจน์ความรู้เป็นศูนย์ ด้วยการบูรณาการกับเอ็นจิ้น ZKP ที่เป็นพื้นฐานอย่างราบรื่น zkPyTorch สามารถสร้างการพิสูจน์โดยอัตโนมัติโดยไม่ต้องเปิดเผยรายละเอียดของโมเดลเพื่อตรวจสอบว่าการอนุมานแต่ละรายการดำเนินการอย่างถูกต้องหรือไม่ จึงสร้างรากฐานความน่าเชื่อถือแบบโต้ตอบที่เชื่อถือได้อย่างแท้จริงสำหรับผู้ให้บริการโมเดลและผู้ใช้

รูปที่ 4: สถานการณ์การใช้งานของ zkPyTorch ใน Machine Learning as a Service ที่ตรวจสอบได้ (Verifiable MLaaS)

การคุ้มกันที่ปลอดภัยสำหรับการประเมินค่าโมเดล

zkPyTorch มอบกลไกการประเมินโมเดล AI ที่ปลอดภัยและตรวจสอบได้ ช่วยให้ผู้ถือผลประโยชน์สามารถประเมินตัวบ่งชี้ประสิทธิภาพหลักได้อย่างรอบคอบโดยไม่เปิดเผยรายละเอียดของโมเดล วิธีการประเมินแบบ "ไม่รั่วไหล" นี้สร้างมาตรฐานความน่าเชื่อถือใหม่สำหรับโมเดล AI ขณะเดียวกันก็ปรับปรุงประสิทธิภาพของธุรกรรมเชิงพาณิชย์และปกป้องความปลอดภัยของทรัพย์สินทางปัญญาของนักพัฒนา วิธีนี้ไม่เพียงแต่ปรับปรุงการมองเห็นมูลค่าของโมเดลเท่านั้น แต่ยังเพิ่มความโปร่งใสและความยุติธรรมให้กับอุตสาหกรรม AI ทั้งหมดอีกด้วย

การบูรณาการอย่างลึกซึ้งกับบล็อคเชน EXPchain

zkPyTorch บูรณาการเครือข่ายบล็อคเชน EXPchain ที่พัฒนาโดย Polyhedra Network เพื่อสร้างโครงสร้างพื้นฐาน AI แบบกระจายอำนาจที่เชื่อถือได้ร่วมกัน การบูรณาการนี้มอบเส้นทางที่ปรับให้เหมาะสมสูงสำหรับการเรียกใช้สัญญาอัจฉริยะและการตรวจสอบบนเชน เพื่อให้สามารถตรวจสอบผลการใช้เหตุผลของ AI ได้ทางเข้ารหัสและจัดเก็บอย่างต่อเนื่องบนบล็อคเชน

ด้วยความร่วมมือของ zkPyTorch และ EXPchain นักพัฒนาสามารถสร้างแอปพลิเคชัน AI ที่ตรวจสอบได้แบบครบวงจร ตั้งแต่การปรับใช้โมเดล การคำนวณเหตุผล ไปจนถึงการตรวจสอบบนเชน เพื่อให้บรรลุกระบวนการคำนวณ AI ที่โปร่งใส เชื่อถือได้ และตรวจสอบได้อย่างแท้จริง และให้การสนับสนุนพื้นฐานสำหรับบล็อคเชนและแอปพลิเคชัน AI รุ่นถัดไป

แผนงานในอนาคตและนวัตกรรมต่อเนื่อง

Polyhedra จะยังคงส่งเสริมวิวัฒนาการของ zkPyTorch โดยมุ่งเน้นในทิศทางต่อไปนี้:

โอเพ่นซอร์สและการสร้างร่วมกันของชุมชน

โอเพ่นซอร์สส่วนประกอบหลักของ zkPyTorch อย่างค่อยเป็นค่อยไปเพื่อกระตุ้นให้นักพัฒนาซอฟต์แวร์ทั่วโลกมีส่วนร่วม และส่งเสริมนวัตกรรมแบบร่วมมือและความเจริญรุ่งเรืองทางนิเวศน์ในสาขาการเรียนรู้ของเครื่องจักรที่ไร้ความรู้

ขยายความเข้ากันได้ของโมเดลและกรอบงาน

ขยายขอบเขตการสนับสนุนของโมเดลและกรอบงานการเรียนรู้ของเครื่องหลัก ปรับปรุงความสามารถในการปรับตัวและความคล่องตัวของ zkPyTorch เพิ่มเติม และทำให้สามารถฝังไว้ในเวิร์กโฟลว์ AI ต่างๆ ได้อย่างยืดหยุ่น

เครื่องมือการพัฒนาและการสร้าง SDK

แนะนำชุดเครื่องมือการพัฒนาที่ครอบคลุมและชุดพัฒนาซอฟต์แวร์ (SDK) เพื่อลดความซับซ้อนของกระบวนการรวมระบบ และเร่งการปรับใช้และการใช้งาน zkPyTorch ในสถานการณ์ทางธุรกิจจริง

ข้อสรุป

zkPyTorch เป็นก้าวสำคัญบนเส้นทางสู่อนาคตของ AI ที่เชื่อถือได้ ด้วยการบูรณาการกรอบงาน PyTorch ที่สมบูรณ์เข้ากับเทคโนโลยีพิสูจน์ความรู้เป็นศูนย์ที่ล้ำสมัยอย่างลึกซึ้ง zkPyTorch ไม่เพียงแต่ปรับปรุงความปลอดภัยและการตรวจสอบของการเรียนรู้ของเครื่องได้อย่างมีนัยสำคัญเท่านั้น แต่ยังปรับเปลี่ยนวิธีการปรับใช้และขอบเขตความน่าเชื่อถือของแอปพลิเคชัน AI อีกด้วย

Polyhedra จะยังคงสร้างสรรค์นวัตกรรมในด้าน "AI ที่ปลอดภัย" ส่งเสริมการเรียนรู้ของเครื่องให้มีมาตรฐานที่สูงขึ้นในการปกป้องความเป็นส่วนตัว การตรวจสอบผลลัพธ์ และการปฏิบัติตามแบบจำลอง และช่วยสร้างระบบอัจฉริยะที่โปร่งใส เชื่อถือได้ และปรับขนาดได้

โปรดให้ความสนใจกับความคืบหน้าล่าสุดของเราและร่วมสัมผัสว่า zkPyTorch ปรับเปลี่ยนอนาคตของยุคแห่งปัญญาประดิษฐ์ที่ปลอดภัยได้อย่างไร

บทความนี้มาจากการสนับสนุนและไม่แสดงถึงมุมมองของ BlockBeats

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia