สำนักงานคณะกรรมการกิจการอินเทอร์เน็ตแห่งชาติ: Doubao, Yuanbao, Qianwen, Wenxin Yiyan และอื่นๆ ถูกจำกัดอย่างเข้มงวดในการสร้างเนื้อหาที่ละเมิดกฎระเบียบ

ดงฉา Beating ข่าวด่วน AI สำนักงานคณะกรรมการบริหารไซเบอร์สเปซแห่งชาติจีนได้ดำเนินการระยะที่สองของปฏิบัติการพิเศษ "ชิงหลาง·ปราบปรามความวุ่นวายในการใช้งาน AI" โดยมุ่งเน้นจัดการกับการใช้ AI สร้างและเผยแพร่ข้อมูลเท็จ เนื้อหารุนแรงและลามก การปลอมแปลงเลียนแบบผู้อื่น และการละเมิดสิทธิของเยาวชน จนถึงปัจจุบัน ปฏิบัติการพิเศษได้กวาดล้างข้อมูลที่ผิดกฎหมายและไม่เหมาะสมไปแล้วกว่า 5.61 ล้านรายการ ตรวจสอบบัญชีไปกว่า 49,000 รายการ และจัดการเว็บไซต์และแอปพลิเคชันที่ผิดกฎหมายกว่า 2,400 รายการ

ในด้านการกำกับดูแลเนื้อหา AI แพลตฟอร์มอย่าง Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban และ Taobao ได้เสริมความสามารถในการจดจำหลายรูปแบบ ขยายฐานข้อมูลใบหน้า เสียง และตัวอย่างเนื้อหาผิดกฎหมายแบบไดนามิก พร้อมเพิ่มมาตรการจัดการบัญชีและข้อมูลที่ผิดกฎหมาย โดยได้เผยแพร่ประกาศการกำกับดูแลรวม 46 ฉบับ

ในขณะเดียวกัน แพลตฟอร์ม AI อย่าง Doubao, Yuanbao, Qianwen และ Wenxin Yiyan ได้เข้มงวดการตรวจสอบข้อมูลต้นฉบับ จำกัดการส่งออกเนื้อหาที่ผิดกฎหมายอย่างเคร่งครัด และเสริมข้อกำหนดการติดฉลากเนื้อหาที่สร้างหรือสังเคราะห์ด้วย AI ส่วนร้านแอปพลิเคชันอย่าง Huawei, Xiaomi, OPPO และ vivo ได้เพิ่มความเข้มงวดในการตรวจสอบ准入และการอนุมัติอัปโหลดของนักพัฒนาแอป พร้อมดำเนินการสุ่มตรวจสอบและทดสอบซ้ำแอปที่อยู่ในร้าน

ระหว่างปฏิบัติการพิเศษ หน่วยงานด้านไซเบอร์สเปซยังได้รายงานกรณีตัวอย่างสำคัญหลายกรณี รวมถึงการใช้ AI "ดัดแปลง" วรรณกรรมคลาสสิก สร้างข้อมูลเท็จเกี่ยวกับภัยพิบัติและประเด็นร้อนทางสังคม การใช้ AI เปลี่ยนใบหน้าและเสียงปลอมแปลงเป็นบุคคลสาธารณะ การผลิตเนื้อหารุนแรงและลามกเป็นจำนวนมาก การใช้ AI สร้างข้อมูลที่ละเมิดสิทธิของเยาวชน และการใช้ซอฟต์แวร์ "托管" (ดูแลอัตโนมัติ) กับ AI เพื่อทำกิจกรรมวอเตอร์อาร์มี้ออนไลน์ สำหรับผลิตภัณฑ์และแอปพลิเคชัน AI ที่ผิดกฎหมาย หน่วยงานที่เกี่ยวข้องจะดำเนินมาตรการตามกฎหมาย เช่น การตักเตือน การปรับเงิน การถอดออก หรือการปิดระบบ