อัปเดต: Apple กล่าวถึงการตรวจสอบเซิร์ฟเวอร์ครั้งที่สอง และบริษัทวิชันซิสเต็มคอมพิวเตอร์มืออาชีพได้สรุปความเป็นไปได้ว่าสิ่งนี้สามารถอธิบายได้ใน "วิธีตรวจสอบครั้งที่สองอาจทำงานอย่างไร" ด้านล่าง
หลังจากที่นักพัฒนาซอฟต์แวร์ทำวิศวกรรมย้อนกลับบางส่วน ระบบ Apple CSAM เวอร์ชันแรกๆ ถูกหลอกอย่างมีประสิทธิภาพเพื่อทำเครื่องหมายภาพไร้เดียงสาอย่างไรก็ตาม Apple ระบุว่ามีการป้องกันเพิ่มเติมเพื่อป้องกันไม่ให้สิ่งนี้เกิดขึ้นในชีวิตจริง
การพัฒนาล่าสุดเกิดขึ้นหลังจากเผยแพร่อัลกอริทึม NeuralHash ไปยังเว็บไซต์นักพัฒนาโอเพ่นซอร์ส GitHub ทุกคนสามารถทดลองกับมันได้...
ระบบ CSAM ทั้งหมดทำงานโดยนำเข้าฐานข้อมูลของสื่อการล่วงละเมิดทางเพศเด็กที่รู้จักจากองค์กรต่างๆ เช่น National Center for Missing and Exploited Children (NCMEC)ฐานข้อมูลมีให้ในรูปแบบของแฮชหรือลายนิ้วมือดิจิทัลจากรูปภาพ
แม้ว่าบริษัทยักษ์ใหญ่ด้านเทคโนโลยีส่วนใหญ่จะสแกนรูปภาพที่อัปโหลดในระบบคลาวด์ แต่ Apple ใช้อัลกอริทึม NeuralHash บน iPhone ของลูกค้าเพื่อสร้างค่าแฮชของรูปภาพที่จัดเก็บไว้ จากนั้นเปรียบเทียบกับสำเนาของค่าแฮช CSAM ที่ดาวน์โหลด
เมื่อวานนี้ นักพัฒนาซอฟต์แวร์อ้างว่าได้ทำวิศวกรรมย้อนกลับอัลกอริธึมของ Apple และเผยแพร่รหัสไปยัง GitHub การอ้างสิทธิ์นี้ได้รับการยืนยันอย่างมีประสิทธิภาพจาก Apple
ภายในเวลาไม่กี่ชั่วโมงหลังจาก GitHib ถูกปล่อยออกมา นักวิจัยประสบความสำเร็จในการใช้อัลกอริทึมนี้เพื่อสร้างภาพสองภาพที่แตกต่างกันโดยสิ้นเชิงโดยเจตนาที่ผิดพลาดซึ่งสร้างค่าแฮชเดียวกันนี้เรียกว่าการชนกัน
สำหรับระบบดังกล่าว มีความเสี่ยงที่จะเกิดการชนกันเสมอ เนื่องจากแฮชเป็นการแสดงภาพที่ง่ายขึ้นอย่างมาก แต่น่าแปลกใจที่บางคนสามารถสร้างภาพได้อย่างรวดเร็ว
การชนกันโดยเจตนาที่นี่เป็นเพียงการพิสูจน์แนวคิดเท่านั้นนักพัฒนาซอฟต์แวร์ไม่มีสิทธิ์เข้าถึงฐานข้อมูลแฮช CSAM ซึ่งจะต้องมีการสร้างผลบวกปลอมในระบบเรียลไทม์ แต่พิสูจน์ได้ว่าโดยหลักการแล้วการโจมตีแบบชนกันนั้นค่อนข้างง่าย
Apple ยืนยันได้อย่างมีประสิทธิภาพว่าอัลกอริธึมเป็นพื้นฐานของระบบของตัวเอง แต่บอกกับเมนบอร์ดว่านี่ไม่ใช่รุ่นสุดท้ายบริษัทยังระบุด้วยว่าไม่เคยมีเจตนาที่จะเก็บเป็นความลับ
Apple บอกมาเธอร์บอร์ดในอีเมลว่าเวอร์ชันที่วิเคราะห์โดยผู้ใช้บน GitHub เป็นเวอร์ชันทั่วไป ไม่ใช่เวอร์ชันสุดท้ายที่ใช้สำหรับการตรวจจับ iCloud Photo CSAMApple กล่าวว่ายังเปิดเผยอัลกอริทึม
“อัลกอริธึม NeuralHash [...] เป็นส่วนหนึ่งของรหัสระบบปฏิบัติการที่ลงนาม [และ] นักวิจัยด้านความปลอดภัยสามารถตรวจสอบได้ว่าพฤติกรรมของมันสอดคล้องกับคำอธิบาย” เอกสารของ Apple เขียน
บริษัทกล่าวต่อไปว่ามีอีกสองขั้นตอน: การรันระบบจับคู่รอง (ลับ) บนเซิร์ฟเวอร์ของตัวเอง และการตรวจสอบโดยเจ้าหน้าที่
Apple ยังระบุด้วยว่าหลังจากที่ผู้ใช้ผ่านเกณฑ์ 30 แมตช์แล้ว อัลกอริธึมที่สองที่ไม่เปิดเผยต่อสาธารณะที่ทำงานบนเซิร์ฟเวอร์ของ Apple จะตรวจสอบผลลัพธ์
“แฮชอิสระนี้ได้รับเลือกให้ปฏิเสธความเป็นไปได้ที่ NeuralHash ที่ผิดพลาดจะจับคู่ฐานข้อมูล CSAM ที่เข้ารหัสบนอุปกรณ์เนื่องจากการรบกวนจากฝ่ายตรงข้ามของอิมเมจที่ไม่ใช่ CSAM และเกินเกณฑ์การจับคู่”
Brad Dwyer แห่ง Roboflow พบวิธีแยกแยะระหว่างภาพสองภาพที่โพสต์เป็นข้อพิสูจน์แนวคิดสำหรับการชนกันได้อย่างง่ายดาย
ฉันสงสัยว่าภาพเหล่านี้มีลักษณะอย่างไรใน CLIP ของ OpenAI ตัวแยกคุณสมบัติประสาทที่คล้ายกัน แต่ต่างกันCLIP ทำงานคล้ายกับ NeuralHash;มันใช้ภาพและใช้โครงข่ายประสาทเทียมเพื่อสร้างชุดของเวกเตอร์คุณลักษณะที่แมปกับเนื้อหาของภาพ
แต่เครือข่ายของ OpenAI นั้นแตกต่างกันเป็นแบบจำลองทั่วไปที่สามารถจับคู่ระหว่างรูปภาพและข้อความได้ซึ่งหมายความว่าเราสามารถใช้เพื่อดึงข้อมูลภาพที่มนุษย์เข้าใจได้
ฉันเรียกใช้ภาพการชนสองภาพด้านบนผ่าน CLIP เพื่อดูว่าถูกหลอกด้วยหรือไม่คำตอบสั้น ๆ คือ: ไม่ซึ่งหมายความว่า Apple ควรสามารถใช้เครือข่ายตัวแยกคุณลักษณะที่สอง (เช่น CLIP) กับอิมเมจ CSAM ที่ตรวจพบเพื่อตรวจสอบว่าจริงหรือปลอมการสร้างภาพที่หลอกลวงสองเครือข่ายพร้อมกันเป็นเรื่องยากกว่ามาก
สุดท้าย ดังที่กล่าวไว้ก่อนหน้านี้ รูปภาพจะได้รับการตรวจสอบด้วยตนเองเพื่อยืนยันว่าเป็น CSAM
นักวิจัยด้านความปลอดภัยกล่าวว่าความเสี่ยงที่แท้จริงเพียงอย่างเดียวคือใครก็ตามที่ต้องการรบกวน Apple สามารถให้ข้อมูลที่เป็นเท็จแก่ผู้ตรวจสอบที่เป็นมนุษย์ได้
“จริง ๆ แล้ว Apple ออกแบบระบบนี้ ดังนั้นฟังก์ชั่นแฮชจึงไม่จำเป็นต้องถูกเก็บเป็นความลับ เพราะสิ่งเดียวที่คุณสามารถทำได้ด้วย 'ไม่ใช่ CSAM เป็น CSAM' คือการรบกวนทีมตอบสนองของ Apple ด้วยภาพขยะบางภาพจนกว่าจะใช้ตัวกรองเพื่อกำจัด การวิเคราะห์ขยะเหล่านั้นในท่อส่งเป็นผลบวกที่ผิดพลาด” Nicholas Weaver นักวิจัยอาวุโสของ Institute of International Computer Science ที่ University of California, Berkeley กล่าวกับมาเธอร์บอร์ดในการแชทออนไลน์
ความเป็นส่วนตัวเป็นปัญหาของความกังวลที่เพิ่มขึ้นในโลกปัจจุบันปฏิบัติตามรายงานทั้งหมดที่เกี่ยวข้องกับความเป็นส่วนตัว ความปลอดภัย ฯลฯ ในแนวทางปฏิบัติของเรา
Ben Lovejoy เป็นนักเขียนด้านเทคนิคชาวอังกฤษและบรรณาธิการของสหภาพยุโรปสำหรับ 9to5Macเขาเป็นที่รู้จักจากคอลัมน์และบทความในไดอารี่ โดยได้สำรวจประสบการณ์ของเขาเกี่ยวกับผลิตภัณฑ์ Apple เป็นระยะๆ เพื่อรับรีวิวที่ครอบคลุมมากขึ้นเขายังเขียนนวนิยาย มีเทคนิคระทึกขวัญสองเรื่อง หนังสั้นนิยายวิทยาศาสตร์สองสามเรื่อง และ rom-com!
โพสต์เวลา: ส.ค.-20-2021