Apple-ის CSAM სისტემა მოტყუებული იყო, მაგრამ კომპანიას აქვს ორი გარანტია

განახლება: Apple-მა ახსენა სერვერის მეორე შემოწმება და პროფესიონალურმა კომპიუტერულ ხედვის კომპანიამ გამოავლინა შესაძლებლობა იმის შესახებ, თუ რა შეიძლება იყოს აღწერილი ქვემოთ მოცემულ „როგორ შეიძლება მუშაობდეს მეორე შემოწმება“.
მას შემდეგ, რაც დეველოპერებმა შეცვალეს მისი ნაწილების ინჟინერია, Apple CSAM სისტემის ადრეული ვერსია ეფექტურად მოატყუეს უდანაშაულო სურათის აღსანიშნავად.თუმცა, Apple-მა განაცხადა, რომ მას აქვს დამატებითი გარანტიები, რათა ეს არ მოხდეს რეალურ ცხოვრებაში.
უახლესი განვითარება მოხდა მას შემდეგ, რაც NeuralHash ალგორითმი გამოქვეყნდა ღია კოდის დეველოპერის ვებსაიტზე GitHub, ნებისმიერს შეუძლია ექსპერიმენტი.
ყველა CSAM სისტემა მუშაობს ბავშვებზე სექსუალური ძალადობის ცნობილი მასალების მონაცემთა ბაზის იმპორტით ისეთი ორგანიზაციებიდან, როგორიცაა დაკარგული და ექსპლუატირებული ბავშვების ეროვნული ცენტრი (NCMEC).მონაცემთა ბაზა მოწოდებულია ჰეშის ან სურათების ციფრული თითის ანაბეჭდების სახით.
მიუხედავად იმისა, რომ ტექნოლოგიური გიგანტების უმეტესობა სკანირებს ღრუბელში ატვირთულ ფოტოებს, Apple იყენებს NeuralHash ალგორითმს მომხმარებლის iPhone-ზე შენახული ფოტოს ჰეშის მნიშვნელობის შესაქმნელად და შემდეგ ადარებს მას CSAM ჰეშის მნიშვნელობის ჩამოტვირთულ ასლს.
გუშინ, დეველოპერმა განაცხადა, რომ შეცვალა Apple-ის ალგორითმი და გამოუშვა კოდი GitHub-ისთვის - ეს პრეტენზია ეფექტურად დაადასტურა Apple-მა.
GitHib გამოქვეყნებიდან რამდენიმე საათში, მკვლევარებმა წარმატებით გამოიყენეს ალგორითმი განზრახ ცრუ დადებითი - ორი სრულიად განსხვავებული სურათის შესაქმნელად, რომლებიც წარმოქმნიან იგივე ჰეშის მნიშვნელობას.ამას ჰქვია შეჯახება.
ასეთი სისტემებისთვის ყოველთვის არის შეჯახების რისკი, რადგან ჰეში, რა თქმა უნდა, გამოსახულების ძალიან გამარტივებული წარმოდგენაა, მაგრამ გასაკვირია, რომ ვინმეს შეუძლია გამოსახულების ასე სწრაფად გენერირება.
აქ განზრახ შეჯახება მხოლოდ კონცეფციის დასტურია.დეველოპერებს არ აქვთ წვდომა CSAM ჰეშის მონაცემთა ბაზაზე, რაც მოითხოვს ცრუ პოზიტივის შექმნას რეალურ დროში, მაგრამ ეს ამტკიცებს, რომ შეჯახების შეტევები პრინციპში შედარებით მარტივია.
Apple-მა ეფექტურად დაადასტურა, რომ ალგორითმი არის საკუთარი სისტემის საფუძველი, მაგრამ უთხრა დედაპლატს, რომ ეს არ არის საბოლოო ვერსია.კომპანიამ ასევე განაცხადა, რომ არასოდეს აპირებდა მისი კონფიდენციალურობის შენარჩუნებას.
Apple-მა Motherboard-ს უთხრა, რომ GitHub-ზე მომხმარებლის მიერ გაანალიზებული ვერსია არის ზოგადი ვერსია და არა საბოლოო ვერსია, რომელიც გამოიყენება iCloud Photo CSAM-ის აღმოჩენისთვის.Apple-მა განაცხადა, რომ მან ასევე გამოაქვეყნა ალგორითმი.
„NeuralHash ალგორითმი [...] არის ხელმოწერილი ოპერაციული სისტემის კოდის ნაწილი [და] უსაფრთხოების მკვლევარებს შეუძლიათ დაადასტურონ, რომ მისი ქცევა შეესაბამება აღწერილობას“, - წერია Apple-ის დოკუმენტში.
კომპანიამ განაგრძო, რომ არსებობს კიდევ ორი ​​ნაბიჯი: მეორადი (საიდუმლო) შესატყვისი სისტემის გაშვება საკუთარ სერვერზე და ხელით განხილვა.
Apple-მა ასევე განაცხადა, რომ მას შემდეგ რაც მომხმარებლები გადალახავენ 30 მატჩის ბარიერს, Apple-ის სერვერებზე გაშვებული მეორე არა-საჯარო ალგორითმი შეამოწმებს შედეგებს.
”ეს დამოუკიდებელი ჰეში არჩეულია იმისთვის, რომ უარყოს შესაძლებლობა, რომ არასწორი NeuralHash ემთხვევა მოწყობილობაზე დაშიფრულ CSAM მონაცემთა ბაზას არა CSAM სურათების წინააღმდეგობრივი ჩარევის გამო და აჭარბებს შესატყვის ზღურბლს.”
ბრედ დუაიერმა Roboflow-მა იპოვა გზა ადვილად განასხვავოს ორი სურათი, რომელიც გამოქვეყნებულია შეჯახების შეტევის კონცეფციის მტკიცებულებად.
მაინტერესებს როგორ გამოიყურება ეს სურათები მსგავსი, მაგრამ განსხვავებული ნერვული ფუნქციების ამომყვანის OpenAI-ის კლიპში.CLIP მუშაობს ისევე, როგორც NeuralHash;ის იღებს სურათს და იყენებს ნერვულ ქსელს ფუნქციების ვექტორების ნაკრების შესაქმნელად, რომლებიც ასახავს სურათის შინაარსს.
მაგრამ OpenAI-ის ქსელი განსხვავებულია.ეს არის ზოგადი მოდელი, რომელსაც შეუძლია რუქა სურათებსა და ტექსტს შორის.ეს ნიშნავს, რომ ჩვენ შეგვიძლია გამოვიყენოთ ადამიანისათვის გასაგები გამოსახულების ინფორმაციის ამოსაღებად.
ზემოთ მოცემული ორი შეჯახების სურათი გავატარე CLIP-ის საშუალებით, რათა მენახა ისიც მოტყუებული იყო თუ არა.მოკლე პასუხია: არა.ეს ნიშნავს, რომ Apple-ს უნდა შეეძლოს გამოიყენოს მეორე ფუნქციების ამომყვანი ქსელი (როგორიცაა CLIP) აღმოჩენილ CSAM სურათებზე, რათა დადგინდეს რეალურია თუ ყალბი.გაცილებით რთულია სურათების გენერირება, რომლებიც ერთდროულად ატყუებენ ორ ქსელს.
საბოლოოდ, როგორც უკვე აღვნიშნეთ, სურათები ხელით განიხილება, რათა დაადასტუროს, რომ ისინი CSAM არიან.
უსაფრთხოების მკვლევარმა თქვა, რომ ერთადერთი რეალური რისკი ის არის, რომ ყველას, ვისაც Apple-ის გაღიზიანება სურს, შეუძლია ცრუ პოზიტივი მიაწოდოს რეცენზენტებს.
„Apple-მ ფაქტობრივად დააპროექტა ეს სისტემა, ასე რომ, ჰეშის ფუნქცია არ საჭიროებს საიდუმლოდ შენახვას, რადგან ერთადერთი, რისი გაკეთებაც შეგიძლიათ „არა CSAM, როგორც CSAM“ არის Apple-ის პასუხის ჯგუფის გაღიზიანება რამდენიმე უსარგებლო სურათებით, სანამ ისინი არ დანერგავენ ფილტრებს, რათა აღმოფხვრას. ანალიზი მილსადენში არსებული ნაგავი ცრუ დადებითია“, - განუცხადა Motherboard-ს ონლაინ ჩატში ნიკოლას უივერმა, კალიფორნიის უნივერსიტეტის საერთაშორისო კომპიუტერული მეცნიერების ინსტიტუტის უფროსმა მკვლევარმა.
კონფიდენციალურობა არის მზარდი შეშფოთების საკითხი დღევანდელ მსოფლიოში.მიჰყევით ყველა ანგარიშს, რომელიც დაკავშირებულია კონფიდენციალურობასთან, უსაფრთხოებასთან და ა.შ. ჩვენს სახელმძღვანელოში.
ბენ ლავჯოი არის ბრიტანელი ტექნიკური მწერალი და ევროკავშირის რედაქტორი 9to5Mac-ისთვის.ის ცნობილია თავისი სვეტებითა და დღიურის სტატიებით, დროთა განმავლობაში იკვლევს თავის გამოცდილებას Apple-ის პროდუქტებთან, რათა მიიღო უფრო სრულყოფილი მიმოხილვები.ის ასევე წერს რომანებს, არის ორი ტექნიკური თრილერი, რამდენიმე მოკლემეტრაჟიანი სამეცნიერო ფანტასტიკური ფილმი და რომ-კომი!