Apple ievieš jaunus bērnu drošības līdzekļus, tostarp lietotāju fotoattēlu bibliotēku skenēšanu, lai atrastu materiālus par zināmu seksuālu izmantošanu

Apple šodien priekšskatītas jaunas bērnu drošības funkcijas kas tiks ieviests savās platformās ar programmatūras atjauninājumiem vēlāk šogad. Uzņēmums paziņoja, ka funkcijas būs pieejamas ASV tikai palaišanas brīdī, un laika gaitā tās tiks paplašinātas arī citos reģionos.

Sakaru drošība

Pirmkārt, iPhone, iPad un Mac tālruņu lietotnē Ziņojumi tiks nodrošināta jauna saziņas drošības funkcija, lai brīdinātu bērnus un viņu vecākus, saņemot vai sūtot seksuāla rakstura fotoattēlus. Apple teica, ka lietotne Ziņojumi izmantos ierīcē iebūvētu mašīnmācīšanos, lai analizētu attēlu pielikumus, un, ja fotoattēlam tiks noteikts seksuāls raksturs, fotoattēls tiks automātiski aizmiglots un bērns tiks brīdināts.

kā savienot airpod tikai ar vienu airpod

Kad bērns mēģina skatīt fotoattēlu, kas lietotnē Ziņojumi ir atzīmēts kā sensitīvs, viņš tiks brīdināts, ka fotoattēlā var būt privātas ķermeņa daļas un ka fotoattēls var būt kaitīgs. Atkarībā no bērna vecuma vecākiem būs arī iespēja saņemt paziņojumu, ja viņu bērns turpinās skatīt sensitīvo fotoattēlu vai arī pēc brīdinājuma izvēlēsies seksuāla rakstura fotoattēlu nosūtīt citai kontaktpersonai.

Apple paziņoja, ka jaunā saziņas drošības funkcija tiks ieviesta iOS 15, iPadOS 15 un macOS Monterey atjauninājumos vēlāk šogad kontiem, kas pakalpojumā iCloud ir iestatīti kā ģimenes. Apple nodrošināja, ka iMessage sarunas joprojām būs aizsargātas ar pilnīgu šifrēšanu, padarot privāto saziņu Apple nelasāmu.

Fotoattēlu skenēšana, lai atrastu materiālu par bērnu seksuālu izmantošanu (CSAM)

Otrkārt, sākot ar šo gadu ar operētājsistēmu iOS 15 un iPadOS 15, Apple varēs atklāt zināmos bērnu seksuālās vardarbības materiāla (CSAM) attēlus, kas saglabāti iCloud fotoattēlos, ļaujot Apple ziņot par šiem gadījumiem Nacionālajam pazudušo un izmantoto bērnu centram (NCMEC). , bezpeļņas organizācija, kas sadarbojas ar ASV tiesībaizsardzības iestādēm.

Apple teica, ka tā zināmo CSAM noteikšanas metode ir izstrādāta, ņemot vērā lietotāju privātumu. Tā vietā, lai skenētu attēlus mākonī, Apple teica, ka sistēma ierīcē veiks saskaņošanu ar zināmo CSAM attēlu jaucējkodu datubāzi, ko nodrošina NCMEC un citas bērnu drošības organizācijas. Apple paziņoja, ka tā turpinās pārveidot šo datu bāzi par nelasāmu jaucējvārdu kopu, kas tiek droši glabāta lietotāju ierīcēs.

Saskaņā ar Apple teikto, jaukšanas tehnoloģija, ko sauc par NeuralHash, analizē attēlu un pārvērš to par unikālu šim attēlam raksturīgu skaitli.

'Jaukšanas galvenais mērķis ir nodrošināt, ka identiski un vizuāli līdzīgi attēli rada vienu un to pašu jaucēju, savukārt attēli, kas atšķiras viens no otra, rada dažādus jaucējus,' teikts Apple jaunajā baltajā grāmatā 'Paplašināta aizsardzība bērniem'. 'Piemēram, attēls, kas ir nedaudz apgriezts, mainīts vai pārveidots no krāsaina uz melnbaltu, tiek apstrādāts identiski tā oriģinālam, un tam ir tāda pati jaucējzīme.'

Pirms attēla saglabāšanas pakalpojumā iCloud Photos, Apple teica, ka šim attēlam ierīcē tiek veikts atbilstības process pret nenolasāmo zināmo CSAM jaucēju kopu. Ja tiek atrasta atbilstība, ierīce izveido kriptogrāfijas drošības talonu. Šis kupons tiek augšupielādēts pakalpojumā iCloud Photos kopā ar attēlu, un, tiklīdz tiek pārsniegts neatklāts atbilstības slieksnis, Apple var interpretēt kuponu saturu CSAM atbilstībām. Pēc tam Apple manuāli pārskata katru ziņojumu, lai apstiprinātu atbilstību, atspējo lietotāja iCloud kontu un nosūta ziņojumu NCMEC. Apple nepaziņo, kāds ir tā precīzais slieksnis, bet nodrošina “ārkārtīgi augstu precizitātes līmeni”, lai konti netiktu nepareizi atzīmēti.

Apple teica, ka tā zināmo CSAM noteikšanas metode nodrošina 'ievērojamus privātuma ieguvumus' salīdzinājumā ar esošajām metodēm.

• Šī sistēma ir efektīvs veids, kā identificēt zināmo CSAM, kas glabājas iCloud Photos kontos, vienlaikus aizsargājot lietotāja privātumu.
• Procesa ietvaros lietotāji arī nevar uzzināt neko par zināmo CSAM attēlu kopu, kas tiek izmantota atbilstības noteikšanai. Tas aizsargā datu bāzes saturu no ļaunprātīgas izmantošanas.
• Sistēma ir ļoti precīza, ar ārkārtīgi zemu kļūdu īpatsvaru, kas ir mazāks par vienu no triljoniem konta gadā.
• Sistēma ir ievērojami vairāk aizsargāta pret privātumu nekā mākonī balstīta skenēšana, jo tā ziņo tikai par lietotājiem, kuriem ir zināma CSAM kolekcija, kas glabājas iCloud fotoattēlos.

Apple sistēmas pamatā esošā tehnoloģija ir diezgan sarežģīta, un tā ir publicējusi a tehniskais kopsavilkums ar sīkāku informāciju.

Apple paplašinātā aizsardzība bērniem ir spēles mainītājs. Tā kā Apple produktus izmanto tik daudz cilvēku, šiem jaunajiem drošības pasākumiem ir dzīvības glābšanas potenciāls bērniem, kuri tiek vilināti tiešsaistē un kuru šausminoši attēli tiek izplatīti materiālos par bērnu seksuālu izmantošanu,” sacīja Džons Klārks, Nacionālā pazudušo personu centra prezidents un izpilddirektors. & Ekspluatētie bērni. “Nacionālajā bezvēsts pazudušo un izmantoto bērnu centrā mēs zinām, ka šo noziegumu var apkarot tikai tad, ja esam nelokāmi apņēmīgi aizsargāt bērnus. Mēs to varam izdarīt tikai tāpēc, ka tehnoloģiju partneri, piemēram, Apple, pastiprina un dara zināmu savu centību. Realitāte ir tāda, ka privātums un bērnu aizsardzība var pastāvēt līdzās. Mēs aplaudējam Apple un ceram uz sadarbību, lai padarītu šo pasauli par drošāku vietu bērniem.

Paplašināti CSAM norādījumi pakalpojumā Siri un meklēšanā

Treškārt, Apple paziņoja, ka paplašinās norādījumus par Siri un Spotlight Search visās ierīcēs, nodrošinot papildu resursus, lai palīdzētu bērniem un vecākiem saglabāt drošību tiešsaistē un saņemt palīdzību nedrošās situācijās. Piemēram, lietotāji, kuri jautā Siri, kā viņi var ziņot par CSAM vai bērnu izmantošanu, tiks norādīti uz resursiem, kur un kā iesniegt ziņojumu.

Saskaņā ar Apple teikto, Siri un Search atjauninājumi būs pieejami vēlāk šogad iOS 15, iPadOS 15, watchOS 8 un MacOS Monterey atjauninājumos.

Piezīme. Ņemot vērā diskusijas politisko vai sociālo raksturu par šo tēmu, diskusiju pavediens atrodas mūsu vietnē Politiskās ziņas forums. Visi foruma dalībnieki un vietnes apmeklētāji ir laipni aicināti lasīt un sekot pavedienam, taču ziņas var izlikt tikai foruma dalībniekiem ar vismaz 100 ziņām.