Nuashonrú: Luaigh Apple an dara cigireacht ar an bhfreastalaí, agus rinne cuideachta ghairmiúil fís ríomhaireachta cur síos ar an bhféidearthacht a bhféadfaí cur síos a dhéanamh air seo in “Conas a d’fhéadfadh an dara cigireacht oibriú” thíos.
Tar éis do na forbróirí codanna de a ndearnadh innealtóireacht orthu a aisiompú, baineadh geit éifeachtach as an leagan luath de chóras CSAM Apple chun íomhá neamhchiontach a mharcáil.Dúirt Apple, áfach, go bhfuil cosaintí breise aige chun é seo a chosc ó tharla sa saol fíor.
Tharla an fhorbairt is déanaí tar éis don algartam NeuralHash a bheith foilsithe ar shuíomh Gréasáin an fhorbróra foinse oscailte GitHub, is féidir le duine ar bith triail a bhaint as…
Oibríonn gach córas CSAM trí bhunachar sonraí a iompórtáil d’ábhair aitheanta um mhí-úsáid ghnéasach leanaí ó eagraíochtaí ar nós an Lárionad Náisiúnta do Leanaí ar Iarraidh agus a Saothraítear (NCMEC).Cuirtear an bunachar sonraí ar fáil i bhfoirm hashes nó méarloirg dhigiteach ó íomhánna.
Cé go scanann an chuid is mó de na fathaigh teicneolaíochta grianghraif a uaslódáiltear sa scamall, úsáideann Apple algartam NeuralHash ar iPhone an chustaiméara chun luach hash den ghrianghraf stóráilte a ghiniúint, agus ansin é a chur i gcomparáid leis an gcóip íoslódáilte de luach hash CSAM.
Inné, d'éiligh forbróir go ndearna sé innealtóireacht aisiompaithe ar algartam Apple agus scaoil sé an cód chuig GitHub - dheimhnigh Apple an t-éileamh seo go héifeachtach.
Laistigh de chúpla uair an chloig tar éis scaoileadh GitHib, d'éirigh leis na taighdeoirí an algartam a úsáid chun dearfach bréagach d'aon ghnó a chruthú - dhá íomhá go hiomlán difriúil a ghin an luach hash céanna.Imbhualadh a thugtar air seo.
I gcás córais den sórt sin, tá baol imbhuailtí ann i gcónaí, toisc go bhfuil an hash ar ndóigh ina léiriú go mór simplithe ar an íomhá, ach is ionadh é gur féidir le duine an íomhá a ghiniúint chomh tapa.
Níl san imbhualadh d’aon ghnó anseo ach cruthúnas ar choincheap.Níl rochtain ag forbróirí ar bhunachar sonraí hash CSAM, rud a d'éileodh cruthú dearfacha bréagacha sa chóras fíor-ama, ach cruthaíonn sé go bhfuil ionsaithe imbhuailte sách éasca i bprionsabal.
Dhearbhaigh Apple go héifeachtach gurb é an algartam bunús a chórais féin, ach dúirt sé leis an máthairchlár nach é seo an leagan deiridh.Dúirt an chuideachta freisin nach raibh sé i gceist aici riamh é a choinneáil faoi rún.
Dúirt Apple le Motherboard i ríomhphost gur leagan cineálach é an leagan arna anailísiú ag an úsáideoir ar GitHub, ní an leagan deiridh a úsáidtear le haghaidh braite iCloud Photo CSAM.Dúirt Apple gur nocht sé an algartam freisin.
“Tá algartam NeuralHash [...] mar chuid de chód an chórais oibriúcháin sínithe [agus] is féidir le taighdeoirí slándála a fhíorú go gcomhlíonann a iompraíocht an tuairisc,” a scríobh doiciméad Apple.
Lean an chuideachta ar aghaidh le rá go bhfuil dhá chéim eile ann: córas meaitseála tánaisteach (rúnda) a reáchtáil ar a freastalaí féin, agus athbhreithniú láimhe.
Dúirt Apple freisin, tar éis d'úsáideoirí an tairseach 30 cluiche a shárú, go seiceálfaidh an dara algartam neamhphoiblí a ritheann ar fhreastalaithe Apple na torthaí.
“Roghnaíodh an hash neamhspleách seo chun diúltú don fhéidearthacht go bhfuil an NeuralHash earráideach ag teacht leis an mbunachar sonraí criptithe CSAM ar an bhfeiste mar gheall ar chur isteach sáraíochta ar íomhánna neamh-CSAM agus go sáraíonn sé an tairseach meaitseála.”
D'aimsigh Brad Dwyer de Roboflow bealach chun idirdhealú a dhéanamh go héasca idir an dá íomhá a phostáiltear mar chruthúnas ar choincheap le haghaidh ionsaí imbhuailte.
Táim fiosrach conas a bhreathnaíonn na híomhánna seo i CLIP d’eastóscóir gné néarúil cosúil ach éagsúil OpenAI.Oibríonn CLIP mar an gcéanna le NeuralHash;glacann sé íomhá agus úsáideann sé líonra néarúil chun sraith de veicteoirí gné a ghiniúint a mhapálann d'inneachar na híomhá.
Ach tá líonra OpenAI difriúil.Is múnla ginearálta é ar féidir é a mhapáil idir íomhánna agus téacs.Ciallaíonn sé seo gur féidir linn é a úsáid chun faisnéis íomhá daonna-thuigthe a bhaint as.
Rith mé an dá íomhá imbhuailte thuas trí CLIP féachaint an raibh sé fooled freisin.Is é an freagra gairid: níl.Ciallaíonn sé seo gur cheart go mbeadh Apple in ann líonra eastósctha dara gné (cosúil le CLIP) a chur i bhfeidhm ar na híomhánna CSAM braite chun a chinneadh an bhfuil siad fíor nó falsa.Tá sé i bhfad níos deacra íomhánna a ghiniúint a mheallann dhá líonra ag an am céanna.
Ar deireadh, mar a luadh níos luaithe, déantar na híomhánna a athbhreithniú de láimh chun a dhearbhú gur CSAM iad.
Dúirt taighdeoir slándála gurb é an t-aon riosca fíor go bhféadfadh duine ar bith atá ag iarraidh cur as do Apple rudaí bréagacha dearfacha a sholáthar d'athbhreithneoirí daonna.
“Dearadh Apple an córas seo i ndáiríre, mar sin ní gá an fheidhm hash a choinneáil faoi rún, mar is é an t-aon rud is féidir leat a dhéanamh le'non-CSAM as CSAM' ná cur isteach ar fhoireann freagartha Apple le roinnt íomhánna dramhphoist go dtí go gcuirfidh siad scagairí i bhfeidhm chun deireadh a chur leis. anailís Is rudaí dearfacha bréagacha iad na truflais atá ar an bhfód,” a dúirt Nicholas Weaver, taighdeoir sinsearach ag an Institiúid Idirnáisiúnta um Eolaíocht Ríomhaireachta in Ollscoil California, Berkeley, le Motherboard i gcomhrá ar líne.
Is ábhar imní méadaitheach í príobháideacht i saol an lae inniu.Lean gach tuairisc a bhaineann le príobháideacht, slándáil, etc. inár dtreoirlínte.
Scríbhneoir teicniúil Briotánach agus eagarthóir AE do 9to5Mac é Ben Lovejoy.Tá aithne air as a chuid colúin agus ailt dialainne, ag iniúchadh a thaithí le táirgí Apple le himeacht ama chun léirmheasanna níos cuimsithí a fháil.Scríobhann sé úrscéalta freisin, tá dhá scéinséir theicniúil ann, cúpla gearrscannán ficsean eolaíochta agus rom-com!
Am postála: Lúnasa-20-2021