이미지 기반 학대를 종식시키기위한 사샤의 사명은 디지털 세계의 규칙을 바꾸는 것입니다.

때로는 종종 – 나는 기술을 구축하는 사람을 만나서 인터넷의 미래를 재구성 할 수 있습니다.

Sasha는 우리가 온라인으로 통제, 상호 작용 및 보호 방식을 재정의하는 개인 정보 보호 우선 도구를 개발하는 희귀 한 회사 중 하나입니다.

개인에게 이미지를 제어하고 디지털 공유에 책임을 내밀어 디지털 세계에 참여하는 방식을 근본적으로 전환 할 수있는 잠재력이 있습니다.

이 기술은 이미지의 소유권을 입증하고 이미지가 온라인으로 남용되면 첫 번째 링크 누출기를 식별 할 수있게 해줍니다. 이미지가 조작되거나 스크린 샷을 찍어도.

나는 Sasha의 CEO이자 창립자 인 Thomas Eriksson에게 자세한 내용을 알게되었습니다.

개인 정보 보호 위반에서 공개 사명에 이르기까지

Sasha (Safe for Safe Phare)는 2020 년에 설립되었으며 온라인 이미지 기반 남용 (IBA) 및 신원 도용을 방지하고 해결하려고 노력합니다. Sasha의 비즈니스 목표는 피해자 서비이버가 이미지를 통제하고 가해자가 자신의 행동에 대해 법적으로 책임을 지도록 권한을 부여하고 지원하는 것입니다.

이 회사는 전 남자 친구가 온라인에서 친밀한 이미지를 유출 한 Eriksson ‘s의 친한 친구의 경험에서 영감을 받았습니다. 가슴 아픈 일이었습니다.

Eriksson은“그녀를 도와주고 싶었습니다.“당신은 그것을보고해야합니다”라고 말하고 해결책을 찾기 시작했습니다.

“나는 문제가 얼마나 큰지-이미지 기반 학대가 얼마나 광범위한 지, 그리고 무엇이든 내리는 것이 얼마나 어려운지에 충격을 받았다. 우리는 경찰에 갔지만 가해자가 가짜 계정 뒤에 숨어 있기 때문에 아무것도하기가 어렵다고 말했다.

플랫폼은 공개적이지만 개인 메시지로 인정할 것이라고 플랫폼은? 너무 어려웠습니다. 너무 많은 장벽.

결국, 우리는 콘텐츠를 제거했지만 10 분 안에 약간의 변경으로 새로운 가짜 계정으로 다시 나타났습니다. 그리고 그것은 계속해서 일어났습니다.”

“결과 없음, 통제 없음”: Sasha 문제는 해결을 위해 만들어졌습니다.

Eriksson은 Medtech, Edtech 및 Digital Innovation에 대한 배경 지식을 가진 덴마크 컨셉 개발자이자 연쇄 기업가입니다. 그는 Roskilde Festival을 포함한 창의적 및 상업 단체를위한 제품과 캠페인을 만들었습니다. 여기서 Covid-19 Lockdown (Odense University Hospital)과 덴마크의 학습 자료 센터에서 “Roskilde Fever”캠페인을 이끌었습니다.

그는 왜이 문제가 해결되지 않았는가?

“리버스 이미지 검색은 작동하지만 공개적으로 사용 가능한 콘텐츠에만 작동합니다. 워터 마킹 도구가 있지만 눈에 잘 띄거나 깨지기 쉬우거나 중앙 집중화되어 있습니다. 그중 어느 것도 증거의 부담에 도움이되지 않습니다.

결국, 나는이 문제가 결과가 부족하다는 것을 깨달았다. 온라인으로 동의하지 않고 이미지를 공유하는 결과는 없습니다. 그게 뿌리입니다.”

물리적 세계에서 우리는 결과를 시행하는 시스템 (법, 사회 규범)을 구축했습니다. 온라인? 그리 많지 않습니다.

“그래서 나는 ‘어떤 종류의 기술이 결과를 회복시킬 수 있습니까?’라고 물었습니다.”

Eriksson에 따르면 먼저, 우리는 지분의 의도를 문서화해야합니다.

“메신저를 통해 아이들의 사진을 시어머니에게 보내면 다른 곳으로 돌아가면 다시 추적 할 수 있어야합니다. 내가 당신에게 내 차를 빌려주고 그것을 추락하는 다른 사람에게주는 것처럼-당신은 여전히 책임이 있습니다.”

둘째, 기술은 강력해야했습니다. 온라인 이미지는 압축, 회전, 필터 및 밈을 거칩니다.

“메타 데이터는 업로드하는 순간이 박탈됩니다. 이미지를 11도 회전 시키거나 그려면 대부분의 워터 마킹이 죽습니다.”

셋째, 확장 가능해야했습니다.

“우리는 하루에 140 억 개의 이미지를 공유합니다. 따라서 클라우드가 아닌 사용자의 장치에서 가장자리에 작동하는 것을 구축해야합니다. 이는 개인 정보와 스케일을 무한히 보호합니다.”

사샤의 작동 방식

사샤를 사용하면 워터 마크 (또는 서명)가 이미지 픽셀에 직접 내장되어 있습니다.

Eriksson은 다음과 같이 설명했습니다.

“우리는”우리가 “건초 더미의 바늘”이라고 부르는 것을 숨겼습니다. 여기서 건초 더미는 축구장의 크기이며 바늘은 실제로 보이지 않습니다. “

Sasha는 압축 및 조작 모두에 대해 탄력적이며 데이터 무결성을 유지합니다. 이 시스템은 분산 된 네트워크를 통해 이미지를 직접 발표하는 이미지를 강력하게 보호합니다.

“압축, 회전 및 스크린 샷 후에도 신호는 그대로 유지됩니다. 베타에서는 다른 전화 화면의 사진에서 서명을 감지 할 수도 있습니다.”

또한 이미지 학대자가 더욱 정교 해짐에 따라 사샤도 마찬가지입니다. 반복 학습 프로세스 연구 및 프로세스 새로운 공격을 통해 이러한 통찰력을 적용하여 향후 발생을 방지합니다.

중요하게도, Sasha는 EU 법률에 따라 GDPR과 같은 엄격한 개인 정보 보호 표준을 완전히 준수합니다. 인식을 위해 각 이미지의 각인 만 사용하여 이미지가 비공개로 유지되도록합니다.

회사는 원본 이미지에 액세스하거나 저장하지 않습니다. 사용자는 앱을 통해 카탈로그 된 이미지를 공유 할 수 있습니다.

다른 사용자가 Sasha 앱을 통해 이미지를 공유하려고하는 경우 Sasha는 AI-embedded 기술을 사용 하여이 특정 이미지 파일이 다른 사용자가 “공유 할 수 없음”으로 명시 적으로 표시된 이미지 파일의 파생물인지 확인합니다. 이 경우 Sasha 앱은 공유를 차단합니다.

이것은 누군가가 자신의 이미지를 어딘가에 찾지 않으면 스캔하고 누가 그것을 공유했는지 정확히 알 수 있음을 의미합니다. 그들은 앱을 통해 직접 테이크 다운 요청 또는 중단 및 욕구를 보낼 수 있습니다. 그것은 사람들에게 플랫폼이 돌보기를 기다리는 것이 아니라 행동 할 힘을줍니다.

지분에 디지털 동의를 포함합니다

Sasha는 현재 B2C 모델에 집중하고 있지만 궁극적 인 목표는 B2B2C 모델로 B2C 모델을 중복시킬 것입니다.

Eriksson에 따르면,“현재, 컨텐츠 중재는 반응성입니다. 누군가는 이미지를보고하고 중재자가 검토하고 정책을 깨뜨리는 지 결정합니다.”

“느리고 비싸고 주관적입니다.

Sasha를 사용하면 플랫폼이 이미지를 물어볼 수 있습니다. ‘여기에 있어야합니까?’ 그리고 이미지는 다음과 같이 대답합니다. ‘아니요, 나는이 맥락 에서이 사람을위한 것이 었습니다.’ 붐 – 삭제.

내용을 볼 필요가 없습니다. 추측 할 필요가 없습니다. 소유자의 의도를 집행하십시오.”

사샤의 가장 큰 변화는 기술이 플랫폼에 포함될 때입니다. 이 회사는 가장 큰 기술 플레이어들과 논의하여 메시징 및 업로드 기능에이를 구축하고 있습니다.

B2B2C 모델은 피해자-서비이저가 비 연속적 인 이미지 공유의 가해자를 식별 할 수있을뿐만 아니라 이러한 비 합의 공유를 방지하는 것을 목표로합니다.

누군가가 이미지를 전달하려고 할 때 그들의 앱이 다음과 같이 말합니다.“이 사진은 개인적으로 당신과 공유되었으며 재현 할 수 없습니다. Eriksson이 말했듯이,“이미지 자체에 동의를 포함하는 것과 같습니다.

이 회사는 또한 디지털 안전 서비스를 제공하는 보험 및 통신 파트너와 긴밀한 대화입니다. 그들은 고객을 위해 Sasha Premium Access를 후원 할 것입니다. 그리고 회사는 보호를 통합하려는 플랫폼에 API를 제공 할 것입니다.

Sasha의 다음 단계는 DeepFakes입니다. Eriksson은 Sasha의 시스템이 이미지의 기원과 의도를 알고 있기 때문에 컨텐츠가 변경되거나 악의적으로 사용되는시기를 감지 할 수 있다고 설명했습니다. 심해는 종종 실제 콘텐츠로 시작합니다. 우리는 그것을 추적 할 수 있습니다.

신뢰의 인프라에 대한 감독을 포함합니다

이 팀은 사용자를 보호하기 위해 설계된 기술이 오용 될 수 있음을 알고 있습니다.

Sasha는 인권 및 디지털 기술을 전문으로하는 컨설팅 회사 인 Tech Legality를 참여시키는 새로운 단계를 수행하여 Sasha 제품의 독립적 인 인권 영향 평가 (HRIRA)를 수행했습니다.

이 평가는 인권 렌즈를 통한 IBA 및 신원 도용을 예방하고 응답하는 데있어 Sasha의 제품이 수행 할 수있는 역할을 분석하는 임무를 맡았습니다. 잠재적 불리한 인권 영향을 식별하고 사샤 사용자와 사샤의 제품, 특히 취약한 그룹, 언론인 및 정치 운동가의 영향을받는 다른 사람들에 대한 위험을 포함하여 사람들을 예방하거나 완화하기위한 권장 사항을 제시합니다.

예를 들어, 정부가 국제 인권법을 준수하지 않을 수있는 국가 법에 따라 특정 사용자 데이터에 대한 요청으로 정부가 사샤에 접근 할 수있는 위험이 있습니다.

또한 점점 더 많은 관할 구역 (예 : 가나, 말레이시아, 방글라데시, 파키스탄)에서 동성애가 범죄화되며, 이는 LGBTQ+ 인 Sasha 사용자가 자신의 친밀한 이미지를 공유하는 경우 국가 법률에 따라 불법으로 간주되는 자료의 생산과 관련된 증거 흔적을 남길 위험이 있음을 의미합니다.

이 경우 SASHA 기술을 사용하여 범죄 조사 목적으로 특정 사용자를 식별 할 수 있습니다.

에릭슨은이 위험을 염두에두고“정권이 우리에게 와서 누가 항의 사진을 찍는 사람에게 물었다면 우리는 그들에게 말할 수 없었다.

또한, Sasha 제품은 성인 사용자가 성적 이미지를 포함한 이미지를 안전하게 공유하는 동시에 원치 않는 우려 공유로부터 이미지를 보호 할 수있는 길로 설계되었습니다.

그러나 전 세계 어린이들은 일반적으로 ‘섹스팅’이라고하는 성적인 이미지를 공유합니다. 유럽의 일부 국가를 포함한 많은 관할 구역에서 ‘섹스 팅’은 아동 성 학대 자료의 자체 제작으로 간주되므로 범죄 화됩니다. 이는 어린이가 SASHA 앱을 사용하는 경우 형사 소송에서 아동에 대해 사용될 수있는 증거를 생성 할 수 있음을 의미합니다.

어린이는 친밀한 이미지의 ‘안전한 공유’를 약속하기 때문에 앱을 사용하도록 인센티브를받을 수 있습니다. 이는 이미지가 비공개로 유지되고 어린이가 범죄로부터 안전 할 것임을 암시합니다.

이에 따라 Sasha는 유럽 개인 정보 보호법에 따라 16 세 이상의 사용자에게만 제공됩니다.

Eriksson은“힘든 결정이었습니다. 젊은 십대들은 취약하지만 법적으로 우리는 수호자 없이는 그들에게 그것을 제공 할 수 없습니다.”라고 인정합니다.

“우리는 16 세 미만의 미성년자에게 식별 정보를 제공 할 수 없도록 시스템을 설계했습니다. 우리의 이용 약관은이를 명확하게합니다. 우리는 피해를 방지하고, 그에 기여하지 않습니다.”

Eriksson은“규모가 성공하면 감독이 필요합니다. 우리는 EU 규제 기관과 같은 독립적 인 제 3자가 데이터 사용 및 액세스 방법을 확인할 수 있도록 시스템을 설계하고 있습니다. 이미지 서명의 데이터베이스를 오용하거나 악용해서는 안됩니다.”

디지털 증거를 정의로 바꾸는 새로운 도구의 물결

사샤는 피해를 기록 할뿐만 아니라 디지털 시대의 정의, 존엄성 및 대행사를 적극적으로 지원하기 위해 고안된 기술의 물결에 합류합니다.

예를 들어, 범죄자 식별 및 기소 측면에서 Traffickcam은 여행자가 호텔 객실의 사진을 업로드하도록함으로써 아동 성 학대 및 인신 매매와 싸우는 데 도움이되는 모바일 앱입니다.이 이미지는 조사자가 사용하는 검색 가능한 데이터베이스를 특정 호텔 위치와 일치시키고, 신분 및 기소를 지원하는 데 도움이됩니다.

영국에 근거한 목격자에 대한 목격자는 인권 수비수, 언론인 및 수사관에게 전쟁 범죄와 인권 침해의 증거를 안전하게 문서화하고 검증하는 도구를 제공합니다. Android 앱은 내장 메타 데이터 (예 : GPS, 시간, 모션)가있는 사진, 비디오 및 오디오를 캡처하여 진품을 보장합니다.

모든 파일은 암호화되어 법적 용도에 적합한 검증 가능한 양육권 체인이있는 보안 저장소에 업로드됩니다. 그런 다음 목격자는이 자료를 구조화 된 서류로 편집하여 국제 정의 노력을 지원하고 법원, 시민 사회 단체 및 글로벌 기관과 협력합니다.

이것은 많은 인터넷에서 살아있는 현실을 바꾸는 미션 중심의 회사 인 Sasha의 시작일뿐입니다. 회사의

Eriksson은“정직하게, 나는 정말로 자랑스럽게 생각합니다. 기술뿐만 아니라 팀의 것입니다. 우리는 이전에 Google의 사람들을 포함하여 세계 최고의 암호화 작가와 워터 마킹 연구원을 데려 왔습니다. 그들은 어디에서나 일할 수 있었지만 사샤를 선택했기 때문에 사샤를 선택했습니다.