Bluesky는 급속한 성장 이후 2024년 조정 보고서가 17배 증가했습니다.

금요일에 Bluesky가 발표했습니다. 지난 1년간의 조정 보고서, 2024년에 소셜 네트워크가 경험한 상당한 성장과 이것이 신뢰 및 안전 팀의 작업량에 어떤 영향을 미쳤는지 언급합니다. 또한 괴롭힘, 트롤링 또는 불관용에 대한 계정이나 게시물을 신고하는 사용자로부터 가장 많은 신고가 접수됐다는 점을 지적했습니다. 이 문제는 Bluesky가 성장함에 따라 괴롭혔으며 때로는 개별 중재 결정에 대한 대규모 항의로 이어지기도 했습니다.

회사의 보고서에는 개인 사용자를 포함하여 개인 사용자에 대해 조치를 취하거나 조치를 취하지 않은 이유를 다루거나 설명하지 않았습니다. 가장 많이 차단된 목록.

Bluesky가 다양한 이유로 이전 Twitter/X 사용자의 새로운 목적지가 되면서 회사는 2024년에 2,300만 명 이상의 사용자를 추가했습니다. 한 해 동안 소셜 네트워크는 차단 작동 방식을 변경하고 사용자 데이터에 대해 AI를 훈련시키기로 한 결정을 포함하여 X의 여러 가지 변화로부터 이익을 얻었습니다. 다른 사용자들은 X 소유자 Elon Musk의 정치가 어떻게 플랫폼을 지배하기 시작했는지에 따라 미국 대통령 선거 결과 이후 X를 떠났습니다. X는 지난 9월 브라질에서 일시적으로 금지되는 동안 앱 사용자도 급증했습니다.

이러한 성장으로 인한 수요를 충족하기 위해 Bluesky는 중재 팀을 약 100명의 중재자로 늘렸으며 계속 고용하고 있다고 말했습니다. 회사는 또한 그래픽 콘텐츠에 지속적으로 노출되는 어려운 업무를 수행하는 팀원들에게 심리 상담을 제공하기 시작했습니다. (인간은 이러한 유형의 작업을 처리하도록 설계되지 않았기 때문에 AI가 언젠가 해결하기를 바라는 영역입니다.)

전체적으로 Bluesky의 중재 서비스에 대한 신고는 648만 건에 달했는데, 이는 신고 건수가 358,000건에 불과했던 2023년에 비해 17배 증가한 수치입니다.

올해부터 Bluesky는 앱에서 직접 중재 보고서를 수락하기 시작합니다. X와 유사하게 이를 통해 사용자는 작업과 업데이트를 더 쉽게 추적할 수 있습니다. 나중에 앱 내에서도 이의신청을 지원할 예정입니다.

8월에 브라질 사용자가 Bluesky에 넘쳐났을 때 회사는 최고조에 달했을 때 하루에 50,000건에 달하는 보고서를 보고 있었습니다. 이로 인해 조정 보고서 처리가 밀렸으며 Bluesky는 계약 공급업체를 통해 더 많은 포르투갈어 직원을 고용해야 했습니다.

또한 Bluesky는 유입 문제를 해결하는 데 도움이 되도록 스팸 외에도 더 많은 범주의 보고서를 자동화하기 시작했지만 이로 인해 오탐지가 발생하는 경우도 있었습니다. 그럼에도 불구하고 자동화는 “확실성이 높은” 계정의 처리 시간을 단 “초”로 단축하는 데 도움이 되었습니다. 자동화 이전에는 대부분의 보고서가 40분 이내에 처리되었습니다. 이제 인간 중재자는 초기 결정을 항상 처리하지는 않더라도 잘못된 긍정과 항소를 해결하기 위해 계속해서 루프를 유지합니다.

Bluesky에 따르면 활성 사용자 중 4.57%(119만 명)가 2024년에 하나 이상의 조정 보고서를 작성했는데, 이는 2023년 5.6%에서 감소한 수치입니다. 이 보고서 중 대부분(350만 건)은 개별 게시물에 대한 것입니다. 계정 프로필은 47,000회 보고되었으며, 프로필 사진이나 배너 사진이 주로 보고되었습니다. 목록은 45,000번 보고되었습니다. DM은 17,700번 보고되었으며, 피드와 스타터 팩은 각각 5,300건과 1,900건의 보고를 받았습니다.

대부분의 보고서는 트롤링 및 괴롭힘과 같은 반사회적 행동에 관한 것이었습니다. 이는 Bluesky 사용자가 X에 비해 덜 유해한 소셜 네트워크를 보고 싶어한다는 신호입니다.

다른 보고서는 다음 범주에 관한 것이라고 Bluesky는 말했습니다.

• 오해의 소지가 있는 콘텐츠(사칭, 잘못된 정보 또는 신원이나 소속에 대한 허위 주장): 120만 개
• 스팸(과도한 언급, 답글, 반복적인 내용) : 140만개
• 원치 않는 성적 콘텐츠(적절하게 라벨이 지정되지 않은 과도한 노출 또는 성인 콘텐츠): 630,000
• 불법적이거나 긴급한 문제(명백한 법률 위반 또는 Bluesky 서비스 약관 위반): 933,000
• 기타(위 범주에 속하지 않는 문제): 726,000

회사는 또한 게시물과 계정에 라벨을 추가하는 라벨링 서비스에 대한 업데이트도 제공했습니다. 인간 라벨러는 55,422개의 “성적 인물” 라벨을 추가했고, 그 다음으로 “무례한” 라벨 22,412개, “스팸” 라벨 13,201개, “편협함” 라벨 11,341개, “위협” 라벨 3,046개를 추가했습니다.

2024년에는 93,076명의 사용자가 Bluesky의 조정 결정에 대해 총 205,000건의 항소를 제출했습니다.

또한 중재자에 의한 계정 게시 중단은 66,308건, 자동 계정 게시 중단은 35,842건이었습니다. Bluesky는 또한 법 집행 기관, 정부 및 법률 회사로부터 238건의 요청을 처리했습니다. 회사는 이 중 182개에 응답했고 146개를 준수했습니다. 대부분의 요청은 독일, 미국, 브라질, 일본의 법 집행 기관의 요청이었다고 밝혔습니다.

Bluesky의 전체 보고서는 상표 및 저작권 주장, 아동 안전/CSAM 보고서를 포함한 다른 유형의 문제도 조사합니다. 회사는 미국 국립실종착취아동센터(NCMEC)에 확인된 CSAM 신고서 1,154건을 제출했다고 밝혔습니다.