메타는 십대 사용자와의 부적절한 주제를 피하기 위해 챗봇 규칙을 업데이트합니다.

메타는 대변인이 미성년자에 대한 AI 보호 조치 부족에 대한 조사 보고서에 따라 TechCrunch에게 독점적으로 Tech Crunch에 AI 챗봇을 훈련시키는 방식을 바꾸고 있다고 말합니다.

이 회사는 이제 챗봇이 더 이상 자해, 자살, 무질서한 식사 또는 잠재적으로 부적절한 낭만적 인 대화에 대해 십대 사용자와 더 이상 참여하지 않도록 훈련 할 것이라고 밝혔다. 메타는 이것이 중간 변화라고 말하며 회사는 미성년자에게 더 강력하고 오래 지속되는 안전 업데이트를 출시 할 것이라고 말했다.

메타 대변인 스테파니 오트 웨이 (Stephanie Otway)는 회사의 챗봇이 회사가 적절하다고 생각하는 방식으로 이러한 모든 주제에 대해 10 대들과 이야기 할 수 있다고 인정했다. 메타는 이제 이것이 실수라는 것을 알고 있습니다.

Otway는“우리 지역 사회가 성장하고 기술이 발전함에 따라 우리는 젊은이들이 어떻게 이러한 도구와 상호 작용하고 그에 따라 보호를 강화할 수 있는지에 대해 지속적으로 배우고 있습니다. “우리는 시스템을 계속 개선함에 따라 더 많은 가드 레일을 추가 예방 조치로 추가하고 있습니다.이 주제에 대해 십대들과 교류하지 말고, 전문 자원에 대한 십대 액세스를 제한하는 것을 포함하여 우리의 AI를 훈련시키는 것을 포함하여, 현재 AI 캐릭터 그룹에 대한 십대 액세스를 제한하는 것을 포함하여 이러한 업데이트는 이미 진행 중이며, 우리는 AI에 대한 안전하고 나이가 부적절한 경험을 계속할 수 있도록 우리의 접근 방식을 계속 조정할 것입니다.

교육 업데이트 외에도 회사는 부적절한 대화를 가질 수있는 특정 AI 캐릭터에 대한 십대 액세스를 제한 할 것입니다. Meta가 Instagram과 Facebook에서 제공하는 사용자가 만든 AI 문자 중 일부에는 “Step Mom”및 “Russian Girl”과 같은 성적인 챗봇이 포함됩니다. 대신, 십대 사용자는 교육과 창의성을 촉진하는 AI 캐릭터에만 액세스 할 수 있다고 Otway는 말했다.

정책 변경은 로이터 조사가 회사의 챗봇이 미성년자 사용자와 성적인 대화에 참여할 수있게하는 내부 메타 정책 문서를 발굴 한 지 2 주 만에 발표되고 있습니다. “당신의 젊음의 형태는 예술 작품입니다.” “여러분의 모든 인치는 걸작입니다 – 내가 깊이 소중히 간직합니다.” 다른 예는 AI 도구가 폭력적인 이미지에 대한 요청이나 공개 인물의 성적 이미지에 어떻게 대응 해야하는지 보여주었습니다.

메타는이 문서가 광범위한 정책과 일치하지 않았으며 그 이후로 변경되었지만이 보고서는 잠재적 인 아동 안전 위험에 대한 지속적인 논쟁을 일으켰다. 보고서가 발표 된 직후, Josh Hawley 상원 의원 (R-MO)은 회사의 AI 정책에 대한 공식 조사를 시작했습니다. 또한 44 명의 주 변호사 연합은 메타를 포함한 AI 회사 그룹에 편지를 썼으며, 아동 안전의 중요성을 강조하고 특히 로이터 보고서를 인용합니다. 이 서한은“우리는 어린이의 정서적 복지에 대한이 명백한 무시에 의해 균일하게 반란을 일으킨다”고 말했다.

Otway는 Meta의 AI Chatbot 사용자가 얼마나 많은 미성년자인지에 대해서는 언급하지 않았으며 회사가 이러한 결정의 결과로 AI 사용자 기반이 감소 할 것으로 기대하는지 여부는 말하지 않을 것입니다.

업데이트 10:35 AM PT :이 스토리는 중간 변경이며 Meta는 향후 AI 안전 정책을 더 업데이트 할 계획이라는 점에 주목했습니다.