트럼프 하에서 AI 과학자들은 강력한 모델에서 ‘이념적 편견’을 제거하라는 지시를받습니다.

NIST (National Institute of Standards and Technology)는 미국 인공 지능 안전 연구소 (AISI)와 협력하는 과학자들에게“AI 안전”,“책임있는 AI”및“AI 공정성”에 대한 언급을 제거하는 과학자들에게 회원이 기대하는 기술에서“AI Fairness”와의 새로운 지시를 발표했습니다.

이 정보는 3 월 초에 발송 된 AI Safety Institute Consortium 회원을위한 업데이트 된 협력 연구 개발 계약의 일부로 제공됩니다. 이전 에이 계약은 연구원들이 성, 인종, 연령 또는 부 불평등과 관련된 차별적 모델 행동을 식별하고 수정하는 데 도움이되는 기술 작업을 기여하도록 장려했습니다. 이러한 편견은 최종 사용자에게 직접 영향을 미치고 소수 민족과 경제적으로 불우한 그룹에 불균형 적으로 해를 끼칠 수 있기 때문에 매우 중요합니다.

새로운 계약은“컨텐츠를 인증하고 출처 추적”과“합성 컨텐츠 라벨링”도구 개발에 대한 언급을 제거하여 잘못된 정보를 추적하고 깊은 가짜에 대한 관심을 줄입니다. 또한 한 워킹 그룹에게“미국의 글로벌 AI 위치를 확장하기 위해 테스트 도구”를 개발하도록 요청하면서 미국을 최우선으로하는 데 중점을 둡니다.

AI Safety Institute와 함께 일하는 조직의 한 연구원은“트럼프 행정부는 AI에 대한 가치가있는 것으로 안전, 공정성, 잘못된 정보 및 책임을 제거했다”고 말했다.

연구원은 이러한 문제를 무시하면 소득이나 기타 인구 통계에 따라 차별되는 알고리즘이 확인되지 않도록함으로써 일반 사용자에게 해를 끼칠 수 있다고 생각합니다. “당신이 기술 억만 장자가 아니라면, 이것은 당신과 당신이 관심있는 사람들에게 더 나쁜 미래로 이어질 것입니다. AI는 불공평하고 차별적이며 안전하지 않으며 무책임하게 배치 될 것으로 기대합니다.”라고 연구원은 주장합니다.

과거 AI 안전 연구소와 함께 일한 또 다른 연구원은“이것은 거칠다”고 말했다. “인간이 번성한다는 것은 무엇을 의미합니까?”

트럼프 대통령을 대신하여 정부 지출과 관료주의를 삭감하기위한 논란의 여지가있는 엘론 머스크 (Elon Musk)는 Openai와 Google이 구축 한 AI 모델을 비판했다. 지난 2 월, 그는 Gemini와 Openai가“인종 차별 주의자”와“Woke”로 분류 된 X에 밈을 게시했습니다. 그는 종종 인용 Google 모델 중 하나가 핵 묵시록을 막더라도 누군가를 잘못 해지는 것이 잘못 될지 여부에 대해 토론 한 사건은 매우 가능성이 거의없는 시나리오입니다. Musk는 Tesla 및 SpaceX 외에도 OpenAI 및 Google과 직접 경쟁하는 AI 회사 인 Xai를 운영합니다. Xai에게 조언하는 연구원은 최근 유선에 의해보고 된대로 큰 언어 모델의 정치적 기대를 바꿀 수있는 새로운 기술을 개발했습니다.

점점 더 많은 연구에 따르면 AI 모델의 정치적 편견이 자유당 그리고 보수파. 예를 들어, 트위터의 추천 알고리즘에 대한 연구 2021 년에 게시 된 결과, 사용자는 플랫폼에서 올바른 관점을 보여줄 가능성이 더 높다는 것을 보여주었습니다.

1 월부터 Musk의 소위 정부 효율성 부 (DOGE)는 미국 정부를 통해 공무원을 효과적으로 해고하고 지출을 일시 중지하며 트럼프 행정의 목표에 반대 할 수있는 사람들에게 적대적인 것으로 생각되는 환경을 조성하고 있습니다. 교육부와 같은 일부 정부 부서는 DEI를 언급하는 문서를 보관하고 삭제했습니다. Doge는 또한 최근 몇 주 동안 AISI의 부모 조직 인 NIST를 목표로 삼았습니다. 수십 명의 직원이 해고되었습니다.