영국의 AISI는 고급 AI로부터 보호하기 위해 연합을 시작합니다

영국의 AI Security Institute (이전 AI Safety Institute)가 공개되었습니다. 정렬 프로젝트고급 AI의 위험을 연구하고 완화하는 데 전념하는 1,500 만 파운드의 프로젝트.

일부 도메인에서 고급 모델이 PhD 수준의 추론을 표시함에 따라 전문가들은 현재 제어가 미래의 위험을 관리하기에 불충분 할 수 있다고 경고합니다.

AWS는 정렬 실험을위한 무료 클라우드 크레딧을 통해 중요한 인프라 지원을 제공 할 것입니다. 다른 파트너로는 Anthropic, Amazon Web Services (AWS), Canada의 AI Safety Institute 및 Cifar, Schmidt Sciences, Ukri, Aria 및 Civil Society Groups가 있습니다.

AI Security Institute의 최고 과학자 인 Geoffrey Irving은 다음과 같이 강조했습니다.

“AI Alignment는 우리 시대의 가장 시급하고 자원이 부족한 과제 중 하나입니다.… 오정렬하고 유능한 시스템은 우리의 통제 능력을 넘어서서 전 세계적으로 심오한 영향을 미칠 수 있습니다.”

과학, 혁신 및 기술 국무 장관 Peter Kyle은 다음과 같이 덧붙였다.

“Advanced AI 시스템은 일부 지역에서 이미 인간의 성과를 초과하고 있으므로이 혁신적인 기술이 우리의 관심사에 따라 행동 할 수 있도록 연구를 추진하는 것이 중요합니다.”

정렬 프로젝트는 3 절 접근 방식을 통해 작동합니다.

• 보조금 자금 : 분야의 프로젝트 당 최대 1 백만 파운드.
• 컴퓨팅 액세스 : 대규모 연구를위한 AWS 클라우드 크레딧으로 5 백만 파운드.
• 벤처 캐피탈 : 정렬 솔루션 작업 스타트 업에 대한 투자 지원.

출시는 생성 AI가 엔터프라이즈 소프트웨어에서 건강 관리 및 교육에 이르기까지 산업을 계속 재구성함에 따라 발생합니다. 2024 년 5 월 서울 AI 정상 회담에서 영국과 다른 사람들은 캐나다, 일본 및 EU를 포함하여 안전 연구 및 표준을 공유하기 위해 AI 안전 연구소의 네트워크에 동의했습니다.

동시에 영국은 2025 년 7 월 OpenAI와 전략적 계약을 체결하여 AI 보안 및 인프라 협력을 촉진했습니다.

정부, 박애주 의자 및 벤처 회사는 이제 자금 조달, 컴퓨팅 리소스 제공 또는 조정 스타트 업에 투자하여 프로젝트에 참여하도록 초대되고 있습니다.