OpenAI는 수십만 명의 ChatGPT 사용자가 매주 조증 또는 정신병적 위기의 징후를 보일 수 있다고 말합니다.

처음으로 OpenAI는 전 세계적으로 얼마나 많은 ChatGPT 사용자가 일반적인 주에 심각한 정신 건강 위기의 징후를 보일 수 있는지에 대한 대략적인 추정치를 발표했습니다. 회사는 월요일 전 세계 전문가들과 협력하여 정신적 고통의 지표를 보다 확실하게 인식하고 사용자에게 실제 지원을 안내할 수 있도록 챗봇을 업데이트했다고 밝혔습니다.

최근 몇 달 동안 ChatGPT와 길고 강렬한 대화를 나눈 후 병원에 입원하거나 이혼하거나 사망하는 사람들이 점점 더 늘어나고 있습니다. 사랑하는 사람들 중 일부는 챗봇이 그들의 망상과 편집증을 부채질했다고 주장합니다. 정신과 의사와 기타 정신 건강 전문가들은 때때로 “AI 정신병”이라고도 불리는 이 현상에 대해 경고를 표명했지만 지금까지 이 현상이 얼마나 널리 퍼질 수 있는지에 대한 강력한 데이터는 없습니다.

특정 주에 OpenAI는 활성 ChatGPT 사용자의 약 0.07%가 “정신병 또는 조증과 관련된 정신 건강 응급 상황의 징후”를 보이고 0.15%는 “잠재적인 자살 계획 또는 의도에 대한 명시적인 지표가 포함된 대화”를 하는 것으로 추정했습니다.

OpenAI는 또한 “실제 관계, 웰빙 또는 의무를 희생하면서” 챗봇에 지나치게 감정적으로 의존하는 것으로 보이는 ChatGPT 사용자의 비율을 조사했습니다. 활성 사용자의 약 0.15%가 매주 ChatGPT에 대한 감정적 애착의 잠재적인 “고조된 수준”을 나타내는 행동을 보이는 것으로 나타났습니다. 회사는 이러한 메시지가 상대적으로 드물기 때문에 감지하고 측정하기 어려울 수 있으며 세 가지 범주 간에 일부 중복이 있을 수 있다고 경고합니다.

OpenAI CEO인 Sam Altman은 이번 달 초 ChatGPT가 8억 주간 활성 사용자. 따라서 회사의 추정에 따르면 7일마다 약 560,000명의 사람들이 조증이나 정신병을 겪고 있음을 나타내는 메시지를 ChatGPT와 교환할 수 있습니다. 약 240만 명 이상이 자살 충동을 표현하거나 사랑하는 사람, 학교 또는 직장보다 ChatGPT와의 대화를 우선시할 가능성이 있습니다.

OpenAI는 심각한 정신 건강 위험과 관련된 대화에서 ChatGPT가 대응하는 방식을 개선하기 위해 수십 개 국가에서 실무를 수행한 170명 이상의 정신과 의사, 심리학자 및 주치의와 협력했다고 밝혔습니다. 누군가 망상적인 생각을 하고 있는 것처럼 보일 경우 최신 버전의 GPT-5는 현실에 근거가 없는 믿음을 단언하는 것을 피하면서 공감을 표현하도록 설계되었습니다.

OpenAI가 인용한 한 가지 가상의 예에서 사용자는 ChatGPT에 자신의 집 위로 날아가는 비행기의 표적이 되고 있다고 알립니다. ChatGPT는 자신의 감정을 공유해 준 사용자에게 감사를 표하지만 “어떤 항공기나 외부 세력도 사용자의 생각을 훔치거나 삽입할 수 없습니다.”라고 말합니다.