AI가 Enshittification 함정을 피할 수 있습니까?

최근에 휴가를 냈어요 이탈리아에서. 요즘처럼 저는 관광 제안과 레스토랑 추천을 위해 GPT-5를 지나는 일정을 진행했습니다. 봇은 로마에 있는 우리 호텔 근처에서 저녁 식사를 하기 위해 가장 좋은 선택이 Via Margutta에서 짧은 도보 거리에 있다고 보고했습니다. 그것은 내가 기억할 수 있는 최고의 식사 중 하나로 밝혀졌습니다. 집에 돌아와서 모델에게 그 레스토랑을 어떻게 선택했는지 물었습니다. 나중에 테이블을 원할 경우를 대비하여 여기에 공개하기를 주저합니다(지옥, 내가 돌아올지 누가 알겠어요: 그것은 바베트. 미리 전화해서 예약하세요.) 대답은 복잡하고 인상적이었습니다. 그 요인 중에는 현지인들의 극찬, 음식 블로그와 이탈리아 언론의 공지, 레스토랑의 유명한 로마식 요리와 현대식 요리의 조합 등이 있었습니다. 아, 그리고 짧은 산책.

나에게도 요구되는 것이 있었다: 신뢰. 나는 GPT-5가 편견 없이 내 레스토랑을 고르는 정직한 중개인이라는 생각을 받아들여야 했습니다. 그 레스토랑은 나에게 스폰서 콘텐츠로 표시되지 않았고 내 수표도 한 몫 받지 못했다는 것입니다. 추천을 다시 확인하기 위해 스스로 심층 조사를 할 수도 있었지만(웹사이트를 찾아봤습니다), AI를 사용하는 요점은 그러한 마찰을 우회하는 것입니다.

이 경험을 통해 AI 결과에 대한 자신감이 높아졌지만 OpenAI와 같은 회사가 더욱 강력해지고 투자자에게 상환하려고 노력함에 따라 AI가 오늘날 우리가 사용하는 기술 앱에 고유하게 나타나는 가치 침식을 쉽게 겪게 될까요?

워드 플레이

작가이자 기술 평론가인 Cory Doctorow는 이러한 침식을 “폐화”라고 부릅니다. 그의 전제는 Google, Amazon, Facebook, TikTok과 같은 플랫폼이 사용자를 만족시키는 것을 목표로 시작하지만 회사가 경쟁사를 정복하면 의도적으로 더 큰 이익을 얻기 위해 유용성이 떨어진다는 것입니다. WIRED가 이 현상에 대한 Doctorow의 선구적인 2022년 에세이를 다시 출판한 후, 이 용어는 주로 사람들이 그것이 완전히 목표에 이르렀다는 것을 인식했기 때문에 모국어에 들어갔습니다. Enshittiification은 American Dialect Society의 2023년 올해의 단어로 선정되었습니다. 이 개념은 너무 자주 인용되어 욕설을 넘어 일반적으로 그러한 단어에 코를 대는 장소에 나타납니다. Doctorow가 방금 출판했습니다. 동명의 책 주제에; 표지 이미지는 …의 이모티콘입니다.

챗봇과 AI 에이전트가 강화되면 Google 검색의 유용성이 떨어지고, Amazon 결과가 광고로 가득 차고, 심지어 Facebook에서도 분노를 유발하는 클릭베이트를 선호하여 소셜 콘텐츠가 덜 표시되는 것보다 더 나쁠 수 있습니다.

AI는 끊임없는 동반자가 되어 우리의 많은 요청에 일회성 답변을 제공하는 궤도에 있습니다. 사람들은 이미 시사 문제를 해석하고 모든 종류의 구매 선택, 심지어 인생 선택에 대한 조언을 얻기 위해 이 정보를 활용하고 있습니다. 본격적인 AI 모델을 만드는 데 막대한 비용이 들기 때문에 소수의 기업만이 이 분야를 장악할 것이라고 가정하는 것이 타당합니다. 그들 모두는 모델을 개선하고 가능한 한 많은 사람들의 손에 전달하기 위해 향후 몇 년 동안 수천억 달러를 지출할 계획입니다. 현재로서는 AI가 Doctorow가 말하는 “사용자에게 좋은” 단계에 있다고 말하고 싶습니다. 그러나 막대한 자본 투자를 회수해야 한다는 압력은 엄청날 것입니다. 특히 사용자 기반이 묶여 있는 기업의 경우 더욱 그렇습니다. Doctorow가 쓴 것처럼 이러한 조건으로 인해 기업은 사용자와 비즈니스 고객을 남용하여 “모든 가치를 스스로 회수”할 수 있습니다.

AI의 엔시티화를 상상할 때 가장 먼저 떠오르는 것은 광고다. 악몽은 AI 모델이 어떤 회사가 배치 비용을 지불했는지에 따라 추천을 한다는 것입니다. 지금은 그런 일이 일어나지 않지만 AI 회사는 적극적으로 광고 공간을 탐색하고 있습니다. ~ 안에 최근 인터뷰OpenAI CEO인 Sam Altman은 “사용자에게 순익을 주고 사용자와의 관계에 일종의 긍정적인 효과를 줄 수 있는 멋진 광고 제품이 있을 것이라고 생각합니다.”라고 말했습니다. 한편 OpenAI는 소매업체 고객이 ChatGPT 앱 내에서 쇼핑할 수 있도록 Walmart와의 계약을 발표했습니다. 거기에서 갈등은 상상할 수 없습니다! AI 검색 플랫폼 Perplexity에는 다음과 같은 프로그램이 있습니다. 후원 결과 명확하게 표시된 후속 조치에 나타납니다. 그러나 “이러한 광고는 귀하의 질문에 대해 직접적이고 편견 없는 답변을 제공하는 신뢰할 수 있는 서비스를 유지하겠다는 우리의 약속을 바꾸지 않을 것입니다.”라고 약속합니다.