개인 AI 에이전트는 더 좋은 제품에 유리한 시장을 만들까

원저자의 게시물 본문 전체를 번역했습니다.

에이전트가 경제에 미칠 영향에 관해 요즘 생각해 본 몇 가지입니다.

• 기업은 어떤 의미에서는 최초의 초지능입니다. 기업은 비용을 분산해 반복적으로 활용하는 여분의 사고 역량을 바탕으로, 일부 소비자의 이익과 배치되는 방향으로 자사의 이익을 추구하는 경우가 많습니다. 기업의 최적화 능력에 비하면 소비자는 주의를 충분히 기울이지 못하고, 정보가 부족하거나, 비합리적으로 행동할 수 있습니다. 예를 들어 예약 절차의 마지막 단계에서 흔히 추가로 권하는 보험을 생각해 보십시오. 이런 보험은 일반 보험 상품보다 상당히 비싸게 책정되는 경우가 많습니다. 허버트 사이먼은 ‘제한된 합리성’이라는 개념을 제시했고, 기업은 그로부터 이익을 얻곤 합니다. 개인 에이전트 덕분에 우리는 아마 기업과 거래할 때 지금보다 어느 정도 더 합리적으로 행동하게 될 것입니다.

• 결과는 구체적으로 어떻게 달라질까요? 일부 유형의 가격 차별은 효과가 떨어질 것입니다. 모든 에이전트가 쿠폰을 꼼꼼하게 찾아낸다면 쿠폰은 어떻게 작동할까요? 고객들 사이의 일부 교차 보조 구조도 달라질 것입니다. 지금은 구독 해지를 잊는 사람들이 해지를 잊지 않는 사람들을 보조합니다. 경제 전체로 봤을 때 이런 변화의 이익과 부담이 누구에게 돌아갈지는 잘 모르겠습니다.

• 기업 전략에서는 유통과 제품 품질 중 무엇이 더 중요한지를 오래 논의해 왔습니다. 더 좋은 제품을 만들었다고 해도, 누군가 그 사실을 알고 있을까요? 사람들은 계속 ACME사의 쥐덫을 사지 않을까요? 제 생각에 개인 에이전트는 제품 품질에 일종의 구조적 보조금처럼 작용할 것입니다. 사람들이 무엇을 살 때마다 늘 최소 10시간을 조사한다면 시장은 어떻게 달라질까요? 제 생각에는 제품을 더 좋게 만드는 데 집중하는 전략의 효과가 지금보다 커질 것입니다. 이는 좋은 일입니다!

• 이것이 맞다면, 제품 품질에 관한 정보가 더 중요해지고 더 큰 영향을 미치게 된다는 결론이 따라옵니다. 지금은 대부분의 사람이 그런 정보를 모으고 종합하는 능력에 큰 제약이 있지만, 에이전트는 그런 신호를 끝없이 찾으려 할 것입니다. 데이터가 모델 학습에 도움이 되기 때문에 더 가치 있어진다는 말을 자주 듣습니다. 이는 분명 맞는 말입니다. 하지만 더 저렴해진 지능을 보완해 준다는 이유만으로도 데이터의 가치가 높아지는 또 다른 경로가 있다고 생각합니다.

• 중요한 질문 하나는 에이전트가 ‘슈퍼스타 효과’를 강화할지, 아니면 선택의 분산을 늘릴지입니다. 합리적인 에이전트가 모두 같은 제품을 선택한다면 슈퍼스타 효과가 커집니다. 반대로 사람마다 조금씩 다른 취향과 선호를 에이전트가 잘 파악해 낸다면, 그동안 우리에게 부과됐던 인위적인 묶음을 마침내 벗어나 선택이 더 다양하게 분산될 수 있습니다.

• 많은 인터넷 기업은 수요를 특정 상품이나 판매자에게 연결해 주는 일로 수익을 얻었습니다. 이는 ‘처음 눈에 보이는 것을 클릭하겠다’는 식의 짧은 주의 집중 시간에 기대는 경우가 많습니다. 그 결과 기업이 변덕스러운 순위 알고리즘에 맞추려 애쓰고 각종 노출 수수료를 부담하면서 어느 정도의 비효율이 생겼습니다. 그렇다고 전부 사회적 순손실인 것은 아닙니다. 돈을 지불할 의향 자체가 일종의 신호이고, 구매자에게 가치가 있기 때문입니다. 하지만 썩 좋은 상태도 아닙니다. 개인 에이전트가 있는 세상에서 이런 수요 연결의 성격과 가치는 어떻게 달라질까요? 답은 모르지만, 그 영향은 상당히 클 수 있다고 생각합니다.

• 제가 쓴 내용의 상당 부분은 개인 에이전트가 소비자 편에 설 것이라는 가정에 달려 있습니다. 저는 그것이 승리하는 전략이 될 것이라고 생각합니다. 하지만 실제로 그럴지, 그리고 소비자 편에 선다는 것이 무엇을 뜻하는지에는 다른 많은 질문이 얽혀 있습니다.

전체적으로 보면 시장은 대규모로 병렬 작동하고, 분산돼 있으며, 매우 불완전한 가치 귀속 장치입니다. 모든 영향을 함께 생각해 보면, 가장 큰 변화는 품질에 관한 것일 수 있습니다. 에이전트가 역전파의 작동 방식을 바꿔 더 좋은 제품에 돌아가는 보상을 늘릴 수 있다는 것입니다. 너무 낙관적인 생각일지도 모릅니다. 그래도 저는 자신들이 자랑스러워할 만한 제품을 만드는 기업들이 세상이 조금 더 자기편이 됐다고 느끼게 될 것이라고 생각하고, 또 그러기를 바랍니다.