“THE ASSIGNED SELF”

추측에도 이력이 쌓일 수 있습니다

John Cheney-Lippold의 알고리즘적 정체성 연구는 사람이 선언한 내용을 그대로 옮기는 것이 아니라 행동에서 조합해 낸 범주를 설명합니다. 2011년의 이 설명은 오늘날의 어시스턴트보다 앞서지만, 입력에 개인적인 대화가 포함되면 이 구분은 더욱 중요해집니다. [62]

어떤 질환에 대한 질문은 진단이 아닙니다. 친척의 은퇴 준비를 돕는다고 해서 질문자가 얼마나 빨리 은퇴할 생각인지 알 수 있는 것은 아닙니다. 시스템은 이런 세부 정보로 설득력 있는 해석을 만들면서도 대상, 목적, 삶의 시점을 잘못 짚을 수 있습니다.

반복적인 사용은 그 해석의 영향 범위를 넓힐 수 있습니다. 이후 응답이 초기 가정에 의존하면, 사람은 선택한 적 없는 역할에 맞는 선택지를 계속 보게 될 수 있습니다. 결국 그 설명을 받아들이거나, 거듭 수정하거나, 서비스를 그만둘 수도 있습니다. 이는 가능한 소비자 반응이지, 인구 전반에서 확인된 패턴은 아닙니다.

수정할 수 있는 이해

기업이 유용한 개인화를 제공하려면 어떤 설명이 더 이상 도움이 되지 않는지 알아야 합니다. 새로운 분야를 탐색하는 고객은 과거 전문성에만 근거한 추천보다 초보자로서의 격려를 원할 수 있습니다. 일상을 바꾸는 사람에게는 옛 패턴의 영향력이 줄어들 필요가 있을 수 있습니다.

중요성은 상황에 따라 다릅니다. 잘못된 오락 추천은 접근권, 가격, 중대한 대우에 영향을 미치는 가정과 다릅니다. Ruha Benjamin의 차별적 설계 비판은 여기서 중요합니다. 겉보기에 중립적인 기술적 범주가 기존 불평등을 재생산할 수 있기 때문입니다. 데이터가 많아지고 확신이 커진다고 해서 그 문제 자체가 해결되지는 않습니다. [65]

고객이 직접 말한 것, 서비스가 추론한 것, 고객이 단지 고려 중인 것을 유용하게 구분할 수 있습니다. 중요한 가정은 고객이 수정했을 때 이후 경험도 달라지도록 하세요. 불필요한 꼬리표가 틀렸음을 증명하기 위해 더 내밀한 이력을 계속 요구하지 마세요.

모든 사람이 프로필을 관리하고 싶어 하지는 않습니다. 적절한 순간에 질문 하나를 하고, 답을 알맞게 기억한 뒤, 그 사람이 다음으로 나아가게 하는 서비스에 기회가 있을 수 있습니다. 고객이 자신이 아닌 모습을 계속 설명해야 해서는 안 됩니다.