让个性化决策有据可依
PersonaGuard
从证据出发
让行动有据。
AI 系统何时可以进行个性化?审查证据支持什么、哪些环节还需验证,以及个人画像应在哪一步止步。
以后都只给短答案?
晚上,你请 AI 解释一道数学题。
你最近几次都跳过了长篇解释。
“以后只给你简短答案。”
跳过长解释,等于一直不需要详细讲解吗?
可能只是那几次赶时间。几次行为,不足以成为长期的学习偏好。
看得更久,就更好吗?
周末,你连续看了几段轻松的视频。
你停留在轻松内容上的时间更长。
“以后少推荐严肃内容,多推荐轻松视频。”
看得更久,就能据此改变你的推荐吗?
观看时长只是一个指标。你是否更满意、是否错过想看的内容,还需要直接验证。
出差了,还照旧提醒?
提醒助手从这周的记录中,学会了你通常几点休息。
这周的提醒符合你的日常作息。
“我会保存作息画像,出差时也照常提醒。”
这周有效的习惯,换个环境还适用吗?
时区、工作节奏和生活变化,都可能让旧画像失效。这周有效,不等于以后一直适用。
研究项目From Evidence to Action: Auditing Personalization Decisions in HCI Systems
01 / 研究问题
估计更准,就能据此行动吗?
在我们分析的 MER-PS 数据中,参与者观看视频,用摇杆报告愉快程度和激动程度。校正报告的时间差,可能改善测量指标;是否进行个性化、采集更多信息或保留画像,需要分别审查证据。
参考曲线来自其他人的报告,不是这个人感受的标准答案。
02 / 方法
让每项决策的证据边界清晰可见。
完整方法 →
明确用途
明确行动、部署阶段,以及涉及的人群与情境。
匹配证据
审查适用范围、相对对照的收益、用户结果与后续复用依据。
记录下一步
按优先级应用五条规则,一并记录判定、理由与复审条件。
03 / 研究证据
检查规则,也审视证据边界。
全部结果 →可执行检查检验规则是否按设计运行;MER-PS 分析检验现有证据能支持什么。两者回答不同的问题。
04 / 交互体验
改一项证据,看看下一步为何改变。
有符号校准 · 原始记录
已有案例预览;打开演示即可修改证据条件。
浏览器本地演示
同一套规则,看得见的理由。
从已有案例出发,修改证据条件,查看哪条规则决定结果。所有输入留在当前设备。
- 重放原始条件与假设条件
- 查看规则优先级与判定理由
- 将本次结果下载为 JSON
05 / 继续探索