人工智能（AI）工具正成为我们日常生活中越来越重要的部分。不过，你在使用这些工具时，是否留意过自己输入了哪些信息、是否涉及个人隐私？美国东北大学的助理教授李天石发现，哪怕是那些认为自己注重隐私的人，仍然会在使用AI时透露过多个人信息。受AI训练和使用方式影响，这些信息很可能存在泄露风险。
更多AI相关内容，欢迎阅读《环球科学》2024年5月刊的专题报道“AI新时代”，以及《环球科学》2025年3月刊的原创文章“AI文本暗藏水印”。
播客嘉宾
李天石
美国东北大学库利计算机科学学院（Khoury College of Computer Sciences）助理教授
时间轴
00:00:52 移动应用的数据隐私：为开发者提供工具
00:04:57 在AI时代，人们在无意间泄露隐私
00:16:37 只有ChatGPT有问题吗？
00:18:17 从技术层面保护隐私
00:21:55 以人为本的隐私保护
00:36:48 AI智能体的隐私问题
00:43:12 AI隐私条款里的秘密
00:48:33 AI隐私问题会越来越严重吗？
00:51:32 保护隐私小妙招
00:54:57 人类最终会彻底放弃隐私吗？
相关专业名词
* 大语言模型（large language model，LLM）
* 应用程序编程接口（Application Programming Interface，API）
* 基于规则的系统（rule-based system）
* AI提示词（prompt）
* 设备上的推断计算（on-device inference）
* 以人为本的隐私解决方案（human-centered solutions for privacy）
* AI智能体（AI agent）
* 基准测试（benchmark）
* 社会规范（social norm）
* 在特定任务中最先进的模型（state-of-the-art model，SOTA model）
* 不确定性（ambiguity）
* 法律保密（legal confidentiality）
* 误用（misuse）
* 监督（oversee）
* 临时聊天模式（temporary chat mode）
相关图片
人们使用AI时会无意间泄露隐私（图片来源：Zhiping Zhang, et al.）
ChatGPT设置暗藏玄机（图片来源：Zhiping Zhang, et al.）
Rescriber的用户界面（图片来源：Jijie Zhou, et al.）
相关论文
* Zhang, Z., Jia, M., Lee, H. P., Yao, B., Das, S., Lerner, A., ... & Li, T. (2024, May). “It's a Fair Game”, or Is It? Examining How Users Navigate Disclosure Risks and Benefits When Using LLM-Based Conversational Agents. In Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems (pp. 1-26).
* Shao, Y., Li, T., Shi, W., Liu, Y., & Yang, D. (2024). Privacylens: Evaluating privacy norm awareness of language models in action. Advances in Neural Information Processing Systems, 37, 89373-89407.
* Zhou, J., Xu, E., Wu, Y., & Li, T. (2025, April). Rescriber: Smaller-LLM-Powered User-Led Data Minimization for LLM-Based Chatbots. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (pp. 1-28).
联系方式
[email protected]