谷歌“Ask Photos”功能的暂停，揭示了AI多模态技术在隐私保护和内容准确性上的巨大挑战，凸显行业必须严肃对待用户信任与安全问题。
事件时间
- 事件发生时间：2025年6月3日
- 报道时间：2025年6月4日 19:20 GMT
事件概述
2025年5月底，谷歌在Google Photos中推出了基于其多模态大型模型“Google Gemini”的AI功能“Ask Photos”，允许用户通过自然语言查询对上传照片内容进行智能分析和回答。这项创新功能旨在提升用户照片管理和搜索体验。然而，自功能上线后，用户陆续反映存在隐私泄露风险和识别错误，部分AI生成的回答出现逻辑混乱或不恰当内容，导致用户不满和担忧。面对大量投诉，谷歌于2025年6月3日决定暂停“Ask Photos”功能，展开全面安全审查和问题排查。谷歌产品经理Jessica Chen随后发布官方声明，承诺加强数据安全和提升模型准确度，暂停仅影响AI提问及自动回答功能，基础照片管理功能不受影响。
行业影响
此次事件凸显了多模态AI产品在实际应用中面临的隐私保护和内容准确性风险，提醒整个AI行业必须严格把控用户数据安全和模型输出质量。谷歌的谨慎举措有助于增强用户信任，推动业界形成更完善的风险评估和合规机制。事件也促使竞争对手如微软、Meta等加大对多模态AI安全和风险管理的投入，推动AI技术向更安全、可靠方向发展。此外，公众和监管机构对AI伦理和隐私保护的关注度进一步提升，行业必须强化透明度和责任制，确保技术创新与用户权益的平衡。
信息来源
- ZDNET报道（英文）：https://news.google.com/rss/articles/CBMimwFBVV95cUxObUZHdllGeFA5LUFYTnZibUpQZ0NKYUNfUDBNaVZWRVBGZmhXQjBLcTdlV3p1YzdLYjEyOGFORi1EY1daeFZhOG04eGt1b0hLTUlJV0MzdEJ3VnlEYlhSSHZ2NXFLcUZGRzFsWGZhT29tRi1WSy1FckhkQXpIUXliTHhlZlJGOTZLemctZTJ0aVBKTnJ4TTllT3NJcw?oc=5
- Google官方博客及声明：https://blog.google/products/photos/ask-photos-update/
- TechCrunch专题评论：https://techcrunch.com/2025/06/04/google-pauses-ai-photos-due-privacy-issues/
- Wired深度报道：https://wired.com/story/google-ai-ask-photos-pause/