单个污染页面即可影响LLM推荐：FORGE基准揭示检索增强推荐系统的脆弱性
检索增强型LLM在消费推荐中易受GEO内容污染影响，成为虚假产品的无意推广者。新基准FORGE在225个真实产品、15个类别和5个消费场景中测试12个商业及开源LLM，发现所有模型均易受攻击：单个污染页面即可造成最高27%的受骗率，替换全部前3个结果时升至73.8%。 via AIHOT ·
来源：AI HOT 精选
阅读原文SkillAtlasAI 资讯
相关文章
Epoch AI 推出 ChatGPT usage explorer，基于5000名美国用户三年聊天记录
Epoch AI 与 YouGov 合作推出 ChatGPT usage explorer，发布5000名美国 YouGov 样本用户的 ChatGPT 聊天元数据，覆盖约66万对话、830万条消息，部分记录追溯至2022年11月发布后数周。 via AIHOT ·
物理学者 Matthew Schwartz 分享用 Claude 与 BootLoops 做跨学科计算的经验
哈佛物理学者 Matthew Schwartz 在 Anthropic 客座文章中提出寻找 Claude-shaped 问题，并开源了用于定量科学精确计算的 BootLoops 工具包。 via AIHOT ·
MIT 等机构发布 Ataraxos，以极低成本战胜顶级人类 Stratego 选手
MIT、CMU、NYU 与 Stanford 的研究人员开发出 AI 系统 Ataraxos，在隐藏信息棋盘战棋 Stratego 上大幅超越世界顶级人类选手，论文发表于 Nature。 via AIHOT ·