跳到文章正文
报告 编辑推荐

研究发现:AI 改过的照片,会让人记错事,而且更自信

麻省理工学院媒体实验室教授帕蒂·梅斯和同事做过一个实验。他们准备了 24 张普通照片:婚礼、城市…

麻省理工学院媒体实验室教授帕蒂·梅斯和同事做过一个实验。他们准备了 24 张普通照片:婚礼、城市街道、赛跑。200 名受试者先看原图,短暂休息后,一部分人再看原图,另一部分人看到的是被 AI 改过的版本,人物表情变了,画面里多出军人,或者加进了气候变化的景象。

随后的记忆测试让梅斯感到震惊:看过篡改图片的人,产生错误记忆的比例大幅上升。更麻烦的是,他们对这些假记忆的自信程度反而更高。她的评价只有一句:这非常危险。

不是记性差,是记忆被改写

过去大家担心的是「认知放弃」:机器替我们思考,人越来越懒得核实。但还有一条更少被讨论的路径,AI 可能在直接改变记忆本身。

多项研究指向同一个结论。让受试者看一段犯罪视频,再由生成式 AI 提问,他们产生的虚假记忆是对照组的三倍;用 AI 辅助构思创意,一周后分不清哪个点子是自己想的;近半数人「记得」看过根本不存在的电影翻拍版,包括威尔·史密斯主演的《黑客帝国》;AI 生成的视频,也能让人相信自己记得从未发生的政治丑闻。

有人把关,可能靠不住

乔治城大学的研究者西姆做了另一组实验,招募 331 人观看一段汽车撞倒行人的动画。一两天后,他们读到 AI 生成的事故摘要。摘要准确的那组,约 84% 能正确记住交通标识;摘要自信地给出错误信息的那组,正确率只有约 45%。就算提前告知这是 AI 写的,也挡不住影响。

这动摇了一个常见假设:AI 出错时,留个人复核就行。可人的判断和记忆本身已经被 AI 影响,复核的依据也就不牢了。

另一面:AI 也在帮人记住

梅斯最初做这件事,是因为母亲开始遗忘日常。她设想的是记忆助手:默默记录生活,需要时一句话调出来。团队已经做过几代系统,帮老人找回对话内容、找到放错的东西,早期测试结果不错。对阿尔茨海默病患者来说,这可能是维持独立生活的关键。

但同一套技术,既能补记忆,也能改记忆。

趋势洞察

现有研究还不足以证明日常使用 AI 就必然导致记忆力下降。人类一直在把记忆外包给工具,算盘、钟表、词典、计算器都是。生成式 AI 的不同在于,它不只存储,还解读、总结和重构,出错时看起来同样可信。真正需要建立的不是「少用 AI」,而是核验习惯:重要信息回到原始来源,关键判断留一份人工记录。

本文地址:https://www.163264.com/17430