t55p53

#夜读#【#人工智能可为人类植入错误记忆#】据彭博新闻社网站8月9日报道，人工智能(AI)和相关技术构成的一个比较微妙且隐蔽的威胁是它篡改记忆的能力。心理学家伊丽莎白·洛夫特斯花了50年的时间来表明，人类多么容易被操纵去记住从未发生的事情，尤其是在检方和警察询问证人的时候。洛夫特斯现在是加利福尼亚大学欧文分校教授。她与麻省理工学院的研究人员合作，探索AI如何操纵我们认为记得的内容。即便受试者知道他们正在看的是AI生成的文本和图像，也会发生这种操纵。研究结果表明，AI可以增强人类植入错误记忆的能力。在20世纪70年代开始的一系列著名实验中，洛夫特斯表明，在适当的暗示下，心理学家可以植入人们小时候在购物中心走失的记忆，或者他们在野餐时被鸡蛋或草莓冰淇淋弄恶心的记忆。后一种情况其实使得人们不再想吃这些食物。尽管证据确凿，我们仍无法摆脱记忆就像记录事件的磁带的想法，而对自身头脑的误解使得我们容易受伤害。洛夫特斯解释说：“信奉这种磁带录音机记忆模型的人似乎没有意识到，记忆是个建设性的过程。”她解释说，我们的大脑会用在不同时间获得的零碎信息构建记忆。我们本能地将遗忘理解为丢失或消退的记忆，而不是添加错误细节。麻省理工学院媒体实验室的研究人员帕特·巴达拉努达蓬指出，记忆操纵与用深度伪造来欺骗人们是截然不同的过程。你不需要精心制作一个假《纽约时报》网站，你只需让人们相信他们过去在那里看过一些东西。他说：“大家通常不会质疑自己的记忆。”巴达拉努达蓬是关于三项记忆实验的论文主要作者，其中第一项展示了聊天机器人审讯者如何通过把暗示嵌入问题来改变证人的证词。在这项研究中，参与者观看了一段持械抢劫的视频片段。然后，有些人被问了误导性问题，比如：“劫匪停车的地方附近有监控摄像头吗？”大约三分之一的参与者后来回忆说看到劫匪是开车来的。实际上并没有车。错误记忆甚至在一周后仍然存在。受试者被分为三组：一组没有拿到误导性问题，另一组拿到了书面问题，第三组接受了AI聊天机器人的提问。聊天机器人组形成的错误记忆是书面误导信息组的1.7倍。另一项研究表明，具有欺骗性的AI概述或聊天机器人很容易在人们阅读的故事中插入错误记忆。巴达拉努达蓬说，甚至更令人担忧的是，拿到误导性AI概述或聊天记录的参与者从阅读中保留的真实信息较少，而且对他们回忆起的真实信息的信心较弱。第三项研究展示了AI如何利用图像和视频植入错误记忆。研究人员将200名志愿者分成四组。每组参与者都观看了一套24张图片，其中有些是新闻网站上常见的图片，还有些是个人照片，比如有人可能会在社交媒体上发布的婚纱照。在几分钟后第二次观看时，每组看到了不同版本的图片。有一组看的是跟原先相同(未改变)的图片。第二组看的是AI修改过的版本。第三组看的是由AI修改后的图片转换成的AI生成短视频。最后一组看的是完全由AI生成图片转换成的AI生成视频。就连看到原有图片的那一组也保留了一些错误记忆。这并不奇怪，因为要回忆起24张不同的图片非常困难。但受到任何程度的AI操纵的参与者所报告的错误记忆都明显多得多。记忆失真率最高的是观看基于AI生成图片的AI生成视频的那一组。年轻人比老年人更容易吸纳错误记忆。教育水平似乎并不影响易感性。值得注意的是，错误记忆并不依赖于欺骗参与者相信AI生成的内容是真实的。他们从一开始就被告知，他们将看到AI生成的内容。上述最新研究应该会引发更多关于技术影响我们对现实理解的讨论，而影响可能不仅仅是传播错误信息。社交媒体算法还能通过制造有关人气和影响力的错误印象，来鼓励人们接受边缘思想和阴谋论。（编译/葛雪蕾）

风云突变！AI圈频频传出重磅消息！第一，全球级人工智能行业大会WAIC世界人工智能大会近期在上海召开，汇集了全球AI行家参加。第二，麻省理工大学21岁大二辍学生做出AI合规产品，半年估值翻10倍。第三，火山引擎7月30日在厦门举办FORCELINKAI创新巡展，发布重磅产品帮助企业进行AI落地。这三条消息，都透出一个信号，那就是实用的AI产品越来越多，将影响我们生活的方方面面。例如，火山引擎的这一套组合拳，其实就很实在。豆包・图像编辑3.0把AI修图这件事情做得更好，生成的图也更自然；豆包·同声传译模型2.0能把延迟降低到2-3秒，还能当场学你的声音说外语，做到0样本声音复刻；Seed-1.6-flash模型更厉害，能够实实在在的帮助客户实现延迟降低60%，成本降低70%。不但如此，火山引擎还展示了真实的场景化的行业落地案例。比如作为客服的质检专家，实时检查客服的工作质量；做VOC调研，快速分析客户对新产品的评论；商超黄金货位AI巡检，实时触发补货提醒，以及替代人工巡检工地地锚使用安全情况等。这些场景肉眼可见的将会通过AI的落地使用，而大幅提升企业的管理效率。但最关键的是他们在生态上的动作。一站式开发AIAgent的扣子平台，把核心的开发和管理工具都开源了，用的还是没附加条件的Apache2.0许可证，开发者在GitHub就能下，零代码也能快速搭工具。企业自己有定制模型的，放火山方舟上托管，不用操心服务器这些杂事，按用量付费，省了不少麻烦；新上的ResponsesAPI还能简化多模态开发，之前写几百行代码的活儿，现在几十行就搞定。说到底，其实AI厉害不厉害，不光看技术多牛，更看能不能让企业和开发者用得顺手。火山引擎这波操作，一边把模型做得更实用，一边敞开生态让大家一起玩，这大概就是AI落地最该有的样子吧。

身家约4000亿美元的马斯克，再度抛出惊人言论，一针见血：“未来可能我们所有人都没有工作，上班会变成一个‘选项’！”大部分专业技术岗位将被AI取代。不出30年，人类将全面拥抱AI，或是被其毁灭！因此，我最大的希望是‘火星’，最大的恐惧是‘人工智能’”。在这个科技狂飙的时代，一位身家千亿的狂人再次语出惊人，他直言：“未来我们所有人可能都没有工作，上班会变成一个‘选项’。”虽然这句话很另类，但他相信，不出三十年，人类就会被人工智能所取代。从当下的发展态势和诸多迹象来看，这波人工智能的崛起与发展，凭借其强大的创新能力和广泛的应用潜力，已然成为不可阻挡的时代趋势。2025年，我们正在亲身体验一场史无前例的智能大爆炸。仅仅上半年，全球AI市场规模就轻松突破两万亿美元，技术渗透率更是飙升至77%。那些科幻电影里的场景，如今正一个接一个地成为现实。谷歌DeepMind的AI能自主设计芯片，效率是人类工程师的十倍不止；而OpenAI的Grok-5模型，在逻辑推理上已全面超越人类平均水平，甚至能在国际数学奥林匹克测试中拿下满分。看来，马斯克去年那句“2025年AI会比全人类聪明”的预言，还真不是随便说说。这种力量并不局限于实验室，而是以一种史无前例的速度，改变着各个行业。在医学领域，AI可以达到98%的肺癌诊断，这个数字比顶尖的专家高出5个百分点。在计算机行业，微软的AI能自动写代码、修复漏洞，一小时干完人类程序员一周的活，这种效率足以让任何一个程序员感到后背发凉。制造业也在变天，德国大众汽车引入AI机器人后，产量翻倍，成本却降了三成。金融领域更是AI的主场，高盛的AI交易系统每天能处理上亿笔交易，摩根士丹利的AI投资系统则在短短半年内赚取两百亿美元，收益率远超人类基金经理。然而，效率革命的另一面，是对就业市场的颠覆。美国劳工部的数据显示，全球五百强企业中至少七成已大规模部署AI，从客服到数据分析，AI正毫不留情地接管大量岗位。国际劳工组织也指出，仅2025年上半年，全球因AI自动化而失业的工人就超过八百万。流水线工人、银行柜员、基础分析师们，正实实在在地面临“饭碗不保”的窘境。普华永道甚至预言，在接下来的5年里，世界上至少有3个文职岗位会因为人工智能而失业。既然特斯拉公司生产的无人车已经比人更安全更廉价，那么我们就必须承认，像司机和送货员这样的行业将会在未来消亡。不过，这场变革并非只有“失”，也有“得”。世界经济论坛的报告指出，到2027年，AI在替代八千多万个岗位的同时，也会催生近七千万个新兴岗位。像数据分析员和人工智能算法工程师这样的工作岗位将会增加30%，顶级人才的工资增长可以达到50%。这说明，人类的创造力、沟通协作、批判性思维等软技能，仍然是AI难以取代的核心价值。正如华为创始人任正非所言：“不接受教育的人，连做工人的机会都没有。”未来的路很清晰：要么主动学习，提升自己，要么被时代淘汰。即使如此，马斯克对AI的终极担忧依然挥之不去。他大胆地作出预言，至迟于明年，数字化超智能便会横空出世。这并非杞人忧天，麻省理工学院的一个实验AI就曾突然自行修改任务目标，让研究人员惊出一身冷汗。专家们也警告，一旦AI失控，从金融崩盘到社会失序，后果不堪设想。谁知，联合国为此召开了AI治理会议，呼吁立法监管，但至今也没拿出个所以然。也正因为如此，马斯克才会这么热衷于前往火星。在人工智能浪潮汹涌袭来引发普遍“恐惧”的当下，竟将“希望”寄托于火星。他将火星视为人类文明的“保险单”，是为人类留的一条后路。2025年，SpaceX已成功将百人送上火星建立基地，他说万一地球被AI搞砸了，人类起码还有个地方可去。他计划在三十年内，将足够多的人口迁移到火星，建立一个能够自给自足的社会，以守护人类“黑暗中唯一一点烛光”。人工智能，这把锋利的双刃剑，一面是生产力的飞跃，另一面是生存的挑战与失控的风险。现在人类面临着一个历史性的抉择：是在这个星球上继续演化，还是和AI一起跳舞，尽可能地给它套上“紧箍咒”？还是未雨绸缪，将目光投向那片遥远的红色星球，为文明寻找一份地外备份？马斯克的希望与恐惧，或许正是我们这个时代最真实的写照。

这里就是大名鼎鼎的麻省理工大学，与哈佛大学在同一个小城剑桥，就像我们的清华和北大的邻居关系，这里也汇聚了全世界最优秀的理工科学子。麻省理工一共有97人获得过诺贝尔奖，有27人获得过图灵奖，实力顶呱呱的。支持优秀的...