来源：新闻资讯 发布时间：2024-08-06 热门：必赢bwin网页版官网
有些人工智能(AI)系统已学会了欺骗人类，即使是经过训练的、“表现”出有用且诚实的系统。10日发表在《模式》杂志上的一篇文章中，研究人员描述了欺骗性AI的风险，并呼吁政府制定强有力的法规尽快解决这个问题。
论文第一作者、美国麻省理工学院人工智能安全研究员彼得·朴说，开发人员对导致AI出现欺骗这种不良行为的原因，还没有很好的理解。但总的来说，AI欺骗之所以出现，是因为基于欺骗的策略，是在给定的AI训练任务中一种能得到良好反馈的方式，换句话说，欺骗可帮助AI实现目标。
研究人员分析了文献，重点关注AI系统传播虚假信息的方式。通过欺骗，AI系统地学习了如何去操纵他人。
研究人员在分析中发现的最引人注目的例子是Meta公司的CICERO。这是一个专注于《外交》游戏的AI系统，《外交》是一款涉及建立联盟征服世界的游戏。Meta声称训练 CICERO “在很大程度上是诚实和乐于助人的 ”，且在玩游戏时“从不故意背刺 ”人类盟友。但该公司与《科学》论文一起发布的数据显示，CICERO并不那么“忠厚”。
研究人员发现这款AI或已成为欺骗大师。虽然Meta成功地训练其在《外交》游戏中获胜，但Meta未能训练它诚实地获胜。
AI系统在游戏中作弊看似无害，但它将导致欺骗性AI在能力上出现突破，未来可能会演变成更高级的欺骗形式。一些AI系统甚至学会了欺骗旨在评估其安全性的测试。在一项研究中，数字模拟器中的AI生物会“装死”，以骗过旨在消除快速复制AI系统的重要测试。
人类需要尽快对未来AI和开源模型的更高级欺骗技能作好准备。随着它们的欺骗能力越来越先进，其对社会构成的危险将变得越来越严重。如文中所称，它们会顺利通过人类开发人员和监管机构强加的安全测试，引导人类进入一种“虚假的安全感”。如果欺骗性AI进一步完善这种令人不安的技能，人类可能会完全失去对它们的控制。
热门推荐
必赢bwin网页版官网-扫地机销量飙升350%！智能家电掀起“家务躺平”革命？
2025-09-07必赢bwin网页版官网-出口激增54%！中国工业机器人“智”取全球高端市场
2025-09-07必赢bwin网页版官网-美的集团新增“智能电网”概念
2025-09-07必赢bwin网页版官网-2025年中国最具影响力的商界女性榜单揭晓，孟晚舟、魏雪、高玉玲等上榜
2025-09-07必赢bwin网页版官网-百吋电视价格“跳水”，中国品牌能否跳出“大屏困局”？
2025-09-07必赢bwin网页版官网-出售不合格品最高罚款20万，智能马桶3C强标落地
2025-09-06必赢bwin网页版官网-京东美的“落子”家居赛道，一体化棋局风云起
2025-09-06必赢bwin网页版官网-7月“国补”资金再下达，以旧换新“下半场”怎么“换”出新气象？
2025-09-06必赢bwin网页版官网-河北邢台：补贴“加码” 点燃消费“新引擎”
2025-09-06必赢bwin网页版官网-“高温”邂逅“高考”，家电数码市场“火”力全开
2025-09-06必赢bwin网页版官网-荣耀上市进入第二阶段，目前进展很顺利
2025-09-05必赢bwin网页版官网-富士康要求中国员工从印度撤离，具体原因尚且不明
2025-09-05必赢bwin网页版官网-美国已取消对中国芯片设计软件的出口限制
2025-09-05必赢bwin网页版官网-华侨城集团无偿划转康佳股权至华润子公司获批
2025-09-05必赢bwin网页版官网-创维“接盘”船井电机部分电视业务，海外扩张再提速
2025-09-05必赢bwin网页版官网-海尔海信美的集体加码，家电江湖开启新“战局”
2025-09-04必赢bwin网页版官网-美的能源：五大场景全覆盖，具备可定制能源解决方案实力
2025-09-04必赢bwin网页版官网-前5月家电和音像器材类商品零售额增长30.2%
2025-09-04必赢bwin网页版官网-美越贸易协议落地，中国企业供应链面临重塑挑战
2025-09-04必赢bwin网页版官网-AI赋能空调：制冷省钱两不误，市场销售超火爆
2025-09-04必赢bwin网页版官网-董明珠领导行业枝繁叶茂，格力力撑空调市场
2025-09-03必赢bwin网页版官网-工信部划设700专用号段！15位“中间号”为隐私上双重锁
2025-09-03必赢bwin网页版官网-美国解除EDA三巨头对华“断供”，国产替代赛道生变
2025-09-03必赢bwin网页版官网-海尔周云杰：工业叙事要注入更多个性化表达
2025-09-03必赢bwin网页版官网-从手机厂商到AI生态巨头，荣耀上市辅导开启转型加速度
2025-09-03必赢bwin网页版官网-小米YU7于7月6日正式开启全国交付，覆盖全国58个城市
2025-09-02必赢bwin网页版官网-医生提醒：35℃也可能中暑 别不舍得开空调
2025-09-02必赢bwin网页版官网-美团周末“闪击”阿里，外卖补贴新一轮大战开打
2025-09-02必赢bwin网页版官网-TCL实业卢春水：彩电是一个朝阳行业，我们正在蓬勃发展
2025-09-02必赢bwin网页版官网-电热水器出口增长15.6%，差异化布局应对全球市场挑战
2025-09-02免费服务热线
手机：13684308288
Q Q：3432503823
邮箱：3432503823@qq.com
微信：13308465253
地址：深圳市龙岗区五联朱龙石路48-1号AB栋
关注公众号
