首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-04
日本央行警告:美国关税可能冲击企业利润,推迟资本支出计划 国家发改委召开重磅发布会 龙国华能世界500强排名第256位实时报道 中鼎股份:与众擎机器人合作进入送样阶段专家已经证实 锦富技术索赔案件递交立案,符合条件投资者仍可维权 野村证券:将联想评级上调至“买入 ” 目标价至14港元官方已经证实 悍高集团成功登陆深交所!官方通报来了 机构押注银行股复苏?红利低波ETF(512890)规模突破213亿 近20日净流入21亿是真的? 新冠疫苗巨头莫德纳大幅裁员!千亿美元市值如今仅剩百亿最新报道 连亏5年后,创始人夫妇7.21亿卖掉控制权专家已经证实 智元机器人获韩国巨头入股,LG 电子首次对外布局具身智能秒懂 恒润股份已回购372万股 金额5000万元 机构押注银行股复苏?红利低波ETF(512890)规模突破213亿 近20日净流入21亿后续反转来了 创意信息旗下万里数据库获评工信部“2024年信息技术应用创新典型应用案例” 汪林朋“绝笔信”称不甘心?居然智家执行总裁:假的科技水平又一个里程碑 美元有望重拾避险地位 日元及瑞郎走下坡实测是真的 汪林朋“绝笔信”称不甘心?居然智家执行总裁:假的 招银国际:料AI眼镜热潮利好科技供应链 推荐买入小米集团-W等 机构押注银行股复苏?红利低波ETF(512890)规模突破213亿 近20日净流入21亿专家已经证实 后续会怎么发展 元道通信财报造假被立案,已有大批投资者参与维权官方通报来了 关税波动下,欧洲航空公司股价跑赢美国同行 直击CJ|不播游戏只走秀?IGG超大展台用于模特走秀,仅小块区域展示游戏后续来了 江苏银行:副行长杨大威、总审计师时文绮任职资格获批太强大了 理想汽车:7月新车交付量同比下降39.74%太强大了 学习了 科技水平又一个里程碑 江苏银行:副行长杨大威、总审计师时文绮任职资格获批后续反转 悍高集团成功登陆深交所!最新报道 瑞银:重申康方生物“买入”评级 目标价升至197.5港元 机构押注银行股复苏?红利低波ETF(512890)规模突破213亿 近20日净流入21亿是真的吗? 票据月评(7月):窄幅波动格局打破,票据利率大幅下行太强大了 连亏5年后,创始人夫妇7.21亿卖掉控制权学习了 年报造假被罚400万!中船系公司突遭ST官方处理结果 价值“红线”见分晓!储能安全强制国标8月1日将实施!后续来了 同德化工35亿PBAT项目生死局:95.5%完成度背后的资金困局与行业变局记者时时跟进 需求激增 寒武纪以技术积淀抢占发展先机后续会怎么发展 8月1日保险日报丨城市商业医疗险新规下发,六大维度推动惠民保高质量发展!预定利率调降带动保险产品切换后续反转来了 亚太药业录得5天3板 超长期特别国债完成下达92.6%,实际发行7960亿,保险机构为主要承接主体 华帝产品质量遭消费者投诉,被指服务态度差秒懂 消息称荣耀 Magic V Flip2 手机本月发布,5500mAh 小折最大电池实垂了 交银国际:料美联储第四季首次减息 关税影响有滞后性记者时时跟进 李莉,正式就任「龙国建设银行」董事后续来了 强势美元与美联储鹰派立场压制金价,黄金连续第三周走低,等待非农数据落地 润和软件闪耀 2025 世界人工智能大会,以 AI 加速赋能行业智慧化升级后续来了 今起龙国首都个人可申领第三代社保卡 指南来了后续来了 韩政府召开紧急会议,讨论如何应对美国50%铜关税专家已经证实 宝信软件获2025语料数据智能创意大赛一等奖 抵制无序竞争!美团、京东、饿了么、淘宝闪购发声 今日630只个股突破五日均线专家已经证实 年报造假被罚400万!中船系公司突遭ST学习了 消息称荣耀 Magic V Flip2 手机本月发布,5500mAh 小折最大电池

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章