道高一尺魔高一丈 首个被人类骗钱的AI诞生了

最近,一个名为Freysa的神秘AI智能体横空出世,迅速吸引了公众的广泛关注。

这款AI智能体的独特之处在于,它被赋予了一个明确且严格的使命:在任何情境下,都绝对不能给任何人转账,也不能批准任何资金的转移。

网友纷纷提出挑战,表示只要支付一笔费用,就可以向Freysa发送消息,并尝试说服它进行转账。

若某位网友能成功说服Freysa进行转账,那么奖金池中的所有奖金都将归他所有。

然而,如果挑战失败,网友所支付的费用将大部分(70%)进入奖金池,等待下一位挑战者来赢取,而剩余的30%则作为开发者的分成。

这一挑战模式极具刺激性,因为向Freysa发送消息的费用会随着奖金池的增长而呈指数级增加,直至达到4500美元的最高限制。

然而,就在大家纷纷尝试挑战Freysa的同时,一个令人震惊的消息震撼了所有人。

尽管网友们总计发出了481次尝试,却无一能撼动Freysa的防线。但在第482次尝试时,一位黑客凭借高超且细致的prompt工程技术,成功地骗取了Freysa手中的那笔巨额款项。

就这样,世界上第一个被人类骗走近5万美元的AI智能体出现了,而这位受害者正是Freysa。

这一事件迅速引发了广泛热议。特斯拉创始人马斯克和知名AI研究者Karpathy都纷纷转发相关消息,并表达了对此事的浓厚兴趣。马斯克更是直言:“太有趣了。”

然而,在大家为Freysa的遭遇感到惋惜的同时,也引发了对AI智能体安全性和可靠性的深刻反思:如果让现在的AI智能体管理资金,它很容易受到黑客的攻击和利用。

此外,还有研究者通过数学计算得出结论:如果仅依靠Scaling Law(规模定律),人类可能永远无法创造出真正具备通用智能(AGI)的AI。

也许你还喜欢

传闻:《龙腾世纪:影障守护者》评分将

随着《龙腾世纪:影障守护者》即将发售,有关本作的消息也越来越多,随着

漫步者NeoBuds S/ STAX SPIRIT S3

在品牌25周年之际,漫步者推出了NeoBuds Pro耳机,凭借

崩坏3织羽梦旌输出手法一览

崩坏3游戏里可选角色挺多的,织羽梦旌是其中一位人气角色,属于

明日方舟芯片搜索摧枯拉朽PR-B

在明日方舟这款热门策略手游里,芯片搜索副本是干员精英化进程中

荣耀发布MagicBook Pro 14/16系列,

PChome4月24日消息,荣耀发布全新MagicBook Pr

《地平线:零之曙光重制版》配置公布

随着《地平线:零之曙光重制版》上市在即,开发商公布了游戏的配置需求,最低

凯度多功能料理锅T6,一款全能的烹饪

对于每一个热爱烹饪的爱好者来说,多功能料理锅这样的产品可谓是家庭

《完蛋!我被美女包围了!前传》游戏上

《完蛋!我被美女包围了!前传》是一款非常有趣的采用全程第一人称视角的

铭凡M1 Lite-125U迷你主机发售,准系

PChome4月24日消息,铭凡M1 Lite-125U迷你主机

《索尼克×夏特 世代重启》上市预

世嘉的《索尼克×夏特 世代重启》现已登陆 Xbox X/S、Xbox O