不会型的向思盲区致命总学大语为言模考反什么
最近在AI圈里流传着一个让人啼笑皆非的现象：我让GPT-3和Llama学习"张三就是李四"这样简单的知识，结果当反过来问"李四是谁"时，AI竟然一脸茫然。这就像你教孩子"妈妈叫王芳"，然后问"王芳是谁"，孩子却完全不知道答案一样荒谬。
什么是"逆转诅咒"？
研究人员给这个现象起了个很有噱头的名字——"逆转诅咒"(Reversal Curse)。简单来说，就是大语言模型在学会"A是B"后，竟然无法自然而然地反向推导出"B是A"。这不禁让人怀疑：我们天天夸AI聪明，结果它连最基本的逻辑对称性都搞不定？
举个例子，当我用"汤姆・克鲁斯的母亲是Mary Lee Pfeiffer"训练AI后，AI可以顺利回答"汤姆・克鲁斯的母亲是谁"，但当我问"Mary Lee Pfeiffer的儿子是谁"时，AI就傻眼了。这就像一个人能记住"北京是中国的首都"，却不知道"中国的首都是北京"一样离谱。
问题到底出在哪里？
说起来挺讽刺的，这些花费数亿美元训练的大模型，在学习简单逻辑关系时表现得像个固执的孩子。研究人员测试了从GPT-3到Llama的各种模型，发现它们全都"中招"了。更扎心的是，这个问题与模型规模、训练数据量都没有明显关系。
我个人觉得，这可能暴露了大语言模型一个本质缺陷——它们其实并不真正"理解"知识，只是在玩概率游戏。就像背课文一样，只记住了"从前有座山"的下文是"山上有座庙"，但如果反过来问"庙在哪座山上"，就完全摸不着头脑了。
实际测试结果令人忧心
为了验证这个问题，研究人员做了个很有意思的实验：用虚构的名人和作品关系来训练AI。比如"Daphne Barrington是《穿越时空》的导演"，训练后的AI可以准确回答"Daphne Barrington是谁"，但当问"谁导演了《穿越时空》"时，准确率直接归零。
更有意思的是，在名人亲子关系的测试中，GPT-4能正确识别79%的名人父母，但反过来识别父母对应的子女时，准确率暴跌到33%。这不禁让人怀疑：AI是不是也患上了"脸盲症"？
为什么会出现这种现象？
目前学界还没有定论，但有几个可能的解释：
1. 训练机制问题：大模型在训练时只考虑单向预测，没有强制建立双向关联。就像我们背单词时只记"apple-苹果"，没练习"苹果-apple"一样。
2. 知识存储方式：AI的知识可能是"碎片化"存储的，缺乏人类那种网状关联的记忆结构。
3. 概率思维局限：大模型更擅长计算"看到A后出现B的概率"，而非建立"A和B互为因果"的逻辑关系。
OpenAI的科学家Andrej Karpathy说得一针见血："LLM学到的知识比我们想象的零散得多。"这让我想起小时候玩的拼图游戏——AI似乎只能按固定方向拼图，转个角度就认不出来了。
这对AI发展意味着什么？
这个发现给如火如荼的AI热潮浇了盆冷水。它提醒我们：
- 大模型可能远没有达到真正的"智能"水平
- 当前的训练方式存在系统性缺陷
- 简单增加模型规模未必能解决根本问题
不过话说回来，这个"逆转诅咒"也让我们重新思考：人类的学习方式中，哪些是AI尚未掌握的精华？也许未来的突破点不在于更大的数据集，而在于如何让AI真正"理解"知识的双向关系。
这就像教孩子学习时，我们不会只让ta死记硬背，而是会通过反复提问、换位思考来建立完整的认知框架。或许，AI也需要类似的教学方法？
(责任编辑：合约)
美联储按下暂停键，比特币为何如此淡定？
华盛顿的政治闹剧：政府停摆在即，加密货币立法恐遭池鱼之殃
当爱情遇见比特币：一对新人的加密生存挑战
元宇宙的泡沫与现实：一场尚未兑现的技术革命
币股融合新篇章：从数字黄金到价值引擎的华丽转身-
最近数字货币市场可谓热闹非凡，PayPal这个支付巨头又给我们带来了新动作。作为从业多年的观察者，我不得不说，这次PayPal的举措确实给行业带来了实实在在的改变。市场数据速览当前DeFi市场的表现相当稳健：总市值达到418亿美元，24小时交易量34.42亿美元，锁定资产373.5亿美元。这个数据比上个月有所回升，显示出市场正在逐步回暖。再看NFT市场，134.08亿美元的总市值和12.09亿美元...
...[详细]
-
最近加密货币市场突然躁动起来，让不少投资者都在纠结一个问题：这波上涨到底是熊市中的昙花一现，还是真正的行情反转？要说起这个问题，就不得不提到一位圈内传奇人物——Bluntz。牛熊分水岭上的比特币这位老兄可不简单，当年在2018年底比特币跌到3000多美元时，他就准确预言了市场底部。现在他又发话了，在X平台上直言比特币已经完成了从熊市到牛市的华丽转身。说实话，我作为一个观察市场多年的老韭菜，看到这种...
...[详细]
-
2023年10月3日区块链市场观察：东方力量崛起与监管呼声高涨
今早的市场动态让我深刻感受到区块链行业正在经历一场有趣的转变。一杯咖啡的功夫，我发现东亚地区正在悄悄改写加密市场的游戏规则。东方市场的异军突起Chainalysis的最新报告让我眼前一亮 - 东亚这个曾经的市场旁观者，如今已经占到全球加密交易的8.8%。有意思的是，香港这个金融中心的表现格外抢眼，640亿美元的场外交易规模与中国大陆去年的864亿美元相差无几。更让人惊讶的是，香港的大额机构交易占比...
...[详细]
-
NFT泡沫破裂：95%的投资者血本无归，数字收藏品的未来在哪里？
记得2021年那个疯狂的夏天吗？那时NFT简直成了科技圈的顶流明星，各路名人都在推特上晒着自己的数字藏品。我当时就纳闷：这些看不见摸不着的JPG图片，凭什么能卖出天价？现在看来，市场终于给出了一个残酷的答案。从巅峰到谷底：一场数字狂欢的落幕两年前，NFT市场每个月能创造近28亿美元的惊人交易量，Bored Ape、CryptoPunks这些项目动不动就拍出上百万美元。那时候我有个朋友辞掉工作全职炒...
...[详细]
-
说实话，最近金融市场的变化快得让我这个老金融人都有些应接不暇。还记得7月底那一周吗？简直是市场情绪的过山车。美联储刚刚强硬表态要坚持高利率政策，紧接着非农数据就给了所有人一个"惊喜"——或者说是惊吓更贴切。美联储的"变脸"艺术我至今还记得7月FOMC会议后市场的反应。鲍威尔那副"利率还要维持高位"的表情，让不少交易员连夜修改策略。果然，10年期美债收益率应声突破4.2%，美元指数重回100上方，黄...
...[详细]
-
说实话，作为一个长期关注加密货币市场的观察者，我最近被Shiba Inu生态的发展速度震惊了。8月底才推出的Shibarium二层网络，在短短三周内就交出了一份令人惊艳的成绩单。更让人难以置信的是，这个项目竟然在一天之内接连打破了三项重要纪录。记得刚开始看到Shibarium上线时，我还和朋友打趣说"又是一个蹭热度的项目"。毕竟上线当天就因为区块生产问题闹了个大乌龙，当时在Reddit上看到不少人...
...[详细]
-
最近比特币的走势真是让人捉摸不透啊。在尝试冲击27500美元未果后，价格开始震荡下行。作为一名在市场摸爬滚打多年的老韭菜，我观察到这个位置确实压力山大。虽然短暂突破了26000美元并反弹至26450附近，但很快又被打回原形。现在的情况就像是在玩跳楼机，每次反弹都让人觉得"这次不一样"，但最终还是逃不出震荡下行的宿命。比特币的"中年危机"说实话，比特币现在的表现就像个遇到中年危机的上班族——缺乏活力...
...[详细]
-
以太坊1800美元关口之战：华尔街表情币预售将如何搅动市场？
加密货币市场最近真是热闹非凡！作为一名长期关注数字资产的投资者，我发现以太坊又一次站在了风口浪尖。看着ETH价格在1800美元下方徘徊，就像看着一场精彩的足球赛最后的加时赛，每个投资者都屏住呼吸等待结果。市场现状：ETH正在经历什么？此时此刻，ETH的交易价格定格在1584美元，24小时交易量高达36亿美元。虽然今天小幅下跌了0.5%，但这个庞然大物仍然稳坐市值第二的宝座（1900亿美元！）。我注...
...[详细]
-
每当我们谈论一项革命性技术的潜力时，总会忍不住想象它最完美的样子——那就是理想状态。这种想象不是空想，而是指引技术发展的北极星。想想看，当年互联网还被叫做"信息高速公路"的时候，谁能想到今天它能彻底改变人类的生活方式？但正是那些看似疯狂的愿景，最终把梦想变成了现实。寒冬中的春天最近我听到不少人在唱衰加密货币，说什么"加密已死"。价格暴跌、用户流失、开发者转行...这些确实是事实。但作为一个经历过多...
...[详细]
-
最近加密货币市场出现了一个有趣的现象：交易所里的比特币越来越少了。据专业数据平台Santiment统计，9月初至今，交易所比特币存量占比已经从5.99%降到了5.73%。这让我想起了去年LUNA暴雷前的情况，当时也是大量资金从交易所流出。不过这次情况似乎更健康一些，伴随着比特币价格突破2.8万美元，出现了几笔1.87亿至3.46亿美元的大额交易。看来市场正在酝酿新的动向。全球监管风暴持续发酵新加坡...
...[详细]
