t0mbkeeper
2025-02-13 14:51
我之所以想起来要做这个实验（🔗网页链接）是因为在更早之前，我把创造 BadTunnel 所用到的全部背景知识都告诉了大模型，试图让大模型自己推理出 BadTunnel，但无论如何都做不到。而且，由于 BadTunnel 的影响很大，大模型的训练数据里一定已经包含了相关信息。
当时我发现在推理链的一些关键环节上，大模型坚决地认为就是做不到。即便是符合逻辑的，也认为做不到。这最大的可能就是受到了海量相关资料的影响。
t0mbkeeper
2025-02-13 14:29
回复@贪心寡淡人:不是已知的大模型不擅长的问题类型。恰恰是大模型很擅长的任务，而且和价值观对齐没关系。//@贪心寡淡人:9.11比9.6大![[笑cry]](https://h5.sinaimg.cn/m/emoticon/icon/default/d_xiaoku-f2bd11b506.png){kind=icon}
t0mbkeeper
2025-02-12 17:55
终于设计出一个大模型干不了的任务，怎么给提示词都干不了。而且这个任务既不复杂也不难，用到的相关知识属于任何大模型训练都一定会纳入的内容。
我分析了一下，原因可能是：
1、网上有很多容易和这个任务混淆的内容。所以无论怎么详细设定目标，大模型都会误解提示词的意图。
2、涉及相关技术的文档都说不推荐这样做。所以即便直接给出解决问题的方法，让大模型去实现，大模型还是会用规规矩矩的标准方法来实现。
也就是说，大模型能创造新内容，但可能没办法突破藩篱创造新范式。训练数据给大模型知识的同时也给了大模型限制。
大模型就像是有一亿只耳朵的学生，可以同时听一亿个老师讲课，学到一亿个老师的本领。这当然是很惊人的，但这一亿个老师也会成为大模型进一步发展的障碍。因为其中哪怕有十个爱因斯坦，教学成果也会被稀释在一亿个老师的海洋里。光靠打标提高权重的作用可能也有限。
就像郭靖跟江南七怪学，把七个人的本事都学了，也就那样，但遇到马钰稍微一点拨就不同了，跟洪七公学了之后更是不得了。但如果九个人一起教，最终成果可能也很一般。
也许 AI 发展的再下一步就不是这种喂人类数据的模式了。
t0mbkeeper
2025-02-13 12:04
这应该是南美洲 Voodoo 教的东西，并不是从中国学的，只能算是殊途同归。巫术思维是人类的本能思维模型，要克服，不容易： 🔗查看图片 //@张天英tiry://@急雨松风:哈哈，啥叫广为流传？![[哈哈]](https://h5.sinaimg.cn/m/emoticon/icon/default/d_haha-0ec05e6dad.png){kind=icon}
![[淡淡的]](https://face.t.sinajs.cn/t4/appstyle/expression/ext/normal/7b/2024_takearest_org.png)
t0mbkeeper
2025-02-13 10:18
我接到一种新型诈骗电话。
骗子不仅知道我上个月话费有多少，还知道我的手机套餐是什么。骗子告诉我说，现在可以每个月给我增加若干套餐内流量，原有套餐都不变，我只要在电话里说同意，就可以给我开通，就这么简单，就这么方便。
我说我不需要这个。骗子说你上个月流量超出了套餐多少多少，你需要这个。我说我不需要。骗子说你需要。我说我不需要。骗子说你需要。我说我不需要。骗子说你需要。
我说你这个增加的流量要加钱吗？骗子说，嗯，这个，嗯，这个，嗯，每个月加多少多少钱。
我说我上个月话费超出套餐流量的部分也没你加的钱多啊。骗子说你上个月流量超出了套餐多少多少，你需要这个。我说我上个月话费超出套餐流量这部分也没你加的钱多啊。骗子说你上个月流量超出了套餐多少多少，你需要这个。然后我就把电话挂了。
大家警惕电话诈骗。