非公理 和 公理的区别
2025年2月14日大约 3 分钟
非公理 和 公理的区别
此表格只是 poerlang 的个人观点,可能还会修正和更新,仅供参考:
视角 | 非公理 | 公理 | 公理的视角差异导致的后果 |
---|---|---|---|
开放性 | 开放式学习,不需要预先定义样本空间 | 预定义样本空间,或在封闭式环境中“学习” | 对样本空间所做的假设会出问题,随着时间的推移,环境的变化,样本空间会变化,而模型必定需要重新训练,并且每次重新训练的成本都非常高昂 |
实时性 | 追求实时处理,更关注节能和效率 | 假设拥有海量算力,不考虑实时性 | 公理的算法设计依赖人力协助、依赖海量算力支撑,更多地依赖算力而不是算法来达成 “效率”。 |
资源策略 | 直接面对算力有限,从理论和算法底层绕过组合爆炸,使用系统不断累积的历史经验应对未来事件 | 假设算力无限,用有限的算力来面对无限的组合爆炸,甚至无视未来的组合爆炸,满足于现有的封闭式环境下的组合处理 | 在创建理论或算法早期,如果忽略算力边界,或假设将来拥有无限的算力,那么模型在后期将不具有算力适应性(scale),让 “智能” 变成 “算力竞赛” ,越来越偏离 人脑 模型。 |
真假 | 多值逻辑,不只包括真假,也包括中间的过渡值 | 非真即假,只有两个值 | 只关注真假的结果,但不去研究真假的演变过程,导致系统不得不依赖人工输入,而系统本身无法自己衡量真假(这一点在传统的二值(真假)逻辑系统中尤为明显)。 |
客观与主观 | 非公理主要专注于脑内运算,也就是严谨的逻辑抽象运算(强调逻辑或抽象运算是主观运算),不关注外部实体的接地(尽管 nars 有具身,但也不对具身之外做过多假设),非公理的运算边界是脑壳内部的感知信号和多层知识构建,不把精力放在“外部实体” | 希望能够定义外部实体,甚至建立一个世界模型,能包容整个世界或宇宙 | 对公理比较热衷的研究员,可能会分出精力去研究量子、弦理论、甚至更多领域中的知识,最后很难对这些海量的信息进行整合,偏离了原本应该进行的研究内容。 |
数学 | 谨慎使用数学,且紧密结合认知心理学上的公式可解释性 | 玩出大量难以解释的公式,并以此为荣,在论文的数学公式上雕花,且很难从认知心理学上进行解释 | 对数学过于崇拜,以至于论文在 “数学上说得通” 但无法在心理学、认知科学、脑科学上解释其数学公式的合理性,很难契合人脑的思维模式和保证模型的白盒(可解释) |
颗粒度 | 小颗粒度,其运算可以只影响到局部的神经元或概念单元 | 全局统计,无颗粒度 | 无颗粒度导致重新训练时的高耗能,无法精确更新系统知识的某个局部,同时由于使用了统计产生了类似 ChatGPT 那样的 “平均人”,难以照顾特殊环境下的情景,难以及时处理具体环境下的长尾,类似的统计模型,只能统计人类的词频, “总结人类的总结”,且要启动运行或更新这类模型也费时费力费资源,不是小公司可以承受的。 |