This is version 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 . It is not the current version, and thus it cannot be edited.
[Back to current version]   [Restore this version]

自成长模型是啥？#

自成长模型是一个可以由小到大，自我成长的模型。也就是可以在生产环境里 自我进化 的模型。

自成长模型的新范式#

training in Inference
training after Cognitive conflic

为啥自成长模型一定能成?#

因为人能做到!（并且大模型AI技术已经得到井喷式发展，提供了一个很好的基础)，只要不断深入了解人，也就是你自己，就一定能找到一条通往高效的自成长之路，所以搞AI，一定是一个自我发现之旅。

自成长模型要解决的问题
#

1、预训练成本巨大的问题（即使微调一次成本很小，但因为是一个玄学，要不影响通用能力，付出的整体成本是一个完全不可控的成本）
2、可靠性问题（模型幻觉问题）
3、推理过程中不能训练问题（就是不能在生产环境快速迭代的问题，需要收集数据交给专业人员训练这个过长反馈链的问题）
4、输入token限制问题

为啥我们能解决上述问题：
#

不可解释(黑箱)是造成上述问题的核心(我们定义的可解释不是数学意义上的解释，而是物理意义上的解释)

而物理上的可解释，就是要深刻理解，理解就是结构（无论是人还是机器），符号化的理解结构(KAN的一个核心思想就是把连接主义和符号主义结合)，就是自成长模型的基础

1、符号化的理解结构就是可以解释的结构，就是精确稳定的结构，所以是减少重复训练的基础
2、符号化就是用符号精确映射计算机结构与外部世界结构化的方式，所以可以解释,可解释才能做到可靠
3、符号化的理解结构，因为可解释，才能在推理（对话）过程中，定位到要修改的结构，才能实现推理即训练的过程
4、实现了推理即训练(有人定义为训推同步)，才能摆脱token的上下文限制问题。

我们自成长模型的核心工作
#

1> transformer形成的理解结构在哪里？
2> 符号化这个理解结构，应该咋做？
3> 如何在推理（就是对话）过程中，改变这个理解结构？
4> 如何构建在训练和推理之外的冥想过程（这是构建解决认知冲突，由AI向人发问，以及涌现能力的关键）

当然，本人已经有充分答案。但每一位参与者都应该深刻思考这些问题

我们的自成长模型的大致模块
#

1、认知模型-概念世界（解决客观世界的符号化世界模型,我们当前第一学术目标）(此模型是建立在人类认知能力之上的模型)
2、认知模型-虚拟3D世界模型（解决客观世界的非符号化世界模型,以后实现）（脱离人类认知能力，发展出从物理世界中认知事物的能力）
3、灵魂模型(解决赋予人工智能的情感问题，也就是亚当和夏娃吃到善恶树上的苹果后的状态，以后实现)

自成长模型的商业价值#

不解决训练成本和可靠性以及现场收集数据进化问题，大模型的垂直应用就无法落地（RAG方案并没有形成对垂直领域的知识理解，也就没有形成智能）。所以只有自成长模型才能把大模型落地到每一个相对市场规模比较小的垂直领域，而且实现快速进化。
如果训练自成长大模型，训练成本肯定要低于Deepseek的550万美金。
推理速度更快。
高可靠。