

<pre>
!!!爱因斯坦说：我不可理解的是，这个世界为什么是可以理解的？

曼德勃罗说：这个世界是一个分形世界。我说，因为分形在时间和空间各个维度上不断重复，每一个人才能在任意时刻任意一点能感受到相同的本质，所以世界可以理解。

!!维特根斯坦说：语言的边界就是思想的边界
咱说：语言就是思想的符号，思想就是理解这个世界的结构

!!维特根斯坦又说：世界是事实的总和，而是事实是事物之间关系，或者事物某种状态的描述
我说：完全同意维特说法，而且用嵌入空间的话来翻译的话就是:事物就是静态向量（词嵌入），事实(我有时候也说是事务)就是动态向量（句向量或者文本向量）。

!!维特根斯坦还说，这个世界是相互联系确定的事实组成，但事实又是独立的，所以任何一个局部世界都可以分解，貌似有逻辑冲突。
我总结：事实之间的联系有两种联系，一种本质（非线性或者质变）联系，一种非本质（线性，或者说量变）联系。 所以事实之间（非本质的量变）联系构成了一个稳定本质的系统，那么就是这个系统就是一个独立事实系统。那么这个系统可以是包含这个系统的更大系统的独立事实。

!!这个世界为啥有线性和非线性？
因为这个世界有量变（线性）到质变（非线性），可为啥这个世界有量变到质变呢？ 因为没有量变到质变就没有分形世界，不断重复的本质，才能用符号定义，这就是理解的本质

!!大模型为啥会有涌现现象？
涌现本质是大模型通过大量数据训练，构建的概念世界结构，已经理解到了世界本质。学习到了高维空间的规律

!!如何评估一个模型有没有产生智慧?
我认为 scaling law 并不是关键，而是模型内部结构的熵减程度，用程序员的话说，就是代码结构精巧程度。也就是相同复用逻辑，没有出现代码其他地方，也就是写代码不是用不停的复制黏贴产生。用普通人话就是这个人是否活得通透，自相似度（术语是分形维度[|http://www.mandelbrot.cn:8080/JSPWiki/attach/Share/%E5%BE%AE%E4%BF%A1%E5%9B%BE%E7%89%87_20250218094951.png]），就是精巧度。

!!人是如何分析解决问题的呢？
先定性分析（抓本质），然后在定量分析（抓细节）。（这个就是人通往解决问题，拟合世界的高效分析法）

!!!论文
[大模型的基础 transformer|https://arxiv.org/html/1706.03762v7]\\
[KAN|https://arxiv.org/html/2408.10205v1]\\
[MEMGPT|https://arxiv.org/abs/2310.08560]\\
[BERT|https://arxiv.org/abs/1810.04805]\\
[基于大模型技术的图像识别技术 vision transformer|https://arxiv.org/abs/2010.11929]\\
[lora微调|https://arxiv.org/abs/2106.09685]\\
[DeepSeek(时不我待，已经有人往这个方向迈进了)|https://arxiv.org/pdf/2401.06066]\\
[MiniMax（Google 最新模型）|https://arxiv.org/abs/2501.08313]
!!RAG分享
[李徐赢的分享|https://boardmix.cn/app/editor/YifvuGYyx_5MI17zuH5ztQ?inviteCode=Kwl2zE]\\
[余烨的分享|https://zcnai77qcmqz.feishu.cn/file/HLbubgY25ofKnRxpP7Rc27U9ndb]\\
!!向量数据库
[贾阳光的分享|https://pixso.cn/app/board/B7OO9x2KyKGZon6sB-HVsw?showQuickFrame=true&amp;icon_type=3&amp;file_type=20&amp;open_in_browser=true]

!!Transformer
[李徐赢的分享|https://boardmix.cn/app/editor/HU8TtLwFYfLeWBt_C0TUgA?open_in_browser=true&amp;inviteCode=Kwl2zE]\\
[盛伟的分享|https://pptgo.cn/app/share/CAE.IAEqEHWyh5RP2aUt4ZkKvULsYgwwAkABSgozNDU4MTMwNDY0]\\
[王士昌的分享|https://c93wv2pcay.feishu.cn/docx/LJkZdTMYJop3ApxCIeccXFeTnT5]\\
[王士昌的transformer代码实现分享|https://icnwnitmcdqj.feishu.cn/wiki/A13hwfJmWipzTQkOkuTc1C5xnHc?open_in_browser=true]\\
[翻译模型的训练代码结构图|http://www.mandelbrot.cn:8080/JSPWiki/attach/Share/%E5%85%B3%E4%BA%8E%E8%AE%AD%E7%BB%83.jpg]\\

!deepseek
[敖博士的分享|http://www.mandelbrot.cn:8080/JSPWiki/attach/Share/DeepSeek-V2-MoE%E6%9E%B6%E6%9E%84%E5%92%8C%E8%AE%A1%E7%AE%97%E6%B5%81%E7%A8%8B.pdf]

!!大模型技术分享
[武庭轩|http://www.mandelbrot.cn:8080/JSPWiki/attach/Share/OneFlow技术年货（2023）公众号 .pdf]

!!微调数据分享
[余烨|https://icnwnitmcdqj.feishu.cn/wiki/EmlBwvMwGiqGHZkySvSckLENnMd?from=from_copylink]

!![自成长模型|selfGrowModel]

!![个人介绍|resume]


</pre>