退房之前
听两个播主
聊加拿大冰球
聊老特鲁多
聊特朗普
还有刘思慕
退房之前
身心俱静
2025-03-26 23:30:51 PM
睡前无眠
是的，睡前无眠
没有听够博客
没有带好手表
开动脑筋
写一首无眠的诗
吴思的顶残
以下引用吴思自述
我到底在折腾什么
- 写这篇序言的时候，我读到一段“拆解人工智能的底层逻辑”的文字：“在人工智能眼中，收到的信息并不是人类语言所呈现的形式，而是一种数学模型。如果把人工智能看做一种生命体，那么在它的意识里，万事万物，每一个概念，都是一个立体多维坐标中的某个点。”（注釋2）我忽然意识到，我所杜撰的概念，所做的历史描述和分析，其实都在辨析立体多维世界中的“某个点”，确认文明进化树上某个枝杈某片树叶的坐标，再给它取个名字或换个名字——假如旧名不妥的话。定律和公式之类，就是点与点之间的连线，好比连接叶片的枝条。
- 我辈幸也不幸，生在思想管控空前严厉的时代，校内外所学纯是官方理论，而所学与所见往往相悖：柳叶名下见到的却是松针，明明是松枝却标为藤条。于是，大半生的纠结困惑，几十年的注意力，化为几本不受官方待见的小书——在AI眼里，不过是某套坐标系中几个小点和几道连线的增补修改。
“百年三万六千日，翻覆元来是这汉。”（注釋3）
这就是我的天命？
但愿后来者比我们的起点更高，命运更好。
把AI当作方法 1 – 我看到的中国昆明
本文卖点
- 作为一个政府信息化项目的亲历者，把信息化作为方法，来感知、分析和了解身边的中国；
- 结合人工智能、大模型这热点，让读者产生好奇；
- 结合云南这个边疆省份，让读者产生好奇；
智慧城市项目，或者换个说法，政府信息化项目，在项目的启动阶段，往往要进行业务调研。
数字化项目业务调研，与社会学者的社会田野调查，有什么异同？我没有从事田野调查的经验，无法回答这个问题。不过既然都是了解各个委办局工作人员的日常工作，需要他们反馈自己遇到的问题，他们的应对方案，我想，除了目的不同外，在调研过程中获得的信息应该是类似的。
10月16日发生的昆明长丰中学“臭肉”事件，和11月发生的珠海、宜兴无差别群体杀人事件，似乎不值得一提。不过，我最近恰好在云南参与教育信息化项目，这给了我一个绝佳的机会，来了解“臭肉”事件对教育行业的后续影响。
本-夏皮罗和龙虾教授的一段访谈
9月1日，本-夏皮罗在自己的博客节目《本-夏皮罗秀》上，采访了著名的“龙虾教授”：乔丹-彼得森。
这期的主题是“如何在自我牺牲中发现美”
在2024年9月1日的《The Ben Shapiro Show》中，Jordan Peterson与Ben Shapiro进行了深入的对话，探讨了自我牺牲之美。Peterson是一位世界知名的临床心理学家、多伦多大学的名誉教授，以及在线教育家，以其关于宗教信仰、叙事神话和人格分析的有影响力的讲座而闻名。在他们的对话中，Peterson分享了他在最新系列《Foundations of the West》中的一些幕后轶事，这个系列中他访问了耶路撒冷、雅典和罗马，以揭示西方文明的古老根源。Peterson还讨论了他的个人宗教旅程，以及他对圣经中风险和牺牲主题的观察。
Peterson在对话中提到了亚伯拉罕和以撒的故事，将其作为牺牲主题的一个例子。他解释说，圣经的叙述挑战了儿童献祭的概念，而是将其呈现为父母必须为孩子做出的牺牲的隐喻。愿意让孩子面对世界，尽管存在固有的危险，是一种自我牺牲，最终导致成长和成熟。这一理念与为了社区和后代而必须做出牺牲的更广泛主题相呼应。
此外，Peterson还讨论了社区和责任的角色，他认为社区本质上是建立在牺牲之上的。他主张，人类经历以关系为特点，这些关系要求个人为了更大的利益做出牺牲。这一概念深深植根于圣经文本中，这些文本始终强调无私和愿意为了秩序而面对混乱的重要性。
Peterson还谈到了这种理解对当代社会的含义。他对日益增长的个人主义趋势和对社区责任的忽视表示担忧。他认为，一个将个人利益置于集体福祉之上的社会，最终会破坏自己的稳定性和道德结构。他建议，圣经的叙述为牺牲的重要性和人类生活的相互联系提供了永恒的智慧。
最后，对话以讨论Peterson在加拿大面临的医疗执照挑战作为高潮，他被政府要求接受社交媒体培训。他表达了对抗的决心，将其视为“反对侵犯言论自由和专业完整性”的道德义务。
这些讨论提供了对自我牺牲、社区责任和个人成长的深刻见解，展示了Peterson对这些主题的深入思考。
大模型vs性象征
我特别感兴趣的一点是：Peterson谈到了大模型对于真实世界的理解（从文本上对世界知识进行压缩），和精神分析中的联想方法（如性象征是更深层次真理的替代品），这两者在某种程度上是相同的（认知领域）。
Peterson说：
“通过阅读弗洛伊德，荣格，埃里克·诺伊曼...如果学术界，如果西方高等教育机构能够采纳诺伊曼...荣格的文学解释方法，我们现在就不会处于文化战争之中了。 他们是对的。我认为我们最终会通过大型语言模型揭示这一点，这已经引起了我的注意，精神分析师通过他们的联想工作，自由联想在梦境解释和叙事解释所做的，与大型语言模型在概念之间统计规律的映射中所做的，从认知领域来看是相同的。 所以最好的思考方式，弗洛伊德认为一个象征，如性象征，是更深层次真理的替代品，这是压抑的结果，对吧？所以压抑的内容会以象征的形式出现。这在很多方面几乎是真的，弗洛伊德所说的许多事情几乎是真的。”
上面这段话很有意思，我不由得猜测，这位龙虾教授难不成被吊销了医疗执照后，打算进军llm行业了？
对于Peterson的看法，我是赞同的。今年8月和同事爬昆明西山，顺便参观了山脚下的美术馆，当时美术馆在展出油画和书法，我靠近观看这张“阳光下的草地”，除了斑驳的颜料色块，是不可能“看到”什么草地、阳光、青山、绿水的。这和我们把人脸图像解析为一串向量数字，没有本质不同，但是当你逐渐拉远距离，会发现灿烂的阳光慢慢浮现，仿佛那时那刻画家眼前的景色重现。
油画就是旧时代的大模型。
*播客地址在此：
From The Ben Shapiro Show: How To Find Beauty In Self-Sacrifice | Jordan Peterson, Sep 1, 2024
金钱与健康
很多人对健康本身不了解，导致对于金钱与健康的关系有误解。
给你1000万，换你一条腿，你换吗？
给你1000块，换你一个不眠之夜，大部分就从了。
力学概论
1986年出版的《力学概论》提出，寻求统一的出发点不是思辨而应是运动现象。
我想，之所以方老师这么说，他肯定认为坐而论道是空洞无用的，只有“躬身格物”才是认识世界的唯一正确的道路。
随着llm的出现，我潜意识里，觉得llm也许真是认识这个世界的钥匙，llm是语言的统计学抽象，而语言恰恰是我们认识世界的所有工具的一个表述，当然数学，通过对这个表述的抽象，甚至可以说，是对抽象的进一步抽象，我们可以在更高维度来分析世界面对的真实问题，也许在更高维度里发现的解决方案，也能反过来映射到真实世界中的问题中去。
前几周在昆明西山，参观美术馆里
neo4j的cto描绘知识图谱的光明前景–一篇GraphRAG的宣言
Neo4J的cto，在火热朝天的大模型背景下，是如何来描绘知识图谱价值的呢？
为什么要使用知识图谱
因为不管fine tune还是rag，都不能提供具备一定置信度的正确答案（Vector-based RAG – in the same way as fine-tuning – increases the probability of a correct answer for many kinds of questions. However neither technique provides the certainty of a correct answer.）
把真正的知识（things not strings）与统计的文本技术结合，就能突破天花板。（bring knowledge about things into the mix of statistically-based text techniques）。
使用知识图谱的好处
- There’s a robust body of research proving that it gives you better answers to most if not ALL questions you might ask an LLM using normal vector-only RAG.
- That alone will be a huge driver of GraphRAG adoption. In addition to that, you get easier development thanks to data being visible when building your app.
- A third major advantage is that graphs can be readily understood and reasoned upon by humans as well as machines.
我的便携火锅，出差有了诗意
2024-07-29 20:52:42 PM
下午刚刚到昆明，带着我的便携式火锅。
早晨特地电话委托前台，帮我预留了面对十字路口的房间，此房间拥有转角落地窗，早晨8点左右，会有强烈的阳光射进来，适合晒背，恰好这次是4楼，更不用担心被路人窥视了。
安顿好行李，沿着十字路口，向云南师范大学的方向，是一个临时的农贸市场，确切的说，是一批违规摆摊的小商小贩，线性排开，大概50米不到的规模，售卖各种水果、玉米、炒货、米糕和各种小菜。
傍晚7点多，刚刚下过小雨，类似我这样买菜的人已然不多，上了年纪的阿姨们，着急把手里的尾货出清，只要我稍作停留，她们就会竭力的推销，3块、3块，当我把目光转向旁边的摊位，马上急促的说到，2块，2块全部拿去。我摇摇头，感觉很抱歉，因为根本不认得这标价2块的菜是什么，看起来是茼蒿吗？用我的小火锅烹饪，会好吃吗，而且这个分量真是不小啊。
旁边摊位，摆着一摞摞小白菜，看起来整整齐齐，干干净净，还未等我开口，阿姨说到，2块，2块，我看看份量，即使非常挥霍，也可以吃2顿，点点头说好，阿姨麻利的用一个小塑料袋装了4颗小白菜，递给我。
返回途中，找了一个超市，用9元购得3包麻辣方便面，可惜火锅调料都有点贵，且量大，会浪费。
这次的经验教训：方便面调料还是太清淡了，第一颗白菜涮好，汤底就寡淡无味了，即使用来泡方便面，也难以称作美味，这两天还是得研究下调味料。
快9点，窗外雨潺潺，隐约的雨声，让此时此刻的生活，有一点点诗意。
华为Ascend NPU适配
Ascend Extension for PyTorch插件
简介
本项目开发了名为torch_npu的Ascend Extension for PyTorch插件，使昇腾NPU可以适配PyTorch框架，为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。
昇腾为基于华为昇腾处理器和软件的行业应用及服务提供全栈AI计算基础设施。您可以通过访问昇腾社区，了解关于昇腾的更多信息。
安装
使用二进制文件进行安装
我们为用户提供可以快速安装torch_npu的whl安装包。在安装torch_npu之前，您需要先安装CANN软件。昇腾辅助软件中有更多关于CANN的版本信息。请参考CANN安装指南获取CANN安装包。
- 安装PyTorch
通过 pip 安装 PyTorch。
aarch64:
pip3 install torch==2.1.0
x86:
pip3 install torch==2.1.0+cpu --index-url https://download.pytorch.org/whl/cpu
若使用pip命令安装失败，请使用下载链接或进入PyTorch官方网站进行查询下载对应版本。
| 架构 | Python版本 | 下载链接 |
|---|---|---|
| x86 | Python3.8 | 下载链接 |
| x86 | Python3.9 | 下载链接 |
| x86 | Python3.10 | 下载链接 |
| aarch64 | Python3.8 | 下载链接 |
| aarch64 | Python3.9 | 下载链接 |
| aarch64 | Python3.10 | 下载链接 |
- 安装torch_npu依赖
运行以下命令安装依赖。
pip3 install pyyaml
pip3 install setuptools
- 安装torch_npu
pip3 install torch-npu==2.1.0.post3
如需要保存安装日志，可在pip3 install命令后面加上参数 --log <PATH>，并对您指定的目录<PATH>做好权限管控。
使用源代码进行安装
某些特殊场景下，用户可能需要自行编译torch_npu。可以根据昇腾辅助软件表和PyTorch与Python版本配套表选择合适的分支。推荐使用Docker镜像编译torch_npu，可以通过以下步骤获取(建议只挂载工作路径，并避开系统路径，以降低安全风险), 生成的.whl文件路径为./dist/：
-
克隆torch_npu代码仓
git clone https://gitee.com/ascend/pytorch.git -b v2.1.0-6.0.rc1 --depth 1 -
构建镜像
cd pytorch/ci/docker/{arch} # {arch} for X86 or ARM docker build -t manylinux-builder:v1 . -
进入Docker容器
docker run -it -v /{code_path}/pytorch:/home/pytorch manylinux-builder:v1 bash # {code_path} is the torch_npu source code path -
编译torch_npu
以Python 3.8 为例。
cd /home/pytorch bash ci/build.sh --python=3.8
卸载
Pytorch框架训练环境的卸载可以参考昇腾官方文档。
torch_npu的卸载只需执行命令：
pip3 uninstall torch_npu
如需要保存卸载日志，可在pip3 uninstall命令后面加上参数 --log <PATH>，并对您指定的目录<PATH>做好权限管控。
入门
前提
运行以下命令初始化CANN环境变量。
# Default path, change it if needed.
source /usr/local/Ascend/ascend-toolkit/set_env.sh
快速验证
可以通过以下样例快速体验昇腾NPU。
import torch
import torch_npu
x = torch.randn(2, 2).npu()
y = torch.randn(2, 2).npu()
z = x.mm(y)
print(z)
PyTorch与Python版本配套表
| PyTorch版本 | Python版本 |
|---|---|
| PyTorch1.11.0 | Python3.7.x(>=3.7.5), Python3.8.x, Python3.9.x, Python3.10.x |
| PyTorch2.1.0 | Python3.8.x, Python3.9.x, Python3.10.x |
| PyTorch2.2.0 | Python3.8.x, Python3.9.x, Python3.10.x |
昇腾辅助软件
PyTorch Extension版本号采用{PyTorch版本}-{昇腾版本}命名规则，前者为PyTorch Extension匹配的PyTorch版本，后者用于匹配CANN版本，详细匹配如下：
| CANN版本 | 支持的PyTorch版本 | 支持的Extension版本 | Gitee分支 | AscendHub镜像版本/名称(链接) |
|---|---|---|---|---|
| CANN 8.0.RC1 | 2.2.0 | 2.2.0 | v2.2.0-6.0.rc1 | – |
| 2.1.0 | 2.1.0.post3 | v2.1.0-6.0.rc1 | – | |
| 1.11.0 | 1.11.0.post11 | v1.11.0-6.0.rc1 | – | |
| CANN 7.0.0 | 2.1.0 | 2.1.0 | v2.1.0-5.0.0 | – |
| 2.0.1 | 2.0.1.post1 | v2.0.1-5.0.0 | – | |
| 1.11.0 | 1.11.0.post8 | v1.11.0-5.0.0 | – | |
| CANN 7.0.RC1 | 2.1.0 | 2.1.0.rc1 | v2.1.0-5.0.rc3 | – |
| 2.0.1 | 2.0.1 | v2.0.1-5.0.rc3 | – | |
| 1.11.0 | 1.11.0.post4 | v1.11.0-5.0.rc3 | – | |
| CANN 6.3.RC3.1 | 1.11.0 | 1.11.0.post3 | v1.11.0-5.0.rc2.2 | – |
| CANN 6.3.RC3 | 1.11.0 | 1.11.0.post2 | v1.11.0-5.0.rc2.1 | – |
| CANN 6.3.RC2 | 2.0.1 | 2.0.1.rc1 | v2.0.1-5.0.rc2 | – |
| 1.11.0 | 1.11.0.post1 | v1.11.0-5.0.rc2 | 23.0.RC1-1.11.0 | |
| 1.8.1 | 1.8.1.post2 | v1.8.1-5.0.rc2 | 23.0.RC1-1.8.1 | |
| CANN 6.3.RC1 | 1.11.0 | 1.11.0 | v1.11.0-5.0.rc1 | – |
| 1.8.1 | 1.8.1.post1 | v1.8.1-5.0.rc1 | – | |
| CANN 6.0.1 | 1.5.0 | 1.5.0.post8 | v1.5.0-3.0.0 | 22.0.0 |
| 1.8.1 | 1.8.1 | v1.8.1-3.0.0 | 22.0.0-1.8.1 | |
| 1.11.0 | 1.11.0.rc2（beta) | v1.11.0-3.0.0 | – | |
| CANN 6.0.RC1 | 1.5.0 | 1.5.0.post7 | v1.5.0-3.0.rc3 | 22.0.RC3 |
| 1.8.1 | 1.8.1.rc3 | v1.8.1-3.0.rc3 | 22.0.RC3-1.8.1 | |
| 1.11.0 | 1.11.0.rc1（beta) | v1.11.0-3.0.rc3 | – | |
| CANN 5.1.RC2 | 1.5.0 | 1.5.0.post6 | v1.5.0-3.0.rc2 | 22.0.RC2 |
| 1.8.1 | 1.8.1.rc2 | v1.8.1-3.0.rc2 | 22.0.RC2-1.8.1 | |
| CANN 5.1.RC1 | 1.5.0 | 1.5.0.post5 | v1.5.0-3.0.rc1 | 22.0.RC1 |
| 1.8.1 | 1.8.1.rc1 | v1.8.1-3.0.rc1 | – | |
| CANN 5.0.4 | 1.5.0 | 1.5.0.post4 | 2.0.4.tr5 | 21.0.4 |
| CANN 5.0.3 | 1.8.1 | 1.5.0.post3 | 2.0.3.tr5 | 21.0.3 |
| CANN 5.0.2 | 1.5.0 | 1.5.0.post2 | 2.0.2.tr5 | 21.0.2 |
建议与交流
欢迎大家为社区做贡献。如果有任何疑问或建议，请提交gitee Issues，我们会尽快回复。感谢您的支持。
分支维护策略
AscendPyTorch版本分支的维护阶段如下：
| 状态 | 时间 | 说明 |
|---|---|---|
| 计划 | 1—3 个月 | 计划特性 |
| 开发 | 3 个月 | 开发特性 |
| 维护 | 6-12 个月 | 合入所有已解决的问题并发布版本，针对不同的PyTorch版本采取不同的维护策略，常规版本和长期支持版本维护周期分别为6个月和12个月 |
| 无维护 | 0—3 个月 | 合入所有已解决的问题，无专职维护人员，无版本发布 |
| 生命周期终止（EOL） | N/A | 分支不再接受任何修改 |
PyTorch版本维护策略
| PyTorch版本 | 维护策略 | 当前状态 | 发布时间 | 后续状态 | EOL日期 |
|---|---|---|---|---|---|
| 2.2.0 | 常规版本 | 维护 | 2024/04/01 | 预计2024/10/15起无维护 | |
| 2.1.0 | 长期支持 | 维护 | 2023/10/15 | 预计2024/10/15起无维护 | |
| 2.0.1 | 常规版本 | EOL | 2023/7/19 | 2024/3/14 | |
| 1.11.0 | 长期支持 | 维护 | 2023/4/19 | 预计2024/4/19起无维护 | |
| 1.8.1 | 长期支持 | EOL | 2022/4/10 | 2023/4/10 | |
| 1.5.0 | 长期支持 | EOL | 2021/7/29 | 2022/7/29 |
安全声明
Ascend Extension for PyTorch插件 安全声明
参考文档
有关安装指南、模型迁移和训练/推理教程和API列表等更多详细信息，请参考昇腾社区Ascend Extension for PyTorch。
| 文档名称 | 文档链接 |
|---|---|
| 安装指南 | 参考链接 |
| 网络模型迁移和训练 | 参考链接 |
| 算子适配 | 参考链接 |
| API清单（PyTorch原生接口与自定义接口） | 参考链接 |
许可证
Ascend Extension for PyTorch插件使用BSD许可证。详见LICENSE文件。