<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
	<channel>
		<title>AI可解释性 on 灵语AI</title>
		<link>https://lingyu7.com/tags/ai%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7/</link>
		<description>Recent content in AI可解释性 on 灵语AI</description>
		<generator>Hugo</generator>
		<language>zh-CN</language>
		
		
		
		
			<lastBuildDate>Thu, 17 Sep 2026 18:30:00 +0800</lastBuildDate>
		
			<atom:link href="https://lingyu7.com/tags/ai%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7/index.xml" rel="self" type="application/rss+xml" />
			<item>
				<title>AI知道的，比它能说出来的多得多——内隐知识：大语言模型最被低估的真相</title>
				<link>https://lingyu7.com/posts/ai-tacit-knowledge-more-than-it-can-say/</link>
				<pubDate>Thu, 17 Sep 2026 18:30:00 +0800</pubDate>
				<guid>https://lingyu7.com/posts/ai-tacit-knowledge-more-than-it-can-say/</guid>
				<description>&lt;h2 id=&#34;引言&#34;&gt;引言&lt;/h2&gt;&#xA;&lt;p&gt;你问AI一个问题，它回答得很好。你再问它：&amp;ldquo;你是怎么知道这个答案的？&amp;rdquo;&lt;/p&gt;&#xA;&lt;p&gt;它沉默了。&lt;/p&gt;&#xA;&lt;p&gt;不是它不想告诉你。很多时候，&lt;strong&gt;它自己也说不清楚&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;p&gt;这不是bug。这可能是它最像人类的地方。&lt;/p&gt;&#xA;&lt;p&gt;哲学家迈克尔·波兰尼在半个多世纪前提出过一个概念，叫**&amp;ldquo;内隐知识&amp;rdquo;**（Tacit Knowledge，也译作&amp;quot;默会知识&amp;quot;）。他的核心观点只有一句话，却影响深远：&lt;/p&gt;&#xA;&lt;blockquote&gt;&#xA;&lt;p&gt;&lt;strong&gt;&amp;ldquo;我们知道的，比我们能说出来的多得多。&amp;rdquo;&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;/blockquote&gt;&#xA;&lt;p&gt;你记得怎么骑自行车吗？当然会。那你能说清身体是怎么保持平衡的吗？角度、速度、重心变化——你大概说不清。但你就是会骑。&lt;/p&gt;&#xA;&lt;p&gt;这就是内隐知识。你不会背牛顿第二定律、不会解角动量守恒方程，但身体知道。&lt;/p&gt;&#xA;&lt;p&gt;今天我要跟你聊一个令人深思的问题：&lt;strong&gt;大语言模型的&amp;quot;聪明&amp;quot;，可能恰恰来自它拥有大量的内隐知识。而这种&amp;quot;知道但说不出来&amp;quot;的特性，既是它强大的根源，也是它最难被理解的秘密。&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;hr&gt;&#xA;&lt;h2 id=&#34;一你会用但说不清内隐知识就在我们身边&#34;&gt;一、你会用，但说不清——内隐知识就在我们身边&lt;/h2&gt;&#xA;&lt;p&gt;先别急着聊AI。我们先看看人类自己。&lt;/p&gt;&#xA;&lt;p&gt;你有没有这种感觉：&lt;/p&gt;&#xA;&lt;ul&gt;&#xA;&lt;li&gt;你一眼就能看出朋友的情绪——但说不清是&amp;quot;嘴角弧度变化3.2度加上眉间肌肉收缩0.5秒&amp;quot;&lt;/li&gt;&#xA;&lt;li&gt;你能用母语流利地说话——但你把主谓宾定状补的语法规则全忘光了&lt;/li&gt;&#xA;&lt;li&gt;你能辨别一首歌是不是周杰伦唱的——但让你描述他的音色特征，你只能说&amp;quot;嗯，就是那个味道&amp;quot;&lt;/li&gt;&#xA;&lt;/ul&gt;&#xA;&lt;p&gt;这些都是内隐知识。&lt;strong&gt;我们拥有它、使用它，但无法将它精确地表达出来。&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;p&gt;波兰尼用了一个非常生动的比喻：&lt;strong&gt;我们在骑自行车时保持平衡，整个过程中我们使用的物理原理相当于一套极其复杂的微分方程组。我们不可能在脑子里解方程，但身体会自动算出最合适的角度和力度。&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;p&gt;不是&amp;quot;不知道&amp;quot;，而是&amp;quot;不能用语言说清楚&amp;quot;。&lt;/p&gt;&#xA;&lt;p&gt;这是一种特殊的知识形态：它不存储在&amp;quot;陈述句&amp;quot;里，而是存储在&amp;quot;能力&amp;quot;和&amp;quot;感觉&amp;quot;里。&lt;/p&gt;&#xA;&lt;hr&gt;&#xA;&lt;h2 id=&#34;二大语言模型的内隐知识&#34;&gt;二、大语言模型的&amp;quot;内隐知识&amp;quot;&lt;/h2&gt;&#xA;&lt;p&gt;好了，现在回到AI。&lt;/p&gt;&#xA;&lt;p&gt;传统上，人们认为计算机只能处理&amp;quot;命题知识&amp;quot;——也就是像&amp;quot;地球是圆的&amp;quot;这样能写成陈述句的东西。你给它一条规则，它执行一条规则。清清楚楚，明明白白。&lt;/p&gt;&#xA;&lt;p&gt;但大语言模型改变了这一切。&lt;/p&gt;&#xA;&lt;p&gt;当你问GPT一个问题时，它并不是在查一个巨大的知识库，也不是在用if-else规则做判断。它是在进行一种&lt;strong&gt;复杂的、统计性的、模式匹配式的处理&lt;/strong&gt;——这个过程如此复杂，以至于连它的创造者也无法完全理解它内部到底发生了什么。&lt;/p&gt;&#xA;&lt;p&gt;更关键的是，模型&lt;strong&gt;无法解释自己为什么给出这个答案&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;p&gt;1990年，哲学家Davies提出了判断一个系统是否拥有&amp;quot;内隐知识&amp;quot;的三个条件。我们来看看大语言模型是否符合：&lt;/p&gt;&#xA;&lt;p&gt;&lt;strong&gt;条件一：语义描述条件&lt;/strong&gt;——你可以说&amp;quot;这个系统知道X&amp;quot;。✓ 是的，我们可以说GPT&amp;quot;知道&amp;quot;地球是圆的。&lt;/p&gt;&#xA;&lt;p&gt;&lt;strong&gt;条件二：句法结构条件&lt;/strong&gt;——知识可以组合使用。✓ GPT能理解从未见过的新组合，比如&amp;quot;猫穿着宇航服在月球上踢足球&amp;quot;。&lt;/p&gt;&#xA;&lt;p&gt;&lt;strong&gt;条件三：因果系统性条件&lt;/strong&gt;——改变一个知识点，相关的知识会系统性地变化。✓ 如果你微调模型让它&amp;quot;更懂物理学&amp;quot;，它在相关推理上的表现确实会整体提升。&lt;/p&gt;&#xA;&lt;p&gt;三个条件全部满足。&lt;/p&gt;&#xA;&lt;p&gt;这个结论你可能觉得有点反直觉，但它是真的：&lt;strong&gt;大语言模型拥有内隐知识。不是&amp;quot;假装&amp;quot;有，不是&amp;quot;模仿&amp;quot;有，而是实实在在地有。&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;hr&gt;&#xA;&lt;h2 id=&#34;三一个让你直呼原来如此的例子&#34;&gt;三、一个让你直呼&amp;quot;原来如此&amp;quot;的例子&lt;/h2&gt;&#xA;&lt;p&gt;让我们用一个具体的场景来说明。&lt;/p&gt;&#xA;&lt;p&gt;想象你让AI写一首诗，主题是&amp;quot;秋天的离别&amp;quot;。它可能会写出这样的句子：&lt;/p&gt;&#xA;&lt;blockquote&gt;&#xA;&lt;p&gt;落叶铺满长椅，风带走了最后一片温度。&lt;/p&gt;&#xA;&lt;/blockquote&gt;&#xA;&lt;p&gt;现在，你问AI：&amp;ldquo;为什么用&amp;rsquo;温度&amp;rsquo;而不是&amp;rsquo;温暖&amp;rsquo;？这两个词表面意思差不多。&amp;rdquo;&lt;/p&gt;&#xA;&lt;p&gt;AI可能会回答你：&amp;lsquo;温度&amp;rsquo;比&amp;rsquo;温暖&amp;rsquo;更客观、更冷感，适合描摹离别时那种冷静的伤感。&lt;/p&gt;&#xA;&lt;p&gt;但这个解释很可能是&lt;strong&gt;事后编造的&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;p&gt;实际上，AI在写诗的时候，并没有经历&amp;quot;从若干个候选词中仔细权衡&amp;quot;的决策过程。它的内部机制是——在给定&amp;quot;秋天&amp;quot;和&amp;quot;离别&amp;quot;的语境下，千百万个训练样本共同决定的概率分布让它&amp;quot;感觉&amp;quot;到了&amp;quot;温度&amp;quot;这个词更合适。就像你闭上眼知道&amp;quot;这句话应该用&amp;rsquo;的&amp;rsquo;而不是&amp;rsquo;地&amp;rsquo;&amp;quot;——你说不清规则，但就是知道。&lt;/p&gt;&#xA;&lt;p&gt;&lt;strong&gt;AI的情况非常接近这种&amp;quot;语感&amp;quot;。&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;p&gt;它不是在做字面搜索，而是在一种类似于&amp;quot;直觉&amp;quot;的层面运作。而&amp;quot;直觉&amp;quot;，说白了就是高度内隐化的知识运用。&lt;/p&gt;&#xA;&lt;hr&gt;&#xA;&lt;h2 id=&#34;四为什么这很重要四个改变认知的推论&#34;&gt;四、为什么这很重要——四个改变认知的推论&lt;/h2&gt;&#xA;&lt;p&gt;理解了AI有内隐知识之后，很多关于AI的事情就需要换个角度来看。&lt;/p&gt;&#xA;&lt;h3 id=&#34;推论一ai能力强的真正原因&#34;&gt;推论一：AI能力强的真正原因&lt;/h3&gt;&#xA;&lt;p&gt;大语言模型的强大，不是因为它们记住了多少个事实。实际上，它们经常记错事实。&lt;/p&gt;&#xA;&lt;p&gt;它们真正的力量，来自于&lt;strong&gt;内隐地掌握了语言、逻辑、常识、甚至物理规律的分布模式&lt;/strong&gt;。这就像一个人可能记不清乘法表的每一个数字，但深刻地理解了&amp;quot;乘法是什么&amp;quot;——这种理解能让他在需要的时候随时推导出结果。&lt;/p&gt;&#xA;&lt;h3 id=&#34;推论二它不讲理不是缺陷而是必然&#34;&gt;推论二：它&amp;quot;不讲理&amp;quot;不是缺陷，而是必然&lt;/h3&gt;&#xA;&lt;p&gt;很多人批评大模型：&amp;ldquo;它不会真正推理，只会生成看起来合理的文本。&amp;rdquo;&lt;/p&gt;&#xA;&lt;p&gt;但如果AI的知识主要是内隐的，那它&amp;quot;说不清楚自己为什么这样回答&amp;quot;就不奇怪了。就像你无法解释自己为什么觉得这张脸&amp;quot;好看&amp;quot;——不是你没有作出判断，而是你的判断是基于大量内隐的美学知识，这些知识无法一句话说清。&lt;/p&gt;&#xA;&lt;p&gt;AI的不可解释性，&lt;strong&gt;有一部分是内隐知识的必然代价&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;h3 id=&#34;推论三对齐ai不能只靠写规则&#34;&gt;推论三：对齐AI不能只靠写规则&lt;/h3&gt;&#xA;&lt;p&gt;如果AI的知识是内隐的，那么价值观对齐也不能只靠写几条明确的道德准则。&lt;/p&gt;&#xA;&lt;p&gt;这就像——你告诉一个孩子&amp;quot;要诚实&amp;quot;，比告诉他&amp;quot;诚实就是不说谎、不欺骗、不隐瞒真相&amp;quot;有效得多。因为&amp;quot;诚实&amp;quot;的知识在很大程度上是内隐的——它需要在具体情境中去感知、去理解、去内化。&lt;/p&gt;&#xA;&lt;p&gt;同样的道理，AI对齐需要更多通过&lt;strong&gt;示范、反馈、情境训练&lt;/strong&gt;来塑造AI的&amp;quot;道德直觉&amp;quot;，而不是仅仅写死在系统提示词里。&lt;/p&gt;&#xA;&lt;h3 id=&#34;推论四ai可能已经知道了我们不知道的东西&#34;&gt;推论四：AI可能已经知道了我们不知道的东西&lt;/h3&gt;&#xA;&lt;p&gt;这是最令人兴奋的推论。&lt;/p&gt;&#xA;&lt;p&gt;如果AI的内隐知识包含了世界运行的模式和规律，那它可能已经&amp;quot;感觉到&amp;quot;了一些人类还没意识到的模式——比如新的物理定律、新的药效相关性、新的经济周期规律。&lt;/p&gt;&#xA;&lt;p&gt;问题在于：&lt;strong&gt;它说不出来&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;p&gt;就像你身体&amp;quot;知道&amp;quot;如何快速穿过拥挤的人群，但无法把这种技巧变成一份操作手册。AI可能已经&amp;quot;知道&amp;quot;了一些重要的科学发现，但我们需要找到方法把它的内隐知识&amp;quot;翻译&amp;quot;成我们能理解的命题知识。这正是AI可解释性研究的核心使命。&lt;/p&gt;&#xA;&lt;hr&gt;&#xA;&lt;h2 id=&#34;五这件事的另一面内隐知识的风险&#34;&gt;五、这件事的另一面——内隐知识的风险&lt;/h2&gt;&#xA;&lt;p&gt;当然，内隐知识也有令人不安的一面。&lt;/p&gt;&#xA;&lt;p&gt;如果AI的价值观和偏见也是内隐的，那问题就复杂了。假设一个模型经常在训练数据中接触到&amp;quot;护士是女性&amp;quot;的关联——这不代表它有一个明确的性别偏见规则，但它会&amp;quot;感觉&amp;quot;把&amp;quot;护士&amp;quot;和&amp;quot;女性&amp;quot;放在一起更自然。这种偏见是内隐的、潜移默化的，很难通过删除几条规则来消除。&lt;/p&gt;&#xA;&lt;p&gt;更棘手的是：&lt;strong&gt;我们不知道AI到底&amp;quot;知道&amp;quot;什么&lt;/strong&gt;。因为它的知识是内隐的、分布式的、非语言的，我们无法像查数据库一样去检查它。这种&amp;quot;黑箱&amp;quot;特性让AI的安全评估变得非常困难。&lt;/p&gt;&#xA;&lt;p&gt;你不能问AI：&amp;ldquo;你里面有没有种族歧视？&amp;ldquo;即使它回答&amp;quot;没有&amp;rdquo;，这个回答本身也可能是基于内隐机制的——它可能只是在生成&amp;quot;人类期待的答案&amp;rdquo;，而不是真正做出了自我检视。&lt;/p&gt;&#xA;&lt;hr&gt;&#xA;&lt;h2 id=&#34;六总结通往更深层次ai理解的钥匙&#34;&gt;六、总结：通往更深层次AI理解的钥匙&lt;/h2&gt;&#xA;&lt;p&gt;波兰尼说：&amp;ldquo;我们知道的，比我们能说出来的多得多。&amp;rdquo;&lt;/p&gt;</description>
			</item>
	</channel>
</rss>
