title: “AI不需要你教它——它自己就从例子中学会了,甚至连DNA都不放过” date: 2026-07-22T02:29:00+08:00 draft: false tags: [“上下文学习”, “ICL”, “少样本学习”, “GPT-3”, “Evo2”, “涌现能力”, “DNA”, “AI基础理论”] categories: [“AI深度”] description: “你给AI看几个例子,它就学会了新任务——不用重新训练,不用调参数。这种叫上下文学习的能力,曾经被认为是语言模型的专属。但2026年的新发现颠覆了这个认知:它在DNA模型上同样涌现。这意味着什么?”
引言:你教AI的方式,可能彻底错了
想象你要教一个朋友认识一种新水果。
你拿出了一个芒果,说:“这是芒果。”
然后你拿出第二个芒果,说:“这也是芒果。”
到第三个的时候,你朋友自己就学会了——“我懂了,芒果是这种黄色的、有甜味的东西。”
这不神奇。人类每天都在做这种事。
但AI也能做同样的事,而且方式比人类更不可思议。
你给它几个例子,它就能"学会"一个新任务——不用重新训练,不用调整参数,不用更新模型权重。你只是把几个例子放在它的"输入框"里,它就能按照你的意图去执行。
这种能力,叫做上下文学习(In-Context Learning, ICL)。
你可能会想:“这有什么了不起的?不就是让AI记住几个例子然后模仿吗?”
但问题在于——没有人知道它为什么能做到。
2020年GPT-3横空出世时,1750亿参数规模让ICL能力"涌现"了。但六年过去了,我们对这个问题的理解,才刚刚开始触及核心。
而2026年的一项新发现,把这个问题推向了更深的层次:
ICL不仅仅是人类语言的专属能力。它在DNA序列模型上,同样涌现了。
一、什么是"上下文学习"?——它比你想象的更奇怪
先理解ICL到底是什么。
想象你是一个大模型,被训练来"预测下一个词"。
训练时,你读了整个互联网——从维基百科到Reddit论坛,从学术论文到菜谱。你学会的是:给定前面的话,猜出后面的话最可能是什么。
然后有一天,有人给你看了一段话:
“把英文翻译成中文: hello -> 你好 good morning -> 早上好 I love AI -> "
你还记得吗?你从来没被专门训练过"翻译任务”。你只是被训练来"预测下一个词"。
但你的内部机制做了一件奇怪的事:你从给出的例子中"提取"了一个模式,然后把"翻译任务"转化成了"预测下一个词"任务。
你看到三个英文-中文配对后,自动推断出:哦,这个上下文的规则是"把英文翻译成中文"。所以当看到"I love AI"时,你预测下一个词是"我爱人工智能"。
这就是ICL——不需要额外训练,不需要梯度更新,仅仅通过几个例子,模型就学会了新任务。
听起来很神奇,对吧?
但更神奇的事情是:这个能力不是任何人有意识设计出来的。 没有人写代码说"让GPT-3学会从例子中学习"。它只是被训练来预测下一个词,然后这个能力就自己涌现了。
就像你种了一棵苹果树,结果它不仅长了苹果,还长出了柠檬——你完全不确定它是怎么做到的。
二、传统的解释:ICL是语言的"副产品"
对于ICL为什么会出现,最初的主流解释是:
ICL是语言模型在语言数据上训练的"副产品"。
逻辑是这样的:
- 人类语言中充满了"类比"和"模式"——比如我们经常会说"就像……一样"、“例如……”
- 语言模型在训练时见过了无数这样的例子
- 所以它学会了"从例子中推测规则"的通用能力
- 这个能力被"迁移"到了所有任务上
这个解释听起来很合理,对吧?甚至有点"理所当然"。
但2026年,这个解释被彻底推翻了。
三、颠覆性的发现:ICL在DNA模型上同样涌现
Johns Hopkins大学的研究团队做了一个实验。
他们选择了Evo2——一个被训练来预测DNA序列的模型。DNA序列由A、C、G、T四个碱基组成,像一本用四个字母写成的天书。
Evo2的训练目标很简单:给定一段DNA序列,预测下一个碱基是什么。
注意:Evo2从来没有见过任何人类语言数据。 它不知道"你好"是什么意思,没见过"翻译任务",也没读过"例子"这个概念的任何一个字。
但研究团队做了以下测试:
他们给Evo2看一些"例子"——比如,给出一段DNA序列,然后在末尾加上对应的功能标注。然后再给一段新的DNA序列,问Evo2:“根据前面的例子,这段序列的功能标注应该是什么?”
结果:Evo2展现出了和GPT-3完全一样的ICL模式——随示例数量增加,性能稳定提升。
DNA模型,没有接触过任何人类语言,没有"类比"概念,没有"例子"这个训练数据——但它仍然学会了"从例子中学习"。
这个发现彻底改变了我们对ICL的理解:
ICL不是人类语言的副产品。 ICL不是"类比推理"的产物。 ICL甚至不是"文本"的专属能力。
ICL是——当一个模型被训练预测足够复杂的序列数据中的下一个元素时,自然涌现的通用能力。
四、这意味着什么?——从"炒菜"到"DNA"的同一套机制
让我们用一个更直观的类比来理解这个发现。
想象你是一个"预测大师"。
你的训练方式是:看各种"过程"的前半段,然后预测后半段。
你被训练了三种不同的"过程":
训练集A:炒菜
- 看到"切菜、热油、下锅" → 预测"翻炒、加调料"
- 看到"倒面粉、加水、揉面" → 预测"发酵、擀皮、包馅"
训练集B:下棋
- 看到"兵e4、马f6" → 预测"象c4、马c6"
- 看到"炮二平五、马8进7" → 预测"马二进三、车9平8"
训练集C:天气预报
- 看到"温度25°C、湿度70%、气压下降" → 预测"降雨概率上升"
现在,你被训练成了"预测大师"——你擅长预测任何序列的下一个元素。
然后有人给了你一个新的"过程"——一个你从未见过的东西:
“例子1:A → B 例子2:C → D 例子3:E → F 新输入:G → ?”
你的"预测能力"会自动做一件事:从上下文中提取"这个过程的规则",然后应用在新的输入上。
这就是ICL的本质——它不是"学会了从例子中学习",而是"训练足够复杂的序列预测时的自然涌现"。
同样的机制,在文本上工作,在DNA上工作,在蛋白质序列上工作,在化学分子结构上工作。
只要序列足够复杂,预测下一个元素足够困难,ICL就会涌现。
五、为什么这对你很重要?
很多人会觉得:“ICL是AI内部机制的事,关我普通人什么事?”
实际上,这个发现对我们每个人的影响,可能比你想象的要大得多。
第一,你每天都在用ICL
你用的每一个AI助手——从ChatGPT到你手机里的智能助手——都在使用ICL。
当你给AI一段文字说"请总结这段内容",AI的ICL能力让它理解"总结"这个任务。当你给AI几个例子说"像这样提取信息",AI的ICL能力让它学会了你的格式要求。
没有ICL,就没有今天的大语言模型应用。
第二,ICL的"通用性"意味着AI的能力边界可能比我们想的要宽
如果ICL可以在DNA序列上涌现,那它也可以在蛋白质序列、化学结构、音乐旋律、金融时间序列上涌现。
这意味着:一个在DNA数据上训练的模型,可能具备"从例子中学习"的能力,而这个能力可以迁移到其他领域。
不需要专门设计"学习算法",不需要人工标注"训练数据"——只需要让模型在足够复杂的序列数据上预测下一个元素,它就会自己学会"学习"。
第三,这让我们重新思考"智能"的本质
ICL的涌现,让我们面对一个很"不舒服"的问题:
如果"从例子中学习"这么复杂的能力,仅仅是因为"预测下一个词"就自动涌现了——那人类的"学习能力"是不是也类似?
我们人类的学习,是不是也来自某种更底层的"序列预测"机制?
当你在给朋友解释一个概念时,你从过去的对话中提取模式;当你学习一种新技能时,你从过去的经验中寻找类比;当你做出决策时,你从过去的经历中预测结果。
这些,本质上都是"序列预测"吗?
这个问题,目前还没有答案。但它的提出本身,就已经在改变我们理解"智能"的方式。
六、回到原点:ICL告诉我们什么?
回顾ICL的发现历程:
- 2020年:GPT-3证明ICL可以在语言模型上涌现,1750亿参数是关键
- 2020-2025年:ICL成为LLM的核心使用范式,但没有人完全理解它的机制
- 2026年:Johns Hopkins团队证明ICL在DNA模型上同样涌现——ICL不是语言专属
这个发现告诉我们三件事:
第一,ICL是一个"通用属性"——不是语言专属,不是文本专属,不是"类比推理"的产物。 它是复杂序列预测的自然涌现。
第二,AI的"聪明"可能比我们想的要"底层"。 我们以为ICL是高级的"推理能力",但它可能只是序列预测的"副作用"。这听起来像是对AI的"降级",但实际上是对AI能力的"升级"——因为这意味着,越复杂的数据,越强大的预测模型,就会有越多的"意外能力"涌现。
第三,我们对"学习"的理解,可能才刚刚开始。 当一个仅被训练预测DNA序列的模型,也能"从例子中学习"时——我们不得不重新思考:学习到底是什么?例子是什么?类比是什么?
下次你用AI的时候,可以想一想这个问题:
你给AI看的那几个例子,在AI的内部,可能正在被转化成和"预测DNA碱基"相同的底层机制。
AI不是在"理解"你的例子。 AI只是在"预测"你的下一个词。
但神奇的是——这两个过程,在足够复杂的系统中,变成了同一件事。
参考资料:
- Brown, T.B. et al., “Language Models are Few-Shot Learners”, NeurIPS 2020. https://arxiv.org/abs/2005.14165
- Khashabi, D. et al., “Evidence of Emergent Artificial Intelligence Beyond Human Language”, TMLR 2026. Johns Hopkins University.
- Radford, A. et al., “Language Models are Unsupervised Multitask Learners” (GPT-2), 2019.
- Kaplan, J. et al., “Scaling Laws for Neural Language Models”, 2020. https://arxiv.org/abs/2001.08361