title: “AI不需要你教它——它自己就从例子中学会了,甚至连DNA都不放过” date: 2026-07-22T02:29:00+08:00 draft: false tags: [“上下文学习”, “ICL”, “少样本学习”, “GPT-3”, “Evo2”, “涌现能力”, “DNA”, “AI基础理论”] categories: [“AI深度”] description: “你给AI看几个例子,它就学会了新任务——不用重新训练,不用调参数。这种叫上下文学习的能力,曾经被认为是语言模型的专属。但2026年的新发现颠覆了这个认知:它在DNA模型上同样涌现。这意味着什么?”

引言:你教AI的方式,可能彻底错了

想象你要教一个朋友认识一种新水果。

你拿出了一个芒果,说:“这是芒果。”

然后你拿出第二个芒果,说:“这也是芒果。”

到第三个的时候,你朋友自己就学会了——“我懂了,芒果是这种黄色的、有甜味的东西。”

这不神奇。人类每天都在做这种事。

但AI也能做同样的事,而且方式比人类更不可思议。

你给它几个例子,它就能"学会"一个新任务——不用重新训练,不用调整参数,不用更新模型权重。你只是把几个例子放在它的"输入框"里,它就能按照你的意图去执行。

这种能力,叫做上下文学习(In-Context Learning, ICL)

你可能会想:“这有什么了不起的?不就是让AI记住几个例子然后模仿吗?”

但问题在于——没有人知道它为什么能做到。

2020年GPT-3横空出世时,1750亿参数规模让ICL能力"涌现"了。但六年过去了,我们对这个问题的理解,才刚刚开始触及核心。

而2026年的一项新发现,把这个问题推向了更深的层次:

ICL不仅仅是人类语言的专属能力。它在DNA序列模型上,同样涌现了。


一、什么是"上下文学习"?——它比你想象的更奇怪

先理解ICL到底是什么。

想象你是一个大模型,被训练来"预测下一个词"。

训练时,你读了整个互联网——从维基百科到Reddit论坛,从学术论文到菜谱。你学会的是:给定前面的话,猜出后面的话最可能是什么。

然后有一天,有人给你看了一段话:

“把英文翻译成中文: hello -> 你好 good morning -> 早上好 I love AI -> "

你还记得吗?你从来没被专门训练过"翻译任务”。你只是被训练来"预测下一个词"。

但你的内部机制做了一件奇怪的事:你从给出的例子中"提取"了一个模式,然后把"翻译任务"转化成了"预测下一个词"任务。

你看到三个英文-中文配对后,自动推断出:哦,这个上下文的规则是"把英文翻译成中文"。所以当看到"I love AI"时,你预测下一个词是"我爱人工智能"。

这就是ICL——不需要额外训练,不需要梯度更新,仅仅通过几个例子,模型就学会了新任务。

听起来很神奇,对吧?

但更神奇的事情是:这个能力不是任何人有意识设计出来的。 没有人写代码说"让GPT-3学会从例子中学习"。它只是被训练来预测下一个词,然后这个能力就自己涌现了。

就像你种了一棵苹果树,结果它不仅长了苹果,还长出了柠檬——你完全不确定它是怎么做到的。


二、传统的解释:ICL是语言的"副产品"

对于ICL为什么会出现,最初的主流解释是:

ICL是语言模型在语言数据上训练的"副产品"。

逻辑是这样的:

  1. 人类语言中充满了"类比"和"模式"——比如我们经常会说"就像……一样"、“例如……”
  2. 语言模型在训练时见过了无数这样的例子
  3. 所以它学会了"从例子中推测规则"的通用能力
  4. 这个能力被"迁移"到了所有任务上

这个解释听起来很合理,对吧?甚至有点"理所当然"。

但2026年,这个解释被彻底推翻了。


三、颠覆性的发现:ICL在DNA模型上同样涌现

Johns Hopkins大学的研究团队做了一个实验。

他们选择了Evo2——一个被训练来预测DNA序列的模型。DNA序列由A、C、G、T四个碱基组成,像一本用四个字母写成的天书。

Evo2的训练目标很简单:给定一段DNA序列,预测下一个碱基是什么。

注意:Evo2从来没有见过任何人类语言数据。 它不知道"你好"是什么意思,没见过"翻译任务",也没读过"例子"这个概念的任何一个字。

但研究团队做了以下测试:

他们给Evo2看一些"例子"——比如,给出一段DNA序列,然后在末尾加上对应的功能标注。然后再给一段新的DNA序列,问Evo2:“根据前面的例子,这段序列的功能标注应该是什么?”

结果:Evo2展现出了和GPT-3完全一样的ICL模式——随示例数量增加,性能稳定提升。

DNA模型,没有接触过任何人类语言,没有"类比"概念,没有"例子"这个训练数据——但它仍然学会了"从例子中学习"。

这个发现彻底改变了我们对ICL的理解:

ICL不是人类语言的副产品。 ICL不是"类比推理"的产物。 ICL甚至不是"文本"的专属能力。

ICL是——当一个模型被训练预测足够复杂的序列数据中的下一个元素时,自然涌现的通用能力。


四、这意味着什么?——从"炒菜"到"DNA"的同一套机制

让我们用一个更直观的类比来理解这个发现。

想象你是一个"预测大师"。

你的训练方式是:看各种"过程"的前半段,然后预测后半段。

你被训练了三种不同的"过程":

训练集A:炒菜

  • 看到"切菜、热油、下锅" → 预测"翻炒、加调料"
  • 看到"倒面粉、加水、揉面" → 预测"发酵、擀皮、包馅"

训练集B:下棋

  • 看到"兵e4、马f6" → 预测"象c4、马c6"
  • 看到"炮二平五、马8进7" → 预测"马二进三、车9平8"

训练集C:天气预报

  • 看到"温度25°C、湿度70%、气压下降" → 预测"降雨概率上升"

现在,你被训练成了"预测大师"——你擅长预测任何序列的下一个元素。

然后有人给了你一个新的"过程"——一个你从未见过的东西:

“例子1:A → B 例子2:C → D 例子3:E → F 新输入:G → ?”

你的"预测能力"会自动做一件事:从上下文中提取"这个过程的规则",然后应用在新的输入上。

这就是ICL的本质——它不是"学会了从例子中学习",而是"训练足够复杂的序列预测时的自然涌现"。

同样的机制,在文本上工作,在DNA上工作,在蛋白质序列上工作,在化学分子结构上工作。

只要序列足够复杂,预测下一个元素足够困难,ICL就会涌现。


五、为什么这对你很重要?

很多人会觉得:“ICL是AI内部机制的事,关我普通人什么事?”

实际上,这个发现对我们每个人的影响,可能比你想象的要大得多。

第一,你每天都在用ICL

你用的每一个AI助手——从ChatGPT到你手机里的智能助手——都在使用ICL。

当你给AI一段文字说"请总结这段内容",AI的ICL能力让它理解"总结"这个任务。当你给AI几个例子说"像这样提取信息",AI的ICL能力让它学会了你的格式要求。

没有ICL,就没有今天的大语言模型应用。

第二,ICL的"通用性"意味着AI的能力边界可能比我们想的要宽

如果ICL可以在DNA序列上涌现,那它也可以在蛋白质序列、化学结构、音乐旋律、金融时间序列上涌现。

这意味着:一个在DNA数据上训练的模型,可能具备"从例子中学习"的能力,而这个能力可以迁移到其他领域。

不需要专门设计"学习算法",不需要人工标注"训练数据"——只需要让模型在足够复杂的序列数据上预测下一个元素,它就会自己学会"学习"。

第三,这让我们重新思考"智能"的本质

ICL的涌现,让我们面对一个很"不舒服"的问题:

如果"从例子中学习"这么复杂的能力,仅仅是因为"预测下一个词"就自动涌现了——那人类的"学习能力"是不是也类似?

我们人类的学习,是不是也来自某种更底层的"序列预测"机制?

当你在给朋友解释一个概念时,你从过去的对话中提取模式;当你学习一种新技能时,你从过去的经验中寻找类比;当你做出决策时,你从过去的经历中预测结果。

这些,本质上都是"序列预测"吗?

这个问题,目前还没有答案。但它的提出本身,就已经在改变我们理解"智能"的方式。


六、回到原点:ICL告诉我们什么?

回顾ICL的发现历程:

  • 2020年:GPT-3证明ICL可以在语言模型上涌现,1750亿参数是关键
  • 2020-2025年:ICL成为LLM的核心使用范式,但没有人完全理解它的机制
  • 2026年:Johns Hopkins团队证明ICL在DNA模型上同样涌现——ICL不是语言专属

这个发现告诉我们三件事:

第一,ICL是一个"通用属性"——不是语言专属,不是文本专属,不是"类比推理"的产物。 它是复杂序列预测的自然涌现。

第二,AI的"聪明"可能比我们想的要"底层"。 我们以为ICL是高级的"推理能力",但它可能只是序列预测的"副作用"。这听起来像是对AI的"降级",但实际上是对AI能力的"升级"——因为这意味着,越复杂的数据,越强大的预测模型,就会有越多的"意外能力"涌现。

第三,我们对"学习"的理解,可能才刚刚开始。 当一个仅被训练预测DNA序列的模型,也能"从例子中学习"时——我们不得不重新思考:学习到底是什么?例子是什么?类比是什么?

下次你用AI的时候,可以想一想这个问题:

你给AI看的那几个例子,在AI的内部,可能正在被转化成和"预测DNA碱基"相同的底层机制。

AI不是在"理解"你的例子。 AI只是在"预测"你的下一个词。

但神奇的是——这两个过程,在足够复杂的系统中,变成了同一件事。


参考资料:

  1. Brown, T.B. et al., “Language Models are Few-Shot Learners”, NeurIPS 2020. https://arxiv.org/abs/2005.14165
  2. Khashabi, D. et al., “Evidence of Emergent Artificial Intelligence Beyond Human Language”, TMLR 2026. Johns Hopkins University.
  3. Radford, A. et al., “Language Models are Unsupervised Multitask Learners” (GPT-2), 2019.
  4. Kaplan, J. et al., “Scaling Laws for Neural Language Models”, 2020. https://arxiv.org/abs/2001.08361