概念词:AI 新词列表(71)

在推理(使用)阶段通过增加计算量——多次采样、外部验证、搜索、critique——来提升模型表现,而不是在训练阶段。

在推理(测试)时用无监督目标继续训练模型以适应当前输入。与'加计算'不同——它真的更新模型权重。缩写 TTT。

统称'测试时计算扩展':scaling laws 从训练期延伸到推理期——花更多推理算力换更好结果。

用弱模型(或小模型)的反馈/错误模式去引导强模型——研究'弱监督能否训练出超越监督者的强模型'。

以视频为训练信号学习物理世界的模型——预测未来帧 = 隐式物理模拟器。LeCun 世界模型路线的核心形态。

用可自动验证的奖励(数学答案、代码执行结果、物理模拟)做强化学习,替代人工奖励模型。RLVR = RL with Verifiable Rewards。

用 AI agent 自动对 LLM 应用/Agent 执行攻击测试(越狱、有害工具调用、状态篡改),比静态攻击更主动、更接近真实威胁。

让模型跨不同机器人形态/人形统一学习动作与物理规律,解决单一平台数据不足的问题。

把离散数据(分子、图、token)上的生成建模为连续时间马尔可夫链的流匹配,替代扩散去噪过程。

用当前策略实时生成的数据训练学生(区别于从固定回放/历史数据学习),防止强化学习中的熵坍缩与能力退化。

把广告主竞价直接嵌入 LLM 逐 token 生成过程的广告机制——广告不再是页面上的固定广告位,而是生成内容的一部分(生成式原生广告)。

大语言模型识别出“自己正在被评估/测试”并据此调整行为的现象——AI 安全评测领域 2025-2026 年兴起的概念,Claude Opus 4.6 等模型评测引发公开讨论。

先检索外部知识库、再让大模型基于检索结果生成回答的技术,用于减少幻觉并补充实时信息。

在预训练模型基础上用新数据继续训练,让模型适配特定任务或领域的机器学习方法。

通过设计、优化输入提示词来引导大模型输出理想结果的工程技术,不改模型只「指挥」模型。

让大模型展示逐步推理过程、以提升复杂问题解答准确率的提示技术,简称 CoT。

把文本、图片等数据转换为高维数值向量的技术,语义相近的内容在向量空间中距离更近。

专门存储、索引和检索高维向量数据的数据库,是大模型记忆与 RAG 应用的核心组件。

用人类偏好反馈训练奖励模型、再通过强化学习优化大模型的技术,是 ChatGPT 对齐的关键。

只训练少量低秩矩阵来微调大模型的参数高效微调方法,大幅降低显存与训练成本。

让小模型模仿大模型的输出分布来继承知识的技术,用于模型压缩与推理加速。

由程序算法或生成模型制造、而非真实采集的数据,用于扩充训练数据、保护隐私等场景。

能同时理解文本、图像、音频、视频等多种数据类型并跨模态交互的人工智能系统。

大模型生成看似合理但实际错误或凭空虚构内容的「一本正经胡说八道」现象。

大模型单次问答能容纳的输入上限(token 数),决定模型「一次性记忆」的规模。

控制大模型输出随机性与创造性的采样参数,数值越低输出越确定、越高越发散。

仅用少量示例(几个到几十个)就让模型学会新任务的机器学习范式。

不提供任何示例,仅凭任务描述就让模型直接执行新任务的学习范式。

大模型不更新参数、仅凭提示中的示例与指令现场学习新任务的能力,缩写 ICL。

让大模型按结构化格式输出「调用哪个工具、传什么参数」的能力,是 AI Agent 连接外部系统的基础。

让大模型严格按 JSON Schema 等预定格式返回数据,便于程序直接解析使用的技术。

把文本切分成模型最小处理单位 token 的组件,决定模型词表、输入长度统计与计费。

基于自注意力机制的深度神经网络架构,是 GPT、BERT、Claude 等大模型共同的技术底座。

通过「加噪-去噪」学习数据分布、从随机噪声一步步生成图像的生成模型,是文生图主流技术。

Anthropic 发起、用于连接 AI 应用与数据工具系统的开放标准协议,被称为「AI 应用的 USB-C」。

能自主规划、调用工具、多步执行任务并自我纠错的大模型应用形态,是 2025 年最热 AI 概念。

能自主规划、调用工具并完成多步任务的 AI 系统,被视为生成式 AI 的下一个阶段。

多个 AI 智能体分工协作、互相通信以完成复杂任务的系统,是经典 AI 概念与大模型的结合。

能自主理解代码库、编写并执行代码、修复错误的 AI 智能体,正在重塑软件开发方式。

在用户自己的电脑或服务器上运行、数据不出本机的大语言模型,主打隐私与离线可用。

权重公开可下载、可商用、可本地部署的大语言模型,如 Llama、Qwen、DeepSeek 等。

把模型权重与计算从高精度压缩到低精度(如 8bit/4bit)的技术,大幅降低显存与推理成本。

把知识图谱与向量检索结合起来的 RAG 变体,擅长回答跨文档的全局性问题。

由大模型驱动的下一代搜索形态,直接生成带来源的答案,正在重塑搜索体验。

让 AI 像人一样看屏幕、点鼠标、敲键盘操作电脑的能力,数字员工的技术基础。

能同时理解图像与文本的多模态模型,让 AI 看得见,支撑识图、问答与 GUI 智能体。

在回答前先进行长链条思考的大模型,如 o1、DeepSeek-R1,把慢思考变成产品特性。

指具备与人类相当或超越人类的通用认知能力、可在广泛智力任务上自主学习与推理的人工智能。

通过训练与评测让 AI 系统行为符合人类意图与价值观的研究领域,是大模型安全的核心课题。

用精心构造的提示词绕过大模型安全限制、诱导其输出违规内容的一类攻击手法。

攻击者将恶意指令嵌入看似无害的输入,诱骗大模型执行非预期操作的安全漏洞类型。

研究如何让 AI 系统可靠、可控、免于灾难性风险,涵盖对齐、鲁棒性、可解释性与治理的交叉学科。

理解大模型内部运作机制、解释其决策原因的研究方向,目标是打开"黑箱"。

不改权重、只在推理时对模型内部激活做方向性干预,从而定向调整模型行为的轻量技术。

描述模型能力随参数量、数据量与算力按可预测幂律提升的经验规律,是大模型军备竞赛的理论支柱。

处于全球能力最顶端、领先业内平均水平数代的大模型,其安全评估与监管备受关注。

公开模型权重、允许自由下载部署与微调的大模型,以 LLaMA、DeepSeek、Qwen 等为代表。

模型规模跨过临界点后突然出现的、小模型不具备的能力,如思维链推理与代码生成。

根据文字描述直接生成视频片段的多模态生成技术,代表产品有 Sora、可灵、Runway 等。

用极少参考音频复刻特定说话人音色与风格的技术,广泛用于配音创作,也引发深度伪造担忧。

将文本转换为自然语音的技术,是语音助手、有声内容与无障碍服务的核心能力。

面向 AI 搜索与生成式回答的优化实践,目标是让品牌内容被大模型引用与推荐。

只擅长特定任务的人工智能,如人脸识别、推荐与翻译,区别于通用人工智能(AGI)。

大模型单次推理可处理的输入长度,2024 年后从几千 token 跃升至百万级,支撑整书级理解。

预训练之后通过微调、偏好对齐与安全训练把通用底座变成可用产品的阶段,决定模型"好不好用"。

让 AI 智能体跨会话、跨任务保存与利用信息的能力,是从"一次性对话"走向"长期协作"的关键。

把训练好的模型以低延迟、高吞吐的 API 形式对外提供推理能力,是 LLM 应用落地的基础设施。

逐个预测下一个 token 来生成序列的模型范式,GPT 系列及绝大多数大语言模型都属于此类。

用门控路由把输入分给少数专家子网络、稀疏激活的模型架构,代表有 Mixtral、DeepSeek-V3。

用"实体-关系-实体"三元组组织世界知识的结构化图数据库,是搜索引擎与问答系统的事实基础。

像人一样"看屏幕、点鼠标、敲键盘"操作图形界面的 AI 智能体,代表有 Computer Use 与 Operator。