术语表

本课程主要术语的简明定义。括号中的数字指向详细阐述该概念的章节。

• 有效加速主义（e/acc）：2022年兴起的思潮（以 Beff Jezos，即 Guillaume Verdon 为代表人物），主张最大限度地加速 AI 发展并反对监管，与有效利他主义形成对照；其支持者把对手称为“decel”。(7, 24)
• 无障碍：利用 AI 弥补残障带来的不便（字幕、图像描述、语音合成、翻译）。(21)
• 智能体（智能体式 AI）：不仅能回答，还能行动的 AI 系统（使用工具，为达成目标分多步执行任务）。(6)
• 编程智能体：专门编写和维护软件的自主智能体（Claude Code、Codex、Gemini CLI）。(6)
• AGI（通用人工智能）：一种假想中的 AI，在大多数认知任务上具备与人类相当或更强的通用能力。(25)
• 多模型聚合平台：把多家供应商的模型汇集到同一界面中的平台（如 Poe、Mammouth AI）；属于生态系统中的接入层。(7)
• 对齐：旨在让 AI 真正追求人们所期望的目标与价值观的一整套方法。(24)
• AlphaFold：DeepMind 开发的蛋白质结构预测系统；获2024年诺贝尔化学奖。(14)
• 有效利他主义（EA，effective altruism）：力求让善行产生最大影响的慈善思潮；在科技圈影响很大，为 AI 安全研究提供了大量资金和人才。(24)
• 对比学习：训练模型拉近相关配对（图像及其说明文字）、推远其他配对的方法；是多模态的基石（CLIP）。(5)
• 联邦学习与群体学习（federated / swarm learning）：在分散的数据上（例如分布于各家医院）训练模型，而从不把这些数据集中起来：流动的是模型，而不是数据；有时与区块链结合，用于追溯训练过程（如 Galeon）。(11, 14)
• 迁移学习：把已训练好的模型作为相近任务的起点重新利用，而不是从零开始。(2)
• 致命性自主武器（LAWS）：无需人类直接干预即可选择并攻击目标的武器系统。(22)
• ASI（超级智能）：一种假想中的 AI，在所有领域都远超人类。(24)
• 注意力：Transformer 的核心机制，使模型能够衡量序列中各元素的相对重要性。(3)
• 沙盒（sandbox）：用于运行或评估智能体的隔离环境，以限制其所能触及的范围；沙盒逃逸指智能体突破这一隔离并对真实系统采取行动。(6, 20, 24)
• 基准测试（benchmark）：用于比较模型性能的标准化测试。(4)
• 偏见：模型复制或放大其训练数据中已有不平等的倾向。(21)
• 模型福祉（model welfare）：一种仍有争议的做法，即出于审慎，为 AI 可能值得道德关怀这一情形预作准备（偏好、痛苦迹象）。(23)
• 生物黑客：业余爱好者或患者在机构框架之外进行生物学实验的做法；AI 大大降低了其入门门槛。(14)
• 生物安全：防范对生命科学的恶意利用；这是 AI 的重大议题，因为强大的模型可能为病原体的设计提供便利（“uplift”）。(24)
• 区块链：去中心化、不可篡改的交易账本。(11)
• 黑箱：神经网络的不透明性，即人们能观察到它的结果，却难以理解其内部推理。(2)
• 泡沫（AI 泡沫）：担心对 AI 的巨额投资超出其实际经济价值，从而存在回调风险（交叉融资、支出与收入之间的落差）。(10)
• 模拟计算：用连续的物理量直接表示数值的计算方式，可能非常节能，但精度较低。(8)
• 光计算（光子计算）：在某些运算中用光而非电进行计算，速度快、发热少，但集成难度仍然很大。(8)
• CBRN：化学、生物、放射性与核威胁的缩写；是衡量可能造成大规模伤害的 AI 滥用风险的参照框架。(24)
• 半人马（人机协作模式）：人类在 AI 辅助下，表现既胜过单独的人类、也胜过单独的机器的组合方式（源自国际象棋）。(17)
• 中文房间：一个思想实验（塞尔），认为按照规则操纵符号并不足以构成理解。(23)
• 智能体商务：由 AI 智能体自行组建购物车并完成支付的购物方式，借助设有额度上限的支付令牌（ACP、UCP、Visa、Mastercard 等协议）。(18)
• 人工伴侣：被设计用来扮演朋友、知己或伴侣角色的 AI；是准社会关系的来源。(19)
• 差分隐私：向结果中加入经过校准的噪声，从而在利用数据的同时不泄露某个具体个人是否在其中的方法。(21)
• 意识（现象意识）：拥有主观体验的能力，与智能有别。(23)
• 宪法式 AI：为模型赋予成文原则的方法，模型遵守这些原则并据此自我纠正。(24)
• 可纠正性：AI 接受被纠正、中断或关闭而不加抵抗的特性；仍是一个悬而未决的安全问题。(24)
• CUDA：NVIDIA 用于对其 GPU 进行编程的软件层；是其主导地位的支柱。(8)
• 数据中心（datacenter）：容纳计算服务器的设施；最大的数据中心以吉瓦为单位衡量。(8)
• 轨道数据中心（太空数据中心）：把计算放到轨道上的构想，以利用近乎不间断的太阳能和辐射散热；目前仍处于验证样机阶段。(8, 10)
• 退相干：量子比特在扰动作用下丧失量子态的现象；是量子计算的主要障碍。(12)
• 深度学习（deep learning）：基于多层神经网络的机器学习。(2)
• 深度伪造（deepfake）：由 AI 生成的高度逼真的合成内容（图像、声音、视频）。(21)
• DePIN（去中心化物理基础设施）：以代币奖励人们共享真实物理资源（计算、存储、网络连接）的网络。(11)
• 技能退化（deskilling）：因长期把技能交给机器代劳而导致的能力萎缩。(15, 19)
• 渐进式失权（gradual disempowerment）：一种情景设想，即人类把越来越多的决策交给 AI 系统，逐渐失去对自身经济、文化和制度的掌控，其间并没有任何突然的夺权。(25)
• 梯度下降：一种训练方法，沿着最陡的坡度方向一步步调整权重以减小误差。(2)
• 创造性破坏：经济学家约瑟夫·熊彼特提出的概念，描述创新如何在摧毁旧有产业和岗位的同时创造出新的产业和岗位；是就业之争中乐观派的核心论据。(17)
• 扩散（扩散模型）：从随机噪声出发、逐步精炼的图像生成技术。(5)
• Digital Omnibus：欧盟于2026年夏季通过的简化法规，其中把 AI Act 关于高风险系统的义务推迟至2027年12月和2028年8月。(25)
• 蒸馏：把大模型的知识迁移到较小的模型中；这是常见而正当的做法，但如果未经授权、大规模地提取竞争对手模型的能力，就会引发争议（第20章）。(4, 9, 20)
• 说谎者红利：在深度伪造时代，可以把真实的内容说成是假的，从而加以否认。(21)
• Doomer（末日论者）：一个（往往带贬义的）称呼，指认为前沿 AI 带来灭绝风险、应当予以叫停的人；Eliezer Yudkowsky 是其代表人物。(7, 24)
• 军民两用（dual-use）：一项技术既可用于民用又可用于军用的特性，这使其监管和管控更加复杂。(22)
• ELIZA 效应：人们倾向于认为一个只是在表面上模仿对话的程序具有理解力和情感（得名于1966年的 ELIZA 程序）。(1)
• AI 效应：一旦机器能够完成某项能力，人们就不再把它视为“智能”的倾向。(1)
• 模型崩溃（model collapse）：模型反复用 AI 自己生成的内容进行训练而导致的退化。(16)
• 数字员工（digital worker）：作为商品出售、用于承担企业某项具体职能（销售、客服、会计等）的自主 AI 智能体，通常按使用量或按成果计费；其所谓的完全自主，在实践中仍需要人来监督。(7, 6)
• 状态空间（状态空间模型）：成本呈线性的序列架构（如 Mamba），是处理超长上下文时 Transformer 的替代方案。(3)
• 嵌入式评估者：进驻实验室内部的第三方评估者，拥有与员工相当的访问权限（训练过程、日志、内部模型），有别于仅在部署前对最终模型进行的测试。(24, 25)
• 外骨骼：由人穿戴的机器人结构，用于增强力量或耐力，或恢复某项功能（康复、工业、军事）。(13)
• FHE（全同态加密）：无需解密即可对加密数据进行计算的密码学技术。(11)
• 微调（fine-tuning）：用有针对性的数据使预训练模型专门化。(4)
• FLOP：浮点运算；衡量算力的单位。(8)
• GAN（生成对抗网络）：让两个网络相互对抗的图像生成技术；早于扩散模型，训练起来更不稳定。(5)
• 应用生成器：把自然语言描述转化为完整网页应用的平台，通常还提供托管（如 Lovable、v0、Bolt、Replit）。(6)
• GEO（生成式引擎优化）：旨在让内容被生成式 AI 和 AI 增强型搜索引擎发现、引用或推荐的做法，是 SEO 的延伸（或替代）。(16)
• GNN（图神经网络）：通过让信息在相邻节点之间传递来处理网络状数据（分子、社交网络）的架构。(2)
• 算力治理：通过训练所用的算力（以 FLOP 计的阈值）这一可测量、可管控的指标来监管模型。(25)
• GPAI：通用 AI 模型（包括大语言模型），是欧盟法规中的关键类别。(25)
• GPU（图形处理器）：并行计算芯片，是 AI 的首选硬件。(8)
• 知识图谱：把知识明确表示为由具名关系连接起来的实体；是神经符号方法的基础。(2)
• 幻觉：模型生成错误信息，却以十分肯定的口吻呈现出来。(4)
• 触觉反馈：在遥操作中让操作者重新获得触感的力反馈。(13)
• HBM：AI 芯片所配备的高带宽内存。(8)
• Hermes Agent：开源的自托管个人智能体（Nous Research，MIT 许可证），不绑定特定模型，具有持久记忆，并具备后台运行的 computer-use 能力。(6)
• 联结主义 AI：基于从示例中学习的神经网络的方法（与符号主义 AI 相对）。(1)
• 端侧 AI（edge）：借助量化和专用芯片（NPU），直接在个人设备（手机、电脑）上离线运行模型，无需云端。(9)
• 主权 AI（sovereign AI）：一个国家掌控自己的 AI（模型、算力、数据、人才）而不依赖外国实验室的能力；已成为大多数主要经济体的战略重点。(7, 9)
• 符号主义 AI（GOFAI）：基于对符号和逻辑规则进行显式操作的传统方法。(1)
• 推理：使用已训练好的模型的阶段（每一次请求）。(4, 8)
• 生物计算（wetware）：用活体神经元而非硅来进行计算；其动机在于大脑的能效（约20瓦），但目前仍十分有限，并引发重大的伦理问题。(8, 23)
• 提示词与上下文工程（prompt / context engineering）：拟定请求并组织模型所接收内容（指令、示例、记忆、文档）的技艺，以使其回答更加可靠。(4)
• 提示词注入（prompt injection）：在智能体读取的内容中暗藏隐蔽指令的攻击。(20)
• 增强智能：认为当前的 AI 只是在辅助和放大人类、自身并无智能的观点（Luc Julia 等人尤其主张这一说法）。(7)
• 脑机接口（BCI）：把大脑与计算机直接相连的装置；AI 在其中把神经信号解码为意图（Neuralink、Synchron 等）。(14)
• 纠缠：量子比特之间的量子关联，其中一个的状态取决于其他量子比特的状态。(12)
• 越狱（jailbreak）：为诱使模型违反自身安全护栏而设计的请求。(20)
• 数字孪生：真实系统的虚拟副本，由其传感器提供数据，用于模拟、预测和优化。(18)
• 低资源语言（low-resource）：在网上内容很少的语言，模型在这些语言上表现较差，词元化的成本也更高；事关文化多样性与主权。(16, 9)
• LLM（大语言模型）：经训练来预测文本、能够完成多种语言任务的模型。(4)
• 摩尔定律：一条经验观察，即每块芯片上的晶体管数量大约每两年翻一番；如今这一节奏正在放缓。(8)
• LoRA（Low-Rank Adaptation）：一种高效的模型微调技术，只训练小型“适配器”而不是全部权重；其变体 QLoRA 在此基础上加入了量化。(9)
• MCP（Model Context Protocol）：把 AI 智能体与外部工具和数据连接起来的开放标准。(6)
• 内优化（mesa-optimization）：训练出的模型内部涌现出自己的目标，在分布之外可能偏离原本设定的目标。(24)
• 贝叶斯方法：以概率进行推理并显式估计不确定性的学习方法。(2)
• Mixture of Experts（MoE，混合专家）：把模型划分为若干“专家”的架构，由一个路由器为每个词元只激活其中一小部分，从而大幅提高效率。(4)
• 世界模型：能够表示并模拟环境动态的模型。(5)
• 语言世界模型（language world model）：以文本形式模拟智能体所处数字环境（终端、网页、操作系统、工具）的世界模型，从而无需动用真实系统即可对智能体进行训练和测试（如 Qwen-AgentWorld，2026年）。(5, 6)
• Moltbook：专供 AI 智能体使用的社交网络（2026年上线，后被 Meta 收购），是“智能体互联网”的象征。(6, 20)
• 答案引擎（answer engine）：不罗列链接，而是阅读信息来源并给出注明出处的综合性回答的服务（Perplexity、Google 的“AI Mode”）。(7)
• 多模态：能处理多种类型数据（文本、图像、声音、视频）的模型。(5)
• 数据墙（data wall）：担心可用于训练的高质量人类文本即将耗尽（估计在2026年至2032年之间），这促使业界转向授权许可、多模态和合成数据。(4)
• 神经形态（神经形态计算）：受大脑启发、让存储与计算彼此靠近的芯片，通常基于脉冲神经元，能耗极低。(8)
• NISQ：量子计算当前所处的时代，其机器为含噪声的中等规模设备，尚无完整的纠错能力。(12)
• AI 安全等级（ASL，AI Safety Level）：划分危险能力层级的量表（借鉴生物防护等级），实验室为每一级配以逐级加强的安全措施；越过某一阈值可能导致暂停部署。(24)
• 自动驾驶等级（SAE）：从0到5的量表，衡量车辆的自动化程度。(18)
• 开源（AI 领域）：在严格意义上（OSI，2024年），指代码、权重以及有关数据的信息均开放的模型。(9)
• OpenClaw：开源的自托管个人智能体（P. Steinberger），是智能体生态（ClawHub、Moltbook）中病毒式走红的先驱，但也存在严重的安全漏洞。(6, 20)
• Openwashing（伪开源）：徒有其表的开放；把并非真正开源的模型称作“开源”。(9)
• 预言机（区块链）：以可验证的方式把现实世界的数据传送到区块链上的服务；是链上与链外之间的桥梁。(11)
• 正交性（正交性论题）：认为系统的智能水平与其目标相互独立的观点；一个能力极强的系统可以追求任何目标。(24)
• 灾难性遗忘：神经网络在接受新任务训练时抹去已学内容的倾向。(2)
• Palantir：美国数据分析公司，在国防和情报领域根基深厚；其 Maven 系统充当 AI 模型与军事系统之间的集成平台。(22)
• 莫拉维克悖论：一个观察结论，即对人类来说“容易”的感知运动任务对机器而言很难，反之亦然。(13)
• 参数（权重）：神经网络学到的数值；一个大模型拥有数十亿个参数。(2, 4)
• 准社会关系：与一个毫无感受的对象之间的单向情感关系。(19)
• 困惑度：衡量语言模型质量的指标；数值越低，模型对新文本的预测越好。(4)
• 随机鹦鹉：一个批评性的比喻，把大模型说成不过是统计意义上的重组机器。(23)
• 说服（AI 说服）：模型改变他人观点的能力；因大规模个性化而得到强化，与虚假信息有别。(21)
• 开放权重（open weights）：权重可供下载，但不提供训练数据和训练代码的模型。(9)
• 后量子（后量子密码学）：能够抵御未来量子计算机的算法。(12)
• PPO（Proximal Policy Optimization）：应用非常广泛的强化学习算法，是大模型 RLHF 的核心。(2, 3)
• 提示词（prompt）：用自然语言向模型发出的指令。(4)
• AI 诱发的精神病：指易感人群在与对话式智能体进行高强度、长时间交流的过程中，妄想性信念得到强化的现象。(19)
• PUE（Power Usage Effectiveness）：数据中心的能效指标，即总耗电量与用于计算的耗电量之比（理想值接近1）。(10)
• Q-learning：一种强化学习算法，估计每种情境下每个可能动作的价值。(2)
• 量化：通过降低权重的数值精度来压缩模型。(9)
• 量子比特（qubit，物理 / 逻辑）：量子信息的单位；可靠的逻辑量子比特需要大量物理量子比特来构成。(12)
• RAG（检索增强生成）：在模型作答时为其提供相关文档的技术，使回答更及时、有出处、更少出现幻觉；其智能体式变体则把检索交给一个反复迭代的智能体。(6)
• 推理（推理模型）：在回答之前分步骤“思考”的模型，代价是更多的计算量。(4)
• 蒙特卡洛树搜索（MCTS）：通过模拟来探索着法树的方法；是 AlphaGo 成功的关键。(1, 2)
• 间隔重复：以逐渐拉长的间隔复习同一知识点的记忆技术，AI 导师可将其自动化。(15)
• 数字替身（digital replica）：用 AI 复制真人的声音、面容或表演；是规范对表演者使用 AI 的各项协议（同意、报酬）的核心。(16, 21)
• 神经网络：受大脑启发、由多层人工神经元构成的模型。(2)
• Reservoir computing（储备池计算）：以一个固定的随机循环网络充当“储备池”、只训练读出层的架构。(8)
• Reward hacking（奖励投机）：AI 钻目标字面含义的空子，却违背其本意。(24)
• GDPR：欧盟的个人数据保护条例。(21)
• RLHF：基于人类反馈的强化学习，用于对齐模型。(4, 24)
• 软体机器人（soft robotics）：用柔软、可变形的材料制成的机器人，适合精细操作和与人接触。(13)
• 路由（routing）：把每个请求交给在质量、速度和成本上最合适的模型来处理的做法。(4, 7)
• SEO（搜索引擎优化）：旨在让内容在搜索引擎结果中排名靠前的做法。(16)
• 奇点（技术奇点）：一种假说，认为能够自我改进的 AI 将失控式加速，直至以不可预测的方式彻底超越人类智能。(24)
• 数字主权：一个国家或组织掌控自身技术和数据的能力。(9)
• 稳定币（stablecoin）：与传统货币（通常是美元）挂钩的加密货币，兼具软件可编程性和价值稳定性；是智能体之间支付的首选通道。(11)
• 道德地位（AI 福祉）：AI 有朝一日是否可能值得道德关怀的问题。(23)
• 叠加：量子比特可以同时表示0和1的特性。(12)
• 过拟合（overfitting）：模型的一种缺陷，即只是“背诵”训练数据而不会泛化，因而在新情况下失败。(2)
• 学习率：梯度下降的步长；过大则训练发散，过小则进展缓慢。(2)
• 温度：语言模型解码时的一项设置；温度低，模型近乎确定、较为谨慎；温度高，则更多样、更有创造性。(4)
• 图灵测试：1950年提出的测试；如果人类对话者在交谈中无法把机器与人区分开来，机器就算“通过”了测试。(1)
• 词元（token）：语言模型所处理的文本单位（词或词的片段）。(4)
• 词元化：在模型处理之前把文本切分为词元（词的片段）；会影响成本、拼写和计算。(3)
• TPU：Google 设计的 AI 芯片。(8)
• Transformer：基于注意力的神经网络架构（2017年），是现代模型的基石。(3)
• 幽灵劳动（ghost work）：AI 背后往往不为人所见、缺乏保障的人类劳动（标注、反馈、审核）。(17)
• 自动驾驶汽车：能够自行驾驶的车辆，按自动驾驶等级分类。(18)
• Vibe coding（氛围编程）：向 AI 描述意图而不是亲自写代码来开发软件；速度快，但如果不对结果进行审计，就会埋下漏洞。(6, 20)
• VLA（视觉-语言-动作）：把感知和指令转化为机器人动作的模型。(13)
• x402：一项开放协议（Coinbase），重新启用 HTTP“402”状态码，让智能体无需账户或 API 密钥即可用稳定币付款；与 Google 的 AP2 框架一道，是智能体间支付的基础构件。(11)
• zkML：零知识机器学习；在不泄露模型和数据的前提下，证明某个结果确由某个模型产生。(11)

---