什麽是 MCP？运作方式为何？ 大型语言模型 (LLM) 功能强大，但有两项主要限制：既有知识停留在训练当下的时间点 ，而且缺乏与外界互动的能力。这表示此模型无法存取即时资料，也无法执行预约会议或 更新客户记录等动作。 Model Context Protocol (MCP) 是一项开放标准，旨在解决这个问题。MCP 由 Anthropi c 於 2024 年 11 月推出，为 LLM 提供安全且标准化的「语言」，方便与外部资料、应 用程式和服务沟通。它就像一座桥梁，让 AI 不再只能使用静态知识，而是能成为动态代 理，撷取最新资讯并采取行动，进而提高准确度、实用性和自动化程度。 了解 Model Context Protocol MCP 可在 AI 应用程式间建立标准化的双向连线，让大型语言模型能轻松连结各种资料来 源和工具。MCP 以现有概念 (例如工具使用和函式呼叫) 为基础，并将这些概念标准化。 如此一来，每当新增 AI 模型或外部系统时，就不需要另外建立自订连线。这项技术可让 LLM 使用目前的真实世界资料、执行动作，以及存取原始训练中未包含的特殊功能。 MCP 架构与元件 Model Context Protocol 具有明确的结构，各元件可互相搭配，协助 LLM 和外部系统轻 松互动。 MCP 主机 LLM 会包含在 MCP 主机中，而 MCP 主机通常是 AI 应用程式或环境，例如 AI 辅助 IDE 或对话式 AI。这通常是使用者的互动点，MCP 主机在这里使用 LLM 处理可能需要外部 资料或工具的要求。 MCP 用户端 MCP 用户端位於 MCP 主机内，可协助 LLM 和 MCP 伺服器之间的通讯。它会将 LLM 的要 求转换成 MCP 可理解的内容，并将 MCP 的回覆转换成 LLM 可理解的内容。此外，还会 寻找并使用可用的 MCP 伺服器。 MCP 伺服器 MCP 伺服器是外部服务，可为 LLM 提供脉络、资料或功能。这项技术可连结资料库和 We b 服务等外部系统，将系统回覆转换成 LLM 可理解的格式，协助开发人员提供多元功能 。 传输层 传输层使用 JSON-RPC 2.0 讯息在用户端和伺服器之间通讯，主要透过两种传输方法： 标准输入内容/输出内容 (stdio)：适合用於本机资源，可快速同步传输讯息 伺服器推送事件 (SSE)：适合远端资源，可有效率地即时串流资料 MCP 如何运作？ Model Context Protocol 的核心功能是让 LLM 向外部工具请求协助，以回答查询或完成 工作。假设您向 AI 助理下达指令：「在资料库中找出最新的销售报表，然後透过电子邮 件传送给我的主管。」 以下简要说明 MCP 会如何处理这类情况： 要求和工具探索：LLM 了解自己无法存取资料库或自行传送电子邮件。它使用 MCP 用户 端搜寻可用的工具，并找到两个在 MCP 伺服器上注册的相关工具：database_query 和 e mail_sender。 工具叫用：LLM 会生成结构化要求，以使用这些工具。首先，它会呼叫 database_query 工具，并指定报表名称。接着，MCP 用户端会将这项要求传送至适当的 MCP 伺服器。 外部动作和资料传回：MCP 伺服器收到要求後，会将要求转换为安全的 SQL 查询，并传 送至公司资料库，然後撷取销售报表。接着将资料格式化，再传回 LLM。 第二个动作和回覆生成：取得报表资料後，LLM 会呼叫 email_sender 工具，此工具会提 供主管的电子邮件地址和报表内容。传送电子邮件後，MCP 伺服器会确认动作已完成。 最终确认：LLM 提供最终回覆给您：「我已找到最新的销售报表，并透过电子邮件传送给 您的主管。」 MCP 与 RAG 的比较 Model Context Protocol (MCP) 和检索增强生成 (RAG) 都能透过外部资讯强化 LLM，但 两者做法不同，用途也各异。RAG 会撷取并使用资讯来生成文字，而 MCP 则是涵盖互动 与执行能力的更广泛系统。 功能 Model Context Protocol (MCP) 检索增强生成 (RAG) 主要目标 将双向通讯标准化，让 LLM 能存取外部工具、资料来源和服务，并与这些资源互动，在 检索资讯的同时执行动作。 在生成回覆前，从可靠的知识库撷取相关资讯，提升 LLM 回覆品质。 机制 为 LLM 应用程式定义标准化通讯协定，以便叫用外部函式或向专用伺服器要求结构化资 料，进而执行动作及整合动态背景资讯。 包含资讯检索元件，可根据使用者的查询，从知识库或资料来源提取资讯。接着，撷取的 资讯会增强 LLM 的提示词。 输出类型 让 LLM 生成工具的结构化呼叫、接收结果，然後根据这些结果和动作生成人类可读的文 字。也可能涵盖即时资料和函式。 LLM 会根据训练资料生成回覆，并可由外部文件中与查询相关的文字增强。通常着重於事 实准确率。 互动 专为在外部系统主动互动和执行工作而设计，为大型语言模型提供「文法」，以便「使用 」外部功能。 主要用於被动撷取资讯，为文字生成提供参考，通常不会在外部系统中执行动作。 标准化 这项开放标准规范 AI 应用程式为 LLM 提供背景资讯的方式，可将整合作业标准化，进 少自订 API 的需要。 这是用於改进 LLM 的技术或架构，而非支援各供应商服务或系统工具互动的统一通讯协 定。 用途 使用 AI 代理执行工作 (例如预订机票、更新 CRM、执行程式码)、撷取即时资料、进阶 整合。 建立问答系统、开发聊天机器人来提供最新事实资讯、制作文件摘要、减少生成文字时的 幻觉。 使用 MCP 的好处 Model Context Protocol 在开发及部署 AI 辅助应用程式方面，具备多项潜在优势，可 让 LLM 更灵活可靠且功能更强大。 减少幻觉 LLM 本身会根据训练资料预测答案，而非即时资讯，因此有时会编造事实，或生成看似合 理，但其实有误的资讯 (产生幻觉)。MCP 可让 LLM 确实存取可靠的外部资料来源，进而 减少这类问题，提供更真实的回覆。 提升 AI 实用性与自动化程度 MCP 可让 AI 独立执行更多工作。一般来说，LLM 的知识仅来自训练资料，但这些资料很 快就会过时。不过只要有了 MCP，LLM 就能连至许多现成工具和整合项目，例如商业软体 、内容存放区和开发环境。这样一来，AI 可以处理更复杂的工作，甚至与现实世界互动 ，例如更新 CRM 的客户资讯、在网路上查询时事，或执行特殊计算。直接连结这些外部 工具後，LLM 不再只是聊天程式，而是能独立运作的智慧型代理程式，可将更多工作自动 化。 AI 连结更轻松 在 MCP 推出前，将 LLM 连至各种外部资料来源和工具并不容易，通常必须采用特殊连线 或各供应商专属的方法。这导致系统杂乱无章，通常称为「N x M」问题，因为每新增一 个模型或工具，需要的自订连线数量就会迅速增加。MCP 提供通用的开放标准，来简化这 些连线作业，就像 USB-C 连接埠让装置连线更方便。这种简化的做法不仅降低开发成本 、让组织更快建构 AI 应用程式，还能打造连结更紧密的 AI 环境。此外，开发人员也能 轻松切换不同供应商的 LLM 及新增工具，而不必进行重大变更。 MCP 和安全性 Model Context Protocol 可将 LLM 连至外部系统，来提升 LLM 的能力，但同时也会引 起重大安全疑虑。由於 MCP 可存取任何资料，甚至可能透过连结的工具执行程式码，为 MCP 导入完善保护措施至关重要。 MCP 的重要安全原则包括： 使用者同意与控管：必须让使用者清楚了解 LLM 透过 MCP 执行的动作和存取的资料，并 取得使用者同意。此外，最好是透过简单易用的授权画面，让使用者能控管要提供的资料 和采取的行动。 资料隐私权：主机必须先取得使用者的明确许可，才能向 MCP 伺服器提供使用者资料。 应透过适当的存取控管机制保护敏感资料，以免资料不慎外泄或外传。特别注意的是，由 於 LLM 会处理大量资料，务必采取加密技术和严格的存取控管规则。 工具安全性：透过 MCP 连结的工具可用来执行程式码，因此开发人员不应轻易相信工具 说明，除非这些工具来自可靠的伺服器。此外，使用者应先了解工具的功能，再授予权限 ，允许工具运作。 安全处理输出内容：如果 LLM 透过 MCP 互动输出的内容会向使用者显示，就必须谨慎加 以处理，以免发生安全问题，例如跨网站指令码攻击 (XSS) 或其他网页应用程式攻击。 此外，必须妥善清理输入内容并筛选输出内容，且避免在提示中加入敏感资料。 供应链安全：组织必须确保 MCP 伺服器及其连结的外部工具足够可靠，也必须确保 LLM 供应链的所有环节都安全无虞，避免出现偏误结果、安全性漏洞或故障。 监控与稽核：定期检查 LLM 活动以及与 MCP 伺服器的互动情形，有助於找出异常行为或 潜在滥用问题。建立完善的记录和稽核系统，来追踪资料移动和工具使用情形，可及时应 对安全事件。 遵循以上原则，开发人员就能充分运用 MCP 的强大功能，同时防范潜在风险。 建构及部署采用 MCP 的应用程式 要导入 Model Context Protocol，需要采用稳固的基础架构，来托管 LLM、MCP 伺服器 和基础资料来源。云端平台提供可扩充的安全元件，是建构完整解决方案的理想选择。以 下是几种做法： 托管及扩充 MCP 伺服器 MCP 伺服器是连结外部工具的桥梁。您可以视需求选择： 无伺服器环境 (例如 Cloud Run)：无伺服器平台适合简单的无状态工具，会根据需求自 动调度伺服器资源，甚至将资源调度率降至零，让您只需按实际用量付费。如果想以高效 率部署个别工具，这类平台是理想的选择。 容器自动化调度管理 (例如 Google Kubernetes Engine (GKE))：代管 Kubernetes 环境 提供强大功能和灵活性，可用来执行整个企业的精密 MCP 基础架构，适合必须精细控管 网路和资源的复杂有状态应用程式。 将 MCP 连结至资料和工具 MCP 的价值主要来自其存取的工具。您可以将 LLM 连至： 代管资料库 (例如 Cloud SQL 或 Spanner)：让 AI 安全地查询关联式资料库，取得客户 资讯、库存或营运资料等等 资料仓储 (例如 BigQuery)：LLM 可运用资料仓储分析庞大的资料集，并根据使用者的查 询，深入了解相关背景资讯 运用 Gemini Enterprise Agent Platform 自动调度管理端对端 AI 工作流程 整合式 AI 平台是串联所有环节的关键。Agent Platform 可协助您管理 MCP 应用程式的 整个生命周期： 托管 LLM：部署及管理 Gemini 等功能强大的基础模型，做为应用程式的「大脑」。 代理和自动化调度管理框架：建构 AI 代理需要复杂的工作流程。Agent Platform 提供 多种工具，可简化 LLM 与来自 MCP 伺服器的背景资讯流动，方便开发人员建构能推论和 行动的精密代理程式。 根据需求选择合适的 MCP 伺服器 Model Context Protocol 相当弹性，开发人员可透过各种方式部署伺服器，满足不同用 途的需求。伺服器设定的选择取决於效能需求、安全性规定、扩充性和作业复杂度等因素 。 远端伺服器与本机伺服器 MCP 伺服器可部署在 AI 应用程式的本机，或远端部署在其他机器或云端服务。 本机伺服器：最适合需要高速和低延迟的工作，例如从本机整合开发环境 (IDE) 或私人 档案系统提供背景资讯。这类伺服器使用标准输入/输出内容 (stdio) 等快速传输方法， 且由於不必透过网路传送机密资料，因此安全性更高。非常适合离线应用程式或处理机密 资讯。 远端伺服器：提供更高的弹性和扩充性，让 LLM 连线至公用网路 API (例如天气资料或 股价) 或共用型企业服务。远端伺服器可透过伺服器传送事件 (SSE) 等传输方法，即时 串流资料，并供多个 AI 应用程式存取，非常适合用来建构可扩充的共用工具。 比较代管伺服器与自行托管伺服器 除了选择位置，您还可以决定由谁管理底层基础架构。 代管伺服器：代管伺服器可透过无伺服器平台 (如 Cloud Run) 或容器自动化调度管理服 务 (如 Google Kubernetes Engine)，简化基础架构的复杂性。这些服务提供自动调整资 源配置、高可用性和内建安全防护机制，让开发人员专注於建构工具功能，不必处理伺服 器维护与正常运作等管理工作。这是建构企业级可扩充应用程式的建议做法。 自行托管的伺服器：这种做法可让您充分掌控部署环境。您可以在自己的地端部署硬体或 云端自订虚拟机器上，执行 MCP 伺服器。如果机构有非常具体的安全性、法规遵循或旧 版系统整合需求，且代管环境可能无法满足，这时就适合采用这个选项。 开放原始码在 MCP 中的角色 MCP 是开放标准，可促进开放原始码实作项目生态系统的蓬勃发展。开发人员可以找到各 种程式设计语言的预先建构 MCP 伺服器框架和程式库，大幅加快开发速度。采用开放原 始码 MCP 元件，可促进不同 AI 模型和服务之间的互通性、避免受制於特定供应商，并 让贵机构受益於社群创新和支援。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 223.136.64.85 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI/M.1791209034.A.C8A.html