本次分享阿里云云原生 + AI 的最新產(chǎn)品發(fā)布，圍繞云原生助力 AI 應用構(gòu)建、云原生可觀測 + AI、通義靈碼加速應用開發(fā)三部分探討，AI 時代下企業(yè)如何使用云原生產(chǎn)品加速全球化業(yè)務創(chuàng)新。

5 月 22 日，在最新一期阿里云「飛天發(fā)布時刻」，阿里云云原生應用平臺產(chǎn)品負責人李國強重磅揭曉面向 AI 場景的云原生產(chǎn)品體系升級，通過彈性智能的一體化架構(gòu)、開箱即用的云原生 AI 能力，為中國企業(yè)出海提供新一代技術引擎。

發(fā)布會回看：https://summit.aliyun.com/apsaramoment

今天我們將和大家分享阿里云云原生 + AI 的最新產(chǎn)品發(fā)布，圍繞云原生助力 AI 應用構(gòu)建、云原生可觀測 + AI、通義靈碼加速應用開發(fā)三部分探討，AI 時代下企業(yè)如何使用云原生產(chǎn)品加速全球化業(yè)務創(chuàng)新。

云原生助力 AI 應用構(gòu)建

過去幾年，云上應用架構(gòu)一直在持續(xù)演進。

從互聯(lián)網(wǎng)時代開始，互聯(lián)網(wǎng)分布式應用架構(gòu)成為在線業(yè)務的標準架構(gòu)，其典型技術包括分布式微服務、分布式消息隊列、分布式數(shù)據(jù)庫以及網(wǎng)關等。隨著過去幾年云產(chǎn)品逐漸向 Serverless 化演進，Serverless 應用架構(gòu)也變得越來越流行，典型場景包括 ETL 數(shù)據(jù)處理、API 服務、音視頻處理、事件驅(qū)動架構(gòu)等等。包括最新的 AI 應用，也常常選擇 Serverless 基礎設施作為運行環(huán)境。在這樣的架構(gòu)下，應用被分解成為更小的、原子化的、可復用的粒度，這些原子化的模塊可以進行聯(lián)通和編排，而且借助智能化的手段，這些原子化的能力是可以自動生成的。

過去兩年，最火的還要說是 AI 應用架構(gòu)。像智能體應用、工作流應用，以及對存量應用如何進行智能化、智能體的編排應用等，都屬于我們常見的 AI 應用。

下面我們來看一個最簡單的 AI 應用架構(gòu)大致構(gòu)成，它的中間可能是一個智能體 Agent，圍繞它的有像提示詞工程，大語言模型，短長期記憶、工具等等一系列能力。下圖嘗試去描繪一個最典型的 AI 應用架構(gòu)，以及云原生相關的產(chǎn)品在這個應用架構(gòu)中，如何幫助大家去構(gòu)建這樣一個好的 AI 應用。

上圖最中間展示的是一個 AI Agent 的構(gòu)建過程。目前市場上一般有兩種方式進行 AI 智能體的構(gòu)建：

一種是完全無代碼的流程式方式，比如使用阿里云的 CloudFlow 流程編排實現(xiàn)，或基于阿里云百煉構(gòu)建智能體工作流和編排。還有些用戶會選擇在容器服務 ACK 上部署 Dify，在 Dify 里完成一個智能體的整體構(gòu)建。

另外一種是用編碼式的方式去構(gòu)建。比如在阿里云函數(shù)計算 FC 上選擇合適 AI 的應用框架后，包括 Spring AI Alibaba，LangChain 等，用代碼去實現(xiàn)一個 Agent，并且把它運行到函數(shù)計算的算力之上。

智能體構(gòu)建完成之后，往往還需要一些外部的能力，最常見的包括模型調(diào)用和工具調(diào)用。

在模型調(diào)用方面，今天模型部署的方式和提供服務的方式多種多樣。比如在阿里云上，用戶可以把自己的大模型，比如說滿血版 DeepSeek 部署到 PAI 里面，也可以通過 API 調(diào)用的方式到百煉里獲取相應服務，或是在 FC 里快速部署一些小的模型。如果是在企業(yè)內(nèi)部，往往需要對這些不同的模型調(diào)用進行全局管理，包括流量負載、權限管理、用量管理等方面。這時就需要 AI 網(wǎng)關發(fā)揮作用。

另外一類非常重要的調(diào)用是工具調(diào)用。它就像大模型的一只手，幫助用戶獲取外面更多的知識，或是完成更多的動作。這個領域過去幾個月最受關注的就是 MCP 協(xié)議了。對于企業(yè)來說，可能需要把自身原有的能力快速變成一個 MCP Server 給到構(gòu)建的智能體，或是把服務商提供的 MCP Server 給到智能體。同樣，隨著對 MCP Server 調(diào)用量越來越大，這里往往也需要一個 MCP 的網(wǎng)關，能夠?qū)φ麄€工具鏈的調(diào)用進行統(tǒng)一管理。當整個 AI 應用構(gòu)建起來后，來到對外發(fā)布環(huán)節(jié)，在南北向流量管理上也需要一個網(wǎng)關對企業(yè)智能體的調(diào)用進行管理和保護。

當了解這樣的架構(gòu)和企業(yè)需求之后，我們分為幾部分為大家展開介紹。

FC AI 應用開發(fā)平臺 Function AI 全新發(fā)布

首先在 AI 應用開發(fā)方面，阿里云函數(shù)計算 FC 最新推出了 Function AI 能力，可以為用戶提供一個簡潔易用、彈性開放、企業(yè)特性增強的一站式的 AI 應用開發(fā)、構(gòu)建和部署平臺。

前面講到兩類 AI 應用的構(gòu)建方式，第一類是當我已經(jīng)有一個存量應用，我希望對它進行一些智能化的升級。在這個原有應用的工作流中，可能會增加一些 AI 對模型的調(diào)用。這時可能這個原有的存量業(yè)務的整個部署運行是沒有發(fā)生變化的，它更多的是需要模型服務。另外一類是基于模型去構(gòu)建一個全新的應用，這時它依賴的應用會更多。對于一些初創(chuàng)企業(yè)來說，如何快速獲得一些最流行的 AI 應用的模板以及依賴的 MCP 服務，能夠把應用快速運行起來，如何快速搭建模型服務，都會成為企業(yè)最迫切需要的一些能力。因此，在 Function AI 里，我們提供了幾個核心能力，就是去解決一些初創(chuàng)企業(yè)在初期構(gòu)建 AI 應用時，快速進行開發(fā)、構(gòu)建和部署的問題。

在開發(fā)階段，F(xiàn)unction AI 提供了一系列熱門應用模板，幫助用戶將創(chuàng)新場景快速落地。比如說 ComfyUI ，這是現(xiàn)在非常流行的一個圖片生成的開源項目。在 Function AI 里面，我們對 ComfyUI 進行了一系列增強，既保持了原生開發(fā)體驗，還提供了專屬工作空間、自定義流程模板插件等一系列能力。同時，借助函數(shù)計算底層的 Serverless 彈性算力，也可以讓整個 ComfyUI 使用的成本能夠做到更低。對于應用所依賴的模型服務，F(xiàn)unction AI 也提供了非常便捷的部署方式。我們和魔搭社區(qū)進行了打通，用戶在魔搭社區(qū)中選擇模型之后，可以一鍵部署到 Function AI 中，并且借助 FC 底層的 GPU 彈性算力，可以使用戶在初期 AI 應用開發(fā)時以彈性的方式使用 GPU 資源，部署更簡單，成本更優(yōu)。

前面提到的 MCP 也是一樣。大家都知道，應用構(gòu)建起來需要調(diào)用一些外部的服務。在 Function AI 中也提供了 MCP 市場，讓用戶既可以去開發(fā)自己的 MCP Server，也可以 Host 其他的 MCP Server，然后為整個 AI 應用構(gòu)建豐富各種各樣的能力。

可以看到，借助 Function AI 這樣一個開發(fā)平臺，及其提供的各種組件和底層的 FC 算力，用戶可以快速落地一個 AI 應用。我們展開介紹其中最核心的幾個能力。

FC 彈性算力 GPU 極速模式全新發(fā)布

第一個就是 AI 應用中最核心的資源 GPU。今天來講，GPU 仍然是一種比較稀缺和昂貴的資源。很多企業(yè)在初創(chuàng)期上線一些新業(yè)務的時候，往往沒有很大的流量。這時候去購置一臺 GPU 服務器，利用率是不夠高的，成本也會比較浪費。阿里云 FC 針對這類用戶的痛點，全新推出了 GPU 極速模式。它可以用快照的方式實現(xiàn)秒級甚至毫秒級的整個推理服務啟動，從而能夠讓用戶只有在請求存在的時候，才為 GPU 付費。一旦請求到低峰期或消失，即可快速釋放 GPU 資源，大大降低用戶成本。

如圖所示，以 Qwen-14B 舉例，一個標準模式下的模型啟動可能需要 20 多秒。在這樣的一個響應之下，用戶往往是需要常駐的。但是借助秒級快照能力，一個 Qwen-14B 模型的拉起速度可以降低到只有 1.3 秒，這時在使用模型時就能夠?qū)崿F(xiàn)彈性、降低成本、按需使用的要求。在一些極致場景下，我們還可以提供毫秒級的快照。在這個模式下，模型啟動速度可以達到毫秒級別，可以滿足所有延遲敏感類業(yè)務的訴求。

這個場景下，我們還結(jié)合了 Serverless 的免運維體驗。因為對于很多企業(yè)來說，之前可能沒有模型部署和管理的經(jīng)驗，甚至從來沒有運維過 GPU 服務器。函數(shù)計算的 Serverless 體驗，可以讓業(yè)務人員直接快速將一個熱門的 AI 應用拉起后使用，實現(xiàn)自己的業(yè)務目標，而不需要去關心環(huán)境使用、容量管理、資源是否有浪費等等一系列運維的事情，幫助用戶真正實現(xiàn) AI 應用的快速落地和上線。

FC MCP Server 開發(fā)與托管

MCP 市場也是一樣。今天，函數(shù)計算不僅自己提供 MCP 市場，還是阿里云百煉平臺和魔搭社區(qū) MCP Server 的 Hoster。以百煉平臺為例，一方面提供 MCP Server 的托管服務，同時也支持用戶在函數(shù)計算中開發(fā)一個 MCP Server，并且把它一鍵發(fā)布到百煉中，供百煉的應用使用。

具體到函數(shù)計算來看，有幾個重要的特征。首先，今天的 MCP Server 一個普遍的特點是，非常多的 MCP Server 采用的是本地運行的 STDIO 模式，函數(shù)計算提供了一鍵將 STDIO 模式改造成 SSE 模式的架構(gòu)，更加符合企業(yè) Client 端和 Server 端分開部署的訴求。同時，今天函數(shù)計算中的 MCP 市場，也為阿里云云產(chǎn)品提供官方 MCP 托管，目前已支持 OSS、RDS、PolarDB、Hologres 等一系列熱門云產(chǎn)品的 MCP 服務，幫助用戶一鍵獲取需要的阿里云上云產(chǎn)品 MCP Server。借助 FC 積累已久的企業(yè)級特性，MCP 這個新事物在一開始就可以具備很多企業(yè)的能力，包括快速的彈性能力、伸縮能力、降低成本等等。

AI 網(wǎng)關全新發(fā)布

第二部分我想和大家分享的是 AI 網(wǎng)關。前面講到，當一個 AI 應用構(gòu)建完成之后，實際上是需要做很多外部調(diào)用的，最典型的就是模型調(diào)用。然而今天，模型調(diào)用在 SLA、響應時間等方面的表現(xiàn)參差不齊，所以很多用戶會選擇不同的模型供應商，這時對大模型調(diào)用的負載均衡、異常處理等，需要能夠有一個集中式的位置去進行處理。為了解決這些問題，AI 網(wǎng)關就成為了企業(yè)級大規(guī)模使用模型調(diào)用的不二之選。

此外，如何快速把企業(yè)已有資產(chǎn)一鍵轉(zhuǎn)化成 MCP 協(xié)議，也是今天在 AI 網(wǎng)關里非常受到用戶歡迎的一個功能，它可以大大加速用戶智能體應用和存量系統(tǒng)對接的速度。

再有，當一個企業(yè)內(nèi)部的 MCP Server 比較多的時候，如何進行集中式的管理也成為了一個常見的訴求。在 AI 網(wǎng)關這種集中式的架構(gòu)之下，它可以作為大模型和工具的統(tǒng)一出口，解決客戶在這兩個調(diào)用下的流量管理、安全、協(xié)議轉(zhuǎn)換等一系列問題，并和原有的可觀測能力、緩存能力、限流能力進行非常好的集成。同時，也可以在企業(yè)內(nèi)部做進行統(tǒng)一的管理，如不同部門對模型調(diào)用是否需要不同的使用權限、不同的使用額度，是否需要對 Token 進行一些限流等等，這些企業(yè)級能力都可以在 AI 網(wǎng)關中提供，使得 AI 網(wǎng)關成為構(gòu)建企業(yè)級 AI 應用的必備選擇。

云原生可觀測+AI

前面我們講了 AI 應用的構(gòu)建。那么構(gòu)建完成之后，如何保證 AI 應用的穩(wěn)定運行，就成為了可觀測產(chǎn)品要解決的問題。

今年早些時候，阿里云全新推出的全棧智能可觀測平臺云監(jiān)控 2.0 正式發(fā)布。過去，很多可觀測系統(tǒng)在構(gòu)建時都存在數(shù)據(jù)孤島的問題，比如日志、指標、鏈路等不同可觀測數(shù)據(jù)存儲在不同的平臺或系統(tǒng)。一旦企業(yè)需要對多種可觀測數(shù)據(jù)進行聯(lián)合分析去查找問題時，就會非常復雜。針對這樣的問題，云監(jiān)控 2.0 致力于實現(xiàn)一站式的數(shù)據(jù)接入、采集、存儲和使用體系。

為了達成這樣的目標，我們實現(xiàn)了多個統(tǒng)一。首先，是統(tǒng)一的接入。過去為了采集不同系統(tǒng)需要的數(shù)據(jù)，往往需要多種探針，這就為系統(tǒng)穩(wěn)定性帶來了風險。阿里云可觀測集成了開源 LoongCollector，通過一個探針對云服務、應用、容器等進行可觀測數(shù)據(jù)采集。相較于傳統(tǒng)開源方案，LoongCollector 在資源開銷、吞吐量方面都實現(xiàn)了大幅優(yōu)化，幫助企業(yè)通過一個采集器，就可以完成從應用到網(wǎng)關，到服務端、中間件等一系列的全棧可觀測數(shù)據(jù)采集。

第二，是統(tǒng)一的存儲。當可觀測三大核心數(shù)據(jù)，即日志、指標、鏈路，以及相應的 Event、Profiling 等數(shù)據(jù)通過統(tǒng)一的接入采集后，我們希望實現(xiàn)統(tǒng)一的存儲，以便在后續(xù)分析中，企業(yè)可以非常便捷地構(gòu)建統(tǒng)一的數(shù)據(jù)模型，實現(xiàn)數(shù)據(jù)聯(lián)動與關系關聯(lián)。而這也是阿里云可觀測體系的重要基石。

基于統(tǒng)一存儲，我們提供統(tǒng)一的界面與統(tǒng)一的分析能力，以 SPL、SQL 等標準方式對數(shù)據(jù)進行分析，并支持用 Grafana 等可視化工具去對數(shù)據(jù)進行展示。

在云監(jiān)控 2.0 提供的能力之上，企業(yè)也可以更快捷的擁有面向 AI 應用穩(wěn)定性可觀測的能力。

上圖右側(cè)為大家展示了今天 AI 應用從可觀測角度出發(fā)，有哪些組件是需要被觀測與關注的。從最下層開始的計算服務器 IaaS 層，包括靈駿、網(wǎng)絡、高速存儲等；容器層包括 GPU 資源的使用情況、負載調(diào)度能力等；再往上到 PaaS 層，包括模型推理的效率、相應的服務組件、向量數(shù)據(jù)庫、AI 網(wǎng)關是否運行正常、模型訓練的效率如何等；再往上到 MaaS 層，需要關心 AI 應用以及模型服務的效率如何。

基于云監(jiān)控 2.0，企業(yè)面向不同層級的 AI 基礎設施、服務可以構(gòu)建統(tǒng)一的可觀測采集與存儲體系，完整覆蓋整個 AI 應用，實現(xiàn)全棧的智能可觀測，進而實現(xiàn)端到端的故障定位與診斷。

舉例來說，如果一個 AI 應用發(fā)布之后有用戶反饋運行速度很慢，它的問題可能發(fā)生在任何一層。可能是 AI 應用本身有問題，可能是模型推理變慢了，可能是資源調(diào)度有問題，也可能是最底下的服務器出了問題。那如何以提出問題的調(diào)用方為切入點，迅速把整條鏈路串接起來，找到其中的問題點，就是云監(jiān)控 2.0 的 AI 應用可觀測為企業(yè)提供的能力。在這之上，由于目前模型的使用還是比較高的，所以很多用戶會關注 Token 消耗量、GPU 使用率等信息，結(jié)合上述提到的 AI 網(wǎng)關限流能力，我們?yōu)槠髽I(yè)提供一個完整的成本管理優(yōu)化方案，幫助企業(yè)看清楚不同 AI 應用使用的 Token 量、GPU 量，并進行相應干預。

此外，針對行業(yè)關注的如何評估模型效果到底如何等問題。基于可觀測的模型輸入輸出信息，我們提供了自動化評測能力，幫助企業(yè)判斷模型當前輸入輸出的效果是否符合業(yè)務預期。

除了觀測 AI 應用之外，眾多企業(yè)也在積極探索 AI 能否幫助我們進行問題診斷。今天，借助云監(jiān)控 2.0 的統(tǒng)一存儲以及模型能力的提升，我們認為 AIOps 真正落地的時間點已經(jīng)到來，打造全場景的 AIOps 能力。如下圖所示，我們把 AI 能力進行了拆解。

從最左側(cè)開始，可觀測的統(tǒng)一存儲能力使得我們有機會從各種各樣的模型和算法中，去挖掘業(yè)務所需的數(shù)據(jù)。在云監(jiān)控 2.0 中，我們沉淀了一系列可觀測領域模型和算法。比如異常檢測預測算法、日志的分析模型等等能力。在這些能力之上，我們構(gòu)建了可觀測智能體，這個智能體會嵌入到我們使用可觀測產(chǎn)品的方方面面。比如說當用戶想進行日志分析或調(diào)用鏈異常分析，或是告警治理，甚至是出現(xiàn)問題之后的根因診斷和應急手段，都可以植入這個智能體的能力。借助前面提到的算法與模型能力，以及數(shù)據(jù)的統(tǒng)一存儲，我們可以幫助企業(yè)大大提升可觀測場景下的問題診斷能力及問題發(fā)現(xiàn)的時效性。

同時，我們構(gòu)建的整個 AIOps 體系具備非常強的開放性。因為在企業(yè)內(nèi)部，除了可觀測產(chǎn)品體系采集到的數(shù)據(jù)之外，企業(yè)還擁有自己的知識庫，比如整個應用架構(gòu)、運維體系、運維工具等。通過 RAG 知識庫及 MCP 的方式，企業(yè)可以將這些內(nèi)容和阿里云構(gòu)建的 AIOps 體系進行打通，實現(xiàn)針對客戶自有的知識庫和自有工具的對接，真正實踐 AI 驅(qū)動運維與業(yè)務增長。

通義靈碼加速應用開發(fā)

第三部分是通義靈碼加速應用開發(fā)。通義靈碼是阿里云發(fā)布的基于通義大模型的智能編碼工具，以 IDE 插件的形態(tài)幫助程序員實現(xiàn)智能的代碼生成、研發(fā)智能問答、編程智能體等能力，從而提升個體開發(fā)效率，加速企業(yè)軟件交付進程。

下圖展示了通義靈碼的整體結(jié)構(gòu)，它的最下層依賴通義大模型的能力，同時與通義大模型的專項模型進行協(xié)同，如代碼補全模型和研發(fā)問答模型。在上層 IDE 側(cè)我們也構(gòu)建了一系列能力，幫助用戶借助 AI 能力快速開發(fā)。

五月，我們最新發(fā)布了通義靈碼的 2.5 版本，新增一系列強大功能，包括智能體模式、支持 MCP 工具調(diào)用和通義千問 3 模型選擇。今天，通義靈碼已經(jīng)具備了多種能力和場景的覆蓋。比如在智能問答場景下，用戶可以針對研發(fā)領域和自己的工程提出各種各樣的問題，并快速得到響應。在 Edit（文件編輯）模式下，用戶可以精準控制上下文和修改的范圍，實現(xiàn)自然語言對話方式提升研發(fā)效能。

在智能體模式下，由于智能體具有更強的自主決策和工具使用能力，用戶可以授權智能體自動獲取更多信息，包括自動的上下文感知、自動的工具調(diào)用等，真正成為開發(fā)者的伙伴。開發(fā)者交給通義靈碼的任務，經(jīng)過幾輪執(zhí)行之后就可以自動完成，編程智能體也是目前我們認為在效率提升方面最佳的模式。

此外，通義靈碼 2.5 幾乎是在第一時間就支持了通義千問 3，各項評測結(jié)果顯示，通義千問 3 在復雜任務處理、編程能力、任務準確度方面均有大幅提升。

通義靈碼還新增了全自動的記憶感知能力，大家都知道，每個人在開發(fā)代碼的過程中都有自己的開發(fā)習慣和工程特征，在開發(fā)者與通義靈碼的對話過程中，會逐漸形成針對開發(fā)者的個人、工程、問題等相關的豐富記憶，并自動進行記憶的整理、更新，甚至是遺忘。在下一次智能代碼推薦的時候，通義靈碼會把這些記憶作為上下文給到模型，真正讓用戶感受到通義靈碼是越用越懂自己的智能編碼工具。

同時，新升級的通義靈碼還集成了 MCP 廣場，與最大的 MCP 中文社區(qū)魔搭進行打通，讓開發(fā)者可以非常便捷地在 IDE 里一鍵將魔搭中的 MCP 服務部署到用戶的本地端，實現(xiàn)和工具的集成。典型的場景包括 CI/CD 的打通，支持對接 Github、Gitlab、云效，以及可以和搜索打通從而獲取最新的技術知識。MCP 廣場的接入，全面拓寬 AI 編碼助手能力邊界，更加貼合開發(fā)者工作流程。

通義靈碼 2.5 全新能力已同時在 Jetbrains 和 VS Code 兩大主流 IDE 端進行同步發(fā)布，實現(xiàn)最廣泛的開發(fā)者用戶覆蓋，個人版免費使用，歡迎各位程序員體驗反饋。

我今天的分享就到這里，謝謝大家。