天天看點

雲徙科技CTO李楠:深度探索生成式AI的企業應用落地

8月30日,2024農牧行業CXO數智化研讨會暨走進華為系列活動圓滿結束。本次活動由雲徙科技聯合華為、麥彙資訊,共同舉辦,活動以“數智農牧,共話增長”為主題,行業專家及數智化大咖齊聚深圳華為坂田基地,共同探讨農牧行業數智化發展趨勢和新的增長點。

雲徙科技CTO&副總裁李楠受邀出席本次活動,并就生成式AI技術目前的發展趨勢和企業側深度應用做主題分享,以下是李楠的分享實錄:

從去年到現在,我比較關注生成式AI,今天的主題是想跟大家分享和探讨生成式AI現在的發展階段,以及一些使用場景。

說這個事之前,我們一定要意識到這一輪生成式AI是一場技術驅動的變革,會對企業業務帶來非常深刻的影響。

01 生成式AI已成為重要戰略技術

我們先來了解一個概念,何為生成式AI(Generative AI)?

生成式AI,是指能夠建立新的内容或資料的人工智能模型。這些模型通過學習和分析大量的已有資料,能夠生成與這些資料相似或完全創新的内容。生成式AI的應用非常廣泛,可以用于生成文本、圖像、音樂、視訊等各種形式的内容。

Gartner最近釋出了《2024年十大戰略技術趨勢》,提出到 2026 年,超過 80% 的企業将使用生成式 AI 的 API 或生成式 AI 模型,或者在生産環境中部署支援生成式 AI 的應用,目前這一比例不足5%。

下面這個曲線是Gartner 2024 年人工智能技術成熟度曲線,這張圖釋放了幾個重要的信号。

作為數字化的負責人,要把握最新的技術進展,生成式AI已經度過概念峰值,即将進入泡沫破裂期。在這個區間,會有很多企業用到這個技術,會有很多廠商想要加入這個賽道提供技術。接着,就會不斷的試錯,會快速的死掉一批、成功一批、價值變現一批,這條曲線後面是穩步爬坡期,進入穩步爬坡期以後代表這個技術已經在行業内成熟應用了。

雲徙科技CTO李楠:深度探索生成式AI的企業應用落地

Gartner《2024年十大戰略技術趨勢》

可以看到,生成式AI馬上就進入到泡沫破滅期,這個淺藍色表示最多5年,最快2年就會進入生産力的穩定期,快的話2年後各行各業都可以普及,慢的話也不超過5年。

這對我們一定是一種觸動,我們要開始思考怎麼辦?企業怎麼用它?

按照Open AI對人類通用智能這個極緻目标的技術路徑來看,我們先從文本大模型起步,它有了解能力,它也有生成式能力,接着會做多模态的模型,它會有圖像、視訊等等。

我們會把這些模型融合在一起,生成所謂的多模态模型,這個多模态模型還是在虛拟世界裡邊。如果裝上實體世界的手腳,也就是機器人,從去年開始,大家可能看到有很多人形機器人層出不窮。它會去規劃,它該怎麼走、怎麼去記、怎麼去算,怎麼和實體世界互動,我們稱這些東西為世界模型,機器人會通過跟世界的互動收取世界的回報,建立世界模型。

在這個基礎之上,再往後發展,如果我們給這個機器人具備對更複雜任務的規劃能力,甚至具備對這些知識和問題的歸納總結能力,我們稱之為人類大腦的第二層系統,将邁入通用人工智能。

可以看到,生成式人工智能的能力已經接近甚至在某些領域達到了人類水準。從自然語言處理到視訊生成,再到具身智能,AI正以前所未有的速度進步。

有人把它叫AIGC,也有人叫GenAI,表達是同一個意思。

GenAI好像不錯,那咱們怎麼用呢?

現在業内有一個公論,我們所謂叫AI Agent(智能體),智能體這種架構和技術應該是大模型落地業務場景做應用的主流形式。

說幾個典型的代表性事件。

今年一季度,百度CEO李彥宏在推出AI原生應用概念,他講的就是智能體應用;今年6月份華為在開發者大會上有三個最熱的論壇,第一個就是Agent應用開發大論壇,第二個是機器人大模型,華為在盤古上做大模型,第三個最熱的場是多模态大模型。

02 生成式AI落地應用架構—智能體

請記住,生成式AI落地做應用,最可能的架構是智能體。

雲徙科技CTO李楠:深度探索生成式AI的企業應用落地

企業AI智能體(AI Agent)藍圖

我們有個客戶,做保健品,一年營收幾百個億。他們在數字化部門裡面成立一個四人的小組,專攻這個方向。他們在研究智能體架構選擇什麼樣的架構,在這上面實作哪幾個可能的應用方向,應用方向包括使用知識庫、資料分析、業務辦理助手。

什麼是智能體?

我們先來看一下智能體架構是什麼?怎麼就能讓企業做應用了呢?

傳統意義來說,如果一個物體,它有大腦,會推理,你給它一個目标,它能做計劃,它有眼耳口鼻舌,能夠感觸你的世界,能夠知道你的企業業務知識、業務流程,它還有手和腳能夠去搬東西,能夠去操作你的應用,能夠調你的API,能夠儲存你的資料,我們稱之為智能體。

這個概念,五十年代就有了,隻不過現在我們把它的大腦換成大模型,換成大語言模型,類似ChatGPT或者盤古這樣的大模型。

這樣的智能體,在大模型的基礎上,大模型做了它的大腦。這裡我要提一點,我們所說的大模型絕不是你平時在用的ChatGPT,你跟ChatGPT聊天的web應用也是智能體,隻不過是Open AI原廠做的。大模型最樸素的形體就是API,因為是生成式模型,你給它一堆的輸入,你的輸入描述你到底要幹什麼事,描述你的上下文,一堆的文字。

在固定的計算時間内生成結果,第二次再去調這個API,它不知道你上次幹了什麼,它是沒有記憶的,大模型本身是沒有記憶的,大家需要記住這一點。如果你做企業應用,那麼,在大模型核心大腦基礎上一定要給它配記憶,你要給它配你的業務知識,你還要讓你的Agent智能體能看到你的業務資料在哪兒。

當然,這個資料不僅僅是業務資料,也包括你的知識資料、後面的行動。隻有它觀察到你的業務,它思考了,它制定行動鍊條,接着按照這個行動鍊條去執行,該調什麼接口調什麼接口,該儲存什麼資料儲存什麼資料,該送出什麼報告送出什麼報告。

這些動作都通過調用系統的API,或者生成一些叙事報告,或者裝配到機器人上可以去控制一些機器建構去操作實體世界。如果有這麼一個智能體,就相當于企業多了很多的數字員工,有很多的任務都可以靠它去完成。

如果要規劃這件事情,整體架構要怎麼做?

最底下這層,肯定是基礎模型。

我們要把這些模型作為大腦,裝入智能體裡面,對智能體結合業務場景來進行開發,比如說辦公領域、采購領域、營銷領域、生産領域都可以開發很多的智能體。

智能體的開發範式跟過去做應用是不太一樣的。

過去比較多的是分析需求、梳理場景、設計架構、開發代碼。智能體不需要,智能體更多的是結合業務需求去寫提示詞。

你可能要去搞資料治理,知識治理,就是因為開發範式不同,需要管理層,管理層裡面要配置智能體。使用什麼大腦,使用什麼業務知識,使用什麼知識庫,有什麼政策,需要建構各種各樣的提示詞。

這些提示詞,是我們來指導大模型的。按照這樣的員工崗位角色設計,完成我們下達的要求。我們會有各種各樣的提示詞,會有很多的技能開發。

知識管理,就是管理知識庫還有資料安全。在這一層上我們去開發各種各樣的智能體,旁邊是現有系統,包括業務系統,業務資料資産,甚至一些三方網際網路上的資料,都可以去擷取的。

對業務系統來說,如果業務中台過去建的不夠好,準确來講,就是業務API不夠标準化,也會面臨一些難題。如果想把業務的能力裝配給智能化的話,業務API必須完備。

目前為止,生成式AI智力雖然不錯,但是解決問題的能力還是處于偏點狀的場景。比如說,面向管道零售,面向導購,在導購上用生成式AI可以看一些場景,例如生成一些客戶方案對導購進行陪練。

在連鎖加盟領域,連鎖加盟可以通過一些連鎖加盟助手來解決加盟商常見的業務辦理,還有加盟商一些小B店,老闆們如果很關注經營業績,就可以用自然語言随時去看數。

還有一些企業的指南針,比如說針對過去有些集團型企業,甚至國企建了數字大屏,在這之上,怎麼疊加生成式AI把它變成互動式的,還有一些内部系統的指南針系統,内部系統指南針問答,服務你的内部成千上萬的業務員。

還有一個是獲客助手,市場部會比較需要它。對于做品牌推廣和營銷來說,使用場景主要還是基于知識産品相關客戶互動問答的機器人,但是特點在于這個Bot是随着流量分發的。

如果你現在打開百度,搜尋幾個關鍵詞,比如說你搜某幾款汽車,回報的結果不是文章,而是智能體。你可以跟它對話,不斷的問這個汽車有什麼特點,産品有什麼優勢,價格怎麼樣,可不可以預約試駕,它就會讓你留資。本質上它是随流量分發在做品牌相關營銷。百度搜尋有、抖音裡面也有、微信也有,但是從技術角度來說本質上它還是結合企業知識,結合知識庫的Bot應用。

03 雲徙 AI Agent 應用産品方案

目前,AI Agent 正逐漸替代大消費零售&品牌行業内傳統數字化能力,雲徙也非常期待與各企業合作解鎖更多應用場景。

雲徙科技CTO李楠:深度探索生成式AI的企業應用落地

從這張地圖裡邊,标藍圈的這些點狀的場景,這些都跟雲徙的業務有一定關系。但其實利用生成式AI和Agent架構可以做更多的事情,不一定和營銷業務那麼強相關的。未來應該可以解鎖更多的場景。

比如,下面這個Demo,是我們自己做的,利用自然語言做出的會員複購的業務分析。過去做會員複購,需要提需求給資料分析師,他需要做蠻多的資料加工腳本,模型計算腳本,以及後面報表呈現的腳本,最後再寫成圖文并茂的資料報告給到市場部或者銷售部。

雲徙科技CTO李楠:深度探索生成式AI的企業應用落地

雲徙科技自然語言業務分析Demo

我們認為這個過程中,有些部分是不需要去重複編寫資料分析代碼,有些部分大模型會做好思路,這可以加速寫代碼的過程。比如說會員複購分析,我們把它拆解成為這張圖裡的步驟,比如說複購的宏觀名額分析,複購率下降歸因分析,影響複購率的相關性分析。你可以單獨用語言喚醒它,也可以說把複購分析這些工作全部做了。

規模龐大的企業,資料分析團隊是挺大的,有20-30人,這種類型企業是可以考慮把資料分析師的職能從過去單純響應需求轉化成為提供更多分析工具,以及超級入口和上面業務分析的場景,這樣業務部門可能可以更友善去做一些資料上的擷取,而不需要把資料分析師日複一日重複相應的事務性勞動。

此外,我們也有嘗試結合知識庫和網際網路媒體平台資料,來生成營銷文案。關于生成營銷文案,過去就是直接問通義千問、盤古,讓給你寫個文案。你需要明确:

1、輿情是什麼,這個社會上關注的熱點是什麼。

2、你的産品是不是有相應賣點比對熱點。

3、文案既要結合符合使用者熱點的産品特性,也要符合品牌的社媒風格。

我們做這個場景,會先送給智能體幾個工具,比如熱點輿情擷取工具、文案撰寫工具、内容摘要和梳理的工具。

拿掃地機器人舉例子,當給它下達這個任務的時候,它幹的第一件事是爬取微網誌、小紅書等媒體平台上面的相關資訊,爬了一個月的資料,大概用了幾十分鐘;第二步讓它對爬取的資料用小模型做無效内容的過濾;第三步是用大一點參數的模型過濾剩下的文章,然後給出總結摘要,即消費者到底關心的是什麼?

然後我們發現,就關心兩點:一是機器人掃角能不能掃到牆角;二是劃不劃地闆。根據這兩個點去我們的産品知識庫裡面找我的賣點,看我的特性裡面,有沒有符合這兩個點的,有再去寫,也是在知識庫裡面基于它再寫。

雲徙xAgent,就是上面提到的智能體管理平台,一個建構企業級 AI Agent 的平台,情景化業務資料,建構契合toB智能化場景的 AI 原生應用,實作 AGI 技術的價值落地。xAgent 以大語言模型(LLM)作為核心大腦,可實作自主了解、長期記憶、規劃決策、執行複雜任務。

具像化一點,在這裡面你可以建立很多智能體Agent,可能一年建立幾百個,對它進行治理,配記憶、知識、工具、技能,你會寫很多的Prompt。

你可能需要整理你的業務資料,讓你的業務資料能夠被智能體認識,是以你要去情景化業務資料。你可能會開發很多的技能,API調用也好,外部搜尋也好,有些流程可以圖形化固化下來,沒有必要每次都讓大模型去做規劃。

最後,也跟大家也彙報一下,目前,雲徙也正在與一些大模型生态夥伴合作一起,打造聯合解決方案。敬請期待!

繼續閱讀