洞見
約 1 分鐘閱讀作者 AiHPC
讓機構能以 AI 運作,不等於買一個聊天機械人
讓機構能以 AI 運作,不等於買一個聊天機械人
摘要(TL;DR)。 當團隊說「我們買了 AI」,往往只是買了一個對話框。真正值得問的問題其實很安靜:當同事離職或調職,機構的知識、規則與工作推進的方式是否仍然留得住?這層留得住的根基,就是我們所說「能以 AI 運作(AI-operable)」的機構。而 OrchAI 正是把這一層買回來的方式——Library、Agents、Portal 與 Eval。就這四款產品,沒有第五款名字更響亮的東西。
對話框是最容易講的故事
想像一個政府政策局、一個醫院部門,或是一間受規管機構。有人發起了一個試點項目。同事把問題貼進視窗,拿到一段對答如流的回覆,項目發起人便向上匯報:我們已經引入 AI 了。
接著,那位最清楚「哪個資料夾才算數」的同事放假去了。好用的提示詞(prompts)收在某人的私人筆記裏;審批習慣留在某人的腦海裏。聊天軟件的月費依然繼續扣數,但整間機構的運作能力,跟試點開始之前相比,根本沒有分別。
對話視窗很適合用來提問,卻不是用來留住一間機構的地方。
人走了之後,什麼必須留下來
系統架構師有時會把這一層稱為 ontology(本體層)。這個詞其實可以跳過不記。意思是:你可以跟這間機構本身共事,因為有三樣東西已經寫清楚、管得住。
知識。 那些指引、SOP 與過往紀錄——新入職的同事應該隨時問得到,而且答案會附帶出處、指回原文頁碼,而不是一副很有把握的猜測。這正是 OrchAI Library 的工作:在團隊自有文件上進行私有搜尋,每個答案皆附出處。Library 是機構的記憶;對話視窗,只是大家取用這份記憶的第一種方式。
規則。 誰可以打開哪個工具、受哪條政策規範、並留下一條審計人員追查得到的軌跡。OrchAI Portal 是整座企業大樓:登入、權限,以及工作實際運行的環境,以設備(appliance)形式部署在你自己的環境之內。OrchAI Agents 則是大堂前台——一次登入、一格格工具卡,由管理員決定誰能看到什麼。
工作推進的方式。 有次序、而且會把結果寫回機構系統的工作:一個申請如何變成正式紀錄,一道檢查如何必須過關才能進入下一步。目前的 Agents 扮演啟動器與控制平面的角色;負責把結果寫回系統的工作流程卡(workflow cards),仍屬後續階段。現在先用好這道現成可用的大門;至於「由 AI 自動填表入檔」,請先留在今季預算之外。
送到用戶面前之前的把關。 OrchAI Eval 擔當品質閘門的角色:評估、覆核與測試,務求在錯誤送到用家面前之前先行攔截。這項能力的成熟度仍屬部分階段(partial):目前的 Eval 主力在於監察(monitoring),因此不妨先將它視為套件裏的這項職能;至於一套已經徹底完工的發佈閘門(release gate),請待相關測試框架(harness)真正交到你手上時,才寫進採購單。
由始至終,都是這四個名字。
一個不需要廠商在場、你自己就能做的測試
試想像這個星期五,聊天軟件的授權突然消失。
- 接手的同事是否仍然找得到那條條文,而且附有原文出處?
- 權限設定是否依然清楚列明誰可以發問、誰可以修改答案?
- 工作推進的路徑,是否有白紙黑字記錄在某個地方,而不是只留在離職同事的聊天紀錄裏?
如果這三點依然成立,你已經開始建立一層可運作的基礎。如果所有價值都隨著那個登入帳戶一同消失,你買的就只是一個視窗。
為每個部門建立數碼分身(digital twin),是這一層基礎所指向的長遠方向。我們不會告訴你,你的機構今天已經擁有一個。大多數買家都還在更早期的階段,而最誠實的起點,是看看這三項之中,你這個月能先把哪一項寫清楚。
這篇文章與「管治型 AI」的關係
如果你關心的是模型是否必須帶到數據身邊、以及 AI 的答案能否向審計與監管交代,我們已經在另一篇文章寫過:「管治型 AI」是什麼。這篇是它的姊妹篇:當數據已經可以留在自己圍牆內,你買回來的究竟只是一個對話框,還是一層比當初設定它的人更長久的運作基礎?
你不必在第一天就把整座大樓搬回來。文件量大的小型團隊,可以先由 Library 起步;需要為數百名同事提供同一個受管治環境的醫院或政府機構,則可由包裹全局的 Portal 開始。而 Agents,就是同事每天實際走進去的那道門。
常見問題
私有聊天機械人,是否就等於能以 AI 運作(AI-operable)的機構? 私有視窗只是一個提問的方式。一個能以 AI 運作的機構,在當初設定視窗的同事離開之後,依然能留住知識、規則與工作推進的方式。Library 正是那個對話視窗底下、附帶出處引用的記憶層。
我們是否要另外買第五款叫「ontology」的產品? 不需要。Ontology(本體層)只是用來形容「知識、規則與工作如何推進」這一層基礎,而你購買這一層的方式,依然是 Portal、Library、Agents 與 Eval。
OrchAI 現在已經可以由頭到尾自動跑完我們的工作流程嗎? 目前的 Agents 提供單一登入與按角色分配的工具卡。能夠把結果寫回內部系統的工作流程卡(workflow cards),仍屬後續階段。請先把「由 AI 自動填表入檔」留在採購單之外。
這是否代表我們的機構已經是一個數碼分身(digital twin)? 這代表你可以開始建立這一層基礎。為每個部門建立數碼分身是長遠方向,而不是對你機構現狀的宣稱。
常見問題
其他語言版本 en