算力、大語言模型與訓練——更多 FLOPS 買到什麼

摘要（TL;DR）。 當香港政策討論開始引用 PFLOPS，談的是叢集每秒能做多少運算—— 不是任何模型在你的工作上有多聰明。訓練大型語言模型（LLM）會一次花掉大量算力； 回答問題則每天以不同方式消耗算力。更多算力是容量；切合用途的答案，仍需要正確的 資料、評估與可控。

為什麼買家突然聽到「PFLOPS」

2026 年中，關於香港 AI 推動的公開演講開始報出粗略算力數字——今天大約是數千 PFLOPS 量級，並展望本十年後期更大的規劃容量。把這些數字當成政府對基礎設施的 規模標籤，就像港口報「多少標準貨櫃吞吐」：有助政策對話，不是你下一張採購單的 產品計分卡。

你不必擁有國家級叢集，也能明白這個識字點：算力是預算，不同的 AI 工作會以 不同方式花掉這筆預算。

「算力」換一個講法

FLOPS＝每秒浮點運算次數——硬件每秒能做多少數字運算。P（peta）是極大的倍數。 你可以把它想成數學的馬力。

日常圖像	AI 對應
廠房面積	有多少 GPU／叢集有多大
工班時數	訓練任務跑多久
產線速度	回答有多快（推理／上線）
品質管控	產出是否切合你的工作

馬力不會告訴你，這間廠是否生產你需要的產品。

訓練 vs 上線——兩種不同的花費

LLM 是預測下一個 token（粗略：下一段文字）的模型。把模型練好，與日常使用， 不是同一張帳單：

1. 訓練（以及重度微調）

• 多半是前期重投入：大量算力、大量資料、大量工程；前沿規模往往要數週甚至數月。
• 你在用例子教模型學模式。
• 這裏更多 FLOPS 通常代表：可練更大模型、更快完成，或做更多實驗——前提是你還有 資料、人手與訓練配方。

2. 推理（上線回答）

• 是持續成本：每個問題、每次對話、每個代理步驟都在燒算力。
• 你在延遲與成本預算下使用已訓練的模型。
• 這裏更多 FLOPS 通常代表：可同時服務更多人、等待更短，或有空間跑更大模型—— 前提是軟件堆疊與運維跟得上。

微調、檢索、評估、代理呼叫工具，介於兩者之間——也要算力，但不是「從零再練一個 基礎模型」。

所以當簡報說「我們有更多 PFLOPS」，不妨問：是更多給訓練、更多給上線，還是兩者？ 答案會改變你該期待什麼。

更多 FLOPS 本身買不到什麼

姊妹篇說：更高的 「B」（參數量）是容量，不是智商。算力也一樣要誠實：

1. 更多 FLOPS ≠ 更懂你的 SOP。 更大的叢集仍可能托管一個從未在你的粵語筆記、 臨床表格或工程媒體上評估過的模型。
2. 更多 FLOPS ≠ 資料駐留。 GPU 在哪裏、誰看得到提示，是管治問題——不是 FLOPS 問題。
3. 更多 FLOPS ≠ 編排。 排程、路由模型、引用出處、拒絕弱答案，是軟件與流程—— 容量到位之後，這才是稀缺層。
4. 公共基建 ≠ 你的採購。 國家或區域級建設為研究與產業創造選項。你的機構仍要 選擇模型、托管形態與證據門檻。

下次聽見算力演講時，可以這樣聽

試用這三行過濾器：

「容量有意思。這是為了訓練、上線，還是兩者？
請說明它如何幫到我們的負載。
請說明我們使用時，資料放在哪裏。」

這三點答得清楚，PFLOPS 就變成有用背景。答得含糊，大數字多半只是氣氛。

這與我們做的事有什麼關係

在 AiHPC，我們不靠擁有最大的 PFLOPS 標題來競爭。OrchAI 談的是在管治之下、 切合用途的 AI——Library 為你的文件提供附出處的知識，Agents 是可控的前門， 需要誠實質素門檻時用 Eval，需要整座樓時用 Portal。算力是旋鈕；信任、引用與可控 才是產品。

若你已有（或租用）算力，想看看實務長怎樣？ 與我們聯絡 或 試用演示。

常見問題

什麼是 PFLOP？ 粗略的叢集馬力單位——大約每秒一千萬億次運算。是規模標籤，不是答案智商。

算力愈多，AI 就愈聰明嗎？ 不必然。它可以加快訓練或服務更多負載。是否切合你的工作，仍要資料、架構、 評估與管治。

買家為何要分清訓練與推理？ 訓練多半是一次教會；推理是每天回答。你的採購通常關心：在可控環境下服務你的 文件與流程——不是誰在上季訓練了前沿模型。