【官方開箱】FedGPT：開箱您的企業專屬 AI 大腦！安全、智慧、看得見
2025/05/01
AI 浪潮來襲，您的企業準備好了嗎？
在生成式 AI 席捲全球的今天，許多企業既渴望擁抱其帶來的效率革命，又對數據安全、模型落地、整合應用等問題深感疑慮。您的心聲，我們聽到了！
雅婷智慧十年磨一劍，於去年年中正式推出了 FedGPT，一個專為企業打造、軟硬整合的 AI 對話式 AI 平台。它不僅擁有強大的繁體中文理解與生成能力，更具備落地部署的優勢，確保企業的寶貴數據不出門，同時又能持續優化模型。
今天，就讓我們以原廠行銷團隊的視角，為您「搶先開箱」這台備受期待的 FedGPT 一體機 「FedGPT Satndard」版本。從搭配的硬體、初次啟動、到核心功能展示，帶您感受 FedGPT 如何成為台灣企業安全、可靠、高效的 AI 夥伴，解答您在導入前的所有疑問！
啟動邊緣運算: HPE ProLiant DL385 Gen11
今天幫大家開箱的是 FedGPT標準版一體機。 為了能有效提升 AI 模型推論的效能，這一款的硬體特別選用了 HPE ProLiant DL380a Gen11 伺服器。這款伺服器在架構上具備優異的擴展性，尤其是在 GPU 的支援方面，機身僅 2U 的高度，卻能為大規模的 AI 推論工作負載提供強勁的動力，正如 FedGPT 的模型能夠以小模型之姿，展現直逼 70B 參數級的頂尖效能。機台前端面板上有黑白兩色設計簡約的FedGPT 字樣的logo，機殼上蓋則可以看到標註軟體版本名稱的銘板。
機身上的 FedGPT Logo —是由圓點交織成相依又保持獨立的智慧網絡，代表著「Fedrated GPT」的核心精神，聯合學習是由相互獨立的組織共享AI模型優化的成果，同時保有具機密性的資料、數據。而下方獨立的圓點，象徵著企業從一個提問、一筆資料輸入，FedGPT就能串連龐大的知識網絡，提取知識並進行整合與推理，為企業創造價值。
首次啟動與介面初探：簡單直觀，輕鬆上手
經過專業安裝人員將硬體全部都設置好後，接下來我們就可以開始與FedGPT互動了。首先，透過您公司內部的電腦瀏覽器，訪問預設的 IP 位址。
Step1. 登入FedGPT
第一次進入FedGPT登入頁面，可以看見左側為帳號密碼輸入區塊，記得在收到產品時有得到一組預設管理員帳密，只要將這組帳密輸入，就可以開始體驗FedGPT了！
與FedGPT的對話方式
當我登入 FedGPT 後，我們便進入了系統預設的「一般對話」介面。就像在日常生活中與人交談一樣，可以立即開始與 FedGPT 進行對話。例如：如果我想了解 AI 的發展歷史，只需輸入相關指令，FedGPT 就會立即回覆，他提供從早期概念與理論、黃金時代到現在的深度學習與大數據時代，以及未來展望等重要里程碑的信息。
此外，假設我要為即將來臨的產品發布會撰寫一篇行銷文案，我只需告訴 FedGPT 一些關鍵訊息，比如產品是什麼、目標客群是誰、預期通過什麼管道曝光等。這樣一來，FedGPT 可以幫助我進行初步的構思，激發我的創作靈感，大幅提升我的工作效率！
使用一般對話模式來和FedGPT問答吧！
下面是FedGPT的操作介面，登入FedGPT後系統的預設模式是「一般對話」，也就是如同在生活中與人對話一般，來和FedGPT進行問答。
如何設定FedGPT?
讓 FedGPT 使用體驗更符合企業需求，可以點進主畫面【右上角人像】，接著點擊【設定】，就可以針對需求進行設置了！可以設定的範圍包含：「Plugin 管理」、「Agent 管理 」、「知識領域設定」、「模型管理」、「角色權限管理」與「使用者管理」等。
Step2. 建立使用者
如前所述，您在收到產品時會獲得一組預設的帳號密碼，這是一個具備 admin 權限的帳號，透過這組帳號，您最多還可以建立 100,000 個使用者帳號。
身為系統管理者的我該如何新增使用者呢？
如何新增使用者？（註: 只有具備管理權限的使用者能操作）
點進主畫面【右上角人像】，接著點擊【設定】，在左側點選【使用者管理】，就進到使用者清單畫面，點擊右上角【＋新增】就可以新增使用者啦！另外，員工或其他非管理權限的使用者可以在自己的FedGPT主頁面點進【右上角人像】，點擊【個人資訊】，也可以自行修改資料，特別注意的是，帳號名稱建立後即無法修改。
Step3. 角色權限設定
FedGPT與其他常用的工作軟體一樣，可以賦予系統使用者不同的操作權限，稱為「角色權限」。每組FedGPT帳號已內建三組預設角色，包含admin, editor, user三種角色。
- Admin：掌握所有權限，可管理使用者、角色權限、模型，並可操作各項功能。且Admin角色無法被刪除。
- Editor： 可編輯知識領域、Agent、plugin…等資源。
- User：可使用對話功能。
除了預設角色之外，也可以根據使用需求自行「新增」自定義的角色，而後續建立知識庫、Agent 或 Plugin 時都可以套用已經設定好的角色權限。
如何自訂角色？ （註: 只有具備管理權限的使用者能操作）
點擊右上角人像 >【設定】 >【角色權限管理】 ，進到【角色權限管理】頁面後，點擊右上角【＋新增】，會跳出新增視窗，輸入新的角色資訊後，還可以為新角色設定不同的角色權限，不過，考量到管理需求與硬體運行能力，官方建議最多1,000筆自定義角色。
Step 4. 建立知識庫
FedGPT可以建立多個專屬的知識領域，現在我們就來看看該如何建立客製化知識庫吧！
如何建立知識庫？（只有知識領域管理者才能操作）
回到主頁面右上角人像 >【設定】>【知識領域】> 右上角【＋新增】，就可以開始建立知識領域了，可以幫知識領域取一個易懂的名字，並附上一些解釋方便使用者辨認。不過，為確保效能水準，官方建議知識領域不超過1000個。
接著點擊【下一步：選擇授權角色】，同樣可以設定知識領域使用者及權限。使用角色清單包含「管理者」、「編輯者」、「使用者」，並可以自行依照需求為角色賦予以下權限，包含「擁有者」、「可編輯」、「可檢視」。
使用知識庫開始知識問答
知識庫建立完成後，您可以將相關文件上傳至此知識領域。例如，我建立了一個新的知識領域，然後將《員工工作規則》上傳到此知識領域中。今天當公司的員工想知道公司的規範，便可以透過 FedGPT 來查詢。
舉例來說，若員工想知道「今年有幾天特休假可以休？」，只需將這個問題輸入對話框，就像是在跟真人客服說話一樣，FedGPT 就能夠從知識庫中抽取語意最相關的文件片段來回答，不用把冗長的工作規則檔案從頭瀏覽一次，真的節省了很多時間。
此外，使用知識庫除了能避免在許多資料中查找時看錯、遺漏等人為錯誤，更重要的是，FedGPT 不會答非所問或無中生有合成有幻覺的答案。那是因為他都會根據知識領域裡所包含的專業知識來回答問題。如果 FedGPT 真的遇到回答不出來的情形（通常是知識領域中沒有相關知識），他將會委婉地告訴您。
結論
這次的 FedGPT Standard 版本的開箱，完整展示了這款專為企業打造的 AI 平台的實際樣貌與操作流程。從採用 HPE ProLiant AI 伺服器的硬體配置 ，到簡單直觀的首次啟動與登入介面 ，FedGPT 都體現了其易於部署與上手的特性。
核心功能方面，FedGPT 不僅提供流暢的一般對話體驗，更關鍵的是強大的「知識領域」建立功能 。企業能輕鬆上傳內部文件，打造專屬知識庫，讓員工能以自然語言快速查詢所需資訊，例如公司規章或產品細節，大幅提升資訊獲取效率 。搭配精細的使用者管理與角色權限設定 ，更能確保企業內部資訊的控管與安全。
總體而言，FedGPT 以落地部署、保障機敏資料安全的核心優勢 ，外加可以自行擴充知識庫的功能，為台灣企業提供了一個安全、可靠且高效的 AI 解決方案。無論是作為內部知識問答系統、文件處理助手，或是客服輔助工具，FedGPT 都有潛力成為企業擁抱 AI 浪潮、提升營運效率的得力夥伴！
參考應用場景
- 內部知識庫問答： 新進員工快速查詢公司規範、業務人員即時獲取產品資訊。
- 文件摘要與內容編修： 快速整理會議記錄、生成報告草稿。
- 對外文字客服輔助： 提供客服人員標準答案參考，提升回應一致性與效率。
想看更多產業的應用場景與已經實際在工作流程中結合FedGPT的成功案例？立即前往