# 【留言抽即享券!】9/11 研華 llm× rag × MCP x Nvidia 邊緣運算線上實戰營 討論群 **URL:** \ **Category:** Taiwan\ **Tags:** edgeai\ **Created:** [July 28, 2025, 6:48am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184 "2025-07-28T06:48:52Z")\ **Posts on this page:** 20\ **Page:** 1
**Author:** ![Franny\_Yeh](https://avatars.discourse-cdn.com/v4/letter/f/e9a140/32.png) [@Franny\_Yeh](https://forum.aim-linux.advantech.com/u/Franny_Yeh)\ **Post date:** [July 28, 2025, 6:48am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/1 "2025-07-28T06:48:52Z")
👋各位報名 9/11《研華 LLM × RAG × 邊緣運算 線上實戰營》的學員大家好！ 歡迎大家於 **2025/8/11 至 9/19 期間，在本貼文下方留言，提出您對課程主題的任何問題** （如：RAG實作、私有LLM部署、MCP整合應用等），我們將會請講師於直播當天為您解答！ 🎁 \*\*留言就有機會抽中NT$50即享券, 共10名 😀 小編溫馨提醒: 1. 留言須先加入論壇會員, 若加入會員有任何疑問，請來信告知研華小編franny.yeh@advantech.com.tw 2. 留言者須同時於9/11線上實戰營完成報名，甫獲得抽獎資格 3. 得獎名單將於9/25在此版公布，小編以email通知得獎者領取 🛠 **現在就開始在下方留言 ⬇ ⬇ ⬇，與其他學員一起討論 “LLM × RAG × 邊緣運算” 的應用與挑戰吧！** ---
**Author:** ![Franny\_Yeh](https://avatars.discourse-cdn.com/v4/letter/f/e9a140/32.png) [@Franny\_Yeh](https://forum.aim-linux.advantech.com/u/Franny_Yeh)\ **Post date:** [August 8, 2025, 7:09am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/2 "2025-08-08T07:09:03Z")
---
**Author:** ![TodayisMyDay](https://avatars.discourse-cdn.com/v4/letter/t/d78d45/32.png) [@TodayisMyDay](https://forum.aim-linux.advantech.com/u/TodayisMyDay)\ **Post date:** [August 11, 2025, 5:44am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/3 "2025-08-11T05:44:36Z")
大家好, 我是新手軟體工程師, 已經報名實戰營了, 想了解 甚麼樣的狀況下最適合邊緣Edge 的RAG應用 看起來我是頭一位留言, 希望能抽到禮券~謝謝各位 ---
**Author:** ![fishfish](https://avatars.discourse-cdn.com/v4/letter/f/eb8c5e/32.png) [@fishfish](https://forum.aim-linux.advantech.com/u/fishfish)\ **Post date:** [August 12, 2025, 3:19am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/4 "2025-08-12T03:19:09Z")
我想請問講師：在邊緣運算的環境下，如果要同時部署私有 LLM 與 RAG，有沒有推薦的最佳硬體配置與效能優化方法？另外，MCP 與 RAG 的整合在實務應用中會遇到哪些常見挑戰？ ---
**Author:** ![Franny\_Yeh](https://avatars.discourse-cdn.com/v4/letter/f/e9a140/32.png) [@Franny\_Yeh](https://forum.aim-linux.advantech.com/u/Franny_Yeh)\ **Post date:** [September 1, 2025, 5:52am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/5 "2025-09-01T05:52:44Z")
---
**Author:** ![Henrison](https://avatars.discourse-cdn.com/v4/letter/h/439d5e/32.png) [@Henrison](https://forum.aim-linux.advantech.com/u/Henrison)\ **Post date:** [September 9, 2025, 2:02am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/6 "2025-09-09T02:02:43Z")
1. MCP 在與 RAG/LLM 整合時，如何處理跨 Agent 狀態同步與上下文傳遞。 2. RAG中向量檢索最相關的 chunks 送進 LLM。 如果檢索結果太多或上下文太長，會超過 LLM 的 Context Window，如何不失去關鍵語意特徵，但又保有資訊的完整性。 ---
**Author:** ![wukuoan](https://avatars.discourse-cdn.com/v4/letter/w/c68b51/32.png) [@wukuoan](https://forum.aim-linux.advantech.com/u/wukuoan)\ **Post date:** [September 10, 2025, 3:37am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/7 "2025-09-10T03:37:30Z")
請問，結合 LLM + RAG 技術 + 邊緣AI系統，打造符合企業需求的 私有部署 AI 解決方案，是訂閱制？還是買斷制？謝謝您。 ---
**Author:** ![Franny\_Yeh](https://avatars.discourse-cdn.com/v4/letter/f/e9a140/32.png) [@Franny\_Yeh](https://forum.aim-linux.advantech.com/u/Franny_Yeh)\ **Post date:** [September 10, 2025, 7:41am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/9 "2025-09-10T07:41:10Z")
@wukuoan @Henrison @TodayisMyDay @fishfish 您好我是研華論壇小編~ 🥰 感謝您的留言, 已將問題提供給講師, 講師會在課堂中回答您的問題喔~ 💎 即享券得獎名單將於9/25在此版公布，小編以email或論壇私訊通知得獎者領取 👉 明天線上實戰營不見不散喔! ---
**Author:** ![Franny\_Yeh](https://avatars.discourse-cdn.com/v4/letter/f/e9a140/32.png) [@Franny\_Yeh](https://forum.aim-linux.advantech.com/u/Franny_Yeh)\ **Post date:** [September 10, 2025, 8:04am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/10 "2025-09-10T08:04:49Z")
📙 小編先回答您的問題 是買斷制喔~ ---
**Author:** ![Yvette\_Yang](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/yvette_yang/32/1833_2.png) [@Yvette\_Yang](https://forum.aim-linux.advantech.com/u/Yvette_Yang)\ **Post date:** [September 11, 2025, 5:53am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/11 "2025-09-11T05:53:23Z")
請說明邊緣運算的模型更新機制是如何運作的 😀 ---
**Author:** ![andrew890728](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/andrew890728/32/1836_2.png) [@andrew890728](https://forum.aim-linux.advantech.com/u/andrew890728)\ **Post date:** [September 11, 2025, 5:59am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/12 "2025-09-11T05:59:40Z")
大家好，我是對ai有興趣的設備工程師，希望未來可以運用它來改變目前工作的事情，並想引進大量的ai讓工作和生活不再是報表跟依賴資深工程師 ---
**Author:** ![b0481](https://avatars.discourse-cdn.com/v4/letter/b/977dab/32.png) [@b0481](https://forum.aim-linux.advantech.com/u/b0481)\ **Post date:** [September 11, 2025, 6:05am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/13 "2025-09-11T06:05:54Z")
需要AI Agent 來改善原本的工作環境 ---
**Author:** ![Yeats\_Raw](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/yeats_raw/32/1842_2.png) [@Yeats\_Raw](https://forum.aim-linux.advantech.com/u/Yeats_Raw)\ **Post date:** [September 11, 2025, 6:09am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/14 "2025-09-11T06:09:16Z")
生活中很多小地方都需要AI。一個小小的邊緣裝置是否能讓美夢成真呢？ ---
**Author:** ![TK1](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/tk1/32/1843_2.png) [@TK1](https://forum.aim-linux.advantech.com/u/TK1)\ **Post date:** [September 11, 2025, 6:25am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/15 "2025-09-11T06:25:24Z")
邊緣運算裝置有很多可用性，期待學習到新知識和實際運用！！ ---
**Author:** ![Nick\_Hung](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/nick_hung/32/1839_2.png) [@Nick\_Hung](https://forum.aim-linux.advantech.com/u/Nick_Hung)\ **Post date:** [September 11, 2025, 7:07am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/16 "2025-09-11T07:07:35Z")
在企業內部知識管理場景中，若要同時運用 **RAG (Retrieval-Augmented Generation) 實作** 來強化問答準確度、透過 **私有 LLM 部署** 保障資料安全，並結合 **MCP (Model Context Protocol) 整合應用** 以提升多系統互通能力，應如何規劃整體架構與流程？其中在資料蒐集、索引建構、模型推理、安全控管及跨平台整合上，可能面臨哪些挑戰與解決策略？ ---
**Author:** ![b0481](https://avatars.discourse-cdn.com/v4/letter/b/977dab/32.png) [@b0481](https://forum.aim-linux.advantech.com/u/b0481)\ **Post date:** [September 11, 2025, 7:15am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/17 "2025-09-11T07:15:56Z")
**請問模型是可以更新的嗎？** 請問只能英文回覆答案嗎？ 可以使用中文繁體嗎？ ---
**Author:** ![rebeccaliu310](https://avatars.discourse-cdn.com/v4/letter/r/e79b87/32.png) [@rebeccaliu310](https://forum.aim-linux.advantech.com/u/rebeccaliu310)\ **Post date:** [September 11, 2025, 7:18am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/18 "2025-09-11T07:18:15Z")
協助單位評估自建地端方案，因為單位主要是non code 人員，研究團隊需要尋找比較友善的介面跟設備。 ---
**Author:** ![Lyman](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/lyman/32/1845_2.png) [@Lyman](https://forum.aim-linux.advantech.com/u/Lyman)\ **Post date:** [September 11, 2025, 7:18am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/19 "2025-09-11T07:18:17Z")
目前有在跟醫院合作放射科X光影像病灶辨識，但在複雜的病灶仍有不精準的辨識與太敏感的狀況發生，如果使用該公司的solution，整合RAG與MCP的實作，有可能遇到哪些挑戰？有沒有一些solid的建議呢？ ---
**Author:** ![windperson](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/windperson/32/1847_2.png) [@windperson](https://forum.aim-linux.advantech.com/u/windperson)\ **Post date:** [September 11, 2025, 7:23am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/20 "2025-09-11T07:23:37Z")
請問 RAG 所使用的向量資料庫，有需要做什麼類似SQL資料庫維護索引或是釋放不需要硬碟空間之類的Ops作業嗎？ ---
**Author:** ![chpaul](https://sea2.discourse-cdn.com/flex016/user_avatar/forum.aim-linux.advantech.com/chpaul/32/1850_2.png) [@chpaul](https://forum.aim-linux.advantech.com/u/chpaul)\ **Post date:** [September 11, 2025, 7:49am UTC](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184/21 "2025-09-11T07:49:49Z")
希望有詳細的系統規格搭配可以跑的LLM 模型， 有多少的TOKEN 輸出的表格整理。TOPS有點抽象。 [Next page](https://forum.aim-linux.advantech.com/t/9-11-llmx-rag-x-mcp-x-nvidia/1184.md?page=2)