各位報名 9/11《研華 LLM × RAG × 邊緣運算 線上實戰營》的學員大家好!
歡迎大家於 2025/8/11 至 9/19 期間,在本貼文下方留言,提出您對課程主題的任何問題(如:RAG實作、私有LLM部署、MCP整合應用等),我們將會請講師於直播當天為您解答!
**留言就有機會抽中NT$50即享券, 共10名
小編溫馨提醒:
- 留言須先加入論壇會員, 若加入會員有任何疑問,請來信告知研華小編franny.yeh@advantech.com.tw
- 留言者須同時於9/11線上實戰營完成報名,甫獲得抽獎資格
- 得獎名單將於9/25在此版公布,小編以email通知得獎者領取
現在就開始在下方留言
,與其他學員一起討論 “LLM × RAG × 邊緣運算” 的應用與挑戰吧!
4 Likes
大家好, 我是新手軟體工程師, 已經報名實戰營了, 想了解 甚麼樣的狀況下最適合邊緣Edge 的RAG應用
看起來我是頭一位留言, 希望能抽到禮券~謝謝各位
1 Like
我想請問講師:在邊緣運算的環境下,如果要同時部署私有 LLM 與 RAG,有沒有推薦的最佳硬體配置與效能優化方法?另外,MCP 與 RAG 的整合在實務應用中會遇到哪些常見挑戰?
1 Like
1. MCP 在與 RAG/LLM 整合時,如何處理跨 Agent 狀態同步與上下文傳遞。
2. RAG中向量檢索最相關的 chunks 送進 LLM。 如果檢索結果太多或上下文太長,會超過 LLM 的 Context Window,如何不失去關鍵語意特徵,但又保有資訊的完整性。
1 Like
wukuoan
7
請問,結合 LLM + RAG 技術 + 邊緣AI系統,打造符合企業需求的 私有部署 AI 解決方案,是訂閱制?還是買斷制?謝謝您。
1 Like
@wukuoan @Henrison @TodayisMyDay @fishfish
您好我是研華論壇小編~
感謝您的留言, 已將問題提供給講師, 講師會在課堂中回答您的問題喔~
即享券得獎名單將於9/25在此版公布,小編以email或論壇私訊通知得獎者領取
明天線上實戰營不見不散喔!
大家好,我是對ai有興趣的設備工程師,希望未來可以運用它來改變目前工作的事情,並想引進大量的ai讓工作和生活不再是報表跟依賴資深工程師
1 Like
生活中很多小地方都需要AI。一個小小的邊緣裝置是否能讓美夢成真呢?
1 Like
TK1
15
邊緣運算裝置有很多可用性,期待學習到新知識和實際運用!!
1 Like
在企業內部知識管理場景中,若要同時運用 RAG (Retrieval-Augmented Generation) 實作 來強化問答準確度、透過 私有 LLM 部署 保障資料安全,並結合 MCP (Model Context Protocol) 整合應用 以提升多系統互通能力,應如何規劃整體架構與流程?其中在資料蒐集、索引建構、模型推理、安全控管及跨平台整合上,可能面臨哪些挑戰與解決策略?
1 Like
協助單位評估自建地端方案,因為單位主要是non code 人員,研究團隊需要尋找比較友善的介面跟設備。
1 Like
Lyman
19
目前有在跟醫院合作放射科X光影像病灶辨識,但在複雜的病灶仍有不精準的辨識與太敏感的狀況發生,如果使用該公司的solution,整合RAG與MCP的實作,有可能遇到哪些挑戰?有沒有一些solid的建議呢?
1 Like
請問 RAG 所使用的向量資料庫,有需要做什麼類似SQL資料庫維護索引或是釋放不需要硬碟空間之類的Ops作業嗎?
1 Like
chpaul
21
希望有詳細的系統規格搭配可以跑的LLM 模型, 有多少的TOKEN 輸出的表格整理。TOPS有點抽象。
1 Like