TechSummary 2025-06-30:本地大型語言模型 (LLMs) 在工具調用的實務評測
· 閱讀時間約 4 分鐘
🎯 研究背景與目的
這篇文章探討在建立 GenAI 應用時,選擇何種本地模型用於工具調用最合適。透過 Docker Model Runner 進行實驗,分析不同模型在工具調用上的表現,範例是模擬一個 AI 購物客服,測試模型呼叫工具(例如加入商品、搜尋商品)的能力。
這篇文章探討在建立 GenAI 應用時,選擇何種本地模型用於工具調用最合適。透過 Docker Model Runner 進行實驗,分析不同模型在工具調用上的表現,範例是模擬一個 AI 購物客服,測試模型呼叫工具(例如加入商品、搜尋商品)的能力。
內容摘要:
GitHub 的安全公告資料庫(Advisory DB)是開源專案安全監控的重要資源,收錄已知漏洞與惡意軟體資訊。2024 年,該資料庫經歷多項成長,包括審查數量、涵蓋生態系、來源擴充,且提供多種數據協助開發者進行漏洞優先修復。資料庫分類為:GitHub 審查、未審查、惡意軟體,範圍涵蓋 Python、Java、Node.js 等多個生態圈,並來自 NVD、GitHub、社群等多源,並且支持 CVE 編號與漏洞優先等級的實用數據。