聯絡我

您的名稱（ 姓名 / 匿稱 ）

您的電子郵件（ 必填 ） *

詳細內容（ 意見 / 聯絡事宜 / 其他 ） *


這個網誌中的熱門文章

2025 地端 AI 算力大比拼：5060 Ti／5070 Ti／5090／RTX 6000 Ada／DGX Spark 該選哪個？

圖片
基於自己研究的重點，隨著大型語言模型（ LLM ）推論需求大幅上升， 地端部署 也成為許多開發者、研究團隊或產品應用所重視的選項。這次，我們聚焦於N家(Nvidia)五款市面上不同定位、不同規格的顯示卡／系統，從「 CUDA  核心數」、「記憶體頻寬／容量」、「價格」和「功耗」這些對於 LLM 地端推論的關鍵指標，逐一比較，幫助你在地端選擇合適方案。
Read more »

深入理解Local LLM的價值：不只是「離線」這麼簡單

圖片
自從GPT橫空出世之後，語言模型(LLM)正快速改變我們與資訊、系統、甚至也成為AI應用的背後基石。不論是 GPT-5、Claude、Gemini，雲端 AI 的確帶來了截然不同的使用體驗。 不過，它們似乎對個人來說，才有如此大的吸引力，若是換個角度來看，在一個組織或企業內部使用時，似乎又完全是另外一個面向了，這也是為什麼我越來越在意「本地 LLM」的應用場景與價值？ 這篇文章將從幾個面向，說明我對本地LLM的思考與選擇，並分享它在未來 AI 應用中可能扮演的關鍵角色。
Read more »

數位轉型的盲點：AI只是工具，改變的是決策與流程

圖片
被AI再次被推上浪潮的數位轉型 在ChatGPT問世之後，大量人工智慧、自動化...等，特定名詞的能見度大增，又促使組織或企業重新看待數位轉型這個議題，對於上了點年紀的人來說，數位轉型這個詞，可能會聯想起電腦剛大量進入企業時的文件電子化。 不過，這次數位轉型的風潮，應該是指透過AI技術，期許能夠簡單、輕易地解決原本在企業或組織中，希望能夠過AI來提升效率，減少人力來完成既定事件的目標吧！ 如果，你也是這麼想的話，哪麼你可能會大失所望，同時，也代表你沒有認清目前AI與數位轉型上要面對差異。
Read more »