發表文章

目前顯示的是 9月, 2025的文章

打造本地知識庫系統,軟硬體評估全攻略

圖片
以本地AI的應用來說,有甚麼應用情境最常見,而且又能夠直接感受到AI的好處呢?我認真地思索了一下,我想應該就是「 知識庫系統 」,我們這篇就來探究一下,如果想要在自行建立一個透過LLM為主的知識庫系統,究竟需要哪些資源,以及該要注意些甚麼? 畢竟,對組織或是企業來說,藉由LLM來驅動的知識庫,可以成為一個企業內部的知識核心,基於這個核心平台,能夠依據不同需求,訂製出各式各樣的不同應用及服務,說它是最直覺可以感受到AI好處的解決方案,絕對是不遑多讓。況且,因為資料來源很多會牽涉公司內部機密,因此,在本地端自行建立也有其必要性。 不過,要自行建立及部署知識庫系統,就代表著要面臨硬體投入與維護挑戰。因此,本文將從軟硬體的角度出發,幫你打造適合的地端知識庫系統。接著就讓我們來接著看下去,應該如何評估跟自行建立內部知識庫。

深入理解Local LLM的價值:不只是「離線」這麼簡單

圖片
自從GPT橫空出世之後,語言模型(LLM)正快速改變我們與資訊、系統、甚至也成為AI應用的背後基石。不論是 GPT-5、Claude、Gemini,雲端 AI 的確帶來了截然不同的使用體驗。 不過,它們似乎對個人來說,才有如此大的吸引力,若是換個角度來看,在一個組織或企業內部使用時,似乎又完全是另外一個面向了,這也是為什麼我越來越在意「本地 LLM」的應用場景與價值? 這篇文章將從幾個面向,說明我對本地LLM的思考與選擇,並分享它在未來 AI 應用中可能扮演的關鍵角色。

你能掌握AI的優勢嗎?

圖片
"你"會用AI嗎? 現今很常聽見的一句話,代表著AI成了顯學,若說不會的話,好像個人能力就會因此大打折扣。但是,當AI不再只是種選項,而成為一種競爭力的象徵時,我們又該怎麼看待,尤其是怎樣才算會用AI呢? 身處不同位階,想要透過AI所取得的效益也不一樣,所以,我們這邊來談談應該要具備那些能力,能夠讓你跟別人說:「我會用AI」時,能夠更有自信吧!

數位轉型的盲點:AI只是工具,改變的是決策與流程

圖片
被AI再次被推上浪潮的數位轉型 在ChatGPT問世之後,大量人工智慧、自動化...等,特定名詞的能見度大增,又促使組織或企業重新看待數位轉型這個議題,對於上了點年紀的人來說,數位轉型這個詞,可能會聯想起電腦剛大量進入企業時的文件電子化。 不過,這次數位轉型的風潮,應該是指透過AI技術,期許能夠簡單、輕易地解決原本在企業或組織中,希望能夠過AI來提升效率,減少人力來完成既定事件的目標吧! 如果,你也是這麼想的話,哪麼你可能會大失所望,同時,也代表你沒有認清目前AI與數位轉型上要面對差異。