- 依內容分級制度,未登入僅能顯示普遍級內容,登入後即可觀看全站內容。
- 馬上登入
關注
關注作者、出版社、系列,新刊上架可獲得通知!
內容簡介
大AI時代將至,你不可不讀的語言模型獨門祕笈
帶你輕鬆遨遊生成式AI的世界!
本書內容改編自第15屆iThome鐵人賽AI & Data組冠軍系列文章《LLM學習筆記》,這是個生成式AI崛起的年代,其中又以ChatGPT為首的大型語言模型(Large-Scale Language Model, LLM)們最為令人驚豔,但是每當我們提到LLM時,腦中浮現的可能都是一些參數量龐大、架構絢麗又複雜、沒有個幾千幾百張GPU跑不動的超複雜數學模型!
其實掌握語言模型並沒有那麼困難,本書介紹了許多在建立LLM相關應用時會使用到的技術:在雲端可以透過簡單的ChatGPT API打造有趣的塔羅占卜應用;在地端有 Hugging Face TGI、vLLM、llama.cpp等推論框架,就算只有單顯卡也能高速部署、輕鬆玩轉各式各樣Open Source的LLM。透過多種量化技術減少記憶體開銷,小顯卡也能推動大模型!還有許多文本檢索的技巧,帶你一步步構築出RAG實務應用。最後當然少不了,透過LoRA訓練手法輕鬆打造專屬於你的客製化語言模型!
筆者根據自身的實務經驗,介紹深入但是易懂的理論,使用簡單但是務實的技術,帶領大家瞭解如何在低成本、低資源的環境中打造LLM相關應用。無論你是求知若渴的研究員,或是躍躍欲試的工程師,都能從本書中得到滿滿的收穫!
重點摘要:
✦ 語言模型
雲有ChatGPT,地有Llama
✦
其實掌握語言模型並沒有那麼困難,本書介紹了許多在建立LLM相關應用時會使用到的技術:在雲端可以透過簡單的ChatGPT API打造有趣的塔羅占卜應用;在地端有 Hugging Face TGI、vLLM、llama.cpp等推論框架,就算只有單顯卡也能高速部署、輕鬆玩轉各式各樣Open Source的LLM。透過多種量化技術減少記憶體開銷,小顯卡也能推動大模型!還有許多文本檢索的技巧,帶你一步步構築出RAG實務應用。最後當然少不了,透過LoRA訓練手法輕鬆打造專屬於你的客製化語言模型!
筆者根據自身的實務經驗,介紹深入但是易懂的理論,使用簡單但是務實的技術,帶領大家瞭解如何在低成本、低資源的環境中打造LLM相關應用。無論你是求知若渴的研究員,或是躍躍欲試的工程師,都能從本書中得到滿滿的收穫!
重點摘要:
✦ 語言模型
雲有ChatGPT,地有Llama
✦
作者簡介
陳威廷(Penut Chen)
在新店角落默默無聞a樂天派技術宅,不只喜歡寫程式,也喜歡跟大家分享技術,除了在網路上發表教學文章、範例專案以外,也主持過技術分享的讀書會。主要的專業在自然語言處理領域,原本從一個乏人問津的NLP實驗室畢業,沒想到遇上了ChatGPT帶來的生成式AI熱潮,一夜之間大家對LLM興趣水漲船高,然而我的薪水身價卻依然四平八穩,於是決定到iThome鐵人賽上抖出我的渾身解數,很榮幸的獲得了AI & Data組的冠軍。
在成長的路上受到許多師長與前輩的開導,深深感受到知識與學習對於一個人是如此重要,在我的心中相當尊敬這些撰寫知識、傳播知識的人們,本著「取之於社會,用之於社會」的心情,來向大家分享我對這個領域的理解與熱忱!
在成長的路上受到許多師長與前輩的開導,深深感受到知識與學習對於一個人是如此重要,在我的心中相當尊敬這些撰寫知識、傳播知識的人們,本著「取之於社會,用之於社會」的心情,來向大家分享我對這個領域的理解與熱忱!
「iThome鐵人賽」系列
全系列作共47冊
相關推薦書刊
買此商品的人也買了...
購買前的注意事項
- 本書城的商品為電子書及電子雜誌,並非紙本書。讀者可透過電腦裝置網頁瀏覽,或使用 iPhone、iPad、Android 手機或平板電腦下載閱讀。
- 如有下載閱讀需求,為避免裝置版本無法適用,建議於購書前,先確認您的裝置可下載BOOK☆WALKER的APP,並可先下載免費電子書,確認可順利使用後再行購書。
- 由於數位智慧財產權之特性,所販售之電子書刊經購買後,除內容有瑕疵或錯誤者外,不得要求退貨及退款。如有特殊情形,請洽敝公司客服人員,我們將盡速為您處理。