生成式AI大型語言模型（LLM）已成為現代人工智慧領域中的核心技術，應用範圍涵蓋自然語言處理、對話系統、自動摘要、機器翻譯等多個方面。本課程旨在培養學員掌握LLM的開發、部屬及應用技巧，從基礎理論到實際操作，全面提升參與者的專業技能和實踐能力。
授課老師: 賴冠廷教授 (www.aiotlab.org)
~本課程歡迎企業包班，請來電洽詢 課程承辦人 黃小姐 02-23701111#306
本課程將帶您深入淺出地了解生成式AI的基本原理，並通過實作掌握各種LLM應用技術：
🔹 聊天機器人開發：打造專屬的AI秘書 🔹 提示工程（Prompt Engineering）：提升AI生成內容的品質 🔹 專屬對話流程設計（LangChain）：自定義您的服務流程與互動體驗 🔹 資料檢索增強生成（RAG）：讓LLM分析並檢索您的私有文件 🔹 搜尋引擎整合：讓LLM連上網際網路搜尋最新資訊 🔹 微調開源LLM模型（Fine-Tuning）：客制專屬LLM來解決特定問題
在企業內部擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師或研發人員等。具備基本程式概念者。
| 單元 | 內容 |
|---|---|
| 大型語言模型(LLM)介紹 | 深度學習、循環神經網路(RNN)與長短期記憶(LSTM) 把文字轉向量 Word Embedding 注意力機制 Attention & Transformer 免費AI開發工具: Colab, Kaggle, Hugging Face LLM之提示工程 (Prompt Engineering) |
| LLM之應用程式開發 | 客製化ChatGPT LLM之百家爭鳴: ChatGPT, Gemini, Claude, LLaMA, 台灣繁體模型TAIDE 使用OpenAI Assistant開發專屬line聊天機器人 替LLM裝上眼睛和耳朵: 生成照片和聲音資訊 |
| 設計專屬的對話流程 (LangChain) | 提示模板(PromptTemplate) 使用LangChain設計對話紀錄 記憶對話紀錄(Memory) 替LLM裝上翅膀: 呼叫外部搜尋引擎和工具 使用額外資料擴展新知識(Retrieval-Augmented Generation) 追蹤資料傳遞過程與除錯(LangSmith) |
| 安裝與部署專屬LLM | 架設雲端伺服器與部署Discord聊天機器人 辦公室文件查詢AI小秘書 YouTube影片懶人包機器人 上市櫃公司財報AI分析師 |
| 微調專屬的LLM | 指令式微調(Instruction Fine-tuning) 多任務式微調與漸進式學習(Multi-task Fine-tuning: Progressive Learning) 高效參數微調與遷移式學習 (Parameter Efficient Fine-tuning (PEFT)) |