中正大學課程大綱
課程名稱(中文)： 生成式AI應用系統與工程 開課單位： 工學院碩博班(College of Engineering (Graduate))
課程名稱(英文) Generative AI Application Systems and Engineering 課程代碼 4015203_01
授課教師： 學分數 3
必/選修 選修 開課年級 碩博班 開放大學部選修
先修科目或先備能力：
● 具備基本程式設計能力。
● 具備基本Web 技術(HTML/CSS/JS)與GitHub使用經驗。
● 對雲端服務有初步認識者佳(不為必要條件)。
課程概述：
本課程以「生成式 AI 應用系統」開發為核心,帶領學生從需求分析、系統設計,到實作與部署,完成一個生成式 AI Web服務。內容涵蓋軟體工程SDLC、前後端技術、資
料流程與工作流、開源CI/CD與 MLOps/LLMOps工具、AWS 雲端環境、分散式 AIInfra、LLM 微調與 local LLM 評測、Agent 工作流與 MCP/ADK/agent-to-agent架
構、LiteLLM/OpenRouter 等模型代理工具,以及 token 經濟學、Prompt 優化、多輪對話設計、幻覺減少與 LLM 資安議題。
學生將透過至少六次程式作業與期末專題,實作一個具完整工程思維的生成式AI應用系統
學習目標：
1.
教科書：
● 講義、程式碼示例、AWS 教材
● MCP、LLMOps、Ray 等官方文件

課程大綱 分配時數 核心能力 備註
單元主題 內容綱要 講授 示範 隨堂作業 其他
課程介紹、修課要求與評分方式:
● 生成式AI應用系統典型架構:前端、
後端、LLM 層、Agent workflow、
資料流、系統觀測機制等介紹。
HW 1:
前端 streaming Chat/
建議介面React/Next.js +
SSE/WebSocket,實
作 LLM 互動介面
SDLC、需求分析與系統架構設計概念:
● SDLC 在生成式 AI 專案中的應用。
● 撰寫 System Requirement、Use
Case
● Microservice、高階架構圖規劃、服
務邊界與模組切分
3/4
前端 Web 技術與生成式介面設計:
● Next.js / React / Tailwind
● gen-AI UI patterns
● SSE/WebSocket streaming
HW 2:
Streaming LLM Chat
UI 實作
後端架構、微服務設計與 LLM Proxy Gateway:
● API Server:FastAPI / Node.js
● REST / WebSocket / SSE 實作
● Microservice 架構核心
● GenAI 微服務拆分
● LLM Gateway核心微服務:Routing
、Token Logging
3/18
事件驅動資料流架構:
● ETL / background tasks
● Airflow DAG、Task、Scheduler
● Kafka → Airflow → Iceberg 的典型
資料處理流程
● Iceberg Data Lake
● Microservice 與 Background
Worker 整合
HW 3:
Kafka ETL Pipeline
實作
CI/CD、MLOps、LLMOps:
● GitHub Actions/GitLab CI
● Docker化、環境建置
● MLflow/promptfoo
● 模型行為監控、Regression Test
● Microservice deployment pipeline
4/1
清明連假
AWS 開發與部署、AWS Kiro介紹:
● AWS EC2 / ECS / Lambda
● IAM、S3、RDS
● Kiro 架構
● 成本估算與auto scaling
● CDN/Cache
4/15
資料庫系統與向量資料庫:
● Embedding、HNSW、Retrieval
● RAG pipeline:chunking、index、
rerank
● Retrieval microservice
HW 4:RAG
模型微調、Local LLM、行為檢測:
● Fine-tuning
● vLLM、Ollama 本地部署
● promptfoo / eval harness 進行模型
行為檢測
● Model Service as Microservice
4/29
分散式 AI Infra 與工作流程:
● Ray tasks、actors
● Ray Serve + scaling
● 多檔案、多任務平行LLM pipeline
● Ray Worker microservice
HW 5:Ray-based 生
成式工作流實作
Agent Workflow、MCP、ADK、 Agent-to-Agent 協作:
● Agent 架構:Planner、Tool、Critic
● MCP:工具抽象層與資源管理
● ADK / Vertex AI Agent Builder
● agent-to-agent workflow
5/13
ADK Callbacks與Sanitize/Policy Check/ Audit Middleware:
● ADK Agent生命周期與callback流程
● 使用ADK callbacks做安全防護與審
計
HW 6:LLM Security
Layer
Other LLM Security、Jailbreak、與 Response Auditing:
● Prompt Injection
● Jailbreak 防禦
● ADK-based Policy Engine
● API key 保護與最小權限原則
5/27
Observability:
● LLM UX/error recovery
● 延遲優化、Queue
● logs / metrics / distributed tracing
● token 成本/效能指標
● Online A/B testing
6/3
Project Demo
6/10
(Optional) Supplementary Materials
6/17
(Optional) Supplementary Materials
6/24


請尊重智慧財產權，不得非法影印教師指定之教科書籍

教學要點概述：
1. 教材編選(可複選)：自編簡報(ppt)教科書作者提供
2. 教學方法(可複選)：講述板書講述
3. 評量工具(可複選)：上課點名 0%, 隨堂測驗0%, 隨堂作業60.00%, 程式實作0%, 實習報告0%,
                       專案報告40.00%, 期中考0%, 期末考0%, 期末報告0%, 其他0%,
4. 教學資源：課程網站 教材電子檔供下載 實習網站
5. 教學相關配合事項： ● HW 1-6:10% each HW ● Final Project:40%

課程目標與教育核心能力相關性        
請勾選：