北大 113 年資管所 計算機概論 參考答案

1. 不需自建機房，資本支出轉為依用量付費的營運支出，降低遷移門檻。
2. 資源隨需擴充縮減，不必為尖峰預購容量。
3. 提供資料庫、AI、資安等託管服務，遷移後直接使用。
4. 多區域架構便於高可用與異地備援。
5. 具國際安全認證，受監管產業可依規範與責任共擔模型使用。
6. 提供遷移評估與搬遷工具，縮短遷移時間。

1. 隨需自助服務（On-demand Self-service）：使用者可自行透過網頁或應用程式介面（API）開通運算與儲存資源，不需與服務商人工往來。
2. 廣泛網路存取（Broad Network Access）：資源透過網路以標準機制提供，可用手機、筆電、工作站等各種裝置存取。
3. 資源池化（Resource Pooling）：服務商以多租戶模式把實體資源集中成資源池，依需求動態分配給不同客戶，客戶通常不知道資源的確切實體位置。
4. 快速彈性（Rapid Elasticity）：資源可快速擴充與釋放，對使用者而言可用容量近乎無限。
5. 可量測的服務（Measured Service）：系統自動計量資源使用量（運算時間、儲存量、流量），依用量計費並可監控。

(1) 現況：選課系統尖峰負載、學習平台與校園網站對外服務、電子郵件與檔案分享可改用軟體即服務（SaaS）、校內備份缺乏異地備援。

(2) 評估準則：業務特性（尖峰、對外）、資料敏感度與法規（個資）、技術相容性與系統相依、成本（總持有成本 TCO 比較）、可用性與服務等級協議（SLA）、維運能力。

(3) 搬遷規劃：

1. 盤點服務並依準則排定優先順序。
2. 選擇策略：Rehost、Replatform、Repurchase、Refactor 或 Retain。
3. 以低風險服務試點。
4. 核心服務於學期空檔分批遷移，雙軌運行後切換。
5. 監控效能與費用，持續最佳化。

IaaS / GCP / Compute Engine

1. 提供預先定義與自訂規格的虛擬機器，可選擇 CPU、記憶體與 GPU。
2. 多數機型支援即時遷移（Live Migration），主機維護時虛擬機器不需停機（掛載 GPU 的執行個體除外）。

PaaS / GCP / App Engine

1. 上傳程式碼即可部署，伺服器、作業系統與修補由平台管理。
2. 依流量自動擴充執行個體，支援多種程式語言。

Serverless logic / GCP / Cloud Functions

1. 以事件觸發（HTTP 請求、Cloud Storage 檔案上傳、Pub/Sub 訊息）執行單一函式。
2. 依執行次數與時間計費，沒有請求時不收運算費用。

Container-based computing / GCP / Google Kubernetes Engine（GKE）

1. 託管的 Kubernetes 叢集，控制平面由 Google 維運。
2. 支援節點自動擴充、自動修復與自動升級。

Serverless platform / GCP / Cloud Run

1. 部署任何語言撰寫的容器映像檔，不需管理叢集。
2. 依請求量自動擴充，沒有流量時可縮減到零個執行個體。

(1) 定義：

1. AGI：在多數認知任務達到或超越人類水準、能遷移到未見過問題並自主學習的 AI，尚未實現。
2. General AI：與 Narrow AI 相對，多數文獻與 AGI 同義；取較寬意義時指能在多種任務間通用的系統。
3. Generative AI：學習資料分布並產生新內容的 AI，已商用。

(2) 比較：

(3) 目標與挑戰：AGI 目標是突破 AI 只會做被訓練任務的限制，處理常識推理、長期規劃與安全對齊；General AI 目標是降低每個任務重新收集資料與訓練的成本，處理跨領域遷移與災難性遺忘；Generative AI 目標是自動化內容產出與人機互動，處理生成品質、幻覺、偏誤與著作權。

(1) 重要性：以較少位元表示權重，減少記憶體、讀取量變少而加快推論、降低成本並可在邊緣裝置執行。

(2) 類型：訓練後量化（PTQ，如 GPTQ、AWQ）與量化感知訓練（QAT）；只量化權重或權重與激勵值都量化；對稱與非對稱；per-tensor、per-channel、per-group。

(3) VRAM（只計權重，1 GB＝${10}^9$ bytes）：FP32 為 28 GB、INT8 為 7 GB、INT4 為 3.5 GB。

(4) 變化：VRAM 與每個參數的位元數成正比，INT8 為 FP32 的四分之一，INT4 為八分之一；實際執行另需鍵值快取（KV cache）等記憶體。

(1) 相異：

(2) 相同：都不採關聯式表格模型；都表達資料間的關聯（距離或邊）；都有針對自身查詢型態的存取結構；都常用於檢索增強生成（RAG），可結合為 GraphRAG。