iPAS AI應用規劃師初級 模擬題

部署生成式 AI 於開放式對話情境時，防範惡意提示（Prompt Injection）或有害內容生成是系統安全設計的首要考量。

導入護欄機制 (Guardrails) 能有效阻斷風險傳遞。實務上應採取以下縱深防禦：

1. 輸入端意圖過濾：利用輕量級的分類模組分析使用者的提問意圖，若偵測到涉及暴力、非法操作或違反政策的關鍵字，立即觸發防護。
2. 動態攔截與阻斷：針對高風險請求，系統應直接拒絕回答或強制中斷生成流程，並將該紀錄轉交人工審查，避免有害指導輸出。

嚴謹評估機器學習模型效能時，若僅依賴單一次的訓練集與測試集分割，極易因資料劃分的隨機性而產生評估偏差。交叉驗證（Cross-Validation） 透過將原始資料集分割成多個子集（如 K 折交叉驗證），強制讓每一筆資料都有機會輪流擔任模型訓練數據與未知驗證數據。這種反覆交替訓練與測試的機制，能夠更穩定、客觀地測量模型面對完全未知數據時的真實預測能力，協助研究人員及早察覺並調整網路架構或超參數，有效**降低模型過擬合（Overfitting）**的發生機率，確保模型具備優良的泛化能力。

醫療領域屬於高風險應用場景，機器學習模型的幻覺（Hallucination）或錯誤推論可能導致嚴重的人身或健康損害。

根據 AI 風險管理框架（如 NIST AI RMF），當系統具備不確定度量化能力時，應將此指標轉化為使用者保護機制：

• 視覺化風險提示：在前端明確標示系統當前推論的信心水準較低。
• 限制自動化決策：在缺乏足夠把握時，不應給出絕對性的處置建議。
• 免責與專業轉介：強制顯示警語，提醒使用者該回覆僅供參考，且必須尋求合格醫療專業人員的診斷。

圖靈獎得主 Jim Gray 提出的科學研究演進典範如下：

1. 第一典範：實驗科學（記錄自然現象）。
2. 第二典範：理論科學（建立數學模型、定律）。
3. 第三典範：計算科學（利用電腦模擬複雜現象）。
4. 第四典範：資料密集型科學探索（Data-Intensive Scientific Discovery）。

第四典範強調透過對巨量數據的自動化分析、挖掘與整合，來發現全新的科學規律。這已成為大數據時代與現代人工智慧發展的最重要基礎理論架構。

在即時互動與多模態處理領域，類似 GPT-Realtime 的模型架構專注於極小化輸入到輸出的延遲 (Latency)，並具備直接解析與生成語音訊號的能力。

這類技術的核心優勢在於即時性與擬真度。虛擬陪伴機器人需要處理包含語氣、停頓與情緒等非結構化的語音特徵，並在毫秒級別內作出自然的反饋，這正是主打低延遲、多模態即時處理模型最能發揮價值的場景。相對而言，處理靜態文件、財務報表結算或合約檢視等任務，更側重於模型的邏輯推演與長文本理解能力，對即時語音與極低延遲的依賴程度較低。

大數據最廣為人知的定義為 3V 模型：

• Volume（量）：數據規模巨大。
• Velocity（速）：產生與處理速度極快。
• Variety（多樣性）：結構與格式多元。

這套理論最早是由 META Group 分析師 Doug Laney（META Group 於 2005 年併入 Gartner） 在 2001 年的一份研究報告中提出。他在該報告中預見了資料管理將面臨的三維挑戰，隨後這 3V 成為全球學術界與產業發展大數據應用的共同語言。