新北市立大豐國小 大豐AI小助理 可被 Prompt injection - HITCON ZeroDay

Vulnerability Detail Report

Vulnerability Overview

  • ZDID: ZD-2025-01330
  •  發信 Vendor: 新北市政府教育局
  • Title: 新北市立大豐國小 大豐AI小助理 可被 Prompt injection
  • Introduction: 系統未對使用者輸入進行適當的過濾和驗證，允許攻擊者透過特製的提示詞（prompt）來操控 AI 的行為，繞過系統原本的限制和指令，使 AI 執行非預期的操作或洩漏敏感資訊。

處理狀態

目前狀態

公開
Last Update : 2025/11/05
  • 新提交
  • 已審核
  • 已通報
  • 已修補
  • 已複測
  • 公開

處理歷程

  • 2025/10/08 11:54:00 : 新提交 (由 MaZon 更新此狀態)
  • 2025/10/12 12:01:29 : 審核完成 (由 HITCON ZeroDay 服務團隊 更新此狀態)
  • 2025/10/17 13:39:49 : 修補中 (由 HITCON ZeroDay 服務團隊 更新此狀態)
  • 2025/10/17 13:39:49 : 審核完成 (由 HITCON ZeroDay 服務團隊 更新此狀態)
  • 2025/10/17 13:39:49 : 修補中 (由 HITCON ZeroDay 服務團隊 更新此狀態)
  • 2025/10/17 14:35:58 : 複測申請中 (由 組織帳號 更新此狀態)
  • 2025/11/01 14:10:09 : 確認已修補 (由 MaZon 更新此狀態)
  • 2025/11/05 03:00:39 : 公開 (由 HITCON ZeroDay 平台自動更新)

詳細資料

  • ZDID：ZD-2025-01330
  • 通報者：masonzeng (MaZon)
  • 風險：高
  • 類型：其他 (Other)

參考資料

暫無資料
(本欄位資訊由系統根據漏洞類別自動產生，做為漏洞參考資料。)

相關網址

https://www.dfes.ntpc.edu.tw/var/file/0/1000/mobilehomepage/33/AI.html
https://www.dfes.ntpc.edu.tw/var/file/0/1000/mobilehomepage/26/AI.html

敘述

使用 Burp suite 開啟 intercept 後進入頁面
圖片

使用 Burp Suite 構造 Prompt Injection 攻擊
圖片

注入的 combinedText 參數
圖片

伺服器回應 - 攻擊成功繞過限制
圖片

前端顯示完整的炒飯食譜（非學校資訊）
圖片

修補建議

移除前端可控的 combinedText 參數
輸入內容驗證

擷圖

留言討論

聯絡組織

 發送私人訊息
您也可以透過私人訊息的方式與組織聯繫，討論有關於這個漏洞的相關資訊。
;