網路自殺風險AI偵測系統(測試版)

系統說明

本網頁是國立清華大學人文社會 AI 應用與發展研究中心為執行公共化 AI 相關計畫之成果展示。本系統是以人工智慧 (AI) 的自然語言處理技術為基礎，透過心理專業人士所標註的資料進行 AI 模型訓練，目標是對社群網路上的貼文進行 24 小時巡邏，在茫茫網海中即時偵測出高自殺風險的貼文作後續的通報。但目前本網頁僅為測試使用，並未以爬蟲截取任何社群平台的貼文。預期的使用者為心理輔導或危機個案處理專業人士，並非社會大眾，未來系統正式上線後也不會對外開放。

在本測試網頁中，使用者可以從左方欄位選擇所提供的真實網路貼文，或自行輸入要測試的文字，即可進行AI文字偵測。為求增加解釋能力，本系統會首先對每個斷句進行標註，再完成最後的風險程度預測。目前的設計只將貼文偵測的「自殺風險程度」結果區分為「高」及「中低」兩類。高風險代表已經有具體的行動或強烈的意念，應考慮進行危機通報。但目前本測試網頁並未作此後端連線。

提醒：為了降低偽陽性所造成的誤判，本系統已經特別強化對自殺風險的判斷精確度 (precision) 而降低召回率 (recall)。但面對不同來源或多元類型的貼文，本系統的預測必然會有疏漏，不能取代專業評估，歡迎聯繫我們提供建議。若使用者有任何個人心理問題需要協助，請尋求心理專業人士的建議。