AI 反詐審核系統

隨著平台用戶快速成長，詐騙帳號（偽客服、單一外連導流、空殼帳號）數量同步上升。原有的審核機制為兩段式：第一層以 Hardrule 過濾（惡意網域、關鍵字等等），未被攔截者則全數回落至人工複審。這套機制在規模擴大後暴露三個結構性問題：

→ 截至 2026 年 5 月，目標 1 與 2 已完成並上線；目標 3、4 完成機制設計與提案，因專案階段未進入開發，設計方向見後續提案。

從有限經驗中，建立風險判斷框架

外部｜由於團隊過去缺乏可直接沿用的 AI 審核方法與案例，先從外部研究與平台既有資料建立初步判斷依據。一方面，從同類平台的公開報告反推可行架構。 研讀相關競品的透明度報告等 link-in-bio 平台公開資料，了解違規內容分成哪幾類、用什麼方式偵測、處置如何分級，並粗略歸納以下三點

• 詐騙與垃圾內容是同類平台停權的最大宗，確認了優先處理的方向
• 偵測並非單一模型，而是文字、連結、圖片分工搭配人工監督，成為三層架構與內容還原模型的參考
• 處置是分級的：先移除違規內容，嚴重才停權；且申訴推翻率並不低，顯示誤封在同業同樣是實際成本，而非假想風險

內部｜蒐集平台內已知的惡意帳號，從帳號資料、內容語意與行為特徵中歸納可重複辨識的風險樣態。

兩者交叉後，依「判斷方式」將樣態分為三類：

• 特徵明確且穩定，可由規則直接攔截
• 需要理解內容脈絡與語意，適合交由 AI 判斷
• 涉及模糊情境或例外狀況，仍需由人工複核

這個分類成為三層審核架構的設計依據。

先收斂架構，再透過內部討論快速驗證

1. 先將既有的兩階段審核流程視覺化成流程圖，釐清各階段的判斷邏輯、交接方式與 AI 可介入的位置，再提出三層審核架構與初版流程。
2. 相較於直接進行開放式訪談，選擇先建立具體草案，讓跨部門討論有明確標的：與工程團隊確認技術可行性、開發成本與系統限制；與審核團隊核對實際判斷邏輯、操作情境及例外處理方式。
3. 根據兩方回饋持續調整流程與 UI 草稿，並邀請實際審核者進行操作驗證，兩週內完成兩輪迭代，收斂出可進入工程開發的版本。

1. 設計解方：分層審核與回饋閉環

新流程在規則與人工之間插入 AI 判斷層，並補上一條回流路徑，讓人工判斷的結果能回饋給系統。三層各自負責它最擅長的判斷類型（如下圖）：

• 第一層｜規則過濾：處理特徵固定、可窮舉的明確惡意，快且可解釋
• 第二層｜AI 語意判斷：處理需要脈絡理解的灰色地帶，分兩階段執行以控制成本
• 第三層｜人工複審：處理低信心案例，並可對前兩層的判定雙向覆寫
• 回饋機制：每一次人工覆寫都成為一筆標註資料，用於產出新規則建議

2. AI 判斷層如何運作

進入第二層 - AI 判斷層之前，第一層 HardRule 先做了一次補強：加入內容還原模型，將特殊字元、圖片與外語內容還原成可掃描的文字，讓既有 Hard Rule 看得懂原本看不懂的內容。

真正需要脈絡理解的帳號，才會落到 AI 判斷層，後續運作原則如下：

• 分兩階段執行，成本由低到高。 先看帳號主頁本身；只有在這一階段無法定案時，才進一步檢查外部連結的落地內容。外連掃描的單位成本遠高於主頁掃描，因此設計成需要條件才觸發，而非預設執行。
• 輸出結構化結果。 要求 AI 每次判斷都回傳四個部分：

3. AI 實作決策：以 Prompt 結構化既有標準，而非投入模型訓練

與審核團隊釐清案例後，發現詐騙帳號的判斷標準其實已可被清楚描述。例如：

• 是否冒充官方客服
• 是否只有單一外部連結
• 是否為缺乏內容的空殼帳號
• 是否透過特定產業話術將使用者導向站外

團隊缺少的是能夠規模化執行這套標準的能力。審核員能說明「為什麼需要封鎖」，只是無法逐一查看所有帳號。評估不同 AI 實踐方式後，最終第一階段選擇以 Prompt 將既有審核標準結構化，而非立即投入模型訓練。

詐騙手法會持續改變，因此比起追求一次性的模型最佳化，更重要的是讓團隊能快速調整審核標準並驗證效果。

同時，這項選擇並未排除未來的模型訓練。人工覆寫所累積的案例、判斷原因與正確結果，會逐步形成可用的標註資料；當資料量與穩定性足夠後，團隊仍可進一步評估微調或建立專用分類模型。

4. 審核者的使用操作流程圖

第三層的人工複審，在介面上收斂成兩個名單之間的雙向流動：

• 兩個名單，一組操作：封鎖名單與安全名單共用相同的時間篩選與關鍵字查詢，審核者不需要切換兩套操作邏輯。
• 排序即優先級：安全名單依 AI 風險程度由高至低排列，審核者的時間自動集中在最可疑的帳號上——這是 AI 輸出在介面上最直接的價值；封鎖名單則以最新處置優先，方便即時回查。
• 雙向覆寫：封鎖與解封實際上就是帳號在兩個名單間移動。AI 的判定可被推翻，而且推翻是雙向的——不只修正誤封，也能補上漏封。
• 決定即資料：每一次覆寫都留下紀錄，成為誤封監測與後續調整判斷標準的資料來源。

將 AI 判定與實際結果交叉，可分為四種情況與風險：

在 AI 封鎖的情境中，兩種錯誤的成本並不對稱。漏封雖可能帶來風險，但仍有機會透過後續機制再次攔截；誤封則會直接影響正常使用者，並增加申訴、解封與信任修復成本。

因此，上線初期採取保守的自動化策略，以控制誤封風險，而非追求最高的封鎖率：只有高信心的惡意案例自動封鎖，模糊案例一律交由人工複審，封鎖後仍保留申訴與人工解封的回收路徑。

同時，人工可以覆寫 AI 的封鎖與放行結果，系統會記錄原始判定、最終結果與覆寫原因。這些紀錄既能用來監測誤封與漏封，也能作為後續調整 Prompt、規則與判斷門檻的資料來源。

指標定義

實際成效

1｜第一層｜內容還原模型讓 HardRule 看懂變形內容：0% → 10.9% → 16.5%

上線前為 0，上線兩天內即貢獻 10.9% 的直接偵測封鎖，AI 期間穩定於 16.5%。這條路徑的帳號都是第一次關鍵字比對未命中、經內容還原模型處理特殊字元與外語後才被規則抓到——在舊架構下結構上比較難被偵測。沒有改寫任何 HardRule，只是讓 HardRule 看得懂原本看不懂的內容。

2｜第二層｜AI 判斷層承接 28.9% 的直接偵測封鎖

正式成為第二層風控決策機制，而非僅作為輔助參考。兩個掃描階段的成本效率差距明顯：

絕大多數的惡意帳號在第一階段看主頁時就能被判定（佔 AI 封鎖的 91.3%），驗證了分階段設計的必要——模型不必對每個帳號都抓取詳細內容。相對地，外連掃描消耗超過一半的掃描量，卻只產出不到一成的封鎖，單位成本約為主頁掃描的 12 倍，下一步應為它設定更嚴格的進入條件。

3｜兩者合計：新增路徑貢獻 45.4%

AI 上線後，近半數的直接偵測來自改版前不存在的路徑。 內容還原後命中的帳號是第一次 HardRule 規則比對未命中才進入的，AI 語意判定則是兩次 HardRule 規則比對都未命中才會判斷。

4｜風險控制：同期申訴解封率 0%

實際自動封鎖的帳號，風險分數全部落在最高風險區間；中間地帶的可疑帳號一律不自動處置，保留給人工判斷，觀察申訴解封率與模型封鎖的準確度來逐步調高封鎖標準。

5｜人工成本：審核者回報處理時間減少約一半

• 上線後訪談實際使用的審核者，對方表示原本需要逐一查看的帳號，多數已由 AI 先行處置或排序，處理同樣數量的案件所需時間約減少一半。
• 這是使用者的主觀估計，而非系統量測值——專案未在上線前建立人工工時基線，因此無法交叉驗證。

後續提案：讓系統自己追上攻擊者

前兩層解決了「規則抓不到」與「人工負擔重」，但沒有解決第三個結構性問題——新的詐騙模式仍需人工先發現。離職前完成兩項機制的提案，未進入開發：

• 回饋機制：系統已記錄每次人工覆寫的原始判定與原因，但當時僅用於監測。提案讓 AI 定期分析「應封未封」與「誤封」兩類案例，歸納共同特徵並產出調整建議，讓誤判從個案處理變成模式修正。
• 預警機制：短時間內註冊量異常暴增，往往是同一波攻擊。提案讓 AI 偵測到這類異常時掃描該批帳號內容、歸納共通手法並整理成摘要，交由審核團隊判斷是否新增規則。

讓 AI 負責發現與歸納，人保留決定權——反詐的風險不對稱讓全自動更新規則過於危險，但「等人發現」又會有落後的風險。

1. 成效驗證不應只看封鎖量，也要納入成本

• 由於上線時程較趕，專案未在開發前完整估算每日掃描量、模型呼叫成本與單次封鎖成本，因此上線後主要只能從新增封鎖量與節省的人工時間評估成效，並監測 AI 所花的費用。
• 若重新規劃，應嘗試在上線前先建立成本基線，追蹤每日掃描成本、單次有效封鎖成本，以及 AI 相較人工審核所節省的時間；同時加入低成本的風險粗篩，只讓具備可疑訊號的帳號進入模型判斷。

→ AI 專案的成效不能只證明「抓得更多」，也應該要證明「用這個成本抓，是否值得」。

2. Prompt 設計的前提，是團隊先對齊判斷標準

• 專案初期，工程、審核團隊與 PM 對「什麼是可疑帳號」有不同直覺。當判斷標準仍停留在「看起來不對」時，便難以轉化成一致且可測試的 Prompt。
• 為了收斂標準，我以實際遭封鎖的帳號作為共同案例，請不同角色分別判斷並說明理由，再將分歧拆解成具體條件，例如身分冒充、內容與連結不一致、空殼帳號或站外導流意圖，最後轉化為模型判斷依據。

→ Prompt 並不是單純的文字撰寫，而是產品規則的結構化。只有當人能清楚說明判斷依據，AI 才有機會穩定執行。