測試穩健性

檢視輸入變化後,模型表現如何變化。

穩健性測試比較原始輸入與變換後輸入的模型表現,例如給圖片加霧。兩邊應使用相同樣本和相同指標。

配置比較

  1. 生成預測時加入要測試的變換和強度。
  2. 對完成的預測集執行評估,並選擇對應的 Robustness 選項。
  3. 為每種變換設定最大允許下降;只想測量變化時可以不設判定條件。
  4. 一起閱讀基線、變換後分數、樣本數和結果判定。

已有預測集不能增加覆蓋範圍。要加一種變換或強度,需要生成新的預測集。

教學中的 Fog 比較。

操作示範: 檢查穩健性結果閱讀 Fog 比較,再開啟對應的樣本證據。Knotest 1.2.19 · 無旁白示範 · 可全螢幕查看細節

理解下降百分比

分數越高越好的指標,下降率為 (baseline − transformed) / abs(baseline) × 100。分數越低越好的指標,反轉減法順序。

例如從 0.80 降至 0.64,下降率為 20%。它滿足 20% 上限,因為允許等於上限。負值表示變換後的分數更好。

兩邊都為零時,下降率為零。基線為零但變換後改變時,無法計算有意義的相對百分比。結論前請閱讀 N/A 的原因。

強度 3 是一種變換配方,不是“30% 的霧”。比較不同任務時,保留具體引數和種子。詳見設定參考。