單元一:從應用需求到研究問題

單元一:從應用需求到研究問題

學會區分想做的功能、可驗證的研究問題與能被反駁的假設。

單元一:從應用需求到研究問題

應用需求還不是研究問題

假設有一批簡短客服訊息,需要自動分到退款、物流或商品詢問。應用需求可以寫成:

我想做一個自動分類器,減少人工分派。

這句話說明了想交付的功能,卻沒有指出要理解什麼。研究問題會更具體:

在訓練資料有限且類別不平衡時,字元特徵與預訓練語言模型的分類效果及計算成本有何差異?

它包含研究對象、困難條件、比較方法與觀察結果。

Hypothesis 必須能被推翻

Hypothesis 是研究前的可驗證預測:

字元特徵對拼字變形較穩;預訓練模型對完整句子的語意改寫較有優勢。

如果實驗顯示相反結果,假設就被反駁或需要修正。若無論結果如何都能宣稱自己正確,就不是好的 hypothesis。

研究價值從哪裡來

一項應用研究可能同時有:

  • 方法價值:新的模型、loss、限制或組合方法。
  • 實證價值:公平比較揭示什麼方法在什麼條件有效。
  • 評估價值:更可信的切分、metric 或錯誤分析。
  • 系統價值:可部署、可重現且成本受控的流程。
  • 領域價值:減少人工成本、提高一致性或支援新的工作方式。

不是只有創造新模型架構才叫研究。

排行榜、產品與論文不同

  • 排行榜回答:哪份 prediction 在隱藏測試集上分數較高?
  • 產品回答:系統是否可靠、便宜、快速並符合使用流程?
  • 論文回答:方法為何有效、在何種條件有效、相對基準改善多少、有哪些限制?

三者可以互相支持,但不能互相取代。

常見失誤

  • 把「我要用 LLM」當成 research question。
  • 只找支持原始想法的證據。
  • 還沒定義成功,就開始調模型。
  • 把一次高分包裝成普遍結論。
  • 沒有 baseline,無法說明複雜方法的價值。

Teach-back

  1. 應用需求和 research question 有何不同?
  2. 把「用 LLM 做訊息分類」改寫成可驗證問題。
  3. 寫出一個可能被實驗推翻的 hypothesis。
  4. 簡單模型與大型模型分數相近時,為什麼仍可能有研究價值?

導覽

相關筆記