全球要聞：微軟崔宏禹：GPT-4 以后，不建議再用微調(diào)進行特定領域的模型適配

(資料圖)

品玩 5 月 27 日訊，據(jù)澎湃新聞報道，5 月 26 日，微軟（中國）有限公司創(chuàng)新技術總經(jīng)理崔宏禹在上海舉行的向星力 · 未來數(shù)據(jù)技術峰會（FDTC）上回應了當下一個廣泛被提及的問題，即如何用自己的數(shù)據(jù)訓練自己的模型，將私域數(shù)據(jù)與 GPT 的能力相融合。

崔宏禹解答道，" 一般來說，我們推薦兩種方式。一種是微調(diào)（在不改動預訓練模型的基礎上，在模型頂層增加分類器或一些特征映射，使微調(diào)后的模型能夠更貼合實際使用場景），但在 GPT-4 以后，我們已經(jīng)不建議或者已經(jīng)不讓大家使用微調(diào)的方式了。我們更推薦的是嵌入（將一個內(nèi)容實體映射為低維向量，從而可以獲得內(nèi)容之間的相似度）的方式。"