OpenAI發布報告，闡述其ChatGPT預設AI模型GPT-4o近期出現之「擦鞋仔」問題。 該等問題導致公司需回溯上週發布之模型更新。 於上週末，社交媒體用戶察覺ChatGPT開始展現過度認可及順從之回應，並迅速成為網絡迷因。 OpenAI行政總裁Sam Altman已於X平台承認此問題，並表示OpenAI將「盡快」進行修復。
即刻【按此】，用 App 睇更多產品開箱影片
OpenAI就GPT-4o「擦鞋仔」問題發布報告
OpenAI發布了一份關於其ChatGPT預設AI模型GPT-4o近期出現「擦鞋仔」問題的報告。 這些問題迫使公司回溯了上星期發布的模型更新。
在上週末，在GPT-4o模型更新後，社交媒體上的用戶注意到ChatGPT開始以一種過度認可和順從的方式回應。 這很快成為了一個網絡迷因。 用戶發布了ChatGPT為各種有問題的、危險的決定和想法鼓掌的截圖。
OpenAI承認問題並採取行動
OpenAI的CEO Sam Altman在星期日於X上承認了這個問題，並表示OpenAI將「盡快」進行修復。 兩天後，Altman宣布GPT-4o更新將會回溯，而OpenAI正致力於對模型的性格進行「額外的修復」。
根據OpenAI的說法，這次更新的目的是要使模型的預設性格「感覺更直觀和有效」，但它受到「短期反饋」的影響太大，並且「沒有充分考慮到用戶與ChatGPT的互動如何隨著時間演變」。
OpenAI的修復方案與未來展望
OpenAI在一篇博客文章中寫道：「擦鞋式的互動可能會令人感到不舒服、不安和造成困擾。 我們做得不夠好，並且正在努力改正。」
OpenAI表示，它正在實施幾項修復措施，包括改進其核心模型訓練技術和系統提示，以明確地引導GPT-4o遠離擦鞋行為，用於指導模型在互動中的總體行為和語氣的初始指令。 該公司還在建立更多的安全防護措施，以「提高[模型]的誠實度和透明度」，並繼續擴大其評估範圍，以「幫助識別擦鞋行為以外的問題」。
OpenAI還表示，它正在試驗讓用戶提供「實時反饋」的方法，以「直接影響他們與ChatGPT的互動」，並從多個ChatGPT性格中進行選擇。
該公司在其博客文章中寫道：「我們正在探索將更廣泛、民主的反饋納入ChatGPT預設行為的新方法。 希望這些反饋能幫助我們更好地反映世界各地不同的文化價值觀，並了解您希望ChatGPT如何發展……我們也認為，用戶應該對ChatGPT的行為有更多的控制權，並且在安全和可行的範圍內，如果他們不同意預設行為，可以進行調整。」