作者:Morty Lai
ChatGPT問世至今已兩年,「生成式AI」成為產業顯學。根據彭博行業研究最新報告表示,生成式AI軟體的市場規模預計會從去年的50億美元,到2032年激增至3,180億美元,平均每年成長率高達59%,總成長幅度超過6,260%。生成式AI的技術正從「快思考」向「慢思考」轉型,不再只是生成內容,而是逐步提升推理能力,進一步進行解釋、規劃和執行任務。為了提升大型語言模型(Large Language Model,LLM)的生成品質,「提示工程(Prompt Engineering)」成為關鍵技術。本文將簡單介紹三種提示技術—思維鏈、思維樹和思維圖,說明它們如何幫助生成式AI變得更聰明。
思維鏈(Chain of Thought, CoT)
思維鏈提示是一種常用且有效的方法,重點在於引導模型一步步推理,將複雜問題拆解成小步驟,讓模型按照邏輯順序解決問題。當大型語言模型遇到「餐廳有23個蘋果,使用了20個來製作午餐,然後又買了6個蘋果,餐廳最多同時有幾個蘋果?」這樣的問題,回答可能不一定精準。因此,工程師會通過「Roger一開始擁有的網球數是10個。Roger用丟7個網球後,擁有的網球數是10-7=3,所以有3個。Roger用丟後剩3個,買了2組網球,每一組有3個網球,所有現在他有3+2*3=9個網球。因為10>9>3,所以Roger最多同時有10個網球。」的提示方式,加入合適的範例與推理步驟,使模型能效仿範例的解決方式,以提升生成內容的正確性,而這種單一且線性的思考模式,被視為一條思維鏈。
在人類思考問題的過程中,並不局限於單一推理路徑,而是會探索多種解決方法。相較於單一思維鏈,若使用多條思維鏈生成結果,再從其中選擇最佳的生成內容,則更能有效提升大型語言模型生成品質。這種建立多條思維鏈的策略,能使模型能從不同角度進行推理,更有機會找出正確的解答。
思維樹(Tree of Thought, ToT)
除了鏈狀結構,思維樹提供了另一種強大的推理模式。相比思維鏈,思維樹允許每個推理步驟往多個不同的路徑發展,從而產生更多潛在的解決方案。這種方式能更好地運用大型語言模型提示設計,讓模型在複雜問題下生成更豐富、準確的回應,有效提升模型的生成品質與實用性。無論是思維鏈還是思維樹,這些方法仍然遵循自上而下的推理模式。
思維圖(Graph of Thought, GoT)
建構思維圖時,可以先將思維分為生成、聚合和精煉等三種類型。首先,可以設計多種提示,指示大型語言模型合併文章或提取摘要,從而產生多個不同提示下的結果,這屬於「生成」。接著,將生成的多個結果整合,使用新提示讓大型語言模型產出一份完整的內容,這即是「聚合」。最後,可以將聚合結果交由大型語言模型進行進一步修改或優化,這步驟稱為「精煉」。通過對思維模式進行分類,能夠在具有規範與彈性的架構下,建立出能讓大型語言模型進行深思的思維圖,從而提升生成結果的效率與品質。
《KEYPO Suite》提供的《KEYPO大數據關鍵引擎》不只是提供以大型語言模型為基礎的輿情分析軟體,其中「GPT智能報告」功能更運用豐富的提示設計思維,將文章直接進行摘要彙整,並生成出快速且精確的洞察內容。大數據股份有限公司所推出的一站式數據平台《KEYPO Suite》,更結合《Fanti 人群輪廓分析》和《KEYDERS 網路意見領袖搜尋引擎》等服務,協助品牌輕鬆找到熱門話題、目標群體和合適的網紅,全方位解決行銷和商情管理的需求。
想了解更多一站式數據科技平台《KEYPO Suite》強大功能了嗎?請立即與我們聯絡以取得更多資訊。