AI概念篇之ChatGPT簡介-學習力就是你的超能力 004

作者:靈數AI

ChatGPT 就像一個新進的助理,能力很強,不過他不瞭解你,所以給你的東西不一定是你想的那樣,只要你能溝通清楚,他就能發揮非常強大的功能。人會犯的錯誤,ChatGPT 也是會犯,人會胡亂編造理由,ChatGPT 也會,因為他是生成式 AI,但你可以教他。

一、什麼是 ChatGPT

ChatGPT 的 Chat 指的就是設計來負責與人進行問答交流;G 就是 Generative 生成的意思,生成一段文字,是生成式 AI 中的一種;P 就是 Pre-trained 是預訓練的意思,也是 ChatGPT 非常成功背後的一個技術;T 就是 Transformer,跟機器學習有關。

另外,可以做到跟 ChatGPT 類似事情的人工智慧,還有 Google 的 Gemini,以及 Anthropic 的 Claude,他們也都有類似的技術。

二、運作的原理

ChatGPT 運作的原理就是「文字接龍」,也就是你給他一個未完成的句子,他會想辦法把它完成,他會去預測下一個字要接什麼,如果後面沒有要接的字,就會結束這個回答。

什麼是文字接龍?它是一種語言模型,這個模型可以將無窮無盡的答案轉變成一個有限的答案,他會先算出每個字出現的頻率,接著將所有可能接的字,再透過機率去選定,因此他並不在意回答的正確性,只會在意回答的順不順而已。這也是為什麼 ChatGPT 常常會產生幻覺的原因,因為每次都是由機率來產生文字。那麼為什麼不選機率最高的文字來做接龍?因為如果每次回答的內容都一模一樣,就像是在跟機器人對話一樣,不夠自然,如果是人發生這種事情,我們會說他「不斷跳針」。

三、為什麼可以連續對話

為什麼 ChatGPT 會記得之前問過的問題?這也是因為文字接龍!因為他會把同一則對話紀錄中的所有訊息,包括他自己的回答,都視為文字接龍的一部分,因此就具備了多輪對話的功能,當然也歸功於長文本的技術開發。

四、類神經網路  (這邊可以連結到前一篇)

語言模型的背後就是一個巨大的類神經網路,類神經網路有很多種類型,今日在生成式 AI 用的就是 Transformer,你可以把 Transformer 當作是一個函式,它的輸入就是一個未完成的句子,而輸出是每個接龍文字的機率分布圖。

#ChatGPT #助理 #生成式AI #溝通 #預訓練 #Pre-trained #機器學習 #Gemini #Claude #文字接龍 #語言模型 #類神經網路 #Transformer #學習力就是你的超能力 #AI概念篇


留言