關於chatgpt
1、chatgpt：更智能的 ai 對話交互工具
chatgpt 是由 openai 公司於 2022 年 11 月發布的聊天機器人模型，可以通過對話形式實現交互，能夠迴答連續問題，承認錯誤，質疑不正確的前提，並拒絕不合理的需求。chatgpt 的對話互動可以實現普通聊天、信息諮詢、撰寫詩詞作文、修改代碼等，由於更類人的智能化表現，chatgpt 推出後受到廣泛關注，上線不到一周用戶量突破 100 萬。2023 年 1 月，微軟 ceo 表示計劃將 chatgpt 等人工智能工具整合到所有產品中，並作為平台提供給其他企業使用。buzzfeed 和亞馬遜也在探索 chatgpt 應用場景。
gpt 引入新的模型訓練方法，ai 行業發展有望加速gpt通過transformer為基礎的預訓練語言模型，此前已公布gpt-1、gpt-2、gpt-3 三個模型，chatgpt 是對 gpt-3 模型（又稱為 gpt-3.5）微調後開發出來的對話機器人。chatgpt 引入了 rlhf（基於人類反饋的強化學習）方法，
方法分為三個步驟： 1）有監督地調優：預訓練的語言模型在少量已標注的數據上進行調優，以學習從給定的 prompt 列表生成輸出的有監督的策略（sft 模型）；2）模擬人類偏好：標注者們對相對大量的 sft 模型輸出進行投票，創建一個由比較數據組成的新數據集，訓練建立模型（rm）；
3）近端策略優化（ppo）：使用 rm 作為強化學習的優化目標，利用 ppo算法微調 sft 模型。我們認為，chatgpt 的成功展示出 ai 大模型的應用潛力，新方法的引入有望加速 nlp 算法及 ai 行業發展。
3、巨頭堅定投入，開啟 ai 新浪潮2023 年 1 月 18 日，微軟宣布將於 3 月底前在全球裁員 1 萬人，約占員工總數的 5%；1 月 23 日微軟在其官方博客宣布，已與 openai 擴大合作夥伴關係，微軟將向 openai 進行一項為期多年、價值數十億美元的投資，以加速其在人工智能領域的技術突破，此前微軟已分別於 2019 年和 2021 年對openai 進行投資1 月 20 日，穀歌母公司 alphabet 宣布將裁員約 1.2 萬人，占該公司員工總數的 6%以上，同時穀歌 ceo 表示，公司將會進一步聚焦ai 技術核心業務的研發投入。我們認為，微軟、穀歌、亞馬遜等全球巨頭堅定投入 ai，展現出 ai 應用廣闊的發展前景，ai 行業有望開啟新發展浪潮。
chat-gpt 的成功，是在前期大量堅實的工作基礎上實現的，不是橫空出世的技術跨越。這些進步主要來自數學層麵上的優化帶來的結果匹配精準度提高，而並非算法真正為 ai 帶來了創造性與完整的邏輯性，也不是能夠從訓練的數據中學習到新的知識。它在“解鎖”（unlock）和挖掘 gpt3 學到的海量數據中的知識和能力，但這些僅通過快速地in-context 的方式較難獲得。instuctgpt 找到了一種麵向主觀任務來挖掘 gpt3 強大語言能力的方式。因此從這樣的底層技術邏輯出發，我們能迅速找到中短期內適合 chat-gpt的產業化方向：一個真正全方位的智能內容生成助手。
chat-gpt 的成功證明了兩點：1）單純擴大模型參數並非唯一出路；2）讓模型再造定期開放給大眾測試並收集人類反饋數據更有利於模型迭代。之前兩個階段，人工智能的進展更多體現在基於規模的技術突破，如 2015-2020 年，用於模型訓練的計算量增長了 6 個數量級，同時隨著規模的增大，輸出結果的質量亦迎來質變，在語言文字、書寫、圖像識別等領域皆表現出超越人類的水平。但在使用層麵，由於所需要的算力巨大，往往需要特殊的 gpu 配置，同時訓練過程相對封閉，大多數人並無法使用，因此技術無法被多數人觸達。而人工智能的第三個階段，隨著更新的技術、更優的算法、更大的模型出現，算力的成本越來越低，使得模型訓練與運行所需成本持續下降，而算法從封閉測試到開放測試、開源的逐漸普及，亦降低了使用門檻。由此人工智能無論在經濟性與可獲得性上都達到了支持普及的水平。
注:（免責申明）本文僅為個人筆記，內含個股僅僅是作為分析參考，不能作為投資決策的依據，不構成任何建議，據此入市風險自擔。股市有風險，投資需謹慎！
知音難覓，也是人生常態，一曲眾寡，盡管少有人懂，但是我自有我的風采
見者點讚，腰纏萬貫！股運長虹，感謝諸君關注.點讚.評論.轉發！
1、chatgpt：更智能的 ai 對話交互工具
chatgpt 是由 openai 公司於 2022 年 11 月發布的聊天機器人模型，可以通過對話形式實現交互，能夠迴答連續問題，承認錯誤，質疑不正確的前提，並拒絕不合理的需求。chatgpt 的對話互動可以實現普通聊天、信息諮詢、撰寫詩詞作文、修改代碼等，由於更類人的智能化表現，chatgpt 推出後受到廣泛關注，上線不到一周用戶量突破 100 萬。2023 年 1 月，微軟 ceo 表示計劃將 chatgpt 等人工智能工具整合到所有產品中，並作為平台提供給其他企業使用。buzzfeed 和亞馬遜也在探索 chatgpt 應用場景。
gpt 引入新的模型訓練方法，ai 行業發展有望加速gpt通過transformer為基礎的預訓練語言模型，此前已公布gpt-1、gpt-2、gpt-3 三個模型，chatgpt 是對 gpt-3 模型（又稱為 gpt-3.5）微調後開發出來的對話機器人。chatgpt 引入了 rlhf（基於人類反饋的強化學習）方法，
方法分為三個步驟： 1）有監督地調優：預訓練的語言模型在少量已標注的數據上進行調優，以學習從給定的 prompt 列表生成輸出的有監督的策略（sft 模型）；2）模擬人類偏好：標注者們對相對大量的 sft 模型輸出進行投票，創建一個由比較數據組成的新數據集，訓練建立模型（rm）；
3）近端策略優化（ppo）：使用 rm 作為強化學習的優化目標，利用 ppo算法微調 sft 模型。我們認為，chatgpt 的成功展示出 ai 大模型的應用潛力，新方法的引入有望加速 nlp 算法及 ai 行業發展。
3、巨頭堅定投入，開啟 ai 新浪潮2023 年 1 月 18 日，微軟宣布將於 3 月底前在全球裁員 1 萬人，約占員工總數的 5%；1 月 23 日微軟在其官方博客宣布，已與 openai 擴大合作夥伴關係，微軟將向 openai 進行一項為期多年、價值數十億美元的投資，以加速其在人工智能領域的技術突破，此前微軟已分別於 2019 年和 2021 年對openai 進行投資1 月 20 日，穀歌母公司 alphabet 宣布將裁員約 1.2 萬人，占該公司員工總數的 6%以上，同時穀歌 ceo 表示，公司將會進一步聚焦ai 技術核心業務的研發投入。我們認為，微軟、穀歌、亞馬遜等全球巨頭堅定投入 ai，展現出 ai 應用廣闊的發展前景，ai 行業有望開啟新發展浪潮。
chat-gpt 的成功，是在前期大量堅實的工作基礎上實現的，不是橫空出世的技術跨越。這些進步主要來自數學層麵上的優化帶來的結果匹配精準度提高，而並非算法真正為 ai 帶來了創造性與完整的邏輯性，也不是能夠從訓練的數據中學習到新的知識。它在“解鎖”（unlock）和挖掘 gpt3 學到的海量數據中的知識和能力，但這些僅通過快速地in-context 的方式較難獲得。instuctgpt 找到了一種麵向主觀任務來挖掘 gpt3 強大語言能力的方式。因此從這樣的底層技術邏輯出發，我們能迅速找到中短期內適合 chat-gpt的產業化方向：一個真正全方位的智能內容生成助手。
chat-gpt 的成功證明了兩點：1）單純擴大模型參數並非唯一出路；2）讓模型再造定期開放給大眾測試並收集人類反饋數據更有利於模型迭代。之前兩個階段，人工智能的進展更多體現在基於規模的技術突破，如 2015-2020 年，用於模型訓練的計算量增長了 6 個數量級，同時隨著規模的增大，輸出結果的質量亦迎來質變，在語言文字、書寫、圖像識別等領域皆表現出超越人類的水平。但在使用層麵，由於所需要的算力巨大，往往需要特殊的 gpu 配置，同時訓練過程相對封閉，大多數人並無法使用，因此技術無法被多數人觸達。而人工智能的第三個階段，隨著更新的技術、更優的算法、更大的模型出現，算力的成本越來越低，使得模型訓練與運行所需成本持續下降，而算法從封閉測試到開放測試、開源的逐漸普及，亦降低了使用門檻。由此人工智能無論在經濟性與可獲得性上都達到了支持普及的水平。
注:（免責申明）本文僅為個人筆記，內含個股僅僅是作為分析參考，不能作為投資決策的依據，不構成任何建議，據此入市風險自擔。股市有風險，投資需謹慎！
知音難覓，也是人生常態，一曲眾寡，盡管少有人懂，但是我自有我的風采
見者點讚，腰纏萬貫！股運長虹，感謝諸君關注.點讚.評論.轉發！