自從大型語言模型(LLM)技術崛起,AI 在各種領域的應用已變得無處不在。然而,一個長期困擾業界的問題是:「AI 可信嗎?」當 ChatGPT-4.5 即將推出,OpenAI 聲稱其準確性將大幅提升,幻覺(hallucination,即 AI 編造錯誤資訊的情況)亦將顯著減少,這意味著我們對 AI 的信任程度可能會發生重大改變。

但這項技術的進步從何而來?它如何減少幻覺並變得更可靠?在這種情況下,我們是否應該開始相信 AI 比人類更值得信賴,甚至讓 AI 代替我們做決策?這篇文章將探討這些問題,並分析 ChatGPT-4.5 可能帶來的影響。

ChatGPT-4.5 技術突破:準確性的提升來自哪裡?

ChatGPT-4.5 的改進主要源於三大核心技術突破:

  1. 更強的多模態學習與上下文理解

過去的 GPT-4 雖然已經具備強大的自然語言處理能力,但仍然存在理解錯誤或遺漏關鍵細節的問題。ChatGPT-4.5 在多模態學習(multimodal learning)上有重大提升,能夠更有效地理解文本、圖片、甚至是音頻內容,使得它能更準確地回應問題。例如,當 AI 被問及醫學或法律問題時,它能夠從更全面的資料庫中擷取信息,並以更精確的方式回應,而不僅僅是憑語料庫內的部分資訊來推測答案。

  1. 更高級的檢錯與自我修正機制

OpenAI 為 4.5 版本引入了更強的「自我檢查」機制(self-consistency checking)。這意味著 AI 在回答問題時,會自動與過往訓練數據進行比對,甚至可以交叉檢驗自己給出的答案。這樣的技術可大幅減少 AI「胡亂編造」資訊的情況。例如,在科學數據或統計分析中,AI 會引用更多已驗證的數據來源,而非依賴單一文本的片面資訊。

  1. 更大的記憶與上下文窗口

以往的 GPT-4 雖然能夠處理較長的對話,但仍然受限於「記憶窗口」的大小,可能會在長時間的對話中遺漏關鍵資訊。ChatGPT-4.5 擴展了這個上下文窗口,使其能夠「記住」更長時間內的對話內容,確保答案前後一致,減少斷章取義或邏輯錯誤的情況。這對於需要精確推理的領域(如財經、法律、醫療等)極為重要。

幻覺減少的關鍵:為何 ChatGPT-4.5 會更可靠?

減少幻覺一直是 AI 領域的一大挑戰,而 ChatGPT-4.5 在這方面的進步主要歸因於以下幾點:

  1. 訓練數據的優化與強化學習

OpenAI 在 4.5 版本的訓練數據上投入了更大的精力,不僅擴展了資料來源,還強化了基於人類反饋的強化學習(RLHF, Reinforcement Learning from Human Feedback)。這意味著 AI 在學習過程中,不僅僅是靠機器「讀書」,而是透過人類標註來判斷哪些答案更合理,哪些則是幻覺。

  1. 引入更高級的檢測機制

過去的 AI 經常會「一本正經地胡說八道」,這是因為它無法判斷自己回答的準確性。但 ChatGPT-4.5 引入了一種新的「事實驗證機制」,它可以在回應前先檢查答案的可靠性,甚至在內部自我爭辯後再輸出最可信的答案。這樣的機制讓 AI 更加慎重,不輕易給出錯誤資訊。

  1. 更好的引用系統與透明度

GPT-4.5 開始加入更清晰的「來源參考」能力,在某些問題上,AI 甚至可以直接提供引用來源,讓用戶可以自己核實答案的可靠性。這與早期的 AI 模型相比,是一大進步,因為過去的 AI 很容易給出看似合理但毫無根據的答案。

AI 會比人更可信嗎?

當 AI 變得越來越準確,這是否意味著 AI 會比人類更值得信任?這是一個哲學性問題,值得我們深入探討。

  1. AI 在某些領域已比人類更可靠

事實上,AI 在數據處理、醫療診斷、財務分析等領域已經表現得比人類更精確。例如,在癌症檢測方面,AI 已經能夠在比醫生更短的時間內發現早期腫瘤;在財經分析中,AI 可以即時處理大量市場數據,並給出更準確的投資建議。

  1. AI 缺乏「主觀偏見」

人類在決策時往往會受到個人經驗、情感或偏見影響,而 AI 並不具備這些「人性弱點」,因此在某些需要客觀判斷的情境下(如法律審判、醫學診斷等),AI 可能比人類更公正、更客觀。

  1. AI 並非完美,仍需人類監管

儘管 ChatGPT-4.5 減少了幻覺,但 AI 並非完美,尤其是當問題涉及複雜的道德判斷或需要創新思維時,人類的直覺與經驗仍然是無可取代的。此外,AI 仍然受限於其訓練數據,若數據本身存在偏差,AI 仍然可能輸出錯誤資訊。因此,AI 的可信度應該是「輔助」人類,而非「取代」人類。

AI 與人的信任關係正在重塑

ChatGPT-4.5 的進步無疑讓 AI 在準確性與可信度上更進一步,但這是否代表 AI 比人更值得信賴?答案可能不是絕對的「是」或「否」,而是「在某些領域 AI 已經比人類更可靠,但 AI 仍需人類監管與輔助」。

我們可以期待未來 AI 在更多領域發揮作用,但與此同時,我們也要保持警覺,確保 AI 不是在無意間加劇我們的依賴,而是成為我們的強大助手,讓人類的判斷與 AI 的智慧結合,共同創造更美好的未來。

Share this post

Subscribe to our newsletter

Keep up with the latest blog posts by staying updated. No spamming: we promise.
By clicking Sign Up you’re confirming that you agree with our Terms and Conditions.

Related posts

Events
開源與智慧財產權:AI創新的雙引擎 —— 華為論壇觀察

在人工智慧技術飛速發展的當下,算力基建、智慧財產權保護與開源共用正成為創新領域的焦點議題。近日,筆者以香港浸會大學專利顧問委員會成員的身份,見證於北京舉行的華為2025年創新和智慧財產權論壇,親身感受這場以“開放驅動創新”為主題的思想碰撞。論壇上,華為發佈了第六屆“十大發明”評選結果,涵蓋計算、作業系統、存儲等面向未來的關鍵技術領域。其中最引人注目者,莫過於名列首位的“Scale-up超大規模超節點算力平臺”——一套超級算力系統,被譽為人工智慧時代的新型基礎設施。本文將結合論壇見聞和筆者實務經驗,觀察該超級算力在AI時代的基建角色,探討“開源共用”與“智慧財產權保護”對創新的雙重意義,並反思香港在創新基建、產學研轉化、專利文化等方面的瓶頸與出路。 超級算力集群:AI時代的基建底座 這款被華為評為年度十大發明之首的Scale-up超大規模超節點算力平臺,實質上是由眾多AI處理器組成的單一邏輯超級電腦。隨著AI模型規模指數級增長,訓練這些模型所需的算力和資料輸送量呈爆炸式上升。傳統的伺服器堆疊模式面對超大型AI任務時,往往出現“ 集群越大、有效算力利用率反而越低,訓練中斷越頻繁”的窘境。華為針對此痛點創新出“超節點”系統架構,具備資源池化、線性擴展和高可靠性等特性:通過統一高速協定和共用記憶體編址,打通計算與存儲單元的高頻寬低時延互聯,使有效算力可隨節點規模近乎線性增長,同時大幅提升集群穩定性。華為輪值董事長徐直軍強調:“算力是——而且將繼續是——AI的關鍵”。基於對這一點的共識,華為推出了新一代Atlas系列超節點產品,其中Atlas 950 SuperPoD即對應此次的Scale-up超級算力。該平臺面向超大型AI訓練任務,從基礎器件、協定演算法到光電互聯均實現了系統級創新。例如,它採用正交架構設計實現零線纜的電氣互連,搭配全液冷散熱與浮動盲插技術確保不滲漏,同時首創UB-Mesh遞迴直連拓撲,支持單板內、板間、機架間NPU全互聯,以64卡為模組靈活擴展,最大可支援8192顆昇騰AI處理器無收斂互聯。換言之,上千顆AI晶片可彙聚成“一個大腦”協同運算,真正消除超大規模訓練的瓶頸。 從實踐看,超級算力已不僅是實驗室概念,而成為產業AI生態的基礎底座。華為透露,截至目前其上一代Atlas 900系列超節點系統已累計部署超過300套,服務於互聯網、金融、電信、電力、製造等行業的20多家客戶。在人工智慧時代,類似Atlas 950這樣的本地智算樞紐,相當於數字經濟的高速公路與電力網絡:為產業生態提供共用的算力資源,降低創新應用部署門檻,有力支撐從雲服務到垂直行業落地的AI解決方案。尤其對中國而言,在先進晶片供給受限的背景下,華為選擇利用現有制程自研超大規模計算平臺,以系統工程突破彌補晶片性能不足,體現出以基建思維佈局AI長遠發展的戰略定力。 “開放共用”與“智慧財產權”:雙軌驅動創新的辯證 本屆論壇傳遞出一個明確訊息:開源合作和智慧財產權保護並非對立,而是創新發展的雙引擎,需同步推進、制度協調。華為首席法務官宋柳平在會上表示:“開放創新是推動社會發展和技術進步的重要力量,也是華為的DNA。華為一直在踐行‘開放’的理念,用開放驅動創新。同時,華為注重自有智慧財產權的保護,也尊重他人的智慧財產權,包括專利、商標、版權和商業秘密等。”簡言之,一方面積極參與開源與共用,另一方面嚴格保障智慧財產權,兩條路並行不悖。華為近年來在專利研發和佈局上不遺餘力。2024年華為專利授權收入約6.3億美元,同時其歷年累計支付的專利許可費是自身許可收入的三倍之多。根據世界智慧財產權組織統計,華為2024年通過PCT公開的國際專利申請達6600件,自2014年以來連續位居全球首位。僅2024年一年,華為新公開專利就達3.7萬件,創下歷史新高。強大的專利庫讓華為在5G、Wi-Fi、視頻編碼等領域建立了廣泛的授權生態:截至2024年底,全球已有超過27億台5G設備、12億台消費電子設備和32億台多媒體設備獲得華為專利授權,全球500強企業中有48直接或間接獲得華為的授權許可。 另一方面,華為在開源開放方面同樣投入巨大資源。其副總裁、智慧財產權部部長樊志勇指出,華為透過“軟體開源、硬體開放、專利申請、標準貢獻與學術論文等多種形式”推動技術開放。2024年華為向標準組織新提交技術提案超1萬篇,發表學術論文逾1000篇;在開源社區方面,主導或參與了多個大型專案,例如OpenHarmony開源作業系統社區已有超過8100名共建者;openEuler開源OS發行版本累計裝機量已突破1000萬套;並將昇騰AI基礎軟體棧全面開源,包括CANN計算架構和MindSpore深度學習框架,並優先適配主流開源社區如PyTorch、vLLM等。 由此可見,“智慧財產權保護”保障了創新者的投入回報和商業動力,而“開源共用”則能彙聚眾智加速技術成熟與應用擴散。兩者並非水火不容,關鍵在於尋求制度性的平衡與協同。正如香港大學鄧希煒教授所言,一個強健、開放且受國際信賴的專利體系是創新引擎運轉不可或缺的條件。 全球範圍內,“開源”與“封閉”的博弈亦在演變。NVIDIA以CUDA軟體平臺構建封閉生態,形成極高的市場壁壘與利潤迴圈,但OpenAI從開源轉向封閉的過程亦引發反思。當Meta等公司以Llama開源模型崛起,開源生態再次展現強勁生命力。這些案例共同說明:唯有平衡專利保護與開源合作,才能讓科技創新在競爭與共榮中持續演進。 香港創新生態的瓶頸與建議

Read More