隨著人工智能（AI）日益影響醫(yī)療決策、金融審批及網(wǎng)絡(luò)安全，專家指出，AI推理過(guò)程必須更容易讓人理解。目前，許多AI系統(tǒng)仍以「黑箱」模式運(yùn)作，只提供結(jié)果，卻未揭示其推理過(guò)程。為解決此問(wèn)題，AI研究者聚焦研究三個(gè)相關(guān)但有區(qū)別的概念：

1. 可理解人工智能（Interpretable AI）：採(cǎi)用本質(zhì)上易於理解的模型，使推理過(guò)程自然透明；

2. 可解釋人工智能（Explainable AI）：在複雜系統(tǒng)中加入工具，闡明其推理邏輯；

3. 透明人工智能（Transparent AI）：強(qiáng)調(diào)模型構(gòu)建方式及所使用資料的公開與透明。

正如醫(yī)生在解釋診斷時(shí)，會(huì)指出癥狀、檢測(cè)結(jié)果及推理過(guò)程，可理解AI採(cǎi)用邏輯可直接理解的模型，如簡(jiǎn)單規(guī)則或決策路徑，清楚展示結(jié)論是如何得出?？山忉孉I則有所不同：在複雜模型做出決策後，額外提供解釋，例如：「這張 X 光片看起來(lái)異常，原因是左上角的影像模式。」部分系統(tǒng)更追求透明度高的AI，即模型本身及其解釋均易於檢視，協(xié)助使用者清楚理解「如何」與「為何」決策。

對(duì)非專業(yè)人士而言，透明度是建立信任的關(guān)鍵。若缺乏透明度，即使AI系統(tǒng)具備高度準(zhǔn)確性，使用者仍會(huì)對(duì)其採(cǎi)用持保留態(tài)度。根據(jù) OECD 報(bào)告，全球各地政府正積極擴(kuò)展AI的應(yīng)用，以提供更具智能、更高效，並以市民為中心的服務(wù)，這使公眾更迫切追求信任。

「開箱」AI系統(tǒng)將成競(jìng)爭(zhēng)優(yōu)勢(shì)

然而，近期《Forbes》調(diào)查顯示，全球?qū)I的信任度在過(guò)去五年間已從 61% 下降至 53%，反映公眾對(duì)透明度與問(wèn)責(zé)的日益關(guān)注。

為回應(yīng)此挑戰(zhàn)，學(xué)術(shù)界正提出新的方法，在不犧牲效能的前提下提升AI系統(tǒng)的透明度，例如突顯影響決策的關(guān)鍵資料部分、將複雜模型步驟簡(jiǎn)化為人類可讀的摘要及設(shè)計(jì)本質(zhì)上可理解的模型。同時(shí)，領(lǐng)先AI研究機(jī)構(gòu)（如 OpenAI）仍在探索「機(jī)制性可理解性」（mechanistic interpretability）的極限——即以簡(jiǎn)單方式呈現(xiàn)大型AI模型中每個(gè)組件如何得出最終決策，而這仍是一項(xiàng)重大挑戰(zhàn)。

公眾對(duì)AI的信任正在下降，提升系統(tǒng)的透明度與可理解程度，是重建信任的重要一環(huán)。在香港這個(gè)以服務(wù)為導(dǎo)向的城市，透明、可理解及可解釋的AI系統(tǒng)將成為競(jìng)爭(zhēng)優(yōu)勢(shì)。當(dāng)市民清楚了解AI系統(tǒng)為何認(rèn)可某項(xiàng)福利，或建議某個(gè)學(xué)習(xí)方案，信任自然提升。

在一個(gè)高度重視信任與問(wèn)責(zé)的環(huán)境中，可解釋系統(tǒng)能有效縮短新技術(shù)與公眾信任之間的距離。對(duì)香港而言，這既是機(jī)遇也是挑戰(zhàn)：隨著智能政府計(jì)劃及數(shù)碼經(jīng)濟(jì)項(xiàng)目不斷擴(kuò)展，解釋度清晰透明的AI系統(tǒng)將是市民信任並採(cǎi)納技術(shù)的關(guān)鍵。

政府已開始在超過(guò) 70 個(gè)公共部門測(cè)試本地研發(fā)的大型語(yǔ)言模型 HKGAI V1，這些系統(tǒng)逐漸在公共服務(wù)中，擔(dān)任回應(yīng)市民查詢、以至協(xié)助政策起草等幕後角色。

因此，公眾對(duì)於理解這些系統(tǒng)如何得出結(jié)論的需求日益增加。私人領(lǐng)域也出現(xiàn)類似轉(zhuǎn)變。根據(jù)香港生產(chǎn)力促進(jìn)局 2025 年的調(diào)查，近 90% 的香港企業(yè)已使用AI，但仍面臨人才短缺及數(shù)據(jù)安全等挑戰(zhàn)。這些趨勢(shì)均明確顯示，如要在公共領(lǐng)域以至整個(gè)社會(huì)負(fù)責(zé)任地推行AI，清晰與透明度至關(guān)重要。

●中大賽馬會(huì)「智」為未來(lái)計(jì)劃 由香港賽馬會(huì)慈善信託基金捐助，香港中文大學(xué)工程學(xué)院及教育學(xué)院聯(lián)合主辦，旨在透過(guò)建構(gòu)可持續(xù)的AI教育生態(tài)系統(tǒng)將AI帶入主流教育。通過(guò)獨(dú)有且內(nèi)容全面的AI課程、創(chuàng)新AI學(xué)習(xí)套件、建立教師網(wǎng)絡(luò)並提供AI教學(xué)增值，計(jì)劃將為香港的科技教育寫下新一頁(yè)。