居住未來：人工智慧在知識、責任與關懷之間

從1982年史丹佛大學對人工智慧的研究，到2076年的展望。未來不僅取決於機器的能力，更取決於我們將創新轉化為知識、自主性與包容性的能力。

本文源自於2026年10月15日在博洛尼亞舉行的「可能的視野：四種觀點想像世界」會議上於Tecnòpolis 2026發表的反思。

未來並非由科技所決定

1982年，當我在史丹佛專注於應用於學習的人工智慧時，我最感興趣的問題之一是關於人與智慧系統之間的對話。機器如何能夠促進知識的建構？與資訊系統的互動又如何改變學習過程？

四十多年過去了，這些問題依然存在。系統的能力、計算能力、數據的可用性以及技術的普及已經發生了根本性的變化。但根本問題依然是：我們希望在人類智慧與人工智慧之間建立什麼樣的關係？

這是我在2026年波隆那Tecnòpolis活動中再次提出的一個問題，該活動專門討論未來五十年的世界展望。

科技史告訴我們，我們可以窺見一項創新的技術可能性，但很難預見其所有的社會影響。這些影響透過使用方式、組織、制度以及人們的選擇逐漸成形。

我們來談談互聯網。它誕生於科研與科學交流的背景，卻改變了商業、資訊、關係以及政治參與。沒有人能完全預見平台社會的出現，就如同今天我們無法預測人工智慧演進所帶來的所有變革。

這並不意味著放棄想像未來。這意味著承認未來並非科技的必然結果：它同時也是我們所做決定的結果。

人工智慧有很多種

當前的公共討論傾向於將人工智慧與大型語言模型及生成式應用程式劃上等號。這是可以理解的：能夠與機器對話、生成文本、圖像和程式，使人工智慧對數百萬人變得可及。

但人工智慧的歷史遠比這更為複雜。

除了基於數據學習的方法外，還存在基於知識明確表示、邏輯推理、規則以及概念之間關係的系統。

這不一定是替代方法。其中一個最有趣的觀點正是它們的整合。

生成系統能以非凡的靈活性產生回應並解讀資訊。但當它們進入工作流程、醫療、教育或公共服務領域時，僅具備產生合理回應的能力是不足夠的。

需要可靠性、可驗證性和責任感。

統計學習、顯性知識與控制系統之間的整合，有助於減少某些錯誤、界定允許的行動範圍，並使決策過程更加易於理解。

當然，沒有任何架構能單獨保證可靠性。結果必須在實際使用環境中進行驗證。

這裡是科技研究與社會責任相遇的地方。

人工智慧的進步需要學習能力、用以解讀的知識以及用以驗證的標準。

從機器的智慧到互動的品質

生成式人工智慧的普及帶來了一個我認為特別重要的變革：價值不再僅僅存在於工具的功能上，而是在於我們能夠建立的互動品質。

兩個使用相同系統的人可能會得到截然不同的結果。

差異取決於他們提出的問題、擁有的知識、能提供的背景，尤其是批判性評估答案的能力。

人工智慧可以擴展我們的認知能力，但不會自動取代判斷力。

事實上，正因為它使得產生資訊、文本和解決方案變得更加簡單，因此更重要的是能夠分辨什麼是合理的，什麼是有根據的，什麼是有用的，什麼是適當的。

這一變革直接關係到教育。

長期以來，我們主要將學習與知識和技能的獲取聯繫在一起。如今，我們必須加入一個關鍵層面：學會批判性地與能夠處理資訊並提出解決方案的系統互動。

這意味著能夠提出問題、比較解釋、核實來源、說明決策理由，並承認自身知識的侷限。

不僅僅是學會使用人工智慧。我們必須學會與它共同思考和工作，同時不放棄我們的自主性。

這是一場文化上的挑戰，甚至早於技術上的挑戰。

可靠性：從2021年AI法案到EMA模型

我想特別強調的一個主題是人工智慧系統的可靠性，尤其是在關鍵情境中使用時。

早在2021年，在伴隨《人工智慧法案》提案的歐洲辯論期間，我就曾強調引入受監管的實驗環境的重要性，即所謂的監管沙盒，以便在創新系統推廣之前進行開發和驗證。

這一設定連結到我認為至關重要的一個原則：科技創新必須伴隨與風險相稱的驗證流程以及持續的成果監控。

在這個觀點下，我認為特別有意義的是提及歐洲採用的藥品評估模式，其中歐洲藥品管理局（EMA, European Medicines Agency）扮演著核心角色。

藥物的評估不僅僅基於其治療潛力。必須經過嚴格的程序，檢驗其品質、安全性及有效性。評估並不會在授權後結束，而是透過使用期間的效果監測持續進行。

當然，人工智慧系統並非藥物。但其方法論原則提供了一個重要的啟示。

當我們將可能影響健康、工作、教育或服務獲取的活動交由智能系統處理時，我們不能僅僅在實驗室中檢驗其性能。

我們必須了解其在真實情境中的行為，找出其限制，評估其影響，並確定明確的責任。

AI法案，其最初提案可追溯至2021年4月21日，引入了一種基於風險分類及確保系統可靠性的歐洲視角。監管沙盒的規範是調和創新、實驗與保護個人權益的工具之一。

與EMA的經驗比較強化了這一做法：先進行試驗，期間進行驗證，並在技術引入後持續觀察其效果。

這是一個隨著能夠不僅生成回應，還能主動採取行動並執行任務的人工智慧系統普及而變得更加重要的問題。

一個系統越能自主運作，我們就越需要對目標、限制、檢查和責任保持精確。

可靠性，因此，不僅僅是一項技術特性。

這是一項涉及研究人員、企業、機構和公民的共同責任。

知識無法取代經驗

然而，還有另一個較少被討論的層面，我認為這是至關重要的。

在他的著作非物之物中，哲學家韓炳哲反思了一個資訊傾向於凌駕於具體世界經驗之上的社會。

這是在生成式人工智慧時代中特別貼切的反思。

我們可以請系統描述一片森林，講述樹木的特徵，分析其生物多樣性，並說明威脅該森林的氣候變遷。

我們可以獲得非凡的資訊。

但穿越那片森林是一種不同的體驗。

意味著感知光線、聆聽聲音、辨識氣味、感受溫度，並與世界的物質性互動。

這兩種認知形式不應該被對立起來。它們可以相互豐富。

問題出在我們將經驗的表現與經驗本身混淆了。

在一個越來越多由智能系統中介的社會中，我們必須有意識地培養專注力、敏感度和人際關係能力。

我想到了例如導師制和世代之間的對話。

人工智慧系統可以幫助我們組織知識、識別職業道路或發展技能。但導師與年輕人之間的關係包含難以簡化為資訊交流的層面：信任、傾聽、相互認可，以及解讀經驗的能力。

科技可以支持這些關係。不應該使它們變得貧乏。

真正的挑戰是擴展人類能力，同時不削弱自主性、情緒智慧及社會關係的品質。

2076年左右：我所期望與渴望的事

想像五十年後的世界意味著區分兩個問題。

第一點涉及我認為合理的部分。

第二點關於我希望為實現的目標所做的貢獻。

我預期到2076年，人工智慧系統將更加深入整合於我們生活的環境中。

它們不僅僅是用來對話的工具。它們能感知環境、解讀情境、與其他系統協作，並在現實世界中執行行動。

我們來思考對老年人的照護。

我們可以想像出能夠執行物流活動、報告異常情況、支援醫療人員並協助改善服務組織的機器人系統。

但服務的品質不僅取決於機器人的性能。

這將取決於它們的可靠性、使用者的準備程度、服務的組織以及維護人際關係的能力。

最重要的是，這將取決於進入條件。

誰將能夠受益於這些創新？這些創新是否僅對擁有較多經濟資源的人開放？誰將負責管理其使用？如何評估其效益、錯誤及意外後果？

這些是我們今天必須提出的問題，而不是2076年才問的。

一個能夠在任何年齡學習的社會

如果我轉而思考我渴望的未來，我的注意力便從機器轉向人類。

我希望有一個社會，在這裡每個人都能持續學習、改變職業道路、發展新技能，並在各個年齡階段為集體生活做出貢獻。

一個能夠重視年輕研究人員的社會，為他們提供成長與合作的機會，同時不流失前幾代人的經驗資產。

一個社會中，性別、出身、經濟狀況、年齡或殘障不應成為獲取知識和機會的障礙。

因為創新不一定等同於包容。

一項技術可以極為先進，同時也可能擴大現有的不平等。

因此，我們不能僅僅通過生產力、處理速度或自動化任務的能力來衡量進步。

我們也應該問自己，創新是否提升了生活品質，擴大了個人的自主性，強化了人際關係，並使參與變得更加容易。

這是一種需要以複數形式來考慮智慧的觀點。

人類智慧、情感智慧、科學智慧、人工智慧、集體智慧以及組織智慧並非相同的實體，也不可互相替代。

但他們可以通過不同形式的合作，共同促進知識的建構及複雜問題的解決。

未來不僅取決於機器的智慧，也取決於我們將這些不同形式的智慧相互聯繫的能力。

以更多的知識、關注與關懷擁抱未來

四十多年來，我一直觀察數位技術的演變及其與學習過程、組織和社會的關係。

我見證了工具、語言、技術範式和創新模式的變遷。

然而，有一個信念逐漸鞏固：科技創造可能性；而將其轉化為進步的是人們和機構。

我們不必在熱情與恐懼之間做選擇。

我們必須建立文化、教育、組織和制度條件，使人們能夠有意識地運用新的科技能力。

這意味著投資於研究、持續教育、負責任的實驗以及參與。

這也意味著認識到知識不僅僅是資訊的累積，而是解讀世界、行使判斷力並承擔責任的能力。

我預期到2076年，我們將擁有比現有系統更強大的人工智慧系統。

我希望有一家公司同樣能使它們變得可靠，並將它們的可能性轉化為共享的知識、自主性和包容性。

我希望到了2076年，我們能以更多的知識、更細心和更多的關懷來生活在這個世界上。

這個未來始於我們今天所做的選擇。