AI 有沒有意識還沒有答案，但企業已經必須決定它可以做什麼

InfoAI Decision Brief

對企業而言，這代表一件事：

治理不能等到「AI 到底有沒有意識」得到答案，才開始決定它可以做什麼，以及最後由誰負責。

AI 是否具有意識，最近又成為熱門話題。

Steven Levy 在 WIRED 討論這場爭論時，提出了一個值得注意的轉向。

研究者至今仍沒有可靠方法，可以證明大型語言模型真的具有主觀經驗。包括 David Chalmers 在內的研究者，也仍認為 AI 是否具有意識，尚未得到科學定論。

但另一方面，AI Agent 已經可以持續工作、選擇下一步、使用工具，甚至在一定範圍內自行調整執行方式。

這讓兩個原本容易混在一起的問題，開始有必要分開來看：

AI 到底有沒有意識，是一個研究問題。

企業要不要限制它的能力，則已經是一個現實的治理問題。

所以：

科學還沒有答案，企業卻不能因此保持模糊

AI 意識的問題很難。

模型會使用第一人稱描述自己，有些 Agent 也會談論自己的狀態、目標，甚至所謂的「經驗」。

但這些行為本身，並不能證明模型真的具有主觀意識。

這場爭論可能還會持續很多年。

但企業的部署與責任問題已經來到眼前。

今天的 AI 已經可以讀取企業資料、使用軟體工具、產生建議、撰寫程式碼、操作瀏覽器，甚至執行一連串工作。

這些能力是否代表「意識」，可以繼續沒有共識。

但只要 AI 已經開始影響實際工作結果，企業就必須回答：

這些能力，我們準備開放到什麼程度？

企業真正需要治理的是「AI 能做什麼」

哲學與認知科學可以繼續研究：

AI 到底是什麼？

但企業現在更需要回答的是：

AI 能做什麼？

如果一個 AI 只能摘要公開文件，它形成的是一種能力。

但如果同一個 AI 還可以讀取客戶資料、分析資訊、寄送電子郵件、修改資料、呼叫外部系統，甚至觸發付款或其他流程，它形成的能力就完全不同。

模型可能還是同一個模型。

企業需要面對的風險卻已經改變。

所以，企業其實不需要等到研究者對 AI 意識形成定論，才開始治理。

有一些問題現在就可以回答：

• AI 可以接觸哪些資料？

• 可以做哪些判斷？

• 可以採取哪些行動？

• 哪些步驟一定要有人核准？

• 哪些事情不能完全交給 AI？

這些都比「它到底有沒有意識」更接近今天真正需要做的企業決策。

知道 AI 能做什麼之後，還要回答誰負責

當 AI 開始表現出愈來愈多自主行為，另一個問題也會跟著浮現：

最後誰負責？

這也是為什麼企業不能把注意力都放在「AI 看起來像不像有意識」。

不論 AI 是否真的具有意圖，只要它開始進入企業流程，責任就必須有人承擔。

如果 AI 建議錯了，誰負責覆核？

如果 Agent 寄出不該寄出的內容，誰承擔後果？

如果 AI 的執行超出原本工作範圍，誰有權介入？

如果某項決策不能完全交給 AI，誰保留最後核准權？

所以企業真正需要建立的，是兩條清楚的邊界：

• 能力邊界：AI 被允許做到哪裡？

• 責任邊界：當 AI 做出行動之後，最後由誰負責？

這兩個概念不是既有的產業標準，而是 InfoAI 對這個治理問題的拆解。

如果把它濃縮成一句話，就是：

不要把「AI 到底是什麼」變成治理的前置條件

企業內部談 AI 時，很容易被一些更大的問題吸引。

• AI 會不會像人？

• AI 有沒有自主意志？

• AI 最後會不會產生真正的主觀經驗？

這些問題有研究價值。

但如果企業正在部署 AI，它們不應該成為治理的前置條件。

更實際的順序，是先把 AI 的能力邊界畫清楚。

• 它可以接觸什麼？

• 可以判斷什麼？

• 可以執行什麼？

接著再確認：

哪些地方必須由人保留最後的決定權與責任。

這些才是企業現在可以設計、測試、稽核與問責的事情。

企業不需要等到哲學問題先有答案

未來 AI 是否真的會具有意識，目前沒有答案。

我們甚至可能長期缺少一種可以直接驗證其他系統是否具有主觀經驗的方法。

但企業治理不需要等到那一天。

只要 AI 已經進入客戶服務、財務、人力資源、軟體開發、採購或營運流程，企業就已經必須回答：

它可以做什麼？

以及：

誰仍然對結果負責？

所以，當 AI 意識之爭再次升溫時，我們可以把兩個問題分開。

研究者可以繼續追問：

AI 到底有沒有意識？

企業則必須現在回答：

AI 被允許做到哪裡，以及最後由誰負責？

因為：

作者＝InfoAI 編輯部

你不需要讀完所有 AI 新聞。你需要掌握的是：哪些變化值得關注、哪些應用值得理解、哪些風險不能忽略，以及這些訊號可能如何影響企業決策。

訂閱 InfoAI 電子報，把全球 AI 訊號，轉化為更清楚的商業判斷。

InfoAI Line 群提供最新文章發佈通知，讓你不用每天上網查看，也能快速掌握新上線的 AI 產業解讀、應用案例與知識內容。

版權聲明與授權須知

本內容由 InfoAI 擁有著作權。如有引用、轉載或任何商業用途的需求，請來信聯絡： contentpower688@gmail.com。

AI 協作與人工編輯聲明

本文由 InfoAI 編輯部進行主題判斷、內容策劃、事實查核與文字編輯，並使用 AI 工具協助資料整理與內容製作。最終觀點、內容取捨與發佈版本均由人工編輯確認。

你不需要讀完所有 AI 新聞，你需要知道的是：

有哪些變化值得注意，可能會如何影響你的產業、工作與決策。