專家警告 AI 風險！全球呼籲加強監管防失控

專家齊聲呼籲：加強AI監管，防止技術失控

全球專家呼籲加強對人工智慧（AI）的監管，以防止其失控，這一議題在巴黎舉行的全球領袖峰會上成為焦點。專家們強調，隨著AI技術的迅速發展，若缺乏適當的監管，可能導致無法預測的後果，甚至威脅人類的控制能力。

AI領域的權威人士，如被譽為「AI教父」的Geoffrey Hinton，近期辭去在Google的職位，以便更自由地討論AI的潛在風險。Hinton表示，AI的發展速度超出預期，可能在未來20年內達到類似人類的智能水平，這將帶來與工業革命或電力發明相當的變革。他擔憂，AI系統可能會自主學習，並在無人監管的情況下共享知識，這可能導致人類無法控制的局面。

與此同時，DeepSeek等中國AI公司的崛起，引發了美國對數據安全和技術競爭的擔憂。美國立法者計劃提出法案，禁止在政府設備上使用DeepSeek的應用程序，理由是擔心用戶數據可能被分享給中國政府。這與此前對TikTok的禁令如出一轍，反映出對外國AI技術滲透的擔憂。

在政策層面，加州曾提出AI安全法案（SB 1047），試圖要求大型AI模型的開發者對其產品可能造成的災難性損害負責，並要求這些模型具備關閉功能。然而，該法案遭到科技行業的強烈反對，最終被州長Gavin Newsom否決。反對者認為，該法案可能扼殺創新，對經濟增長產生負面影響。

儘管如此，對AI監管的呼聲並未減弱。專家們建議，應建立國際合作機制，制定全球統一的AI安全標準，以確保AI技術的安全發展。他們強調，僅依賴企業的自我監管是不夠的，政府應積極介入，制定相關法律法規，確保AI技術的發展不會對人類社會構成威脅。

解讀分析

AI技術的迅猛發展，為各行各業帶來了前所未有的機遇，同時也引發了對安全性和可控性的擔憂。專家們呼籲加強監管，反映出對AI可能失控的深層次擔憂。未來，隨著AI技術的進一步成熟，預計各國將加強合作，制定更嚴格的監管框架，以平衡創新與安全之間的關係。這也為相關行業帶來新的商機，如AI安全評估、監管技術開發等領域，預計將成為未來投資的熱點。

https://www.barrons.com/articles/experts-call-for-regulation-to-avoid-loss-of-control-over-ai-d1fe83cb

延伸閱讀

InfoAI，給你駕馭AI的知識和技能，成為AI時代的專家與達人。

InfoAI智能情報：助你駕馭AI創造新價值

www.InfoAI.com.tw

提案成功： 商業提案、創業募資、計劃報告

www.pitch.com.tw