日期:2024/10/10 IAE
人工智慧(AI)領域做出開創性貢獻的諾貝爾物理學獎新科得主霍普菲爾德今天表示,近期AI技術的發展令他感到「非常不安」,警告若不加以控制,恐招致災難性後果。
法新社報導,2024年諾貝爾物理學獎由美國科學家暨普林斯頓大學(Princeton University)教授霍普菲爾德(John J. Hopfield)以及英國出生的加拿大科學家辛頓(Geoffrey E. Hinton)共享殊榮。
兩人因催生AI發展的開創性成果而獲獎,也共同呼籲更深入理解深度學習系統內部運作機制,以防止失控。
高齡91歲的霍普菲爾德在英國以視訊參與普林斯頓大學聚會時提到,他一生中目睹了2種強大但有潛在危險的科技崛起,分別是生物工程和核物理。
霍普菲爾德說:「人們已習慣擁有優劣並存、一體兩面的科技…身為一名物理學家,我對於那些不受約束、我不夠了解的科技感到非常不安,因為我無法明確知道這種科技的極限,也不知道它能被運用到什麼程度。」
他接著說,「這正是AI引發的問題」,儘管現代AI系統看似「令人嘆為觀止」,但對其運作缺乏理解,讓他感到「非常、非常不安」。
霍普菲爾德說,這正是他和辛頓為何強烈主張「理解」是AI領域的基本需求,因為AI正在發展出一些超越目前想像的能力。
辛頓去年躍居AI末日論的代表人物,他在獲聘為名譽教授的多倫多大學(University of Toront)舉行的新聞發布會上重申這個主題。
76歲的辛頓對記者說:「如果你環顧四周,幾乎沒有較高智能的東西被智能不如它的東西控制的案例,這讓你不禁想,當AI比我們更聰明時,它們是否會反過來控制我們。」
他補充說:「我主張,我們最優秀的年輕研究員或他們多數人都應致力投入AI安全性研究,政府也應強制大型企業提供電腦相關資源,這是他們該做的事。」(中央社華盛頓8日綜合外電報導)