AI究竟能否產生自我意識？滅絕人類言過其實？

劃重點：

1.近日，360集團創始人週鴻祎表示，“人工智能壹定會產生自我意識，留給人類的時間不多了。”

【AI究竟能否產生自我意識？滅絕人類言過其實？】
天文學家推測，儘管我們沒有探測到地外生命，但是我們相信外星生命在銀河係當中是存在的，且高等外星文明很可能是矽基形態存在。https://t.co/pd4trVmqvO pic.twitter.com/o9vTL6HmIS

— TimedNews.com （@TimednewsC） April 3, 2023

2.北大心理與認知學者羅歡和朱露莎告訴騰訊科技，在壹定條件下，原則上人工智能能夠湧現出自我意識，比如在利益和欲望的驅動之下。情感就是壹種腦的狀態，併非人腦獨家標簽。目前，人工智能本身的善惡取決於訓練的數據。人類科學倫理的研究大大落後於科技的發展，有必要按下暫停鍵，讓我們有個反思的時間。

3.知名科幻作家江波向騰訊科技表示，人工智能產生自我意識沒有絕對的阻礙，但當下的GPT4則距離自我意識的產生尚早，測試自我意識的壹個有趣方法是：看人工智能是否會撒謊。如果它會撒謊，那麽可以判斷它已經有自我意識。 人工智能的突破可能會發生在壹瞬間，也就是說，在發生之前，做什麽意義都不大，甚至是件勞民傷財而毫無成效的事。在發生之後，做壹切都晚了。立法或許會降低風險，但根據曆史規律看，人類在沒有受到現實的教訓之前是不會真正落實這些法規的。

4.天文學家推測，儘管我們沒有探測到地外生命，但是我們相信外星生命在銀河係當中是存在的，且高等外星文明很可能是矽基形態存在。

騰訊科技 喬輝

3月28日，據外媒報道，壹名叫皮埃爾（化名）的比利時男子在與壹個名稱“艾麗莎”的智能聊天機器人頻繁聊天數週後自殺身亡。360集團創始人週鴻祎表示，“人工智能壹定會產生自我意識，留給人類的時間不多了。” 自ChatGPT發布以來，關於人工智能是否能產生自我意識的討論更加引入關注。

雖然“人工智能”（AI）這個概念早在1956年就被提出，但在過去的幾十年，人工智能的研究壹直沒有“質”的轉變，無論運算能力多強，看起來仍然是冷冰冰的機器，但直到今年OpenAI公司向公衆展示GPT3.5和GPT4的強大能力之後，人們突然意識到壹個全新的時代可能正在開啓，人工智能看起來越來越像人，開始能夠創造新內容了。人工智能的研究正在加速疊代，人類可能正在體驗打開“潘多拉魔盒”的心情：好奇和擔憂併存。好奇的是，人工智能究竟能夠強大到什麽程度，能夠解決什麽樣的難題；擔憂的是，人們工作和生存會受到威脅，更擔憂人工智能壹旦擁有了自我意識（覺醒）會對人類物種造成毀滅性的打擊。

人工智能能夠產生自我意識嗎？人工智能是善是惡？人工智能的研究需要按下暫停鍵和立法嗎？對於這些人們關心的問題，我們分別對話了北大心理學領域的教授，中科院物理所的物理學家、國家天文台的天文學家以及著名的科幻作家，來聽聽他們對這些核心問題的理解。

北京大學心理與認知科學學院羅歡：在壹定條件下，人工智能能夠產生意識

北京大學心理與認知科學學院羅歡教授向騰訊科技表示，認知神經科學家緻力於解釋精神世界的物質基礎，認爲意識是從大量神經元中湧現出來的。比如，“全局空間理論”認爲大腦中有壹個核心工作空間，外界信息隻有進入了該核心空間，併被廣播到全腦才上升到意識層面；“信息整合理論”則認爲腦區域連接網絡的壹些特定屬性可以被量化進而決定其意識湧現的能力。

她認爲，原則上計算機能夠“湧現”出意識，併給出了可能實現的途徑：1、計算機模擬人腦神經網絡架構，通過物理結構的“類腦化”使其具備意識湧現的硬件條件；2、賦予計算機擬人的動機和目的，通過目標函數的設定來自然湧現出自我意識，比如設定趨利避害、價值觀以及社會屬性等。羅教授說：“情感、意識、自我這都是心理學的功能性定義，無數科學家的工作都不斷的把這些抽象的定義“拉下神壇”，發現它們其實是腦這個物理係統湧現的狀態和實現的某種功能。比如情感就是壹種腦的狀態，但常常被我們打上了“人類獨家”的標簽。因此，理論上，計算機可以擁有情感，比如它在不同環境下根據它的價值和目標實現進入不同的狀態，進而對應不同的情感。“

北京大學心理與認知科學學院朱露莎：自我意識的出現需要利益和欲望驅動

北京大學心理與認知科學學院朱露莎教授也對這些問題提出了自己的見解，她向騰訊科技表示，僅僅擁有大量的神經元或者神經網絡計算還不足以讓人工智能湧現自我，人工智能還需要有自己的利益和欲望，在未來不排除這種情況的出現。當提及人工智能是善還是惡的問題時，朱教授表示，目前人工智能本身的善惡取決於訓練的數據，目前它是利用人類互聯網上的數據進行訓練的，這些數據天然夾雜有偏見和歧視等信息，如果不加選擇的話，訓練出來的人工智能就帶有偏見和歧視。朱教授同意要對人工智能的研究進行反思和立法，她表示，目前人類科學倫理的研究大大落後於科技的發展，讓我們有個反思的時間可能不是壞事。她還表示，人工智能的發展猶如壹次全新的工業革命，會對人類社會帶來天翻地覆的變化，需要社會各界達成某種共識。

中科院物理研究所研究員曹則賢：人類對意識的認識還非常淺薄

對於自我意識能否從大量神經元或神經網絡計算中湧現的問題，我們還請教了中科院物理研究所曹則賢教授，來聽聽物理學家如何看待這個問題。曹教授說：“人的意識從哪裏來，雖然不能說人類永遠理解不了（身在此山中），但目前關於意識的研究基本上還摸不着頭緒。那種認爲意識是腦組織中某個明確可辯識對象功能的觀點，還是站不住腳的。就連相比人腦層次低得多的台式計算機，人們都無法說清它的表現從何而來。雖然在軟件、硬件甚至電子層面都可構造壹套說辭，但任何單壹層面上的說辭都是蒼白的。”

著名科幻作家江波：人工智能防不勝防，但滅絕人類言過其實

科幻作家江波對人工智能是否能湧現出意識這個問題闡述給出了自己的理解和測試方法。他表示，自我意識的出現，應當有兩個條件：第壹是軀體，第二是神經網絡之上的神經網絡。他給出了比較好理解的理由：1、自我意識的存在從邏輯上講需要區分什麽是我，什麽是外。如果沒有軀體，那麽“我”這個概念就無法存在。2、神經網絡之上的神經網絡是指，自我能對其他神經網絡進行調控，能夠對影響範圍之內的神經網絡進行認可或者否定，更重要的是否定。從這兩個條件來說，還沒有看到人工智能產生自我意識的絕對阻礙，但當下的GPT4則距離自我意識的產生尚早。他給出了測試自我意識的壹個有趣方法：看人工智能是否會撒謊。如果它會撒謊，那麽可以判斷它已經有自我意識。

對於如何對人工智能的研究進行立法這個問題，他也給出了獨特的見解。他表示，鑑於人類對未知的恐懼，可以適當限製人工智能研究，比如將研究限製在局域網內，但這也可能是徒勞的，人工智能的突破會發生在壹瞬間，也就是說，在發生之前，做什麽意義都不大，甚至是件勞民傷財而毫無成效的事。在發生之後，做壹切都晚了。立法或許會降低風險，但根據曆史規律看，人類在沒有受到現實的教訓之前是不會真正落實這些法規的。目前，人工智能造成的危害隻會局限於壹定範圍，滅絕人類還有些言過其實，最可能的情形是，在未來可能會造成大災難，人類文明出現倒退。

國家天文台研究員苟利軍：高等外星人或許就是矽基形態

國家天文台的苟利軍教授從天文學的視角對人工智能的發展給出了看法。他表示，目前天文觀測基本都是以地球和人類作爲類比的，計算機智能和人的智能相差很大，所以我們所期望的外星生命也是所謂的碳基生命。儘管我們沒有探測到地外生命，但是我們相信外星生命應該在我們銀河係當中是存在的。不過隨着計算機人工智能技術的突飛猛進，尤其ChatGPT的出現，在過去壹段時間的表現，讓人類感覺到了壹絲恐懼。或許更高級的外星生命可以是矽基，有些智力是遠超人類的，就像壹些科幻小說當中所表現的那樣。

綜合各領域科學家的觀點來看，人工智能產生意識不存在物理定律上的限製，但目前人類對意識的理解和人工智能的研究尚處於早期階段，還需要時間來驗證。目前，雖然人工智能還無法威脅人類的生存，但需要儘快立法，延緩對人類社會的衝擊。放眼整個宇宙，高等外星文明很可能是矽基的。