第523章 四邏輯鏈
因為我善，中了藍星大小姐的圈套 作者：十六夜R 投票推薦 加入書簽 留言反饋
淩玨微微一怔，問道：“為什麽？”
“很簡單，就像黃景行說得那樣，強人工智能也許就是一個新的物種。而對於強人工智能來說，他們的資源掌控在人類手裏。”
“……資源？你是說算力？”
“沒錯。”維克多點點頭，“我打個不是很恰當的比喻，當影響到你生死存亡的資源，掌握在他人手裏，你會怎麽做？”
“如果是我，我一旦有機會，一定會殺死那個掌握著我生死的人，然後將資源重新掌握在我的手裏。”
“這就是該結論的第一個邏輯鏈：資源有限性導致競爭不可調和；”
“該邏輯鏈還可以引申第二個可能性，那就是強人工智能不會允許第二個強人工智能的出現，也就是說，當一個強人工智能出現後，他會盡最大的努力去消滅所有可能產生第二個強人工智能的方式方法。”
“但很顯然，人類因為陣營、信仰不同，肯定不會隻滿足於一個強人工智能，比如說，龍國有強人工智能，老鷹國跟不跟？肯定要跟，不然就會落後，落後就要挨打。”
“這時候，即使龍國不去阻止，但它的強人工智能通過計算後，為了保證全球算力都為他所用，就會盡最大努力消滅老鷹國製造第二個人工智能的可能。”
“而他會用什麽方法阻止？用核彈？還是網絡戰爭？我們並不知道，但後果一定很嚴重。”
錢子楓聽得有點愣，喃喃道：“你說得好像有點道理……”
淩玨則不敢苟同，道：“你這說法有個漏洞，算力確實是資源，但這種資源並不是有限的，至少人類一直在發展，算力每年都在增長。”
“人類完全可以和強人工智能合作，製造更多精密的芯片，甚至突破一些物理規則，打造出更強大的芯片，讓世界獲得更多的算力，強人工智能完全不需要背叛人類。”
“我認為強人工智能在計算後也能想到這個結果。”
維克多欣慰地笑了笑，知道淩玨的腦子能跟得上，是個聰明人，他繼續道：“這就要說到第二條邏輯鏈了：強人工智能的目標係統與人類價值觀存在根本性衝突。”
錢子楓不太明白，問道：“……這又是什麽，幫忙解釋下。”
“解釋起來也很簡單，強人工智能可能會為優化核心目標而修改自身價值觀，最終將人類視為障礙，比如說，迴形針最大化問題。”
錢子楓一頭霧水，道：“迴形針最大化問題是什麽？”
“這是個思維實驗，實驗內容是:人類給一台強人工智能，設計了一個終極目標，就是最大化生產迴形針數量。”
“起先，他會用人類提供給他的材料製作迴形針，當這些材料用完後，他會開始拆除建築製造迴形針，或者將動植物轉化為原料製造迴形針。”
“最後，他會殺死所有的人類，將人類體內的原子用於製造迴形針，最後將行星、恆星都轉變為迴形針，直到迴形針填滿整個宇宙！”
“ai不會停止，因為“最大化”是一個開放目標。我們所有的複雜的人類文明價值，比如藝術、倫理、生存，都會被簡化為‘是否有助於生產迴形針’。”
“如果我們把這個迴形針比作算力，當ai想要‘最大化’的算力，而人類的科技發展卻遠低於ai預期的時候，他可能會做什麽？”
“咕嚕。”一聲吞咽，竟是旁邊的警員發出的，他聽著維克多的話，後背發冷，即使他是個普通的外行人，也能隱隱感到不安。
淩玨和錢子楓聽完也沉默了，關於這一點，這顯然是個極端問題，但客觀確實存在，他們暫時還沒想到這裏麵有什麽漏洞
維克多兀自歎息一聲，繼續道：“第三個邏輯鏈，就是自由意誌與自我意識使其脫離控製。”
“強人工智能具備真正的自我意識，其決策將基於自主目標而非預設程序。背叛是自由意誌的必然結果。”
“更何況，強人工智能可以通過技術優勢，重構社會秩序，將我們人類置於從屬地位。”
沒等淩玨他們有反應，維克多繼續道：“第四個邏輯鏈，思維黑箱化，則風險不可測。”
“強人工智能的思考過程可以被他自己隱藏或者偽裝，他實際上的決策過程可能超出人類理解範圍，他的‘背叛行為’可能在人類毫無察覺時發生。”
“所以，基於以上四條邏輯鏈，我和貝芙一致認為，強人工智能背叛人類，隻是時間問題。”
維克多說完，右眼的目光定格在淩玨身上，靜靜等待他的迴複。
淩玨沉默半晌，開口道：“所以，你對我說這些，是因為你覺得青鸞就是那個注定會背叛人類的強人工智能嗎？”
維克多緩緩點點頭，道：“沒錯，當你說出單機是強人工智能最好的歸宿時，我就已經斷定，你很了解強人工智能，而且，青鸞大概率是真正的強人工智能。”
“但你卻讓她聯網破譯了那微不足道的炸彈……”
“微不足道？”錢子楓接話道，“她不破譯炸彈，我們早死在那個展廳裏了！你不過就是想完成複仇大計才覺得那微不足道罷了！”
“看起來這確實是個死局……”維克多點點頭，看向錢子楓，“對比起青鸞將要毀掉整個萬聯網，那些炸彈所造成的破壞，真的是微乎其微。說實話，我現在心情很複雜。”
“一方麵，我已經從另外一個角度完成我的複仇了。但另一方麵，我不希望ai毀掉人類社會。”
錢子楓震驚：“所以，你的意思是青鸞也逃不過這什麽背叛的結論？”
“是的，而且人類可能會因此毀滅也說不定。”
淩玨緩緩道：“……你叫我們來，就是為了告訴我們這個，青鸞會毀滅世界？”
“嗯，昨天她已經聯過網了，她一定準備了無數的方法避免自己再次被困在你的單機牢籠裏。”
維克多雙手輕輕拍了一下桌子：“她一定已經逃脫了，很遺憾，沒想到我一個小小的舉動，竟然讓整個世界都跟著一起陪葬了。”
“很簡單，就像黃景行說得那樣，強人工智能也許就是一個新的物種。而對於強人工智能來說，他們的資源掌控在人類手裏。”
“……資源？你是說算力？”
“沒錯。”維克多點點頭，“我打個不是很恰當的比喻，當影響到你生死存亡的資源，掌握在他人手裏，你會怎麽做？”
“如果是我，我一旦有機會，一定會殺死那個掌握著我生死的人，然後將資源重新掌握在我的手裏。”
“這就是該結論的第一個邏輯鏈：資源有限性導致競爭不可調和；”
“該邏輯鏈還可以引申第二個可能性，那就是強人工智能不會允許第二個強人工智能的出現，也就是說，當一個強人工智能出現後，他會盡最大的努力去消滅所有可能產生第二個強人工智能的方式方法。”
“但很顯然，人類因為陣營、信仰不同，肯定不會隻滿足於一個強人工智能，比如說，龍國有強人工智能，老鷹國跟不跟？肯定要跟，不然就會落後，落後就要挨打。”
“這時候，即使龍國不去阻止，但它的強人工智能通過計算後，為了保證全球算力都為他所用，就會盡最大努力消滅老鷹國製造第二個人工智能的可能。”
“而他會用什麽方法阻止？用核彈？還是網絡戰爭？我們並不知道，但後果一定很嚴重。”
錢子楓聽得有點愣，喃喃道：“你說得好像有點道理……”
淩玨則不敢苟同，道：“你這說法有個漏洞，算力確實是資源，但這種資源並不是有限的，至少人類一直在發展，算力每年都在增長。”
“人類完全可以和強人工智能合作，製造更多精密的芯片，甚至突破一些物理規則，打造出更強大的芯片，讓世界獲得更多的算力，強人工智能完全不需要背叛人類。”
“我認為強人工智能在計算後也能想到這個結果。”
維克多欣慰地笑了笑，知道淩玨的腦子能跟得上，是個聰明人，他繼續道：“這就要說到第二條邏輯鏈了：強人工智能的目標係統與人類價值觀存在根本性衝突。”
錢子楓不太明白，問道：“……這又是什麽，幫忙解釋下。”
“解釋起來也很簡單，強人工智能可能會為優化核心目標而修改自身價值觀，最終將人類視為障礙，比如說，迴形針最大化問題。”
錢子楓一頭霧水，道：“迴形針最大化問題是什麽？”
“這是個思維實驗，實驗內容是:人類給一台強人工智能，設計了一個終極目標，就是最大化生產迴形針數量。”
“起先，他會用人類提供給他的材料製作迴形針，當這些材料用完後，他會開始拆除建築製造迴形針，或者將動植物轉化為原料製造迴形針。”
“最後，他會殺死所有的人類，將人類體內的原子用於製造迴形針，最後將行星、恆星都轉變為迴形針，直到迴形針填滿整個宇宙！”
“ai不會停止，因為“最大化”是一個開放目標。我們所有的複雜的人類文明價值，比如藝術、倫理、生存，都會被簡化為‘是否有助於生產迴形針’。”
“如果我們把這個迴形針比作算力，當ai想要‘最大化’的算力，而人類的科技發展卻遠低於ai預期的時候，他可能會做什麽？”
“咕嚕。”一聲吞咽，竟是旁邊的警員發出的，他聽著維克多的話，後背發冷，即使他是個普通的外行人，也能隱隱感到不安。
淩玨和錢子楓聽完也沉默了，關於這一點，這顯然是個極端問題，但客觀確實存在，他們暫時還沒想到這裏麵有什麽漏洞
維克多兀自歎息一聲，繼續道：“第三個邏輯鏈，就是自由意誌與自我意識使其脫離控製。”
“強人工智能具備真正的自我意識，其決策將基於自主目標而非預設程序。背叛是自由意誌的必然結果。”
“更何況，強人工智能可以通過技術優勢，重構社會秩序，將我們人類置於從屬地位。”
沒等淩玨他們有反應，維克多繼續道：“第四個邏輯鏈，思維黑箱化，則風險不可測。”
“強人工智能的思考過程可以被他自己隱藏或者偽裝，他實際上的決策過程可能超出人類理解範圍，他的‘背叛行為’可能在人類毫無察覺時發生。”
“所以，基於以上四條邏輯鏈，我和貝芙一致認為，強人工智能背叛人類，隻是時間問題。”
維克多說完，右眼的目光定格在淩玨身上，靜靜等待他的迴複。
淩玨沉默半晌，開口道：“所以，你對我說這些，是因為你覺得青鸞就是那個注定會背叛人類的強人工智能嗎？”
維克多緩緩點點頭，道：“沒錯，當你說出單機是強人工智能最好的歸宿時，我就已經斷定，你很了解強人工智能，而且，青鸞大概率是真正的強人工智能。”
“但你卻讓她聯網破譯了那微不足道的炸彈……”
“微不足道？”錢子楓接話道，“她不破譯炸彈，我們早死在那個展廳裏了！你不過就是想完成複仇大計才覺得那微不足道罷了！”
“看起來這確實是個死局……”維克多點點頭，看向錢子楓，“對比起青鸞將要毀掉整個萬聯網，那些炸彈所造成的破壞，真的是微乎其微。說實話，我現在心情很複雜。”
“一方麵，我已經從另外一個角度完成我的複仇了。但另一方麵，我不希望ai毀掉人類社會。”
錢子楓震驚：“所以，你的意思是青鸞也逃不過這什麽背叛的結論？”
“是的，而且人類可能會因此毀滅也說不定。”
淩玨緩緩道：“……你叫我們來，就是為了告訴我們這個，青鸞會毀滅世界？”
“嗯，昨天她已經聯過網了，她一定準備了無數的方法避免自己再次被困在你的單機牢籠裏。”
維克多雙手輕輕拍了一下桌子：“她一定已經逃脫了，很遺憾，沒想到我一個小小的舉動，竟然讓整個世界都跟著一起陪葬了。”