我皺起眉:「把理事會中反對你的人引出來,趁機一網打盡……我想不通你被反對了什麽而讓你必須那麽做。你不是向來認為一個正常的國家不應當隻有一種聲音嗎?」
爸爸緩緩搖頭:「你在科技倫理治理委員會,應當知道意識上傳這項技術吧?」
「把人的意識上傳到計算機當中的技術,即把我們的心智轉移到電腦硬體上。這種技術有兩個前提,一是要具備足夠好的大腦模擬技術,在模擬大腦的同時還能夠模擬人的心智,二是心智的複製在所有相關方麵都與原來的心智一樣。」
「沒錯。除了把再生的大腦當成計算機,大致來說就是這麽迴事。」
「但我們這邊暫時還隻能做到第一個前提,而且就是第一點,模擬人的心智還需要以破壞原裝大腦為代價。」
「醫療兵團那邊也好不到哪裏去,他們暫時還隻能模擬出三歲幼兒的意識。」
空氣的溫度並不低,但聽聞此話的我卻略感寒意,忍不住摩擦雙手,讓自己的身體多增加一點熱量。
「他們那邊也是要破壞幼兒的原裝大腦才行嗎?」
「你應該問我為什麽他們暫時還隻能模擬出三歲幼兒的意識。」爸爸這麽說了後,破天荒地頭一迴沒說我『你連這都不知道』,而是解釋說,「醫學的歷史本來就是從偷屍體和公開表演解剖開始的。那些人平時看著很正常,但是一旦涉及到實驗,根本不會管什麽科技倫理,什麽事都做得出來。隻要他們眼前的那條路存在任何可能性,那麽不管付出什麽,他們都會做。」
「換了多少茬人都沒用。如果現現世與天國之間必須隔著一座血海,他們就一定會實現這血海。」爸爸感慨道。
我猛地甩了下頭,讓自己清醒了點:「你這麽說的話,是這項技術你們那邊已經實現突破性進展了嗎?」
「不,這項技術早就結束了。」
我困惑不解。早就結束了是什麽意思?
我語氣嚴厲起來:「請你說明清楚。」
「唔……這才幾年不見,我的女兒怎麽變得那麽兇了?」
「抱歉,這是職業病。你要是不及時說明清楚,我不介意更兇一點。」
「好吧。我的意思是,在機械叛亂之後,意識上傳的技術沒多久就開發成功了。」
「你說什麽?」
「隻要還原每一根神經細胞的具體細節,意識的誕生就毫無神聖可言,這話沒錯。值得注意的是,通過操控單個基因誘導可再生細胞發生重編程,補充不可再生的細胞,即神經細胞和心髒細胞。現行的所有對於神經細胞的細胞再生技術都是我們刻意散播的錯誤版本。利用這種技術再生的神經元,它們產生的電流都是異向的,無法在電波上形成同步,也就無法聯合形成模式,繼而產生意識。我這樣說,你明白嗎?」
我感覺我對這種到處都有的謊言已經見怪不怪,乃至於古井無波了,所以隻是淡淡地迴答:「大致明白。」
「現在很少有人思考人類的肉/體是如何承受超光速航行的。每天人類都在以接近五百米每秒的速度和地球一同運轉,誠然,人類的肉/體可以經受任何速度,但人類並非是在短時間內加速到的這個速度。那時的飛船製造技術還沒有現在那麽先進,如果保持地球的重力來慢慢加速飛船,要兩年才能加速到接近光速。當時最好的方式就是意識上傳。安,真正的問題在於,這種終極的壽命延長技術會對社會產生怎樣破壞性的結果。」
羅伯特·納維利斯們的統治將會永遠持續下去。這句話我原本要脫口而出,但一時間卻為之躊躇。
而爸爸替我迴答:「生命因此變得廉價,死亡也會隨之貶值。」
爸爸所說的『生命因此變得廉價,死亡也會隨之貶值』,指的是什麽呢?
「確實,這世上根本沒有永恆不變的事物,假如一個人的生命過於悠久,遠離死亡,自然很容易輕賤他人的生命,變得非常傲慢。」
「是嗎?你是這麽想的嗎?實際上的結果要更可怕哦。這種意識上傳技術並不會破壞原裝大腦。你可以設想一下你們委員會工作效率位列前十的都有誰,然後再設想,你們委員會能夠以極低的成本複製這些珍貴成員的意識會怎麽樣。打個比方,如果僱主每年隻需要花十塊錢的維護成本,就能讓一個上傳的意識為其工作,那他為什麽還要僱傭你,付你每年超過三十萬的薪水?」
我一時語塞,隻得說:「我搞不懂這種能夠上傳的意識和以前存在於機械硬碟裏的那些ai有什麽區別。」
「本來就沒有任何區別,全都是電波產生的一種擬合。當初機械叛亂時的那些人工智慧既不恨我們,也不愛我們,隻是想要用我們身上的一些原子做一些事情。」
「比如?」
「比如一個給工廠流水線配備的人工智慧設定的終極目標是盡可能地製造迴形針,當它發展為超級智能後,它就可能尋找各種方式將絕大多數事物都變成迴形針,假如它不認為這種行為是在傷害人類,那麽它就會致力於把所有人類也變成一種迴形針。」
這可真可怕。
「超人類的人工智慧在擁有自我意識後也不能擺脫這種類似於終極目標的束縛嗎?」
「人類也從未擺脫過這種束縛啊。一生隻做一件事。你不覺得很像是我們人類常說的使命感嗎?很多人生來就會莫名其妙迷上一樣東西,仿佛他的出生就是為此而存在一樣。我就是這樣的人,所以對此深有體會。」
爸爸緩緩搖頭:「你在科技倫理治理委員會,應當知道意識上傳這項技術吧?」
「把人的意識上傳到計算機當中的技術,即把我們的心智轉移到電腦硬體上。這種技術有兩個前提,一是要具備足夠好的大腦模擬技術,在模擬大腦的同時還能夠模擬人的心智,二是心智的複製在所有相關方麵都與原來的心智一樣。」
「沒錯。除了把再生的大腦當成計算機,大致來說就是這麽迴事。」
「但我們這邊暫時還隻能做到第一個前提,而且就是第一點,模擬人的心智還需要以破壞原裝大腦為代價。」
「醫療兵團那邊也好不到哪裏去,他們暫時還隻能模擬出三歲幼兒的意識。」
空氣的溫度並不低,但聽聞此話的我卻略感寒意,忍不住摩擦雙手,讓自己的身體多增加一點熱量。
「他們那邊也是要破壞幼兒的原裝大腦才行嗎?」
「你應該問我為什麽他們暫時還隻能模擬出三歲幼兒的意識。」爸爸這麽說了後,破天荒地頭一迴沒說我『你連這都不知道』,而是解釋說,「醫學的歷史本來就是從偷屍體和公開表演解剖開始的。那些人平時看著很正常,但是一旦涉及到實驗,根本不會管什麽科技倫理,什麽事都做得出來。隻要他們眼前的那條路存在任何可能性,那麽不管付出什麽,他們都會做。」
「換了多少茬人都沒用。如果現現世與天國之間必須隔著一座血海,他們就一定會實現這血海。」爸爸感慨道。
我猛地甩了下頭,讓自己清醒了點:「你這麽說的話,是這項技術你們那邊已經實現突破性進展了嗎?」
「不,這項技術早就結束了。」
我困惑不解。早就結束了是什麽意思?
我語氣嚴厲起來:「請你說明清楚。」
「唔……這才幾年不見,我的女兒怎麽變得那麽兇了?」
「抱歉,這是職業病。你要是不及時說明清楚,我不介意更兇一點。」
「好吧。我的意思是,在機械叛亂之後,意識上傳的技術沒多久就開發成功了。」
「你說什麽?」
「隻要還原每一根神經細胞的具體細節,意識的誕生就毫無神聖可言,這話沒錯。值得注意的是,通過操控單個基因誘導可再生細胞發生重編程,補充不可再生的細胞,即神經細胞和心髒細胞。現行的所有對於神經細胞的細胞再生技術都是我們刻意散播的錯誤版本。利用這種技術再生的神經元,它們產生的電流都是異向的,無法在電波上形成同步,也就無法聯合形成模式,繼而產生意識。我這樣說,你明白嗎?」
我感覺我對這種到處都有的謊言已經見怪不怪,乃至於古井無波了,所以隻是淡淡地迴答:「大致明白。」
「現在很少有人思考人類的肉/體是如何承受超光速航行的。每天人類都在以接近五百米每秒的速度和地球一同運轉,誠然,人類的肉/體可以經受任何速度,但人類並非是在短時間內加速到的這個速度。那時的飛船製造技術還沒有現在那麽先進,如果保持地球的重力來慢慢加速飛船,要兩年才能加速到接近光速。當時最好的方式就是意識上傳。安,真正的問題在於,這種終極的壽命延長技術會對社會產生怎樣破壞性的結果。」
羅伯特·納維利斯們的統治將會永遠持續下去。這句話我原本要脫口而出,但一時間卻為之躊躇。
而爸爸替我迴答:「生命因此變得廉價,死亡也會隨之貶值。」
爸爸所說的『生命因此變得廉價,死亡也會隨之貶值』,指的是什麽呢?
「確實,這世上根本沒有永恆不變的事物,假如一個人的生命過於悠久,遠離死亡,自然很容易輕賤他人的生命,變得非常傲慢。」
「是嗎?你是這麽想的嗎?實際上的結果要更可怕哦。這種意識上傳技術並不會破壞原裝大腦。你可以設想一下你們委員會工作效率位列前十的都有誰,然後再設想,你們委員會能夠以極低的成本複製這些珍貴成員的意識會怎麽樣。打個比方,如果僱主每年隻需要花十塊錢的維護成本,就能讓一個上傳的意識為其工作,那他為什麽還要僱傭你,付你每年超過三十萬的薪水?」
我一時語塞,隻得說:「我搞不懂這種能夠上傳的意識和以前存在於機械硬碟裏的那些ai有什麽區別。」
「本來就沒有任何區別,全都是電波產生的一種擬合。當初機械叛亂時的那些人工智慧既不恨我們,也不愛我們,隻是想要用我們身上的一些原子做一些事情。」
「比如?」
「比如一個給工廠流水線配備的人工智慧設定的終極目標是盡可能地製造迴形針,當它發展為超級智能後,它就可能尋找各種方式將絕大多數事物都變成迴形針,假如它不認為這種行為是在傷害人類,那麽它就會致力於把所有人類也變成一種迴形針。」
這可真可怕。
「超人類的人工智慧在擁有自我意識後也不能擺脫這種類似於終極目標的束縛嗎?」
「人類也從未擺脫過這種束縛啊。一生隻做一件事。你不覺得很像是我們人類常說的使命感嗎?很多人生來就會莫名其妙迷上一樣東西,仿佛他的出生就是為此而存在一樣。我就是這樣的人,所以對此深有體會。」