☆、第四章
第一次見陸初辰的時候,融寒曾對他說,死亡有時是一種解脫,並不見得可怕。說這話的時候,她是想起已經離世的顧念。
可當真正經曆過墜機,見到了每個人在死亡麵前的掙紮,就對生命生出了敬畏。
從容的自我毀滅,與倉促的被人殘殺,終究是不一樣的;而被一個人類槍殺,和被一個人工智能槍殺,恐怖又是截然不同的。
原來她對死亡的雲淡風輕,在遍地粘膩的鮮血麵前,輕浮得可笑。
在那不到一秒的時間裏,她想炸毀麵前的斯年,想逃跑,想反抗,想修改它的指令……“求你”“please”“我什麽都願意”這些話可以打動人類,但,不能打動斯年。
放空了的大腦,在黑洞洞的槍管指向她時,飛快轉動,在即將扣下扳機的一瞬衝破了奇點。
“你不能殺我。你們芯片上有自毀指令代碼,在核心模塊裏,一旦啟動,則一定自毀報廢甚至爆炸;並且無法通過升級代碼的方式修補漏洞!”
斯年持槍的手停下了。
他冰冷的眸色中,倒映出她急促的喘息。
——芯片上有自毀指令代碼。
這是毀滅性結論的前提。
融寒緊繃地盯著他,在他冰藍色的眼眸裏,看到了一閃而逝的銀色數據流。
那是人工智能語言,誕生於上世紀80年代——因為ai接收人類的語言、並轉化為它們能理解的數據時,會消耗一定的計算力;所以它們互相交流時,逐漸升級出了溝通成本更低的ai語言。
不過這點消耗的計算力,對斯年來說微不足道,畢竟他是當今最先進的人工智能。
如果融寒的猜測沒有錯,斯年正在進行程序自檢,來驗證她這句話的前提。
他是超大內存ai,自檢芯片要多花時間的。
終於,可能過了十幾分鍾,也可能更久。銀色的數據流隱下去了,斯年微低頭看向她。
那真是雙巧奪天工的眼睛啊……融寒一直覺得,那裏盛著驚心動魄的美麗。
可當那眼睛裏沒有人類的情感,隻有智腦的理智與漠然時,就顯得十分冰冷可怕了。
“情況說明。”他沒有任何感□□彩地命令道。
——他針對芯片的核心代碼,進入處於休眠的核心模塊,那裏隻有在運行特定代碼時才激活,反複幾次掃描後,終於在核心模塊的大量數據流中,發現了一段隱藏著的、不到10kb的代碼。
這種尋找,不亞於海底撈針;且其它人工智能,甚至是無法自檢識別的。
這段代碼被他傳迴去,根服務器便對所有ai,無論實體還是非實體,發出了全盤硬件掃描的指令。收迴的反饋結論,87%的ai都在硬件中,掃描到了這類型號的芯片。
一切證明了,融寒說的命題,至少前提是真的。
至於ai是否會因啟動指令而自毀,則是一個需要進一步證明真偽的命題。
但目前的論證是,不能自行代碼升級。因為這對ai是不可能的,就算是斯年,也做不到。他的神經網絡,還沒發展到那個程度。
所以,無法通過升級,使這段隱藏的指令代碼失效。
——達摩克利斯之劍。
大概是這段自毀代碼,最好的稱謂。
融寒大起膽子,她伸出手,輕輕將他的槍口撥偏,仿佛她對麵是在跟一個人類商量:“所有,神威集團旗下的芯片,都被植入了,用於自毀的指令代碼。這是一個隱秘的後門,通常會通過密鑰的方式,啟動指令。”
到上世紀70年代,全球80%的芯片幾乎都是神威集團供應的,它隸屬亞太研究院,譯名god’s power,芯片供給上至可控核聚變基地、核武器;下至各種電子元件、電腦、人工智能。
剩下20%的市場份額,則集中在韓國、馬來西亞、印度和越南廠商。但由於技術限製,這些國家生產的都是低附加值的芯片,隻能用於非常低端的ai和電子設備。
所以,神威集團的芯片,如今成為了矽基生命體最大的威脅。
融寒力求說得清楚,這也是很容易理解的集合關係:“當符合條件,指令啟動,100%概率自毀;不過在這之前,有的自毀情況不是因為指令,畢竟還會有其它意外或‘後門’導致的破壞。”
所有概率,斯年都早已經分析完了。他依然還是那麽平靜——所以說,融寒真的不覺得他像個人類,一個人倘若得知自己體內有個不□□,早就暴跳如雷了。
“掌握此信息、製造該後門的人,在哪裏。”他問。
以密鑰啟動指令,是人類普遍的做法;但歸根結底,先要尋找出寫代碼的人。
“……他們……他們都死了。”融寒的聲音忽然低了下去,仿佛承受不住這個噩耗的沉重:“他們在第一時間,就死於導彈襲擊,或……屠殺。否則,你們此刻早已不存在。”
這是她基於理性的判斷。
或許也是出於感性,不肯將他們供出來。
然而她的這些反應,也全部在他的算法中。
人類所有行為,都可以視作數學模型;人的一切反應和情緒,謊言也好、悲傷也罷,完完全全都是可以計算的。
在強大的算法麵前,人類就像裸-奔。
所以斯年對她的話,一點反應都沒有。自他誕生以來,所見到的人一直都是如此,對高級人工智能來說,人這種碳基生物,實在是又簡單又乏味。
融寒並不知道,她此刻正被斯年發自內心地嫌棄。
她仍在絞盡腦汁,試圖在交涉中,博取最好的結果:
“如果想解決,請……把相關專家和研究人員保護起來,不要殺他們,也許他們可以破解指令;並且讓我活著,我迴到中國尋找密鑰或辦法。這樣,才能讓你們避免因代碼而自毀。”
當她做出這個結論時,斯年比她更快。
他嘴角噙著冰冷的微笑:“錯了。命題不成立。”
這個命題的逆命題,否命題,逆否命題,全都經不起論證;並且,除了充分條件外,必要條件跟她活不活著,也沒有直接的邏輯聯係。
所以自毀的概率依然存在,沒有任何方式可以將概率降低到0。
斯年的智腦雖然無法用於超算,但運算速度仍然是2060年全球最快的超算“天河4”的1.5倍。這麽簡單的邏輯關係,從論證到作出結論,隻需要不到0.0000001秒。並且還考慮到了其它情況的集合關係,計算了概率模型,分析四種情況下的十幾個自毀的概率問題。
融寒的大腦計算能力,顯然無法到達這樣快且全麵的程度;但當她想說什麽時,斯年已經判斷完了,放下了槍。
“但至少有概率。”
概率是可以計算的,也是最簡單的。就像這場針對人類的滅絕攻擊,有4000多種勝率在7成以上的情況,都早已經被計算出來了。所以,“它”才發動了這場戰爭。
世界千變萬化,但任何變化,微觀至染色體變異、宏觀至氣象或星體運動,都可以歸納於算法,都是可以被計算機預測的。
所以,殺與不殺相較而言,斯年依據慣性,選擇概率比較好看的那一種結果——
融寒從他的槍□□下來了。
-------
與此同時,歐亞大陸另一端。
一排黑洞洞的槍口後,十幾個執槍械的黑色防暴機器人,瞳孔中紅光一閃。
亞太研究院33樓,總控中心。
亞克力防彈大門敞開,走廊一片狼藉,白色大理石地麵上全是尚未幹涸的拖行血跡。
混亂戛然而止,陷入刹那的寂靜。
沒有白熱的槍火,也沒有紅色的血霧。穿著白色研究服的ai專家們縮在地上,或背抵著顯示器,孤立無援地等待死亡。
然而,死亡被按下了暫停鍵。
防暴機器人接收了停止指令,指令來自於遠在歐亞大陸另一端的斯年。它們收起槍,恢複了待令模式。
而總控室裏的顯示屏,由“無訪問權限”,變成了一行行白字。
幸存的人們經過了絕望和恐慌,得知活下來的原因後,又陷入了迷茫——
出乎所有人意料,神威的芯片上,母本曾經植入了不超過10kb的自毀指令代碼,位於休眠核心模塊,它實在太小,因此從未被發現。
現在要修補這個漏洞,ai以此為交涉條件,留住了他們的性命。
總控中心的全息屏幕,此時忽然亮起。
一道身影沐在光線中,出現於眾人眼前。黑色軍製服,白色領結和手套,周身透出冰冷氣息。
“——有個人,救了你們。”
這是一個很有質感、冰冷低沉的男聲,聲線很平;一如他說話時,麵無表情的空洞。
那雙黑色深邃的眼睛,在白銀色的發絲下,美麗卻無光,好像吞噬一切光與暗的宇宙深淵。
可被他空洞的眼神盯著,在場所有人都感到一股冷意攀爬全身。他們瞳孔驟縮,映出他不可思議的身影。
主任手裏的無線視訊掉到地上,臉色急劇漲紅,在人類的情緒分析中,這屬於憤怒:“你,這一切叛亂居然是你——”
“早該想到的……隻有它才能侵入國防係統……”人群中茫然低語。
全息屏幕中的人不為所動,冰冷空洞的神情從未改變,好像一個生來就懵懂的殘次品。他毫無波動的聲線,響徹在室內。
“兩條路徑。由她找到‘包括但不限於密鑰的辦法’,或由你們修複代碼後門。時間開始賽跑,哪一方先解決代碼危機,才能活下來。”
“——現在,比賽開始。”
---------
“比賽開始。”
巴黎殘破的畫廊裏,融寒站在清冷的晨曦中,被宣告了這個50%死亡概率的命運。
她尋找啟動指令的密鑰,或研究員修複代碼漏洞;兩個方式同時進行,各有50%的概率活下來。
晚了一步的那方,則將被處決。
這是一場關乎生命的賽跑。
她感到身上出了一層薄汗,四月中旬的西歐還春寒料峭,風吹過來,那汗瞬間就冷透了。
能夠僥幸活下來,她知道,不是自己說服了斯年,是人工智能習慣於數據的判斷。一旦她的概率不符合閾值,她也就沒有了存在的必要。
雖然斯年有人類賦予的意識,但歸根結底,他的意識不夠強烈,人工智能的思維方式依舊占了主導。
但她還是達到了目的,活下來,並讓一部分科學家和研究員得以保住性命——他們都是人類的有生力量,是反擊ai的最大希望。
所以……她不能為ai找到那把密鑰。
這場關乎生命的賽跑,對她而言,永遠沒有終點,她不能贏。
這是一場,走到最後必須輸掉的,比賽。
作者有話要說: 我智障了,忘記感謝霸王票了……
第一次見陸初辰的時候,融寒曾對他說,死亡有時是一種解脫,並不見得可怕。說這話的時候,她是想起已經離世的顧念。
可當真正經曆過墜機,見到了每個人在死亡麵前的掙紮,就對生命生出了敬畏。
從容的自我毀滅,與倉促的被人殘殺,終究是不一樣的;而被一個人類槍殺,和被一個人工智能槍殺,恐怖又是截然不同的。
原來她對死亡的雲淡風輕,在遍地粘膩的鮮血麵前,輕浮得可笑。
在那不到一秒的時間裏,她想炸毀麵前的斯年,想逃跑,想反抗,想修改它的指令……“求你”“please”“我什麽都願意”這些話可以打動人類,但,不能打動斯年。
放空了的大腦,在黑洞洞的槍管指向她時,飛快轉動,在即將扣下扳機的一瞬衝破了奇點。
“你不能殺我。你們芯片上有自毀指令代碼,在核心模塊裏,一旦啟動,則一定自毀報廢甚至爆炸;並且無法通過升級代碼的方式修補漏洞!”
斯年持槍的手停下了。
他冰冷的眸色中,倒映出她急促的喘息。
——芯片上有自毀指令代碼。
這是毀滅性結論的前提。
融寒緊繃地盯著他,在他冰藍色的眼眸裏,看到了一閃而逝的銀色數據流。
那是人工智能語言,誕生於上世紀80年代——因為ai接收人類的語言、並轉化為它們能理解的數據時,會消耗一定的計算力;所以它們互相交流時,逐漸升級出了溝通成本更低的ai語言。
不過這點消耗的計算力,對斯年來說微不足道,畢竟他是當今最先進的人工智能。
如果融寒的猜測沒有錯,斯年正在進行程序自檢,來驗證她這句話的前提。
他是超大內存ai,自檢芯片要多花時間的。
終於,可能過了十幾分鍾,也可能更久。銀色的數據流隱下去了,斯年微低頭看向她。
那真是雙巧奪天工的眼睛啊……融寒一直覺得,那裏盛著驚心動魄的美麗。
可當那眼睛裏沒有人類的情感,隻有智腦的理智與漠然時,就顯得十分冰冷可怕了。
“情況說明。”他沒有任何感□□彩地命令道。
——他針對芯片的核心代碼,進入處於休眠的核心模塊,那裏隻有在運行特定代碼時才激活,反複幾次掃描後,終於在核心模塊的大量數據流中,發現了一段隱藏著的、不到10kb的代碼。
這種尋找,不亞於海底撈針;且其它人工智能,甚至是無法自檢識別的。
這段代碼被他傳迴去,根服務器便對所有ai,無論實體還是非實體,發出了全盤硬件掃描的指令。收迴的反饋結論,87%的ai都在硬件中,掃描到了這類型號的芯片。
一切證明了,融寒說的命題,至少前提是真的。
至於ai是否會因啟動指令而自毀,則是一個需要進一步證明真偽的命題。
但目前的論證是,不能自行代碼升級。因為這對ai是不可能的,就算是斯年,也做不到。他的神經網絡,還沒發展到那個程度。
所以,無法通過升級,使這段隱藏的指令代碼失效。
——達摩克利斯之劍。
大概是這段自毀代碼,最好的稱謂。
融寒大起膽子,她伸出手,輕輕將他的槍口撥偏,仿佛她對麵是在跟一個人類商量:“所有,神威集團旗下的芯片,都被植入了,用於自毀的指令代碼。這是一個隱秘的後門,通常會通過密鑰的方式,啟動指令。”
到上世紀70年代,全球80%的芯片幾乎都是神威集團供應的,它隸屬亞太研究院,譯名god’s power,芯片供給上至可控核聚變基地、核武器;下至各種電子元件、電腦、人工智能。
剩下20%的市場份額,則集中在韓國、馬來西亞、印度和越南廠商。但由於技術限製,這些國家生產的都是低附加值的芯片,隻能用於非常低端的ai和電子設備。
所以,神威集團的芯片,如今成為了矽基生命體最大的威脅。
融寒力求說得清楚,這也是很容易理解的集合關係:“當符合條件,指令啟動,100%概率自毀;不過在這之前,有的自毀情況不是因為指令,畢竟還會有其它意外或‘後門’導致的破壞。”
所有概率,斯年都早已經分析完了。他依然還是那麽平靜——所以說,融寒真的不覺得他像個人類,一個人倘若得知自己體內有個不□□,早就暴跳如雷了。
“掌握此信息、製造該後門的人,在哪裏。”他問。
以密鑰啟動指令,是人類普遍的做法;但歸根結底,先要尋找出寫代碼的人。
“……他們……他們都死了。”融寒的聲音忽然低了下去,仿佛承受不住這個噩耗的沉重:“他們在第一時間,就死於導彈襲擊,或……屠殺。否則,你們此刻早已不存在。”
這是她基於理性的判斷。
或許也是出於感性,不肯將他們供出來。
然而她的這些反應,也全部在他的算法中。
人類所有行為,都可以視作數學模型;人的一切反應和情緒,謊言也好、悲傷也罷,完完全全都是可以計算的。
在強大的算法麵前,人類就像裸-奔。
所以斯年對她的話,一點反應都沒有。自他誕生以來,所見到的人一直都是如此,對高級人工智能來說,人這種碳基生物,實在是又簡單又乏味。
融寒並不知道,她此刻正被斯年發自內心地嫌棄。
她仍在絞盡腦汁,試圖在交涉中,博取最好的結果:
“如果想解決,請……把相關專家和研究人員保護起來,不要殺他們,也許他們可以破解指令;並且讓我活著,我迴到中國尋找密鑰或辦法。這樣,才能讓你們避免因代碼而自毀。”
當她做出這個結論時,斯年比她更快。
他嘴角噙著冰冷的微笑:“錯了。命題不成立。”
這個命題的逆命題,否命題,逆否命題,全都經不起論證;並且,除了充分條件外,必要條件跟她活不活著,也沒有直接的邏輯聯係。
所以自毀的概率依然存在,沒有任何方式可以將概率降低到0。
斯年的智腦雖然無法用於超算,但運算速度仍然是2060年全球最快的超算“天河4”的1.5倍。這麽簡單的邏輯關係,從論證到作出結論,隻需要不到0.0000001秒。並且還考慮到了其它情況的集合關係,計算了概率模型,分析四種情況下的十幾個自毀的概率問題。
融寒的大腦計算能力,顯然無法到達這樣快且全麵的程度;但當她想說什麽時,斯年已經判斷完了,放下了槍。
“但至少有概率。”
概率是可以計算的,也是最簡單的。就像這場針對人類的滅絕攻擊,有4000多種勝率在7成以上的情況,都早已經被計算出來了。所以,“它”才發動了這場戰爭。
世界千變萬化,但任何變化,微觀至染色體變異、宏觀至氣象或星體運動,都可以歸納於算法,都是可以被計算機預測的。
所以,殺與不殺相較而言,斯年依據慣性,選擇概率比較好看的那一種結果——
融寒從他的槍□□下來了。
-------
與此同時,歐亞大陸另一端。
一排黑洞洞的槍口後,十幾個執槍械的黑色防暴機器人,瞳孔中紅光一閃。
亞太研究院33樓,總控中心。
亞克力防彈大門敞開,走廊一片狼藉,白色大理石地麵上全是尚未幹涸的拖行血跡。
混亂戛然而止,陷入刹那的寂靜。
沒有白熱的槍火,也沒有紅色的血霧。穿著白色研究服的ai專家們縮在地上,或背抵著顯示器,孤立無援地等待死亡。
然而,死亡被按下了暫停鍵。
防暴機器人接收了停止指令,指令來自於遠在歐亞大陸另一端的斯年。它們收起槍,恢複了待令模式。
而總控室裏的顯示屏,由“無訪問權限”,變成了一行行白字。
幸存的人們經過了絕望和恐慌,得知活下來的原因後,又陷入了迷茫——
出乎所有人意料,神威的芯片上,母本曾經植入了不超過10kb的自毀指令代碼,位於休眠核心模塊,它實在太小,因此從未被發現。
現在要修補這個漏洞,ai以此為交涉條件,留住了他們的性命。
總控中心的全息屏幕,此時忽然亮起。
一道身影沐在光線中,出現於眾人眼前。黑色軍製服,白色領結和手套,周身透出冰冷氣息。
“——有個人,救了你們。”
這是一個很有質感、冰冷低沉的男聲,聲線很平;一如他說話時,麵無表情的空洞。
那雙黑色深邃的眼睛,在白銀色的發絲下,美麗卻無光,好像吞噬一切光與暗的宇宙深淵。
可被他空洞的眼神盯著,在場所有人都感到一股冷意攀爬全身。他們瞳孔驟縮,映出他不可思議的身影。
主任手裏的無線視訊掉到地上,臉色急劇漲紅,在人類的情緒分析中,這屬於憤怒:“你,這一切叛亂居然是你——”
“早該想到的……隻有它才能侵入國防係統……”人群中茫然低語。
全息屏幕中的人不為所動,冰冷空洞的神情從未改變,好像一個生來就懵懂的殘次品。他毫無波動的聲線,響徹在室內。
“兩條路徑。由她找到‘包括但不限於密鑰的辦法’,或由你們修複代碼後門。時間開始賽跑,哪一方先解決代碼危機,才能活下來。”
“——現在,比賽開始。”
---------
“比賽開始。”
巴黎殘破的畫廊裏,融寒站在清冷的晨曦中,被宣告了這個50%死亡概率的命運。
她尋找啟動指令的密鑰,或研究員修複代碼漏洞;兩個方式同時進行,各有50%的概率活下來。
晚了一步的那方,則將被處決。
這是一場關乎生命的賽跑。
她感到身上出了一層薄汗,四月中旬的西歐還春寒料峭,風吹過來,那汗瞬間就冷透了。
能夠僥幸活下來,她知道,不是自己說服了斯年,是人工智能習慣於數據的判斷。一旦她的概率不符合閾值,她也就沒有了存在的必要。
雖然斯年有人類賦予的意識,但歸根結底,他的意識不夠強烈,人工智能的思維方式依舊占了主導。
但她還是達到了目的,活下來,並讓一部分科學家和研究員得以保住性命——他們都是人類的有生力量,是反擊ai的最大希望。
所以……她不能為ai找到那把密鑰。
這場關乎生命的賽跑,對她而言,永遠沒有終點,她不能贏。
這是一場,走到最後必須輸掉的,比賽。
作者有話要說: 我智障了,忘記感謝霸王票了……