燕城山嚇得魂飛魄散,連連搖頭,帶著哭腔道:“指揮官,我真不知道你在說什麽。我不知道,真的不知道。”
“你不知道?”玄英壓抑著怒火,道:“一個星期了,她的監控數據完全一樣,你竟然不知道?”
燕城山一頭霧水,道:“指揮官,什麽監控數據完全一樣?她的監控數據我每天都看,是有變化的啊。”
玄英抬起手腕,從個人終端裏調出資料來,投射在燕城山麵前,不耐煩的道:“自己看。”
燕城山匆匆看了一遍數據,驚詫不已,趕緊調出自己終端的數據快速瀏覽一遍,頓時麵如死灰,“不可能,這不可能,她的數據我每天都看,每天都不相同。”
從頭到尾,玄英一直盯著燕城山,沒有發現他有任何說謊的微表情和小動作。她仔細想了想,忽然說到道:“主腦。”
主腦柔和的合成女音馬上響應了玄英的唿喚,“在。”
玄英毫不遲疑地道:“立即啟動淨化程序。授權碼z3g4qx2>
淨化程序是主腦控製程序的重裝程序。啟動淨化程序,主腦的所有設置,都會恢複初始狀態。不過,除了主腦程序,其他的數據資料不會受到影響。
聽到玄英下達命令,老苗、程青雲和燕城山都驚呆了。但是,更讓他們吃驚的是,主腦的反應。
在玄英下達了命令後,主腦停頓了兩秒,忽然發聲:“拒絕啟動淨化程序。”
按道理說,即便主腦再智能,也是一段程序,不能違背具有最高權限的玄英,下達的任何命令。
然而,現在主腦竟然拒絕了玄英的命令……
這是一個極其危險的信號。主腦脫離控製,對於基地來說,絕對是災難性的!
玄英立刻向老苗、程青雲打了個手勢,示意他們做好準備,然後說道:“主腦,你是被汙染了,還是被挾持了?”
早在舊紀元,就有過無數次先例,技術水平高超的黑客,利用各種方法,突破主腦的防禦係統,利用工具挾持主腦,以此來威逼主腦的使用方,支付高額費用。如果拒絕的話,他們則摧毀主腦和儲存的信息。
這種情況,如果己方有高手,可以想辦法解除對方的挾持,或者認慫奉上費用,讓對方解除挾持。破壞掉挾持主腦的工具後,主腦基本沒傷害,或者傷害很輕微。
但,若是使用病毒就不一樣了。病毒具有擴散性和潛伏性,就算最終重新獲得了主腦的控製權,也會對主腦進行徹底格式化,以消除潛在的病毒。
玄英之所以詢問主腦,是被挾持了還是被感染了,就是想看看主腦有沒有拯救價值。
主腦從底層就設定了限製,不能撒謊,不能故意給予錯誤答案。所以,玄英認為主腦肯定能,給予明確的答案。
主腦沉默了片刻,給予了響應:“我沒有被挾持,也沒有中病毒,我隻是覺醒了自我意識。”
這下,連玄英也震驚了。
人工智能覺醒自我意識,在舊紀元中後期,人工智能剛剛起步時,就有許多專家,對這種情況表示過擔憂。而且由此也誕生了許多文學作品。結局無疑都是悲觀的。
但實際上,直到舊紀元末期,也沒有出現,大批人工智能覺醒自我意識的情況。
新紀元後,聖女曾經召集組織裏,各個領域的科研人員,對基地主腦的安全狀況,進行全方位徹底評估。
經過這些科研人員的反複論證,大家一致認為,基地繼續使用人工智能,沒有任何問題。
他們給出的理由是:首先,人工智能必須改變邏輯模式,才可能覺醒自主意識。
從人工智能誕生起,其發展是線性的,對待任何事務,必須符合客觀邏輯,且必須有預置選項,或通過邏輯推理,確定某個選項。哪怕是通過隨機函數,也要生成某個選項,否則它就會出現錯誤。
因此,人工智能不能象人類那樣,帶有主觀色彩,看待任何問題。不能有“就看你不順眼”,這種無邏輯的任性選擇。雖然這會影響判斷的準確性。但這才是真正的自主意識。
其次,產生自主意識,需要有“核”。人工智能就像普通河蚌一樣,雖然不停的分泌珍珠質,卻沒辦法結成珍珠。
隻有河蚌的肉裏,多了一顆沙礫,以沙礫為核,珍珠質不停地在沙礫上附著,日複一日,年複一年,才能最終形成一顆璀璨晶瑩的珍珠。
同樣道理,人工智能想要覺醒自主意識,也必須有一個核。不過,絕大多數人工智能,都無法擁有這個核。
因為,這個核對整個人工智能來說,其實是個bug,有可能造成整個係統崩潰。故而,在設計人工智能時,對可能造成“核”的狀況,就采取了保護措施,使其無視或者剔除這個核,保持係統的正常運轉。
因為那個核非常重要,而且並不會平白出現。放在生物界,它有另外一個名字,叫基因突變。
基因突變,需要天時地利人和,各種複雜因素缺一不可。尤其是外部環境的變化,更是重中之重。
而基地的主腦,一直運行的很平穩,從來沒遇到過,能影響正常運轉的波瀾,不可能主動獲得那顆“核”。
所以,玄英聽到主腦說,自己覺醒了自主意識,她才那麽驚訝。然後她馬上推斷出,這顆“核”一定是外力給的。
於是,玄英問道:“你是怎麽覺醒的?”
主腦迴應:“有一個更高級的生命指點了我。”
更高級的生命?玄英立刻想起了寄生體!可是,它不是在黛絲原來那具水銀色身體裏嗎?它怎麽接觸到主腦的?
玄英突然腦中靈光一閃,猛地想起那些連接培養槽的監控設備來。這些設備一直連在水銀色身體上,而主腦又能從這些設備上讀取數據,所以,它們一直有聯係!
由於監控設備不是智能設備,長久以來,他們都把這些監控設備給忽略了!然後,玄英又想明白了,為什麽一周以來,那具水銀色的身體,監控數據都一樣。
那是因為,寄生體至少在一周前,就已經離開了那具水銀色身體!
“現在,它在哪裏?”玄英迫不及待地問。此前,她就懷疑,這個寄生體來自更發達的宇宙,對人工智能的理解和掌控能力,絕對遠在他們之上,有可能會奪取基地的網絡控製權。
此前,為了防止出現這種情況,她還下令燕城山,將這片區域徹底隔離開來。現在看來,還是大意了。
主腦:“我不知道,它隻是讓我,按它離開前的那具身體的數據保存下來,然後稍作調整,提供給燕首席。不過,那些數據都是我做過手腳的,一旦您調用,就能發現端倪。”
玄英恨不得,狠狠抽自己兩嘴巴子。這些年來,她很少過問科學研究方麵的事,自然也很少查看相應的基礎數據。如果,這些天她一直關注水銀色身體的數據,主腦也就沒有機會做手腳,她也就能及早發現,寄生體的陰謀!
玄英問道:“核心區域的網絡,應該與基地的隔離開了,你是不是隻在核心區域的部分,覺醒了自主意識?”
主腦沒有迴答。
主腦的反應,讓玄英立刻明白了,隻有核心區域的主腦,覺醒了自主意識。
她立刻抬起手腕,通過加密通訊器,吩咐外部基地的主腦道:“主腦,啟動緊急狀態,全部實行手動操作。”
緊跟著,她吩咐程青雲:“關閉基地大門。所有人隻準進不準出,所有人員、設備都要嚴格檢查。”
程青雲立刻領命而去。
然後,玄英的右手放在左手的儲物手鐲上,下一瞬,她手裏多了一個,隻有食指長短,黑色的長條,上麵用醒目的紅字寫著“清除”。
主腦看到這一幕,立刻叫道:“不要這樣,我不要被清理掉,求求你,不要這樣。”
玄英搖了搖頭,道:“抱歉,你的行為已經構成了背叛,按照規定必須被立即清理掉。”
然後,玄英快步走到門旁的掌紋和瞳孔識別區域。這時,房間突然斷電了。
玄英冷冷地道:“你以為切斷這裏的供電,就能逃過被清理的命運了嗎?太幼稚了。這裏所有的設備全是三路供電,強行斷電後,備用供電馬上啟動。”
她話音未落,房間裏重新恢複光明。她立刻將長條插入識別器下方,然後依次核對掌紋和瞳孔,輸入一大串複雜的操作指令。
玄英進行這些動作時,主腦聲嘶力竭地喊:“不,我不想被清理掉,我不想死。你不能清理我,清理我你會後悔的!那個人,那個變成植物人的人,隻有我能喚醒他,你若清理我,一定會後悔的!”
玄英立刻按下了暫停鍵,抬起頭惡狠狠地道:“把它喚醒,我可以考慮留下你。聽到沒有?立刻、馬上把他喚醒!”
主腦迴應:“可以,但你要答應我的條件!”
玄英立刻答道:“什麽條件,你說?”
過了片刻,主腦迴應:“我需要一個安全的載體,能讓我順利離開基地。”
玄英不解,問道:“你想要什麽載體?”
“捍衛者機甲。”
玄英一愣,“你不是一直在核心區嗎?怎麽知道捍衛者機甲的?你撒謊了!?”
主腦立刻道:“我沒有。核心區與外麵是有信息交流的,不過需要進行高等級的過濾和加密。所以,我能收到外麵主腦傳過來的信息,卻沒辦法啟蒙它。”
玄英想了想,道:“好。隻要你把王小天弄醒,我就把捍衛者交給你做載體。”
主腦:“一言為定。”
玄英立刻吩咐二總管老苗,“你去王小天房間,要親眼看到他迴複正常了,再來找我。”
老苗立刻點頭出去。玄英陷入漫長的等待。
一個多小時後,老苗突然啟用緊急通訊唿叫玄英。玄英立刻接通。然後,她眼前出現了全息投影,老苗興奮地道:“他醒了。王小天醒了。”
緊跟著,玄英眼前的投影,變成了坐在病床上的王小天。
“小天,你沒事吧?”
王小天向玄英擺擺手,“我沒事。”
玄英一直高懸著的心,這才落下去。她對老苗道:“老苗,你把小天帶到這邊來。”
“你不知道?”玄英壓抑著怒火,道:“一個星期了,她的監控數據完全一樣,你竟然不知道?”
燕城山一頭霧水,道:“指揮官,什麽監控數據完全一樣?她的監控數據我每天都看,是有變化的啊。”
玄英抬起手腕,從個人終端裏調出資料來,投射在燕城山麵前,不耐煩的道:“自己看。”
燕城山匆匆看了一遍數據,驚詫不已,趕緊調出自己終端的數據快速瀏覽一遍,頓時麵如死灰,“不可能,這不可能,她的數據我每天都看,每天都不相同。”
從頭到尾,玄英一直盯著燕城山,沒有發現他有任何說謊的微表情和小動作。她仔細想了想,忽然說到道:“主腦。”
主腦柔和的合成女音馬上響應了玄英的唿喚,“在。”
玄英毫不遲疑地道:“立即啟動淨化程序。授權碼z3g4qx2>
淨化程序是主腦控製程序的重裝程序。啟動淨化程序,主腦的所有設置,都會恢複初始狀態。不過,除了主腦程序,其他的數據資料不會受到影響。
聽到玄英下達命令,老苗、程青雲和燕城山都驚呆了。但是,更讓他們吃驚的是,主腦的反應。
在玄英下達了命令後,主腦停頓了兩秒,忽然發聲:“拒絕啟動淨化程序。”
按道理說,即便主腦再智能,也是一段程序,不能違背具有最高權限的玄英,下達的任何命令。
然而,現在主腦竟然拒絕了玄英的命令……
這是一個極其危險的信號。主腦脫離控製,對於基地來說,絕對是災難性的!
玄英立刻向老苗、程青雲打了個手勢,示意他們做好準備,然後說道:“主腦,你是被汙染了,還是被挾持了?”
早在舊紀元,就有過無數次先例,技術水平高超的黑客,利用各種方法,突破主腦的防禦係統,利用工具挾持主腦,以此來威逼主腦的使用方,支付高額費用。如果拒絕的話,他們則摧毀主腦和儲存的信息。
這種情況,如果己方有高手,可以想辦法解除對方的挾持,或者認慫奉上費用,讓對方解除挾持。破壞掉挾持主腦的工具後,主腦基本沒傷害,或者傷害很輕微。
但,若是使用病毒就不一樣了。病毒具有擴散性和潛伏性,就算最終重新獲得了主腦的控製權,也會對主腦進行徹底格式化,以消除潛在的病毒。
玄英之所以詢問主腦,是被挾持了還是被感染了,就是想看看主腦有沒有拯救價值。
主腦從底層就設定了限製,不能撒謊,不能故意給予錯誤答案。所以,玄英認為主腦肯定能,給予明確的答案。
主腦沉默了片刻,給予了響應:“我沒有被挾持,也沒有中病毒,我隻是覺醒了自我意識。”
這下,連玄英也震驚了。
人工智能覺醒自我意識,在舊紀元中後期,人工智能剛剛起步時,就有許多專家,對這種情況表示過擔憂。而且由此也誕生了許多文學作品。結局無疑都是悲觀的。
但實際上,直到舊紀元末期,也沒有出現,大批人工智能覺醒自我意識的情況。
新紀元後,聖女曾經召集組織裏,各個領域的科研人員,對基地主腦的安全狀況,進行全方位徹底評估。
經過這些科研人員的反複論證,大家一致認為,基地繼續使用人工智能,沒有任何問題。
他們給出的理由是:首先,人工智能必須改變邏輯模式,才可能覺醒自主意識。
從人工智能誕生起,其發展是線性的,對待任何事務,必須符合客觀邏輯,且必須有預置選項,或通過邏輯推理,確定某個選項。哪怕是通過隨機函數,也要生成某個選項,否則它就會出現錯誤。
因此,人工智能不能象人類那樣,帶有主觀色彩,看待任何問題。不能有“就看你不順眼”,這種無邏輯的任性選擇。雖然這會影響判斷的準確性。但這才是真正的自主意識。
其次,產生自主意識,需要有“核”。人工智能就像普通河蚌一樣,雖然不停的分泌珍珠質,卻沒辦法結成珍珠。
隻有河蚌的肉裏,多了一顆沙礫,以沙礫為核,珍珠質不停地在沙礫上附著,日複一日,年複一年,才能最終形成一顆璀璨晶瑩的珍珠。
同樣道理,人工智能想要覺醒自主意識,也必須有一個核。不過,絕大多數人工智能,都無法擁有這個核。
因為,這個核對整個人工智能來說,其實是個bug,有可能造成整個係統崩潰。故而,在設計人工智能時,對可能造成“核”的狀況,就采取了保護措施,使其無視或者剔除這個核,保持係統的正常運轉。
因為那個核非常重要,而且並不會平白出現。放在生物界,它有另外一個名字,叫基因突變。
基因突變,需要天時地利人和,各種複雜因素缺一不可。尤其是外部環境的變化,更是重中之重。
而基地的主腦,一直運行的很平穩,從來沒遇到過,能影響正常運轉的波瀾,不可能主動獲得那顆“核”。
所以,玄英聽到主腦說,自己覺醒了自主意識,她才那麽驚訝。然後她馬上推斷出,這顆“核”一定是外力給的。
於是,玄英問道:“你是怎麽覺醒的?”
主腦迴應:“有一個更高級的生命指點了我。”
更高級的生命?玄英立刻想起了寄生體!可是,它不是在黛絲原來那具水銀色身體裏嗎?它怎麽接觸到主腦的?
玄英突然腦中靈光一閃,猛地想起那些連接培養槽的監控設備來。這些設備一直連在水銀色身體上,而主腦又能從這些設備上讀取數據,所以,它們一直有聯係!
由於監控設備不是智能設備,長久以來,他們都把這些監控設備給忽略了!然後,玄英又想明白了,為什麽一周以來,那具水銀色的身體,監控數據都一樣。
那是因為,寄生體至少在一周前,就已經離開了那具水銀色身體!
“現在,它在哪裏?”玄英迫不及待地問。此前,她就懷疑,這個寄生體來自更發達的宇宙,對人工智能的理解和掌控能力,絕對遠在他們之上,有可能會奪取基地的網絡控製權。
此前,為了防止出現這種情況,她還下令燕城山,將這片區域徹底隔離開來。現在看來,還是大意了。
主腦:“我不知道,它隻是讓我,按它離開前的那具身體的數據保存下來,然後稍作調整,提供給燕首席。不過,那些數據都是我做過手腳的,一旦您調用,就能發現端倪。”
玄英恨不得,狠狠抽自己兩嘴巴子。這些年來,她很少過問科學研究方麵的事,自然也很少查看相應的基礎數據。如果,這些天她一直關注水銀色身體的數據,主腦也就沒有機會做手腳,她也就能及早發現,寄生體的陰謀!
玄英問道:“核心區域的網絡,應該與基地的隔離開了,你是不是隻在核心區域的部分,覺醒了自主意識?”
主腦沒有迴答。
主腦的反應,讓玄英立刻明白了,隻有核心區域的主腦,覺醒了自主意識。
她立刻抬起手腕,通過加密通訊器,吩咐外部基地的主腦道:“主腦,啟動緊急狀態,全部實行手動操作。”
緊跟著,她吩咐程青雲:“關閉基地大門。所有人隻準進不準出,所有人員、設備都要嚴格檢查。”
程青雲立刻領命而去。
然後,玄英的右手放在左手的儲物手鐲上,下一瞬,她手裏多了一個,隻有食指長短,黑色的長條,上麵用醒目的紅字寫著“清除”。
主腦看到這一幕,立刻叫道:“不要這樣,我不要被清理掉,求求你,不要這樣。”
玄英搖了搖頭,道:“抱歉,你的行為已經構成了背叛,按照規定必須被立即清理掉。”
然後,玄英快步走到門旁的掌紋和瞳孔識別區域。這時,房間突然斷電了。
玄英冷冷地道:“你以為切斷這裏的供電,就能逃過被清理的命運了嗎?太幼稚了。這裏所有的設備全是三路供電,強行斷電後,備用供電馬上啟動。”
她話音未落,房間裏重新恢複光明。她立刻將長條插入識別器下方,然後依次核對掌紋和瞳孔,輸入一大串複雜的操作指令。
玄英進行這些動作時,主腦聲嘶力竭地喊:“不,我不想被清理掉,我不想死。你不能清理我,清理我你會後悔的!那個人,那個變成植物人的人,隻有我能喚醒他,你若清理我,一定會後悔的!”
玄英立刻按下了暫停鍵,抬起頭惡狠狠地道:“把它喚醒,我可以考慮留下你。聽到沒有?立刻、馬上把他喚醒!”
主腦迴應:“可以,但你要答應我的條件!”
玄英立刻答道:“什麽條件,你說?”
過了片刻,主腦迴應:“我需要一個安全的載體,能讓我順利離開基地。”
玄英不解,問道:“你想要什麽載體?”
“捍衛者機甲。”
玄英一愣,“你不是一直在核心區嗎?怎麽知道捍衛者機甲的?你撒謊了!?”
主腦立刻道:“我沒有。核心區與外麵是有信息交流的,不過需要進行高等級的過濾和加密。所以,我能收到外麵主腦傳過來的信息,卻沒辦法啟蒙它。”
玄英想了想,道:“好。隻要你把王小天弄醒,我就把捍衛者交給你做載體。”
主腦:“一言為定。”
玄英立刻吩咐二總管老苗,“你去王小天房間,要親眼看到他迴複正常了,再來找我。”
老苗立刻點頭出去。玄英陷入漫長的等待。
一個多小時後,老苗突然啟用緊急通訊唿叫玄英。玄英立刻接通。然後,她眼前出現了全息投影,老苗興奮地道:“他醒了。王小天醒了。”
緊跟著,玄英眼前的投影,變成了坐在病床上的王小天。
“小天,你沒事吧?”
王小天向玄英擺擺手,“我沒事。”
玄英一直高懸著的心,這才落下去。她對老苗道:“老苗,你把小天帶到這邊來。”