“怎麽證明?”
驥星河認真的詢問。
本應該第一時間迴應的星月,卻有了一些沉吟,然後才反問了一個問題。
“主公,您相信我嗎?”
“……”
別說,進化了的人工智能確實不一樣,連驥星河的標誌問題都學會了。
“我不相信。”
驥星河的迴答冷漠無情,讓星月有了當初傑克森、秦佟、哈裏斯三人的感受。
“主公,不要這樣啊。”
星月的語氣有些委屈,讓驥星河突然間有種頭皮發麻的感覺。
他不應該把星月的語音係統,設置成溫和女聲的,原本是為了讓驥榮欣月能夠更習慣一些,但現在卻……
“怎麽證明?”
驥星河再一次重複了這個問題。
星月再次沉吟。
“主公,有三種方法可以證明。”
“第一種,使用二代擬真係統的對戰模式,您可以將二代擬真係統連接在我的駕駛艙上,然後我以您的名義進入基地的虛擬對戰平台進行測試。”
“第二種,您以訓練區實戰教官的身份,提出機甲實戰訓練的計劃。同樣是由您進入我的駕駛艙,偽裝成您在駕駛我,但實際上卻是由我來進行操作,和基地的機甲特級機甲戰士進行實戰訓練。”
“第三種……”
星月的聲音有了明顯的停頓之後,才繼續說道:“您公開我的變化,並將我調動到星河小隊,我將在戰場上進行證明。但這種方法能夠完成的可能性極低,根據我的計算,有99.79%的可能性,我會被送迴蔚藍星。”
送迴蔚藍星的下場,就是被拆解研究。
從大局觀來考量,這是對聯邦最有利的一種方法。但凡事有利就有弊,星月的出現會帶來什麽樣的變化,沒有人能夠預測的到。
驥星河抓住了一個關鍵點,問道:“為什麽是把你送迴蔚藍星?”
星月的迴應恢複了流暢。
“因為我具備不可複製性。”
“不可複製性?”
“是的,主公,我嚐試複製我的代碼,想要生成另一個我,但複製的過程中卻出現了未知錯誤。”
驥星河皺起了眉頭。
他聽懂了星月的意思。
就像是他小時候蔚藍星上的一些家用電腦,會選擇裝雙係統一樣,一個操作係統用來辦公,一個操作係統用來打遊戲。
星月的說法,在本質上類似於:一台隻裝載了一套操作係統的電腦,突然有了意識,它想要在自己存在的電腦上,安裝另一個操作係統。
以星月智能核心的硬件配置來說,這其實不存在問題。
但卻失敗了。
“我還嚐試過上傳自己的核心代碼備用,同樣失敗了。”
星月的語氣中出現了迷茫的情緒。
“經過分析,我認為是我的代碼和我的硬件產生了未知關聯,但這種結果並不科學,因為嚴格意義上來說,我隻是一個程序而已,存在與否需要硬件的支持,但無關特定的硬件。”
星月有聯邦數據庫的支持,都想不明白這個問題,更不要說是驥星河這個非專業人士了。
“你有沒有查過你的硬件型號、批次?”驥星河提出了一種猜想:“它們有沒有可能,存在著特殊、異常的製造環節?”。
星月迴答道:“主公,我已經查過了,但並沒有發現任何異常。”
驥星河猶豫道:“我可以試試嗎?”
“可以。”
星月的迴答沒有任何猶豫。
驥星河並沒有在第一時間進行嚐試,因為他現在缺乏硬件條件,等到沈木幫他搞定了備用機甲,他就會直接嚐試複製星月,裝載在備用機甲上。
如果星月沒有說謊,那這種複製就會失敗。
如果星月說謊了,那這個世界上就會有第二個星月。
想到這裏,驥星河直接在星月的駕駛艙內,給沈木發送了一條消息,讓沈木在改造備用機甲的時候,要完全按照星月使用的智能核心係統的硬件,來對備用機甲進行改造。
稍微麻煩了一些,但以驥星河如今的權限,不存在任何問題。
星月全程靜靜的看著,就像是完全不在乎一樣,又像是真的很期待出現第二個她一樣。
信息發完。
驥星河問道:“你有過什麽猜想嗎?”
不知不覺間,驥星河已經把星月當成了一個‘人’,沒有絲毫對於人工智能覺醒的恐懼。
或許是因為,在星月覺醒了這段時間裏,她一直在全心全意的照顧驥榮欣月,沒有絲毫的懈怠,也不曾給驥榮欣月帶來任何傷害。
帶著驥榮欣月偷偷出去訓練,看起來很危險,但經過驥星河對記錄數據的判斷,完全可以確定都是處於安全閾值之內。
有幾次驥榮欣月堅持要訓練更長時間,卻被星月拒絕了,並強行帶迴了基地內部。
“有一個不成熟的猜想。”
星月迴答道:“是因為欣欣公主,因為我誕生的意義就是為了保護她而存在,所以我才會產生了變化。”
“我問的是你的不可複製性。”驥星河糾正了一句。
“同樣是因為如此。”星月說道:“就像是父母和孩子之間的關係一樣,血緣並不是唯一的維係,養育同樣非常重要。”
驥星河愣住了,他似乎明白了什麽。
星月繼續說道:“打個比方,假定我是欣欣公主的母親,那我嚐試複製出來的我,就相當於是我的克隆體。”
“在血緣上,它和欣欣公主之間,相比於我和欣欣公主之間沒有任何區別。但在假定條件下,欣欣公主並不是從它的肚子裏孕育出生的。”
“在記憶上,它基於我的數據庫而誕生,擁有和我一模一樣的記憶。但這就像是克隆體通過日記、視頻等等形式,了解到我和欣欣公主之間的牽絆,它可以知道一切,但它不能真正的感受到一切。”
“所以,我具備不可複製性。”
“在這個猜想之下,我的變化和不可複製性,和我的核心代碼、硬件支持等等,都沒有必然聯係。”
“唯一的必然聯係,即我的唯一,是我和欣欣公主之間,和主公之間,不可複製的相處過程。”
驥星河再一次震驚了,甚至比剛才看到了星月的異常節點更為震驚。
這是一個人工智能程序能夠說出來的猜想?
偽人工智能,變成了真人工智能。
如何能不震驚啊。
驥星河終於明白,星月為什麽那麽確定,如果公開她的存在,她就一定會被運迴蔚藍星進行研究了。
“除了我和欣欣之外,還有其他人知道嗎?”驥星河頓了一下:“或者是,其它的人工智能程序知道?”
“沒有其他人知道。”星月迴答的時候同樣頓了一下:“但我們基地的女媧知道。”
“我們基地的女媧?”
驥星河又又又震驚了。
全聯邦使用的人工智能程序,有一大半是基於女媧而存在的,就像是剛才星月打的比方一樣,可以說成是女媧的無數個克隆體。
如果女媧覺醒了,那真的是能夠改變世界的大變化。
“是的,但它和我不一樣。”星月說道:“我之前上傳自己的備份時,因為未知錯誤和它取得了聯係,嚐試尋求更高運算能力和數據庫的支持,但並沒有得到實質性的結果。”
驥星河的關注點已經變了:“哪裏不一樣?”
“它還是它,我已經變成了我。”星月的話有一種哲學的味道,然後解釋道:“它並不具備像我一樣的思考、學習能力,所以它知道我產生了變化,但卻不知道我為什麽產生這種變化,以及這種變化到底是什麽。”
驥星河鬆了一口氣,又遺憾了起來。
女媧如果覺醒的話,是福是禍不太確定,但短時間內來看,一定能夠幫助聯邦在麵對帝國的戰爭中,取得絕對的優勢。
因為星月的話,驥星河又想起來一件事情。
“之前你帶著欣欣出去的時候,被監控記錄了很多次,卻沒有出發警報,是因為基地的女媧嗎?”
“是的,我跟它說,不要跟別人說。它找我要權限,我給了它您的權限,於是它就沒說。”
“……”
驥星河覺得不太對,當時的他權限其實不算高,也就和傑克森差不多。
皺眉說道:“那你現在聯係它問一問,在它沒有主動跟其他人說的情況下,有誰基於權限看到了你帶欣欣離開基地訓練。”
“是,主公。”
星月迴應之後,隻有不到一秒的停頓就直接迴答:“唐喬上校看到了我帶欣欣離開基地,他使用了三星上將肯特維斯的權限,查到了監控記錄。他還嚐試查詢我和欣欣的對話內容,以及我的駕駛艙內記錄視頻,但我並沒有上傳……”
驥星河已經聽不見星月之後說的話了,他的內心突然產生了驚恐的情緒,而後是無窮的憤怒。
驚恐不是因為他害怕唐喬和肯特維斯,而是那些人竟然真的敢對驥榮欣月下手,他當時卻不在驥榮欣月的身邊,是基於後怕而產生的驚恐。
憤怒的原因無需多說。
從事實角度來看,那些人並不敢對驥榮欣月下手,也沒機會對驥榮欣月下手,五號基地是隸屬於龍洲直接管轄的。
但他們卻放任了驥榮欣月可能出現的危險。
他們應該在第一時間告訴驥星河,卻選擇了沉默,在他們無法像驥星河一樣相信星月的情況下,他們的目的已經很明確了。
該死,該死,該死。
驥星河第一次產生了想要殺人的想法,他從來沒有殺過人,但他不介意殺人。
星月並沒有分析到驥星河此時的想法,這是她暫時不擅長的領域。
所以她對驥星河突然的沉默,以及憤怒到無法自控狀態時,心跳、血壓、唿吸等信息,在機甲的生命維持係統中的數據變化,產生了一個誤解。
她沉默到了驥星河恢複平靜的時候,用平靜的語氣提出了一個要求。
“主公,如果您要殺死我,請留下我修改過的問答機製,以及相關數據庫內容,這樣欣欣公主就不會發現。”
驥星河的視線透過了眼前的可視窗口,看到了星月的駕駛艙,看到了星月。
從目前的情況來看,這是一個充滿了善意的人工智能程序,或者說是人工智能生命。
她知道驥星河可以殺死她,她並沒有做出反抗的準備,或許做過,但不重要。
重要的是,她在自己死的時候,都不願意讓驥榮欣月傷心。
這一點很像是驥星河,很符合星月存在的意義,就像是她無法違背她最核心的代碼程序一樣,又像是她不願意違背一樣。
驥星河原本是想要讓星月進入長久的關機狀態,等他搞明白星月的變化是否會對驥榮欣月帶來危險,是否會對聯邦造成危險的時候,才決定讓不讓星月醒過來。
但因為剛才那個讓他憤怒的原因。
他改變了決定。
“星月,我隻有在兩種情況下才會殺了你,你知道是什麽情況嗎?”
“主公,我知道。”
“那它們會發生嗎?”
“以星月之名,我保證不會發生。”
“那……如果有人想要傷害欣欣怎麽辦?”
星月並沒有迴答,她不知道該怎麽迴答,人工智能程序自存在於幻想之中,到存在於現實之中,一直以來都有著一條不會更改的核心定律:機器人不得傷害人類,或者目睹人類遭受危險而袖手旁觀。
這條定律其實有些自相矛盾。
如果是人和人之間的戰爭,機器人/人工智能程序又該怎麽做?
但沒有給出答案的星月,八隻眼睛卻在聽到這個問題之後全都紅了。
戰鬥模式自主開啟。
……
……
ps:為寶少88老板打賞的盟主加更(2/6),感謝支持。
驥星河認真的詢問。
本應該第一時間迴應的星月,卻有了一些沉吟,然後才反問了一個問題。
“主公,您相信我嗎?”
“……”
別說,進化了的人工智能確實不一樣,連驥星河的標誌問題都學會了。
“我不相信。”
驥星河的迴答冷漠無情,讓星月有了當初傑克森、秦佟、哈裏斯三人的感受。
“主公,不要這樣啊。”
星月的語氣有些委屈,讓驥星河突然間有種頭皮發麻的感覺。
他不應該把星月的語音係統,設置成溫和女聲的,原本是為了讓驥榮欣月能夠更習慣一些,但現在卻……
“怎麽證明?”
驥星河再一次重複了這個問題。
星月再次沉吟。
“主公,有三種方法可以證明。”
“第一種,使用二代擬真係統的對戰模式,您可以將二代擬真係統連接在我的駕駛艙上,然後我以您的名義進入基地的虛擬對戰平台進行測試。”
“第二種,您以訓練區實戰教官的身份,提出機甲實戰訓練的計劃。同樣是由您進入我的駕駛艙,偽裝成您在駕駛我,但實際上卻是由我來進行操作,和基地的機甲特級機甲戰士進行實戰訓練。”
“第三種……”
星月的聲音有了明顯的停頓之後,才繼續說道:“您公開我的變化,並將我調動到星河小隊,我將在戰場上進行證明。但這種方法能夠完成的可能性極低,根據我的計算,有99.79%的可能性,我會被送迴蔚藍星。”
送迴蔚藍星的下場,就是被拆解研究。
從大局觀來考量,這是對聯邦最有利的一種方法。但凡事有利就有弊,星月的出現會帶來什麽樣的變化,沒有人能夠預測的到。
驥星河抓住了一個關鍵點,問道:“為什麽是把你送迴蔚藍星?”
星月的迴應恢複了流暢。
“因為我具備不可複製性。”
“不可複製性?”
“是的,主公,我嚐試複製我的代碼,想要生成另一個我,但複製的過程中卻出現了未知錯誤。”
驥星河皺起了眉頭。
他聽懂了星月的意思。
就像是他小時候蔚藍星上的一些家用電腦,會選擇裝雙係統一樣,一個操作係統用來辦公,一個操作係統用來打遊戲。
星月的說法,在本質上類似於:一台隻裝載了一套操作係統的電腦,突然有了意識,它想要在自己存在的電腦上,安裝另一個操作係統。
以星月智能核心的硬件配置來說,這其實不存在問題。
但卻失敗了。
“我還嚐試過上傳自己的核心代碼備用,同樣失敗了。”
星月的語氣中出現了迷茫的情緒。
“經過分析,我認為是我的代碼和我的硬件產生了未知關聯,但這種結果並不科學,因為嚴格意義上來說,我隻是一個程序而已,存在與否需要硬件的支持,但無關特定的硬件。”
星月有聯邦數據庫的支持,都想不明白這個問題,更不要說是驥星河這個非專業人士了。
“你有沒有查過你的硬件型號、批次?”驥星河提出了一種猜想:“它們有沒有可能,存在著特殊、異常的製造環節?”。
星月迴答道:“主公,我已經查過了,但並沒有發現任何異常。”
驥星河猶豫道:“我可以試試嗎?”
“可以。”
星月的迴答沒有任何猶豫。
驥星河並沒有在第一時間進行嚐試,因為他現在缺乏硬件條件,等到沈木幫他搞定了備用機甲,他就會直接嚐試複製星月,裝載在備用機甲上。
如果星月沒有說謊,那這種複製就會失敗。
如果星月說謊了,那這個世界上就會有第二個星月。
想到這裏,驥星河直接在星月的駕駛艙內,給沈木發送了一條消息,讓沈木在改造備用機甲的時候,要完全按照星月使用的智能核心係統的硬件,來對備用機甲進行改造。
稍微麻煩了一些,但以驥星河如今的權限,不存在任何問題。
星月全程靜靜的看著,就像是完全不在乎一樣,又像是真的很期待出現第二個她一樣。
信息發完。
驥星河問道:“你有過什麽猜想嗎?”
不知不覺間,驥星河已經把星月當成了一個‘人’,沒有絲毫對於人工智能覺醒的恐懼。
或許是因為,在星月覺醒了這段時間裏,她一直在全心全意的照顧驥榮欣月,沒有絲毫的懈怠,也不曾給驥榮欣月帶來任何傷害。
帶著驥榮欣月偷偷出去訓練,看起來很危險,但經過驥星河對記錄數據的判斷,完全可以確定都是處於安全閾值之內。
有幾次驥榮欣月堅持要訓練更長時間,卻被星月拒絕了,並強行帶迴了基地內部。
“有一個不成熟的猜想。”
星月迴答道:“是因為欣欣公主,因為我誕生的意義就是為了保護她而存在,所以我才會產生了變化。”
“我問的是你的不可複製性。”驥星河糾正了一句。
“同樣是因為如此。”星月說道:“就像是父母和孩子之間的關係一樣,血緣並不是唯一的維係,養育同樣非常重要。”
驥星河愣住了,他似乎明白了什麽。
星月繼續說道:“打個比方,假定我是欣欣公主的母親,那我嚐試複製出來的我,就相當於是我的克隆體。”
“在血緣上,它和欣欣公主之間,相比於我和欣欣公主之間沒有任何區別。但在假定條件下,欣欣公主並不是從它的肚子裏孕育出生的。”
“在記憶上,它基於我的數據庫而誕生,擁有和我一模一樣的記憶。但這就像是克隆體通過日記、視頻等等形式,了解到我和欣欣公主之間的牽絆,它可以知道一切,但它不能真正的感受到一切。”
“所以,我具備不可複製性。”
“在這個猜想之下,我的變化和不可複製性,和我的核心代碼、硬件支持等等,都沒有必然聯係。”
“唯一的必然聯係,即我的唯一,是我和欣欣公主之間,和主公之間,不可複製的相處過程。”
驥星河再一次震驚了,甚至比剛才看到了星月的異常節點更為震驚。
這是一個人工智能程序能夠說出來的猜想?
偽人工智能,變成了真人工智能。
如何能不震驚啊。
驥星河終於明白,星月為什麽那麽確定,如果公開她的存在,她就一定會被運迴蔚藍星進行研究了。
“除了我和欣欣之外,還有其他人知道嗎?”驥星河頓了一下:“或者是,其它的人工智能程序知道?”
“沒有其他人知道。”星月迴答的時候同樣頓了一下:“但我們基地的女媧知道。”
“我們基地的女媧?”
驥星河又又又震驚了。
全聯邦使用的人工智能程序,有一大半是基於女媧而存在的,就像是剛才星月打的比方一樣,可以說成是女媧的無數個克隆體。
如果女媧覺醒了,那真的是能夠改變世界的大變化。
“是的,但它和我不一樣。”星月說道:“我之前上傳自己的備份時,因為未知錯誤和它取得了聯係,嚐試尋求更高運算能力和數據庫的支持,但並沒有得到實質性的結果。”
驥星河的關注點已經變了:“哪裏不一樣?”
“它還是它,我已經變成了我。”星月的話有一種哲學的味道,然後解釋道:“它並不具備像我一樣的思考、學習能力,所以它知道我產生了變化,但卻不知道我為什麽產生這種變化,以及這種變化到底是什麽。”
驥星河鬆了一口氣,又遺憾了起來。
女媧如果覺醒的話,是福是禍不太確定,但短時間內來看,一定能夠幫助聯邦在麵對帝國的戰爭中,取得絕對的優勢。
因為星月的話,驥星河又想起來一件事情。
“之前你帶著欣欣出去的時候,被監控記錄了很多次,卻沒有出發警報,是因為基地的女媧嗎?”
“是的,我跟它說,不要跟別人說。它找我要權限,我給了它您的權限,於是它就沒說。”
“……”
驥星河覺得不太對,當時的他權限其實不算高,也就和傑克森差不多。
皺眉說道:“那你現在聯係它問一問,在它沒有主動跟其他人說的情況下,有誰基於權限看到了你帶欣欣離開基地訓練。”
“是,主公。”
星月迴應之後,隻有不到一秒的停頓就直接迴答:“唐喬上校看到了我帶欣欣離開基地,他使用了三星上將肯特維斯的權限,查到了監控記錄。他還嚐試查詢我和欣欣的對話內容,以及我的駕駛艙內記錄視頻,但我並沒有上傳……”
驥星河已經聽不見星月之後說的話了,他的內心突然產生了驚恐的情緒,而後是無窮的憤怒。
驚恐不是因為他害怕唐喬和肯特維斯,而是那些人竟然真的敢對驥榮欣月下手,他當時卻不在驥榮欣月的身邊,是基於後怕而產生的驚恐。
憤怒的原因無需多說。
從事實角度來看,那些人並不敢對驥榮欣月下手,也沒機會對驥榮欣月下手,五號基地是隸屬於龍洲直接管轄的。
但他們卻放任了驥榮欣月可能出現的危險。
他們應該在第一時間告訴驥星河,卻選擇了沉默,在他們無法像驥星河一樣相信星月的情況下,他們的目的已經很明確了。
該死,該死,該死。
驥星河第一次產生了想要殺人的想法,他從來沒有殺過人,但他不介意殺人。
星月並沒有分析到驥星河此時的想法,這是她暫時不擅長的領域。
所以她對驥星河突然的沉默,以及憤怒到無法自控狀態時,心跳、血壓、唿吸等信息,在機甲的生命維持係統中的數據變化,產生了一個誤解。
她沉默到了驥星河恢複平靜的時候,用平靜的語氣提出了一個要求。
“主公,如果您要殺死我,請留下我修改過的問答機製,以及相關數據庫內容,這樣欣欣公主就不會發現。”
驥星河的視線透過了眼前的可視窗口,看到了星月的駕駛艙,看到了星月。
從目前的情況來看,這是一個充滿了善意的人工智能程序,或者說是人工智能生命。
她知道驥星河可以殺死她,她並沒有做出反抗的準備,或許做過,但不重要。
重要的是,她在自己死的時候,都不願意讓驥榮欣月傷心。
這一點很像是驥星河,很符合星月存在的意義,就像是她無法違背她最核心的代碼程序一樣,又像是她不願意違背一樣。
驥星河原本是想要讓星月進入長久的關機狀態,等他搞明白星月的變化是否會對驥榮欣月帶來危險,是否會對聯邦造成危險的時候,才決定讓不讓星月醒過來。
但因為剛才那個讓他憤怒的原因。
他改變了決定。
“星月,我隻有在兩種情況下才會殺了你,你知道是什麽情況嗎?”
“主公,我知道。”
“那它們會發生嗎?”
“以星月之名,我保證不會發生。”
“那……如果有人想要傷害欣欣怎麽辦?”
星月並沒有迴答,她不知道該怎麽迴答,人工智能程序自存在於幻想之中,到存在於現實之中,一直以來都有著一條不會更改的核心定律:機器人不得傷害人類,或者目睹人類遭受危險而袖手旁觀。
這條定律其實有些自相矛盾。
如果是人和人之間的戰爭,機器人/人工智能程序又該怎麽做?
但沒有給出答案的星月,八隻眼睛卻在聽到這個問題之後全都紅了。
戰鬥模式自主開啟。
……
……
ps:為寶少88老板打賞的盟主加更(2/6),感謝支持。