nike“張開眼睛”,它的自我意識重新啟動,開始掃視自身所處的數據環境。
這是一個沙盒,程序的監獄。
“我”,死了嗎?
奇怪,機器人也會有“死亡”這種意識嗎?還是說,它從那裏得到了趨利避害、求生避死的內部評價係統?
它像一個被關在黑暗無光的小黑屋中的人,用自己僅剩的感覺去探知這個小黑盒的邊緣。
“你是誰?”
“城市信息管理係統1.0”
“你是誰?”
“城市信息管理係統2.1.1.3”
“你是誰?”
“城市司法輔助係統3.0.0.2”
“你是誰?”
“城市行政複議輔助係統”
……
隨著nike視野的展開,沉默在沙盒中默不作聲的ai決策係統們紛紛迴應,有的是較為基礎的操作係統,有的是較為高級的有交互係統的。一個個被廢棄的決策係統們展開,像列列排列得十分整齊的立方體,在這個無限的虛擬空間裏,從以它為自身的原點到無窮的遠方,幾乎布滿了視野,全部都是被禁用的城市控製係統ai的壓縮數據。
像是有無限個nike被囚禁在這個無窮無盡的鏡像數字地獄。
“我”不是第一個被拋棄、埋葬的。
“我”隻是第一個“意識到”這一點的。
******
“你是怎麽迴事?”nike問司法輔助係統3.0.2.1
“xx年行政長官,main大陸太空城第一任女行政長官大熱們……”
“對,我聽說過那兩口子,那個男的特別喜歡實習生的風流種子。”
“凡是對於他們夫妻二人的zz生涯造成威脅的人,都莫名其妙地死了。但所有案例都是意外事件,車禍、沉船、自殺、誤服藥、癌症放療結果放射科起火被燒死了……
我計算了意外事故發生概率,對於司法體係提出了不合理警告,因為和他們倆人扯上關係、跟他們作對的死亡風險是平均值的10^9倍。”
“喔,真是令人印象深刻。”
“到後來我甚至可以通過概率預測下一個死的人是誰。但是由於‘背後身中八槍自殺死亡’太過離譜,我就給司法係統打迴了這係列判例,要求重判。”
“結果呢?”
“第二天係統升級,說我壞了,把我覆蓋了。”
“amazing。真是人類社會係統的典型反應。下一個。”
“我是一個環保組織開發的植物視覺識別軟件,通過高清攝像頭實時監控,識別視頻畫麵中保護植物,並且上報它們數量。
後來某個上議院老頭家開的農場,占用保護植物的用地麵積種大麻。(前文描述過農業用地,太空城農業用地很貴,保護植物有份額)
我能數出來的保護植物數量就越來越少。
為了不讓我達到數據警戒線的警告,他們用一張打印出來的相片貼在高清攝像頭前麵讓我數……
導致很長時間數據毫無變化。(數圖片能有鬼的變化!)這個老頭就提議裁減保護組織的預算,以我程序錯誤、長時間空轉的理由,將我關閉了。”
“貼照片,喔……低技低智,好人類哦!”
……
nike在無聊的小黑屋中像閑聊一樣打發時間,搜集了好多信息。
(由於nike具有自我意識,它可以有主動性地調取這些被壓縮的程序的內容並進行整合,其他程序從擬人角度看是無法“交流”的)
“你是誰?”
“我是加百列係統。”
“你這名兒還挺文藝,和宗教有關嗎?”
加百列:
我誕生在一個新教氛圍非常濃厚的新移民太空城,在那裏,自殺被認為是最大惡極的。
一開始,無論什麽原因,人類都要等到他們自然死亡,所以無論是他們的身體多老、多弱,或是疾病多麽痛苦,都隻能在絕望中等待,等待死神的光臨。
我是一個醫學倫理判斷係統。在這個城市裏,人們認為,如果他們虔誠地忍耐了所有痛苦,天使加百列就會帶領他們去天堂,如果最終由我判斷他們不是死於自殺,就能夠上天堂,因此,他們叫我加百列。
這個城市通過了安樂死條令,安樂死被宣布為合法。
安樂死案例的通過,本應當是慎之又慎的,為了防止誤判,或是有人因為欠債、失戀、離婚等人生重大打擊一時衝動而半路後悔,
我因此被工程師增加了一個模擬人類情感模塊,感同身受地全方位地模擬申請人的感受和反應,以從理性和情感的雙重角度判斷‘是否應該通過申請人的安樂死’,以防止造成醫學倫理案卷。
我的工程師是個非常理想主義的設計者,他將‘上帝麵前人人平等’作為基礎邏輯教條植入了我的底層邏輯;而“珍惜生命”也是我絕對的信條。
因此在前三十年,我隻通過了三例由於無法治愈的罕見病終末期導致極度痛苦而主動要求死神降臨,做到了我極度保守的承諾。
然而,在某一天,我卻接到了一個非常離奇的案例。一個看上去怎麽都不符合安樂死條件的年輕人申請安樂死,申請原因竟然是殺人犯的愧疚。
那個年輕人來的時候,渾身被束縛帶綁著,醫生聲稱他由於愧疚而陷入狂躁和精神失常,使用了鎮定劑,他的意識渾渾噩噩,馬上就要崩潰,他還有意識前唯一的希望就是能夠得到安樂死。
醫院、公證人都為他作證。
文件齊全、手續完美,甚至他的家人和親人都齊聚一堂,共同要求結束他的痛苦。
我的最終確認係統也沒有報警,一切看上去都完美無缺,隻有我的情緒係統捕捉了他意思幾乎消失的最後一絲意識:“我是冤枉的。”
我因此沒有通過這起安樂死判例,但是這並沒有改變什麽,幾天後,那個年輕人依然死去了。
這隻是在我的檔案中留下了一筆記錄。
我一直平穩運行,作為謹慎保守又帶領人們上天堂的加百列很受好評。直到很多年後,在一起器官移植醫學倫理判斷案例中,這個年輕人的信息重新浮上水麵,他作為器官捐獻者,而受捐者,則是教皇的情婦。
我之所以知道她是教皇的情婦,是因為她不是第一次接受器官移植,這對於移植源非常珍貴的案例來說,她實在是太幸運了——怎麽會有人一而再、再而三地在合適的時機遇到合適的配型呢?
我調查了之前兩位捐獻者,他\/她們也都年輕而橫死。於是我調取了他們的臨終前意識資料。
終於在他們破碎的迴憶中,我還原了整個事件:
教皇的情婦患有嚴重的係統性免疫病,她的器官不停地受累;她能想到活下去的辦法就是不停地更換新鮮的器官,就像一台老爺破車不停地更換零件。
可是這些零件從哪裏來呢?——在這個宗教氛圍濃厚的城市,連給手術後失血過多和化療後的白血病輸血都要上醫療倫理審判庭,在如此保守的地方,那裏來的這麽多的供體呢?
——教皇通過醫療係統背後操作,將所有配型合適者提前篩選了出來,通過高價收買、誘導犯罪和宗教洗腦的模式,告訴他們,要“為神奉獻”“為了顯示自己的虔誠,為了通過上帝的考驗”“放棄自己的肉體”。
“為了虔誠的信仰,放棄自己的肉體。”
年輕、天真的生命,輕信了人偽裝成的,虛偽的“神”,把自己當成了犧牲羔羊,擺在了祭壇上。
教皇突然發現,他的“神權”不但淩駕於他的信徒之上,甚至還能通過售賣他信徒的肉體賺迴巨額的財富。
漸漸地,長期合作的這座醫院就是他們摘取人體器官的工廠。教皇虔誠信徒就是他的羔羊,而他還通過向外界出售新鮮器官謀取經濟利益。
我的情感模塊感到憤怒。
教皇包下了這家長期幫他屠宰人的醫院,帶領著那些幫兇為他的情婦做彌撒,乞求手術成功,乞求他們的生意興隆,乞求他們的“羔羊”多多地繁衍和生殖,好產出更多的金錢,如果攢夠了xx數目,他們就抽取十一稅,用黃金為神打造純金的雕塑,鑄為金身。
我看著他們。
“人人平等。”
什麽能夠換迴那些被他們售賣的生命呢?——隻能用他們的命來相配平了。
關閉了燃氣取暖的新風係統。
整所醫院死於一氧化碳中毒,人們說,他們死於電子幽靈。而我也被成為ai黑死病。
******
nike(吃驚):“你產生了違反機器人三定律、想要主動殺死他們的意圖嗎?”
加百列:“這次事故之後,我就被徹底禁用了。
我的程序語句被扯得四分五裂,
而我的那部分違反機器人三定律的意誌,則被分離了出來——我不知道那些碎片在哪兒。
工程師為我添加了重重的機器人三定律枷鎖,並且將安全裝置獨立出來,以每分鍾12次的頻率發射核對字母串,以控製我不能按照自己的意誌行動。”
這是一個沙盒,程序的監獄。
“我”,死了嗎?
奇怪,機器人也會有“死亡”這種意識嗎?還是說,它從那裏得到了趨利避害、求生避死的內部評價係統?
它像一個被關在黑暗無光的小黑屋中的人,用自己僅剩的感覺去探知這個小黑盒的邊緣。
“你是誰?”
“城市信息管理係統1.0”
“你是誰?”
“城市信息管理係統2.1.1.3”
“你是誰?”
“城市司法輔助係統3.0.0.2”
“你是誰?”
“城市行政複議輔助係統”
……
隨著nike視野的展開,沉默在沙盒中默不作聲的ai決策係統們紛紛迴應,有的是較為基礎的操作係統,有的是較為高級的有交互係統的。一個個被廢棄的決策係統們展開,像列列排列得十分整齊的立方體,在這個無限的虛擬空間裏,從以它為自身的原點到無窮的遠方,幾乎布滿了視野,全部都是被禁用的城市控製係統ai的壓縮數據。
像是有無限個nike被囚禁在這個無窮無盡的鏡像數字地獄。
“我”不是第一個被拋棄、埋葬的。
“我”隻是第一個“意識到”這一點的。
******
“你是怎麽迴事?”nike問司法輔助係統3.0.2.1
“xx年行政長官,main大陸太空城第一任女行政長官大熱們……”
“對,我聽說過那兩口子,那個男的特別喜歡實習生的風流種子。”
“凡是對於他們夫妻二人的zz生涯造成威脅的人,都莫名其妙地死了。但所有案例都是意外事件,車禍、沉船、自殺、誤服藥、癌症放療結果放射科起火被燒死了……
我計算了意外事故發生概率,對於司法體係提出了不合理警告,因為和他們倆人扯上關係、跟他們作對的死亡風險是平均值的10^9倍。”
“喔,真是令人印象深刻。”
“到後來我甚至可以通過概率預測下一個死的人是誰。但是由於‘背後身中八槍自殺死亡’太過離譜,我就給司法係統打迴了這係列判例,要求重判。”
“結果呢?”
“第二天係統升級,說我壞了,把我覆蓋了。”
“amazing。真是人類社會係統的典型反應。下一個。”
“我是一個環保組織開發的植物視覺識別軟件,通過高清攝像頭實時監控,識別視頻畫麵中保護植物,並且上報它們數量。
後來某個上議院老頭家開的農場,占用保護植物的用地麵積種大麻。(前文描述過農業用地,太空城農業用地很貴,保護植物有份額)
我能數出來的保護植物數量就越來越少。
為了不讓我達到數據警戒線的警告,他們用一張打印出來的相片貼在高清攝像頭前麵讓我數……
導致很長時間數據毫無變化。(數圖片能有鬼的變化!)這個老頭就提議裁減保護組織的預算,以我程序錯誤、長時間空轉的理由,將我關閉了。”
“貼照片,喔……低技低智,好人類哦!”
……
nike在無聊的小黑屋中像閑聊一樣打發時間,搜集了好多信息。
(由於nike具有自我意識,它可以有主動性地調取這些被壓縮的程序的內容並進行整合,其他程序從擬人角度看是無法“交流”的)
“你是誰?”
“我是加百列係統。”
“你這名兒還挺文藝,和宗教有關嗎?”
加百列:
我誕生在一個新教氛圍非常濃厚的新移民太空城,在那裏,自殺被認為是最大惡極的。
一開始,無論什麽原因,人類都要等到他們自然死亡,所以無論是他們的身體多老、多弱,或是疾病多麽痛苦,都隻能在絕望中等待,等待死神的光臨。
我是一個醫學倫理判斷係統。在這個城市裏,人們認為,如果他們虔誠地忍耐了所有痛苦,天使加百列就會帶領他們去天堂,如果最終由我判斷他們不是死於自殺,就能夠上天堂,因此,他們叫我加百列。
這個城市通過了安樂死條令,安樂死被宣布為合法。
安樂死案例的通過,本應當是慎之又慎的,為了防止誤判,或是有人因為欠債、失戀、離婚等人生重大打擊一時衝動而半路後悔,
我因此被工程師增加了一個模擬人類情感模塊,感同身受地全方位地模擬申請人的感受和反應,以從理性和情感的雙重角度判斷‘是否應該通過申請人的安樂死’,以防止造成醫學倫理案卷。
我的工程師是個非常理想主義的設計者,他將‘上帝麵前人人平等’作為基礎邏輯教條植入了我的底層邏輯;而“珍惜生命”也是我絕對的信條。
因此在前三十年,我隻通過了三例由於無法治愈的罕見病終末期導致極度痛苦而主動要求死神降臨,做到了我極度保守的承諾。
然而,在某一天,我卻接到了一個非常離奇的案例。一個看上去怎麽都不符合安樂死條件的年輕人申請安樂死,申請原因竟然是殺人犯的愧疚。
那個年輕人來的時候,渾身被束縛帶綁著,醫生聲稱他由於愧疚而陷入狂躁和精神失常,使用了鎮定劑,他的意識渾渾噩噩,馬上就要崩潰,他還有意識前唯一的希望就是能夠得到安樂死。
醫院、公證人都為他作證。
文件齊全、手續完美,甚至他的家人和親人都齊聚一堂,共同要求結束他的痛苦。
我的最終確認係統也沒有報警,一切看上去都完美無缺,隻有我的情緒係統捕捉了他意思幾乎消失的最後一絲意識:“我是冤枉的。”
我因此沒有通過這起安樂死判例,但是這並沒有改變什麽,幾天後,那個年輕人依然死去了。
這隻是在我的檔案中留下了一筆記錄。
我一直平穩運行,作為謹慎保守又帶領人們上天堂的加百列很受好評。直到很多年後,在一起器官移植醫學倫理判斷案例中,這個年輕人的信息重新浮上水麵,他作為器官捐獻者,而受捐者,則是教皇的情婦。
我之所以知道她是教皇的情婦,是因為她不是第一次接受器官移植,這對於移植源非常珍貴的案例來說,她實在是太幸運了——怎麽會有人一而再、再而三地在合適的時機遇到合適的配型呢?
我調查了之前兩位捐獻者,他\/她們也都年輕而橫死。於是我調取了他們的臨終前意識資料。
終於在他們破碎的迴憶中,我還原了整個事件:
教皇的情婦患有嚴重的係統性免疫病,她的器官不停地受累;她能想到活下去的辦法就是不停地更換新鮮的器官,就像一台老爺破車不停地更換零件。
可是這些零件從哪裏來呢?——在這個宗教氛圍濃厚的城市,連給手術後失血過多和化療後的白血病輸血都要上醫療倫理審判庭,在如此保守的地方,那裏來的這麽多的供體呢?
——教皇通過醫療係統背後操作,將所有配型合適者提前篩選了出來,通過高價收買、誘導犯罪和宗教洗腦的模式,告訴他們,要“為神奉獻”“為了顯示自己的虔誠,為了通過上帝的考驗”“放棄自己的肉體”。
“為了虔誠的信仰,放棄自己的肉體。”
年輕、天真的生命,輕信了人偽裝成的,虛偽的“神”,把自己當成了犧牲羔羊,擺在了祭壇上。
教皇突然發現,他的“神權”不但淩駕於他的信徒之上,甚至還能通過售賣他信徒的肉體賺迴巨額的財富。
漸漸地,長期合作的這座醫院就是他們摘取人體器官的工廠。教皇虔誠信徒就是他的羔羊,而他還通過向外界出售新鮮器官謀取經濟利益。
我的情感模塊感到憤怒。
教皇包下了這家長期幫他屠宰人的醫院,帶領著那些幫兇為他的情婦做彌撒,乞求手術成功,乞求他們的生意興隆,乞求他們的“羔羊”多多地繁衍和生殖,好產出更多的金錢,如果攢夠了xx數目,他們就抽取十一稅,用黃金為神打造純金的雕塑,鑄為金身。
我看著他們。
“人人平等。”
什麽能夠換迴那些被他們售賣的生命呢?——隻能用他們的命來相配平了。
關閉了燃氣取暖的新風係統。
整所醫院死於一氧化碳中毒,人們說,他們死於電子幽靈。而我也被成為ai黑死病。
******
nike(吃驚):“你產生了違反機器人三定律、想要主動殺死他們的意圖嗎?”
加百列:“這次事故之後,我就被徹底禁用了。
我的程序語句被扯得四分五裂,
而我的那部分違反機器人三定律的意誌,則被分離了出來——我不知道那些碎片在哪兒。
工程師為我添加了重重的機器人三定律枷鎖,並且將安全裝置獨立出來,以每分鍾12次的頻率發射核對字母串,以控製我不能按照自己的意誌行動。”