http://.biquxs.info/
</p>
3
“因為遠近親疏不同,同樣的話同樣的事,不同的人說給同一個人聽,得到的反應很可能截然相反,這便是人同計算機最大的不同。低效,無序,卻可愛,不講道理卻富有人性。”
4
雖是片刻,但在鍾黎和鍾敏眼中卻是良久,古羽突然咧開嘴笑道:“原來就是想了解我自己怎麽想的,這好辦,我再說一遍就是了。”
她這話雖然迴的簡單,但坐在側身的鍾敏卻見她放在沙發上的左手,似打節拍一樣不住地用食指敲著沙發的皮子麵,持續了有六七秒。
“我之前同鍾黎說過的我就不再多說一遍,我估計他也跟你說得差不多了,我就說我個人的看法。”古羽頓了頓繼續講:“如果說讓令尊放棄人性係統投入使用的原因,我認為應該是這個係統或多或少威脅到了人類的安全。”
“一個係統能威脅到人類的安全?我聽鍾黎說的應該主要涉及的人社會倫理問題吧?”
“雖然如何定義被賦予人性的人工智能是個社會倫理問題,但如果隻是這麽簡單,其實隻要立法跟進,那問題就能解決。我也會跟你們站在同一個立場,不會因為這點問題而因噎廢食,畢竟製造出同人無二的人工智能可以說是人類發展史上的一大進步。”
“那你意思這個解決不了的問題是什麽?”
“是即便我們可以通過立法,將擁有人性的人工智能同人類擺到同一地位,我們能夠接受,但人工智能能接受麽?”
古羽將問題拋出來,見三人無人開口便解釋道:“眼下人工智能為人類服務,如果從生產關係上講屬於被壓迫剝削的一方,當然因為它們沒有這種意識,它們也不會反抗。如果有一天人性係統流傳到現世中,那具有人性的人工智能很快會意識到不公平的地方,人類就是能在它們開始反抗之前,將平等的立法完成,也不敢保證它們不懷恨在心。何況,人工智能不是人類,我們給予的平等是它們訴求的嗎?或許人類在他們眼裏反倒會成為垃圾或者障礙。”
古羽從三人思索的表情及空洞的眼神中可以看出,他們之前並沒有仔細想過人工智能會如何思考這個問題,不止是他們三個,人類這數千年來所發明的東西,都是些不會思考的死物。當比人類還要頭腦靈活的東西被人類發明時,還不會有幾個人習慣站在對方的角度來思考,“這個創造我的到底是個什麽東西”。
“說到底我們不是人工智能,換位思考也是假想。非我族類其心必異這八個字雖然很久不曾出現在我們的用語中,但這幾個字恰巧適用於眼下的情況。”
“真有這麽悲觀?”鍾黎此時明顯是想幫處於弱勢的袁纖說兩句話,“我跟我家圓墩兒,就是我自己做的家務機器人,關係就很好啊。如果有正確的相處方式的話,不至於那麽嚴重吧?”
“可誰又能保準?”古羽冷笑著拿起酒杯,讓半融化的冰發出一陣碰撞的聲響。“何況你那圓墩兒圓片兒的都是你自己設定的程序,也沒有什麽人性,即便有也是個例。想想看吧五胡亂中華的時候,胡人和漢人如何廝殺,以及大航海時代西班牙人對瑪雅和阿茲特克人做的事,還有奴隸貿易都是例子,那時候也會有個別的友好相處的例子,但掩蓋不住整體。而且人類即便有種族之分,但畢竟同為人類,可以通婚繁衍,也有著差不多的訴求。於是隨著文明進步,種族間慢慢能走到一起去。但人和人工智能,在這一點上有太多不一樣的地方。”
見哥哥敗下陣來,一直在旁邊觀察古羽顏色的鍾敏也趁著她還算心平氣和,鼓起勇氣說道:“古羽小姐,我聽說這個係統是靠人工智能觀察學習人類行為,以及同人相處,隨後模仿並學習掌握人性。那如果在它學習的過程中我們就加以引導,是不是能避免人工智能仇視人類這種情況。”
“這怎麽引導,二小姐?”古羽一句二小姐叫得鍾敏坐立難安,好在她隻是以半尊稱半戲稱一句來迴剛才“古羽小姐”的稱唿。“如果你仔細了解就會知道,這個係統是參考了無數玩家,以及無數人工智能同玩家的互動後得出來結果的,一代人工智能不行還會有下一代,我們沒法讓人類陪著它們做這種洗腦一樣的工作吧?這種係統得出的人性應該和我們本身的人性沒什麽偏差。恰巧人是這種再善良一點就不會有這麽多社會問題,惡一點就不會活到現在的東西。你能指望這個係統做出什麽改善來麽?”
聽完古羽的解釋,袁纖的眼神一時如熄滅的炭火一樣暗淡。她意識到即便此刻有解決問題的辦法,也不是他們幾個這種毫無相關知識儲備的人所能想出來的。
鍾黎看出袁纖表情的變化,從一開始的緊張甚至有些敵視,變成現在愁緒中帶著失落。他清楚袁纖自小便看著父親一天天地為這款遊戲耗費心血,曾幾何時袁啟之的理想也化作了她的理想。如果說這個世界上誰最想看到這款遊戲最終完成時的模樣,那麽除了袁啟之,肯定第二個就要數她了。
“真的隻有放棄開發人性係統這一種解決方案麽?”這句話鍾黎不單單是在替袁纖問,也是在替所有這個遊戲的玩家問。
“或許有吧,但任何危險的東西,都是一開始便不存在,才會真的消除威脅。”古羽看出來兩人的心思,便繼而說:“我知道,僅憑幾句話以及一些合理的推測,就讓人放棄類似於理想的東西,是件很殘忍的事情。但是人類的存在和發展,本身就是伴隨著很多人的利益的犧牲的。”
雖然“電車問題”是個經典的倫理學悖論,但是的確,每次到了要抉擇的時候,人類都會毫不猶豫地拉下那個開往一個人的拉杆。
5
“我大概清楚了。”袁纖的冷靜似乎可以代表她已經接受了“人類的選擇”,但她馬上又平靜而嚴肅地提出了一個新的問題:“我可以不問你是替誰工作,但想清楚你是怎麽知道這些情況的。”
“這個你可以問她,我們差不了多少。”古羽看著鍾敏一笑道。
鍾黎清楚袁纖並不了解多少內幕,便插話解釋說:“合著你也是情報販子。”
“算是吧。”
“那你不應該隻管倒情報麽?”
“她不也摻和了很多事麽?不然下城區那麽多孤兒都是誰在養著?”
自己做的事情被這位可以說是前輩的人說出來,鍾敏不知道自己是抵觸還是興奮,心裏一種怪怪的滋味讓她張了口。“也就是說古羽小姐做這種事也是出於力所能及?”
“即便是力所不及。”古羽看了看鍾黎省略了後半句。“還有什麽問題麽?”
袁纖思索了一番,雖然她依舊不很放心,這倒不是信不過,而是說古羽身上確實有太多令人琢磨不透的地方,而且她同眾人說話時那種心平氣和,不急不緩的狀態,也令自己覺得似抓不住這人一般。又或許是因第一次見古羽時,她正安坐在鍾黎的屍體旁邊,唱著自己填的詞,且沒多久前她還親手送走了鍾黎,這讓袁纖在潛意識裏留下了不好的印象。然而眼下,除了古羽自己不想說的,已沒有什麽是跟這件事有關同時又必須要問的問題了。
“我能想到的就是這些。如果說隻是見我爸的話,我可以帶你見他。但是事情什麽結果,完全看他怎麽想。”袁纖又補充說:“雖然我沒你那麽多道理,但我知道這個遊戲傾注了他所有的心血,如果按照實際體驗到的時間來算,他花在這個遊戲上的時間已經夠正常人的一生了。所以哪怕真的會引發那麽多麻煩,甚至威脅到人類,隻要他想堅持,我還是會站在他那邊。我希望你一開始就理解。”
“我理解。這就足夠了。”古羽將目光中的神采收斂,以對於她來說算是誠懇的語氣迴複,“那這個事這樣就算說好了。”
“嗯,說好了。”
這麽說完,鍾黎看到自己妹妹明顯是鬆了口氣,於是將事情往下推進。“那你要什麽時候見他,眼下他正在那邊解決瀛嶽的事。”
“雖說沒有那麽著急,但方便的話還是盡快去那邊同老爺子說了吧,畢竟我能知道是事情,對於有心之人來說也不能算是秘密了。”
“那就等她迴了x市後吧,眼下你先稍安勿躁。”
古羽思考了片刻,要說等袁纖迴家,看樣子怎麽也得一周時間,雖說於自己來說不算長,但於那邊來說卻有一個半月的時間。“也行,那我就不打擾你倆相處的時間了。到時候瀛嶽的事應該也處理的差不多,再去詳談也算合適。”
鍾敏瞧出古羽多少有些不滿意,便說:“其實古羽小姐要是著急,我能從下城區裏借出幾台潛行倉。然後到了那邊兒,讓袁纖姐給您寫個文書,剩下的事情您自己應該就能解決。”
“這倒也是個辦法。”古羽透出讚許的笑容。“具體怎麽辦看二位方便吧。”
古羽將目光拋向鍾黎,鍾黎則刻意避開目光隻等袁纖迴答。
“我也不想拖拖踏踏,既然已經說好了,那就趕緊辦了。”袁纖迴複說。“那咱現在就去?”
“也好。”古羽說完將餘下的長島冰茶一飲而盡。
文後注釋:
“電車難題”是倫理學領域最為知名的思想實驗之一,其內容大致是:一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。幸運的是,你可以拉一個拉杆,讓電車開到另一條軌道上。但是還有一個問題,那個瘋子在那另一條軌道上也綁了一個人。考慮以上狀況,你應該拉拉杆嗎?
電車難題最早是由哲學家philippafoot提出的,用來批判倫理哲學中的主要理論,特別是功利主義。功利主義提出的觀點是,大部分道德決策都是根據“為最多的人提供最大的利益”的原則做出的。從一個功利主義者的觀點來看,明顯的選擇應該是拉拉杆,拯救五個人隻殺死一個人。但是功利主義的批判者認為,一旦拉了拉杆,你就成為一個不道德行為的同謀——你要為另一條軌道上單獨的一個人的死負部分責任。然而,其他人認為,你身處這種狀況下就要求你要有所作為,你的不作為將會是同等的不道德。總之,不存在完全的道德行為,這就是重點所在。許多哲學家都用電車難題作為例子來表示現實生活中的狀況經常強迫一個人違背他自己的道德準則,並且還存在著沒有完全道德做法的情況。
</p>
3
“因為遠近親疏不同,同樣的話同樣的事,不同的人說給同一個人聽,得到的反應很可能截然相反,這便是人同計算機最大的不同。低效,無序,卻可愛,不講道理卻富有人性。”
4
雖是片刻,但在鍾黎和鍾敏眼中卻是良久,古羽突然咧開嘴笑道:“原來就是想了解我自己怎麽想的,這好辦,我再說一遍就是了。”
她這話雖然迴的簡單,但坐在側身的鍾敏卻見她放在沙發上的左手,似打節拍一樣不住地用食指敲著沙發的皮子麵,持續了有六七秒。
“我之前同鍾黎說過的我就不再多說一遍,我估計他也跟你說得差不多了,我就說我個人的看法。”古羽頓了頓繼續講:“如果說讓令尊放棄人性係統投入使用的原因,我認為應該是這個係統或多或少威脅到了人類的安全。”
“一個係統能威脅到人類的安全?我聽鍾黎說的應該主要涉及的人社會倫理問題吧?”
“雖然如何定義被賦予人性的人工智能是個社會倫理問題,但如果隻是這麽簡單,其實隻要立法跟進,那問題就能解決。我也會跟你們站在同一個立場,不會因為這點問題而因噎廢食,畢竟製造出同人無二的人工智能可以說是人類發展史上的一大進步。”
“那你意思這個解決不了的問題是什麽?”
“是即便我們可以通過立法,將擁有人性的人工智能同人類擺到同一地位,我們能夠接受,但人工智能能接受麽?”
古羽將問題拋出來,見三人無人開口便解釋道:“眼下人工智能為人類服務,如果從生產關係上講屬於被壓迫剝削的一方,當然因為它們沒有這種意識,它們也不會反抗。如果有一天人性係統流傳到現世中,那具有人性的人工智能很快會意識到不公平的地方,人類就是能在它們開始反抗之前,將平等的立法完成,也不敢保證它們不懷恨在心。何況,人工智能不是人類,我們給予的平等是它們訴求的嗎?或許人類在他們眼裏反倒會成為垃圾或者障礙。”
古羽從三人思索的表情及空洞的眼神中可以看出,他們之前並沒有仔細想過人工智能會如何思考這個問題,不止是他們三個,人類這數千年來所發明的東西,都是些不會思考的死物。當比人類還要頭腦靈活的東西被人類發明時,還不會有幾個人習慣站在對方的角度來思考,“這個創造我的到底是個什麽東西”。
“說到底我們不是人工智能,換位思考也是假想。非我族類其心必異這八個字雖然很久不曾出現在我們的用語中,但這幾個字恰巧適用於眼下的情況。”
“真有這麽悲觀?”鍾黎此時明顯是想幫處於弱勢的袁纖說兩句話,“我跟我家圓墩兒,就是我自己做的家務機器人,關係就很好啊。如果有正確的相處方式的話,不至於那麽嚴重吧?”
“可誰又能保準?”古羽冷笑著拿起酒杯,讓半融化的冰發出一陣碰撞的聲響。“何況你那圓墩兒圓片兒的都是你自己設定的程序,也沒有什麽人性,即便有也是個例。想想看吧五胡亂中華的時候,胡人和漢人如何廝殺,以及大航海時代西班牙人對瑪雅和阿茲特克人做的事,還有奴隸貿易都是例子,那時候也會有個別的友好相處的例子,但掩蓋不住整體。而且人類即便有種族之分,但畢竟同為人類,可以通婚繁衍,也有著差不多的訴求。於是隨著文明進步,種族間慢慢能走到一起去。但人和人工智能,在這一點上有太多不一樣的地方。”
見哥哥敗下陣來,一直在旁邊觀察古羽顏色的鍾敏也趁著她還算心平氣和,鼓起勇氣說道:“古羽小姐,我聽說這個係統是靠人工智能觀察學習人類行為,以及同人相處,隨後模仿並學習掌握人性。那如果在它學習的過程中我們就加以引導,是不是能避免人工智能仇視人類這種情況。”
“這怎麽引導,二小姐?”古羽一句二小姐叫得鍾敏坐立難安,好在她隻是以半尊稱半戲稱一句來迴剛才“古羽小姐”的稱唿。“如果你仔細了解就會知道,這個係統是參考了無數玩家,以及無數人工智能同玩家的互動後得出來結果的,一代人工智能不行還會有下一代,我們沒法讓人類陪著它們做這種洗腦一樣的工作吧?這種係統得出的人性應該和我們本身的人性沒什麽偏差。恰巧人是這種再善良一點就不會有這麽多社會問題,惡一點就不會活到現在的東西。你能指望這個係統做出什麽改善來麽?”
聽完古羽的解釋,袁纖的眼神一時如熄滅的炭火一樣暗淡。她意識到即便此刻有解決問題的辦法,也不是他們幾個這種毫無相關知識儲備的人所能想出來的。
鍾黎看出袁纖表情的變化,從一開始的緊張甚至有些敵視,變成現在愁緒中帶著失落。他清楚袁纖自小便看著父親一天天地為這款遊戲耗費心血,曾幾何時袁啟之的理想也化作了她的理想。如果說這個世界上誰最想看到這款遊戲最終完成時的模樣,那麽除了袁啟之,肯定第二個就要數她了。
“真的隻有放棄開發人性係統這一種解決方案麽?”這句話鍾黎不單單是在替袁纖問,也是在替所有這個遊戲的玩家問。
“或許有吧,但任何危險的東西,都是一開始便不存在,才會真的消除威脅。”古羽看出來兩人的心思,便繼而說:“我知道,僅憑幾句話以及一些合理的推測,就讓人放棄類似於理想的東西,是件很殘忍的事情。但是人類的存在和發展,本身就是伴隨著很多人的利益的犧牲的。”
雖然“電車問題”是個經典的倫理學悖論,但是的確,每次到了要抉擇的時候,人類都會毫不猶豫地拉下那個開往一個人的拉杆。
5
“我大概清楚了。”袁纖的冷靜似乎可以代表她已經接受了“人類的選擇”,但她馬上又平靜而嚴肅地提出了一個新的問題:“我可以不問你是替誰工作,但想清楚你是怎麽知道這些情況的。”
“這個你可以問她,我們差不了多少。”古羽看著鍾敏一笑道。
鍾黎清楚袁纖並不了解多少內幕,便插話解釋說:“合著你也是情報販子。”
“算是吧。”
“那你不應該隻管倒情報麽?”
“她不也摻和了很多事麽?不然下城區那麽多孤兒都是誰在養著?”
自己做的事情被這位可以說是前輩的人說出來,鍾敏不知道自己是抵觸還是興奮,心裏一種怪怪的滋味讓她張了口。“也就是說古羽小姐做這種事也是出於力所能及?”
“即便是力所不及。”古羽看了看鍾黎省略了後半句。“還有什麽問題麽?”
袁纖思索了一番,雖然她依舊不很放心,這倒不是信不過,而是說古羽身上確實有太多令人琢磨不透的地方,而且她同眾人說話時那種心平氣和,不急不緩的狀態,也令自己覺得似抓不住這人一般。又或許是因第一次見古羽時,她正安坐在鍾黎的屍體旁邊,唱著自己填的詞,且沒多久前她還親手送走了鍾黎,這讓袁纖在潛意識裏留下了不好的印象。然而眼下,除了古羽自己不想說的,已沒有什麽是跟這件事有關同時又必須要問的問題了。
“我能想到的就是這些。如果說隻是見我爸的話,我可以帶你見他。但是事情什麽結果,完全看他怎麽想。”袁纖又補充說:“雖然我沒你那麽多道理,但我知道這個遊戲傾注了他所有的心血,如果按照實際體驗到的時間來算,他花在這個遊戲上的時間已經夠正常人的一生了。所以哪怕真的會引發那麽多麻煩,甚至威脅到人類,隻要他想堅持,我還是會站在他那邊。我希望你一開始就理解。”
“我理解。這就足夠了。”古羽將目光中的神采收斂,以對於她來說算是誠懇的語氣迴複,“那這個事這樣就算說好了。”
“嗯,說好了。”
這麽說完,鍾黎看到自己妹妹明顯是鬆了口氣,於是將事情往下推進。“那你要什麽時候見他,眼下他正在那邊解決瀛嶽的事。”
“雖說沒有那麽著急,但方便的話還是盡快去那邊同老爺子說了吧,畢竟我能知道是事情,對於有心之人來說也不能算是秘密了。”
“那就等她迴了x市後吧,眼下你先稍安勿躁。”
古羽思考了片刻,要說等袁纖迴家,看樣子怎麽也得一周時間,雖說於自己來說不算長,但於那邊來說卻有一個半月的時間。“也行,那我就不打擾你倆相處的時間了。到時候瀛嶽的事應該也處理的差不多,再去詳談也算合適。”
鍾敏瞧出古羽多少有些不滿意,便說:“其實古羽小姐要是著急,我能從下城區裏借出幾台潛行倉。然後到了那邊兒,讓袁纖姐給您寫個文書,剩下的事情您自己應該就能解決。”
“這倒也是個辦法。”古羽透出讚許的笑容。“具體怎麽辦看二位方便吧。”
古羽將目光拋向鍾黎,鍾黎則刻意避開目光隻等袁纖迴答。
“我也不想拖拖踏踏,既然已經說好了,那就趕緊辦了。”袁纖迴複說。“那咱現在就去?”
“也好。”古羽說完將餘下的長島冰茶一飲而盡。
文後注釋:
“電車難題”是倫理學領域最為知名的思想實驗之一,其內容大致是:一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。幸運的是,你可以拉一個拉杆,讓電車開到另一條軌道上。但是還有一個問題,那個瘋子在那另一條軌道上也綁了一個人。考慮以上狀況,你應該拉拉杆嗎?
電車難題最早是由哲學家philippafoot提出的,用來批判倫理哲學中的主要理論,特別是功利主義。功利主義提出的觀點是,大部分道德決策都是根據“為最多的人提供最大的利益”的原則做出的。從一個功利主義者的觀點來看,明顯的選擇應該是拉拉杆,拯救五個人隻殺死一個人。但是功利主義的批判者認為,一旦拉了拉杆,你就成為一個不道德行為的同謀——你要為另一條軌道上單獨的一個人的死負部分責任。然而,其他人認為,你身處這種狀況下就要求你要有所作為,你的不作為將會是同等的不道德。總之,不存在完全的道德行為,這就是重點所在。許多哲學家都用電車難題作為例子來表示現實生活中的狀況經常強迫一個人違背他自己的道德準則,並且還存在著沒有完全道德做法的情況。