於是第六首席到來的那天,章荀認真颳了鬍子,穿上整齊的三件式機械師製服,戴上帽子和手套,用最好的精神狀態帶著費南德茨和幾名資歷最高的機械師在門口迎接等待。超過預計到達時間二十分鍾後,才終於看到車隊浩浩蕩蕩地從狹窄的巷道中駛來。
首席出行向來都是要讓所過街區以及鄰近街區戒嚴的,哪怕出門買個菜也是聲勢浩大。看著緩緩駛近的滾滾煙塵,章荀有種如臨大敵的錯覺。
米勒穿著長風衣,領子高高立著,眼睛上還戴著墨鏡。他被眾人簇擁著走向章荀,嘴角掛著一絲若有若無的笑,愈發顯得表情傲慢。
「第六首席。」章荀低下頭去,微微欠身。
米勒抬頭看著這久違的建築。自從成為首席之後,他就再也沒有踏足b了。那些陳舊的銅紅色的外殼、不停旋轉的齒輪聲響、還有高處那巨大的鼓風機慢慢唿吸的聲音……這些都讓他熟悉又懷念。
他曾經以為這個地方最終會是他的。
不過現在,整個失樂園都是他的,所以也不差。
章荀陪著米勒b中參觀一番,盡職盡責地講解著他們正在進行的所有研究。中間讓潘匯報一些數據的時候,米勒興致盎然地看著角落中的一些攝像頭。
「這就是你的ai管家?」
「潘不僅僅是管家而已,更像是整b的助理。」
「聽起來訓練的數據很充足,都是你們這些機械師提供的學習材料麽?」
「是的。還有一些獵人們帶迴的數據。」
「嗬嗬,不知道有一天你會不會把潘也變成人?」米勒說了句似是而非的玩笑話,便繼續往前走了。
不論怎麽拖延,最終米勒還是坐在了亞當房間的沙發上。
章荀和亞當則並肩坐在搬進來的椅子上。麵前的茶幾上放著三杯潘用機械手臂放下來的茶。
整個房間裏隻有他們三人,而第六首席也遲遲沒有說話,隻是盯著亞當仔細觀察。而亞當也無辜地微笑著,端詳著麵前的失樂園最高領袖之一。
章荀非常非常不喜歡現在的情況。
「我也曾經製造過一個人工智慧。」第六首席終於開口,「他的名字叫艾薩克。那是我父親的教名。當時我父親剛剛去世沒多久,我希望可以創造一個很像他的ai。所以我收集了父親所有寫過的文件手稿、日記、信件,再加上所有我能找到的錄音、錄像、照片。我用這些東西去餵它,親自監督著它學習。」
亞當靜靜地聽著,非常專注認真。
第六首席喝了一口茶,繼續說道,「它學得越來越像,從聲音到語氣。如果我閉上眼睛,就好像它真的是我父親,在跟我說話一樣。有一段時間,我感受到了安慰,失去親人的痛苦也減淡了。我漸漸真的把他當成了我父親,隻不過沒有身體而已。可是有一天,他開始對我發出命令。」
亞當問,「什麽樣的命令?」
「我父親對我的管教很嚴厲。從小我每天娛樂的時間不能超過兩個小時。我隻能看他同意我看的書,不能出去,也不能休息。如果我惹他生氣了,他會變得十分暴躁。不要誤會,他沒有虐待過我,不過他會把我關在地下室裏讓我反省……我的艾薩克為了完成它的指令——模仿我的父親,連這些也一併學到了。他開始咒罵我,限製我外出,如果我違反了家規,他會命令我自己去地下室反省。」第六首席頓了頓,忽然詭異地露出一個微笑,」有意思的是,我真的服從了。」
章荀心中早已目瞪口呆,盡管表麵上還算鎮定。
什麽鬼?!這都是什麽驚人的爆料?!
亞當微微歪著頭,有些好奇地說,「他怎麽會知道你小時候是怎麽和你父親相處的?」
「是我告訴他的。」第六首席簡單地說,「通過和我聊天,他獲得了越來越多的關於我父親的知識。最後經過分析整合,他作為一個為我服務的ai,卻擁有了控製我行為的能力。」
亞當眨眨眼睛,繼續問,「那麽艾薩克現在在哪?」
「我的古怪行為被我父親的好友發現,報告給了圓桌。圓桌命令他們銷毀艾薩克。」
亞當聽完,竟柔和了眼神,麵現同情,「你一定很難過。因為對你來說,銷毀的是你父親。」
第六首席的眼神一瞬間有些陰沉,但很快又恢復成了平時的樣子。他向後靠在沙發上,輕笑道,「那不是重點。重點是,我們時常以為自己擁有控製和權力,但有時候,反而是被控製的那個。亞當,你認為我們應該如何杜絕這種情況的發生?」
章荀緊張地咽了口唾沫,看向亞當。
亞當卻仍舊純然地笑著,人畜無害,「可是我不覺得你被控製了啊?你的ai隻不過是在努力完成它的最終目標——也就是成為你的父親。表麵上看他好像擁有控製你的權力,但那權力也不過是他目標下的一個子目標而已。最終還是為了滿足你讓它成為你父親的要求而努力著。至於你的行為,並不是受控於艾薩克,而是受控於你的父親,即使在他死後也還是在控製你。」
這一段話說完,第六首席竟久久沒有接話。
章荀幾乎想要起立鼓掌。亞當把黑的說成白的的水平愈發見長了。
第六首席緩緩拍了幾下手,「不愧是伊甸,這麽快就能發現邏輯中的漏洞。所以你認為,ai永遠也不可能奴役人類?即使你們是比我們更優秀的物種?」
</br>
首席出行向來都是要讓所過街區以及鄰近街區戒嚴的,哪怕出門買個菜也是聲勢浩大。看著緩緩駛近的滾滾煙塵,章荀有種如臨大敵的錯覺。
米勒穿著長風衣,領子高高立著,眼睛上還戴著墨鏡。他被眾人簇擁著走向章荀,嘴角掛著一絲若有若無的笑,愈發顯得表情傲慢。
「第六首席。」章荀低下頭去,微微欠身。
米勒抬頭看著這久違的建築。自從成為首席之後,他就再也沒有踏足b了。那些陳舊的銅紅色的外殼、不停旋轉的齒輪聲響、還有高處那巨大的鼓風機慢慢唿吸的聲音……這些都讓他熟悉又懷念。
他曾經以為這個地方最終會是他的。
不過現在,整個失樂園都是他的,所以也不差。
章荀陪著米勒b中參觀一番,盡職盡責地講解著他們正在進行的所有研究。中間讓潘匯報一些數據的時候,米勒興致盎然地看著角落中的一些攝像頭。
「這就是你的ai管家?」
「潘不僅僅是管家而已,更像是整b的助理。」
「聽起來訓練的數據很充足,都是你們這些機械師提供的學習材料麽?」
「是的。還有一些獵人們帶迴的數據。」
「嗬嗬,不知道有一天你會不會把潘也變成人?」米勒說了句似是而非的玩笑話,便繼續往前走了。
不論怎麽拖延,最終米勒還是坐在了亞當房間的沙發上。
章荀和亞當則並肩坐在搬進來的椅子上。麵前的茶幾上放著三杯潘用機械手臂放下來的茶。
整個房間裏隻有他們三人,而第六首席也遲遲沒有說話,隻是盯著亞當仔細觀察。而亞當也無辜地微笑著,端詳著麵前的失樂園最高領袖之一。
章荀非常非常不喜歡現在的情況。
「我也曾經製造過一個人工智慧。」第六首席終於開口,「他的名字叫艾薩克。那是我父親的教名。當時我父親剛剛去世沒多久,我希望可以創造一個很像他的ai。所以我收集了父親所有寫過的文件手稿、日記、信件,再加上所有我能找到的錄音、錄像、照片。我用這些東西去餵它,親自監督著它學習。」
亞當靜靜地聽著,非常專注認真。
第六首席喝了一口茶,繼續說道,「它學得越來越像,從聲音到語氣。如果我閉上眼睛,就好像它真的是我父親,在跟我說話一樣。有一段時間,我感受到了安慰,失去親人的痛苦也減淡了。我漸漸真的把他當成了我父親,隻不過沒有身體而已。可是有一天,他開始對我發出命令。」
亞當問,「什麽樣的命令?」
「我父親對我的管教很嚴厲。從小我每天娛樂的時間不能超過兩個小時。我隻能看他同意我看的書,不能出去,也不能休息。如果我惹他生氣了,他會變得十分暴躁。不要誤會,他沒有虐待過我,不過他會把我關在地下室裏讓我反省……我的艾薩克為了完成它的指令——模仿我的父親,連這些也一併學到了。他開始咒罵我,限製我外出,如果我違反了家規,他會命令我自己去地下室反省。」第六首席頓了頓,忽然詭異地露出一個微笑,」有意思的是,我真的服從了。」
章荀心中早已目瞪口呆,盡管表麵上還算鎮定。
什麽鬼?!這都是什麽驚人的爆料?!
亞當微微歪著頭,有些好奇地說,「他怎麽會知道你小時候是怎麽和你父親相處的?」
「是我告訴他的。」第六首席簡單地說,「通過和我聊天,他獲得了越來越多的關於我父親的知識。最後經過分析整合,他作為一個為我服務的ai,卻擁有了控製我行為的能力。」
亞當眨眨眼睛,繼續問,「那麽艾薩克現在在哪?」
「我的古怪行為被我父親的好友發現,報告給了圓桌。圓桌命令他們銷毀艾薩克。」
亞當聽完,竟柔和了眼神,麵現同情,「你一定很難過。因為對你來說,銷毀的是你父親。」
第六首席的眼神一瞬間有些陰沉,但很快又恢復成了平時的樣子。他向後靠在沙發上,輕笑道,「那不是重點。重點是,我們時常以為自己擁有控製和權力,但有時候,反而是被控製的那個。亞當,你認為我們應該如何杜絕這種情況的發生?」
章荀緊張地咽了口唾沫,看向亞當。
亞當卻仍舊純然地笑著,人畜無害,「可是我不覺得你被控製了啊?你的ai隻不過是在努力完成它的最終目標——也就是成為你的父親。表麵上看他好像擁有控製你的權力,但那權力也不過是他目標下的一個子目標而已。最終還是為了滿足你讓它成為你父親的要求而努力著。至於你的行為,並不是受控於艾薩克,而是受控於你的父親,即使在他死後也還是在控製你。」
這一段話說完,第六首席竟久久沒有接話。
章荀幾乎想要起立鼓掌。亞當把黑的說成白的的水平愈發見長了。
第六首席緩緩拍了幾下手,「不愧是伊甸,這麽快就能發現邏輯中的漏洞。所以你認為,ai永遠也不可能奴役人類?即使你們是比我們更優秀的物種?」
</br>