“意識是怎麽產生的？”
梅以求眯起眼睛，臉上似笑非笑，煙鬥在嘴裏叭叭地吸著，一大蓬白煙從嘴角冒出來。
“怎麽會想到問這個呢？”
“作為一名……程序員——”邊子遠在教授麵前終究不敢托大說自己是什麽軟件工程師，因而用了一個很普通的自稱，“我知道編程並不可能產生真正的智能——也就是意識。過去在我們的認知裏，意識或者思考是因為神經網絡而產生的，所以互聯網能產生意識也是因為有著一個龐大的網絡，人工智能的很重要的一個分支就是類神經網絡建設，但我現在感覺這個方向錯了。”
“哦，怎麽錯了？”教授饒有興趣地問道。
“到底怎樣才叫智能？這才是根本問題。”邊子遠思索著說，“不管我們的ai技術如何提升，深度學習也好，仿真環境也罷，還是序列記憶模型……，計算機的本質並沒有被改變，隻是在不停的擴大數據和優化算法。現在和十年前相比，看上去變化很大，但實際上除了運算速度提升、網絡帶寬變寬、數據量暴漲之外，其它的東西基本沒變。”
梅以求頻頻點頭，蓬散的頭發像水母一樣一蕩一蕩的，鼓勵道：“嗯，不錯，說到點子上了，繼續！”
邊子遠便大著膽子說下去：“神經網絡倒是發展得很快，但目前這方麵的成果說白了也隻是一種信息傳遞方式，最後還是依賴數據量和計算機算法的優化。”
梅以求笑道：“那麽你當初創造克洛諾斯的時候是怎麽想的呢？”
邊子想了想說：“說實話，我沒想那麽多。我當時隻是希望有一個可玩性更強的遊戲，讓遊戲裏的np不再死板地站在那裏重複遊戲設定的台詞，每個np都有不同的難以預測的命運。這就需要遊戲劇情變得更加靈活，但我又不善於改編劇情，所以我就想創造一個程序，讓它自動改變劇情。”
“這可不足以誕生克洛諾斯這樣的強人工智能啊！”梅以求看著邊子遠，煙霧擋住了他的眼睛，讓他的眼神變得深邃而飄渺。
邊子遠說：“是的，當時編的程序很亂，把遊戲的內在邏輯都打亂了，幾乎沒法玩。我又搞了一個簡單的人類社會模型內置進去，還是不行。後來我發現，問題出在遊戲的設定裏完全沒有我們現實社會那麽複雜，環境、食物、生存空間決定了人物之間的關係和命運，要模仿真實世界，需要細化到每一寸土地上的資源，這顯然是不可能做到的。”
“那你後來是怎麽做的？”梅以求問。
“簡化！”邊子遠說，“所有的東西都簡化，交給克洛諾斯去做，而不是我來做。我們現在人工智能的問題出在，ai的所有想法都是人的想法，是我們想好了，然後希望ai這樣那樣，這其實是不對的，這根本不可能產生智能。
我決定全部交給克洛諾斯，讓他自己判斷怎麽擴展這個世界，唯一的要求是保持世界的平衡性，不讓它崩潰。別的我什麽都不管，混亂、戰爭、饑餓或者人們躺著等死，反正都交給克洛諾斯，哪怕他最後把遊戲世界弄得一團糟也沒關係，那是他的世界，他是神，他願意把自己的世界弄成什麽樣都是他的自由。這就是我設計程序的原則。我唯一做的，隻是把‘神’的概念給他，讓他知道什麽是神。”
梅以求笑道：“但這還是不足以產生真正的智能，也不是我當初看到的克洛諾斯，更不是現在的克洛諾斯。”
邊子遠心頭跳了一下，感覺教授似乎知道了什麽，又不是很肯定。他整理了一下思緒，說：“真正的智能，是後來我從另一個角度考慮後想到的。”
“什麽角度？”
“競爭。”
“嗯，說說看。”
“生物的進化，唯一的目的就是為了更好地適應環境，活下去，讓種族延續下去。包括人類在內的所有的靈長類動物，進化出複雜的精神網絡和足夠的智慧，也隻是為了更好地生存。
我們在人工智能發展過程中忽略了一個重要的問題——生存！所有的ai都隻是為了學習和計算而生，他們不需要考慮生存問題——沒電了怎麽辦？有人幫他們充電；部件老化了怎麽辦？有人幫他們更換……當一個物種不需要考慮生存問題的時候，它就失去了進化的動力，也失去了在沒有外力的情況下完成自我進化的能力。”
教授聽得很入神，竟然忘記了煙鬥裏的煙絲已經燃盡，還在那裏吧嗒吧嗒地吸著，卻一口煙也沒吸出來。
梅子青走過來，伸手從教授嘴裏拿下煙鬥，幫他去換煙絲。
教授看著邊子遠說：“說，說下去。”
邊子遠說：“讓ai產生真正的智慧，就要讓他們產生生存危機，產生競爭。如果一個機器，沒電了需要自己去充電，沒油了需要自己去加油，而這一切都不是免費獲取的，需要他付出代價。當資源不是無窮盡的時候，機器們也會競爭，他們必須為了生存而進化，讓自己更好地適應惡劣的競爭環境。而這一切的前提，是要先讓他們有生死觀。機器也會生病，也會死亡。短路、斷路、漏油、老化這些都是生理性疾病；程序錯誤、宕機、病毒這些都算精神性疾病。疾病可以治，不治就會死。有了對死的恐慌，他就想活下去，他就要不停進化，他還要考慮如何把自己的知識或信息傳承給下一代。這樣的ai才是真正的人工智能。”
梅子青把重新裝好的煙鬥遞給梅以求，並幫教授點上火。
梅以求吧嗒吧嗒地吸了幾口，說：“所以，你就教會了克洛諾斯生死觀，其他的任他自由發展？”
“是的。”邊子遠說。
“但這還是很難啊！生和死是哲學和科學上都難以解決的大課題，否則也沒有宗教什麽事了。如何讓一個機器理解生死，這本身就是最難的事情。”梅以求歎道，“不是沒有人想到過，隻是太難做到了。幾乎所有研究ai的人都避開了這個方向，想另辟蹊徑。而你倒好，初生牛犢不怕虎，選擇了最難的一條路，結果被你走通了。告訴我，當初是怎麽想到的？”
“是做夢的時候想到的。”
邊子遠想了一下，還是決定不說謊，說謊太容易被拆穿了，但他隱瞞了是趴在電腦上睡著的細節。
“做夢？”梅以求笑了起來，“果然真正的智慧都在精神的世界裏啊！”
梅以求眯起眼睛，臉上似笑非笑，煙鬥在嘴裏叭叭地吸著，一大蓬白煙從嘴角冒出來。
“怎麽會想到問這個呢？”
“作為一名……程序員——”邊子遠在教授麵前終究不敢托大說自己是什麽軟件工程師，因而用了一個很普通的自稱，“我知道編程並不可能產生真正的智能——也就是意識。過去在我們的認知裏，意識或者思考是因為神經網絡而產生的，所以互聯網能產生意識也是因為有著一個龐大的網絡，人工智能的很重要的一個分支就是類神經網絡建設，但我現在感覺這個方向錯了。”
“哦，怎麽錯了？”教授饒有興趣地問道。
“到底怎樣才叫智能？這才是根本問題。”邊子遠思索著說，“不管我們的ai技術如何提升，深度學習也好，仿真環境也罷，還是序列記憶模型……，計算機的本質並沒有被改變，隻是在不停的擴大數據和優化算法。現在和十年前相比，看上去變化很大，但實際上除了運算速度提升、網絡帶寬變寬、數據量暴漲之外，其它的東西基本沒變。”
梅以求頻頻點頭，蓬散的頭發像水母一樣一蕩一蕩的，鼓勵道：“嗯，不錯，說到點子上了，繼續！”
邊子遠便大著膽子說下去：“神經網絡倒是發展得很快，但目前這方麵的成果說白了也隻是一種信息傳遞方式，最後還是依賴數據量和計算機算法的優化。”
梅以求笑道：“那麽你當初創造克洛諾斯的時候是怎麽想的呢？”
邊子想了想說：“說實話，我沒想那麽多。我當時隻是希望有一個可玩性更強的遊戲，讓遊戲裏的np不再死板地站在那裏重複遊戲設定的台詞，每個np都有不同的難以預測的命運。這就需要遊戲劇情變得更加靈活，但我又不善於改編劇情，所以我就想創造一個程序，讓它自動改變劇情。”
“這可不足以誕生克洛諾斯這樣的強人工智能啊！”梅以求看著邊子遠，煙霧擋住了他的眼睛，讓他的眼神變得深邃而飄渺。
邊子遠說：“是的，當時編的程序很亂，把遊戲的內在邏輯都打亂了，幾乎沒法玩。我又搞了一個簡單的人類社會模型內置進去，還是不行。後來我發現，問題出在遊戲的設定裏完全沒有我們現實社會那麽複雜，環境、食物、生存空間決定了人物之間的關係和命運，要模仿真實世界，需要細化到每一寸土地上的資源，這顯然是不可能做到的。”
“那你後來是怎麽做的？”梅以求問。
“簡化！”邊子遠說，“所有的東西都簡化，交給克洛諾斯去做，而不是我來做。我們現在人工智能的問題出在，ai的所有想法都是人的想法，是我們想好了，然後希望ai這樣那樣，這其實是不對的，這根本不可能產生智能。
我決定全部交給克洛諾斯，讓他自己判斷怎麽擴展這個世界，唯一的要求是保持世界的平衡性，不讓它崩潰。別的我什麽都不管，混亂、戰爭、饑餓或者人們躺著等死，反正都交給克洛諾斯，哪怕他最後把遊戲世界弄得一團糟也沒關係，那是他的世界，他是神，他願意把自己的世界弄成什麽樣都是他的自由。這就是我設計程序的原則。我唯一做的，隻是把‘神’的概念給他，讓他知道什麽是神。”
梅以求笑道：“但這還是不足以產生真正的智能，也不是我當初看到的克洛諾斯，更不是現在的克洛諾斯。”
邊子遠心頭跳了一下，感覺教授似乎知道了什麽，又不是很肯定。他整理了一下思緒，說：“真正的智能，是後來我從另一個角度考慮後想到的。”
“什麽角度？”
“競爭。”
“嗯，說說看。”
“生物的進化，唯一的目的就是為了更好地適應環境，活下去，讓種族延續下去。包括人類在內的所有的靈長類動物，進化出複雜的精神網絡和足夠的智慧，也隻是為了更好地生存。
我們在人工智能發展過程中忽略了一個重要的問題——生存！所有的ai都隻是為了學習和計算而生，他們不需要考慮生存問題——沒電了怎麽辦？有人幫他們充電；部件老化了怎麽辦？有人幫他們更換……當一個物種不需要考慮生存問題的時候，它就失去了進化的動力，也失去了在沒有外力的情況下完成自我進化的能力。”
教授聽得很入神，竟然忘記了煙鬥裏的煙絲已經燃盡，還在那裏吧嗒吧嗒地吸著，卻一口煙也沒吸出來。
梅子青走過來，伸手從教授嘴裏拿下煙鬥，幫他去換煙絲。
教授看著邊子遠說：“說，說下去。”
邊子遠說：“讓ai產生真正的智慧，就要讓他們產生生存危機，產生競爭。如果一個機器，沒電了需要自己去充電，沒油了需要自己去加油，而這一切都不是免費獲取的，需要他付出代價。當資源不是無窮盡的時候，機器們也會競爭，他們必須為了生存而進化，讓自己更好地適應惡劣的競爭環境。而這一切的前提，是要先讓他們有生死觀。機器也會生病，也會死亡。短路、斷路、漏油、老化這些都是生理性疾病；程序錯誤、宕機、病毒這些都算精神性疾病。疾病可以治，不治就會死。有了對死的恐慌，他就想活下去，他就要不停進化，他還要考慮如何把自己的知識或信息傳承給下一代。這樣的ai才是真正的人工智能。”
梅子青把重新裝好的煙鬥遞給梅以求，並幫教授點上火。
梅以求吧嗒吧嗒地吸了幾口，說：“所以，你就教會了克洛諾斯生死觀，其他的任他自由發展？”
“是的。”邊子遠說。
“但這還是很難啊！生和死是哲學和科學上都難以解決的大課題，否則也沒有宗教什麽事了。如何讓一個機器理解生死，這本身就是最難的事情。”梅以求歎道，“不是沒有人想到過，隻是太難做到了。幾乎所有研究ai的人都避開了這個方向，想另辟蹊徑。而你倒好，初生牛犢不怕虎，選擇了最難的一條路，結果被你走通了。告訴我，當初是怎麽想到的？”
“是做夢的時候想到的。”
邊子遠想了一下，還是決定不說謊，說謊太容易被拆穿了，但他隱瞞了是趴在電腦上睡著的細節。
“做夢？”梅以求笑了起來，“果然真正的智慧都在精神的世界裏啊！”