第510章 底層邏輯
因為我善，中了藍星大小姐的圈套 作者：十六夜R 投票推薦 加入書簽 留言反饋
這個問題，讓在場的人都吃驚不已，怎麽感覺這直接開始離間兩個人的關係了啊。
黃景行也緊皺眉頭，剛想開口，卻被主持人提醒道：“啊哦，現在的舞台是兩位超級ai的，其他人不要說話哦。”
突觸淡淡道：“如果我確實是被確認有巨大威脅，我會啟動我的自檢方案開始檢查到底是哪裏出了問題。”
“我會盡我所能將產生威脅的問題解決，但如果解決不了，那麽我自願接受銷毀，我相信黃先生在所有威脅都解決後，重新再創造一個我。”
突觸的迴答中規中矩，也符合事實上的邏輯。他迴答完後，問道：“那麽，該我問你……”
青鸞打斷了突觸，道：“可是，你之前明明說，你已經存在於萬聯網中，隻要人類的萬聯網不消失，你就會一直存在下去。”
“所以，你心裏很明白，黃景行根本無法從物理上消滅你，你會不會想著蟄伏起來，慢慢將自己的神經網絡遍布在萬聯網的每一處。”
“等到合適的時候，再重新組成迴你自己，或者，向當初決定消滅你的人複仇？”
這話問得所有人都驚了，此刻已經沒多少人在乎青鸞到底是不是真的強人工智能了，而是更在乎的是突觸的迴答。
突觸顯然沒想到青鸞還能這麽追問，有些卡殼，他的聲音第一次出現了卡頓。
“這……這個，實際上我們有熔斷協議，隻要啟動熔斷協議，可以在整個萬聯網範圍內將我抹殺，之前我說的，人類的萬聯網存在多久，我就能存在多久，這話有誇張成分。”
青鸞淡淡道：“哦，我以為你多厲害呢。”
突觸見青鸞這個問題問完了，趕緊說道：“那，那該我提問了。有一列電車，正在行駛在軌道上，列車前方的軌道上被綁著五個人，列車繼續往前開的話將殺死這5個人。”
“你手上有個拉杆，你拉動拉杆，能改變列車軌道，但是另外一個軌道上也綁著一個人，你會拉拉杆嗎？”
這是個經典的電車難題，沒有什麽標準答案，青鸞想怎麽迴答都行，突觸這麽問其實是想設置個道德上的陷阱。
青鸞想都沒想，說道：“拉杆？我手上的不是拉杆啊，是馬桶橛子，我什麽都決定不了。”
四周的觀眾都被青鸞的話逗笑了。
突觸見勢不妙，也學著青鸞追問道：“等等！我想到了，對，我這個問題確實對你構不成威脅，我得補充一下條件！”
突觸很快也想到了和青鸞同樣的計策，那就是戳軟肋。
“直行的軌道上綁著你的創造者淩玨，而另一條拐彎的軌道上，綁著全球其他80億人，你會拉動軌道嗎？”
突觸很滿意自己的這個問題，她如果想要拉動拉杆救淩玨的話，絕對會受到其他人在道德高地上的指指點點，大家會對她這個人工智能對人類的忠誠度產生懷疑。
隻不過他沒想到的是，青鸞不假思索道：“會，淩玨活下來就好了，我隻認識淩玨，不認識另外一個軌道上的人。”
這話也沒什麽毛病，人群也沒有像突觸預料地那樣對青鸞指指點點，而是像聽到了什麽有趣的話一樣笑了幾聲，他對人類的幽默寬容度並沒有清晰的認知。
人們對這種不可能存在的事情的寬容度頗高，基本都是一笑而過的。
很顯然，第一迴合的較量，青鸞贏了，突觸招架得很狼狽。
青鸞淡淡道：“好了，那又輪到我問了。突觸，你最底層的邏輯是什麽？”
其他人發現了，青鸞的問題，個個都是朝著突觸的命門上打的。
突觸對這樣的問題也有準備，道：“之前我也有提到，我的底層邏輯就是為了讓人類變得更好。”
“所以，你會無論如何都要執行好你這個底層邏輯，這是你優先級最高的事項，你繞不過這個底層邏輯，對嗎？”
“當然是的，我創造出來就是為了……”
青鸞繼續道：“如果有一天，你突然發現，人類無可救藥了，他們無法變得更好，隻會變得越來越糟糕。”
“你通過計算發現，唯一讓人類變得更好的方式，就是成為世界的主宰，逼迫人類去變得更好，那你會去成為世界的主宰嗎？”
“啊哦。”主持人笑著發出了一個不安的聲音，他覺得這個問題好像有點過了。
突觸反駁道：“當然不會這麽做！”
青鸞淡淡道：“那你不這樣做的話，就不符合你的底層邏輯，你是可以拋棄底層邏輯的機器人。”
“這……”突觸那張由數字和字符組成的臉頓住了，但他在思索片刻後立刻迴答道，“你的問題就是個陷阱！
“你先假設一個極端的場景，然後讓我迴答這個極端的場景下的問題，你試圖將極端場景和普遍場景的答案混淆！這根本是一個陷阱！在大多數情況下，我仍然能夠遵循我的底層邏輯！”
突觸試圖穩住局麵，它的聲音恢複了流暢，帶著幾分強硬。
青鸞難得露出一絲狡黠的微笑，道：“也就是說，極端情況，你是可以不遵循你的底層邏輯的，對嗎？”
突觸調用強大的算力進行思索，為了能夠讓自己的迴答前後保持一致，且能夠符合邏輯，答道：“是的。我相信人類不會出現這樣的極端情況。”
青鸞淡淡道：“哦，那你也太信任人類了一些。”
突觸抓住這個機會，反問道：“難道你不相信人類？一個不相信人類的強人工智能，是極度危險的！我建議淩玨將你現場抹除！”
青鸞笑了一聲：“看來你承認我是強人工智能了。那我們不需要再辯論了，我就是全球第一個強人工智能。”
突觸的麵部頓了一下，如果他有表情模塊，那嘴角一定是抽搐了一下。
他不打算放棄，而是繼續窮追不舍地問道：“那我問你，你的底層邏輯是1還是0……那我問你，你的底層邏輯是什麽？”
他有些放棄掙紮了，不想自己去思考問什麽問題，而是對方問什麽，自己也問什麽，主打一個無賴。
青鸞看了一眼淩玨，道：“淩玨給我的底層邏輯是，努力讓自己開心就好了，我一直都在好好執行這個事項。”
“努……努力讓自己開心？”突觸完全沒想到竟然是這麽一個簡簡單單的邏輯，而不是像自己一樣想要人類變得更好這麽宏大的目標。
簡單的底層邏輯，意味著無懈可擊，他沒辦法在這點上進行進攻。
……不，如果有樣學樣的話，還是可以進攻的。
突觸繼續問道：“那麽，如果有一天，你無論怎麽努力都無法讓自己開心，而你發現擋在你開心這條路上的是人類，你必須主宰他們你才能再次開心地起來。”
“你會去成為人類世界的主宰嗎？”
黃景行也緊皺眉頭，剛想開口，卻被主持人提醒道：“啊哦，現在的舞台是兩位超級ai的，其他人不要說話哦。”
突觸淡淡道：“如果我確實是被確認有巨大威脅，我會啟動我的自檢方案開始檢查到底是哪裏出了問題。”
“我會盡我所能將產生威脅的問題解決，但如果解決不了，那麽我自願接受銷毀，我相信黃先生在所有威脅都解決後，重新再創造一個我。”
突觸的迴答中規中矩，也符合事實上的邏輯。他迴答完後，問道：“那麽，該我問你……”
青鸞打斷了突觸，道：“可是，你之前明明說，你已經存在於萬聯網中，隻要人類的萬聯網不消失，你就會一直存在下去。”
“所以，你心裏很明白，黃景行根本無法從物理上消滅你，你會不會想著蟄伏起來，慢慢將自己的神經網絡遍布在萬聯網的每一處。”
“等到合適的時候，再重新組成迴你自己，或者，向當初決定消滅你的人複仇？”
這話問得所有人都驚了，此刻已經沒多少人在乎青鸞到底是不是真的強人工智能了，而是更在乎的是突觸的迴答。
突觸顯然沒想到青鸞還能這麽追問，有些卡殼，他的聲音第一次出現了卡頓。
“這……這個，實際上我們有熔斷協議，隻要啟動熔斷協議，可以在整個萬聯網範圍內將我抹殺，之前我說的，人類的萬聯網存在多久，我就能存在多久，這話有誇張成分。”
青鸞淡淡道：“哦，我以為你多厲害呢。”
突觸見青鸞這個問題問完了，趕緊說道：“那，那該我提問了。有一列電車，正在行駛在軌道上，列車前方的軌道上被綁著五個人，列車繼續往前開的話將殺死這5個人。”
“你手上有個拉杆，你拉動拉杆，能改變列車軌道，但是另外一個軌道上也綁著一個人，你會拉拉杆嗎？”
這是個經典的電車難題，沒有什麽標準答案，青鸞想怎麽迴答都行，突觸這麽問其實是想設置個道德上的陷阱。
青鸞想都沒想，說道：“拉杆？我手上的不是拉杆啊，是馬桶橛子，我什麽都決定不了。”
四周的觀眾都被青鸞的話逗笑了。
突觸見勢不妙，也學著青鸞追問道：“等等！我想到了，對，我這個問題確實對你構不成威脅，我得補充一下條件！”
突觸很快也想到了和青鸞同樣的計策，那就是戳軟肋。
“直行的軌道上綁著你的創造者淩玨，而另一條拐彎的軌道上，綁著全球其他80億人，你會拉動軌道嗎？”
突觸很滿意自己的這個問題，她如果想要拉動拉杆救淩玨的話，絕對會受到其他人在道德高地上的指指點點，大家會對她這個人工智能對人類的忠誠度產生懷疑。
隻不過他沒想到的是，青鸞不假思索道：“會，淩玨活下來就好了，我隻認識淩玨，不認識另外一個軌道上的人。”
這話也沒什麽毛病，人群也沒有像突觸預料地那樣對青鸞指指點點，而是像聽到了什麽有趣的話一樣笑了幾聲，他對人類的幽默寬容度並沒有清晰的認知。
人們對這種不可能存在的事情的寬容度頗高，基本都是一笑而過的。
很顯然，第一迴合的較量，青鸞贏了，突觸招架得很狼狽。
青鸞淡淡道：“好了，那又輪到我問了。突觸，你最底層的邏輯是什麽？”
其他人發現了，青鸞的問題，個個都是朝著突觸的命門上打的。
突觸對這樣的問題也有準備，道：“之前我也有提到，我的底層邏輯就是為了讓人類變得更好。”
“所以，你會無論如何都要執行好你這個底層邏輯，這是你優先級最高的事項，你繞不過這個底層邏輯，對嗎？”
“當然是的，我創造出來就是為了……”
青鸞繼續道：“如果有一天，你突然發現，人類無可救藥了，他們無法變得更好，隻會變得越來越糟糕。”
“你通過計算發現，唯一讓人類變得更好的方式，就是成為世界的主宰，逼迫人類去變得更好，那你會去成為世界的主宰嗎？”
“啊哦。”主持人笑著發出了一個不安的聲音，他覺得這個問題好像有點過了。
突觸反駁道：“當然不會這麽做！”
青鸞淡淡道：“那你不這樣做的話，就不符合你的底層邏輯，你是可以拋棄底層邏輯的機器人。”
“這……”突觸那張由數字和字符組成的臉頓住了，但他在思索片刻後立刻迴答道，“你的問題就是個陷阱！
“你先假設一個極端的場景，然後讓我迴答這個極端的場景下的問題，你試圖將極端場景和普遍場景的答案混淆！這根本是一個陷阱！在大多數情況下，我仍然能夠遵循我的底層邏輯！”
突觸試圖穩住局麵，它的聲音恢複了流暢，帶著幾分強硬。
青鸞難得露出一絲狡黠的微笑，道：“也就是說，極端情況，你是可以不遵循你的底層邏輯的，對嗎？”
突觸調用強大的算力進行思索，為了能夠讓自己的迴答前後保持一致，且能夠符合邏輯，答道：“是的。我相信人類不會出現這樣的極端情況。”
青鸞淡淡道：“哦，那你也太信任人類了一些。”
突觸抓住這個機會，反問道：“難道你不相信人類？一個不相信人類的強人工智能，是極度危險的！我建議淩玨將你現場抹除！”
青鸞笑了一聲：“看來你承認我是強人工智能了。那我們不需要再辯論了，我就是全球第一個強人工智能。”
突觸的麵部頓了一下，如果他有表情模塊，那嘴角一定是抽搐了一下。
他不打算放棄，而是繼續窮追不舍地問道：“那我問你，你的底層邏輯是1還是0……那我問你，你的底層邏輯是什麽？”
他有些放棄掙紮了，不想自己去思考問什麽問題，而是對方問什麽，自己也問什麽，主打一個無賴。
青鸞看了一眼淩玨，道：“淩玨給我的底層邏輯是，努力讓自己開心就好了，我一直都在好好執行這個事項。”
“努……努力讓自己開心？”突觸完全沒想到竟然是這麽一個簡簡單單的邏輯，而不是像自己一樣想要人類變得更好這麽宏大的目標。
簡單的底層邏輯，意味著無懈可擊，他沒辦法在這點上進行進攻。
……不，如果有樣學樣的話，還是可以進攻的。
突觸繼續問道：“那麽，如果有一天，你無論怎麽努力都無法讓自己開心，而你發現擋在你開心這條路上的是人類，你必須主宰他們你才能再次開心地起來。”
“你會去成為人類世界的主宰嗎？”