會議裏大家頭腦風暴了獨立思考機器人通過即時就近組網模式共同決策的模式,遇到了機器人思維模式同化的問題。劉時空教授想到了張伍生是生物學方麵的專家,對於腦思維的電子讀取有許多研究,於是就這個問題征詢意見:\"師導說的的確是個大問題,伍生導師您是生物學專家,您看這個問題有什麽辦法呀。\"


    張伍生:\"龍生九子,各不相同。人機器人都是通過固定的程序和數據去計算,同樣的程序和數據得出同樣的精確結果,決策這種事情又不能隨機。我想到一個點,如果我們能夠采集人類的決策方法和思考模式,我是說大量人類,把這些思考模式放在大量的機器人上,是不是就可以共同決策了?\"


    師剛:\"這個想法很新穎!就是讀取大腦的技術很不成熟,不過理論上是可以的。\"


    唐斌:\"嗯,這個信息很重要,師教授還有什麽補充麽?\"


    師剛:\"暫時沒有了。\"


    唐斌:\"劉教授,來,你再談談你的看法呀。\"


    劉詩紅:\"那我就接著剛才的想法繼續談,先拋開軍事問題,如果機器人具有了獨立思考的能力,那麽機器人和人的區別,就隻是身體的結構了,機器人是不是就是一個矽基生命體了,《終結者》這部電影相信大家都看過,電影就變成現實了,有沒有可能更大的敵人不是敵國,而是自己創造的這些機器人了?\"


    孟玄艦:\"因此,必須保持遠程操控的優先權,確保機器人令行禁止。\"


    劉詩紅:\"這個問題,就像人有選擇的權利,人可以選擇呆在國內,也可以選擇出國生活,機器人有了獨立思考,會不會選擇自斷聯網的權利,或者從思想上拒絕遠程操控的優先權呢,我覺得這是很可能的。生物是多樣性的,機器人甚至不一定選擇要做一個人,他獨立的思想即使可以基於人的思想,超越人的思想,但是我們判斷這種超越,會向著哪個方向去。我還一個擔心,人類會出現相互戰爭,利益衝突,機器人和機器人之間有了獨立思考,會不會也像人類一樣發生內鬥,又有組網能力,吵架的過程就會變的非常迅速,相互戰鬥也不一定非得通過武力,甚至有可能是黑客攻擊快速戰勝敵人。\"


    唐斌:\"嗯,這個觀點也很重要!凡事都有兩麵性!來,張教授你怎麽看?\"


    張伍生:\"我非常讚同劉教授提到的生物多樣性觀點。獨立思考的機器人為什麽選擇人工智能,而不是獸工智能,為什麽要選擇做一個人,他沒有國家、民族的概念,沒有現在人類需要維持的宗教、信仰、資源的搶奪和經濟秩序,我們無法預知他們的選擇。我覺的我們需要撇開我們的思想,我明確一下獨立思考的機器人的機生目標的問題,這個目標才是引導他獨立思考的終極主因,一切預設的目標在完成後,都會被終極目標取代,甚至終極目標會讓他放棄預設的目標。\"


    孫小鵬:\"現在的機器人,設計多維人類形狀,或者機器狗,或者獨立的機械臂,采用行走的模式,但實際現在無人機的飛行技術已經非常的成熟,而且這方麵最好的技術和產品都在中國,深圳的太柏無人機的全球市場占有率達到了70%,現在民間主要用於航拍,治安領域則用於偵查,軍用領域一般都是用無人機執行單一任務。剛才大家提到的獨立思考的機器人技術如果嫁接在無人機上,讓無人機具備這種思考,機器人為何還要在陸地上行走呢?天空飛行無論從速度和還是靈活性上都比陸地上行走都占據極大的優勢。\"


    唐斌:\"你這個觀點很重要啊,跳出了重力的限製,也跳出了人思想的禁錮!李教授,你是項目組組長,你談談你的看法吧。\"


    李宇軒:\"我覺得首先我們要從約定上去限製機器人的應用,尤其是獨立思考的機器人,應該完全杜絕,對於執行單一任務的機器人,應該將其智力能力和活動範圍嚴格局限在特定的範圍內,為人類完成特定的使命。對於具有高度智商的機器人,應該嚴格遵守遠程控製脫離及失效的自毀能力,防止失控。我非常同意剛才大家談到的觀點,我認為對於失控,對於獨立思考機器人擺脫人類控製的顧慮,我的觀點是,這不是顧慮,這是必然,一旦打開這扇門,機器人失控就會成為宿命,人類將無法阻擋。\"


    孟玄艦:\"如果敵軍首先成功研發了這種機器人,大規模生產,大規模投放戰場,殲滅我們的戰士,我們當如何應對呢?敵人有了核武器,我們也有,形成核震懾,才能維持住今天國家國富民強的安穩局麵,如果敵人有了獨立思考機器人而我們沒有,豈不是讓我們的戰士白白送死,人民再度被欺壓。\"


    李宇軒眉頭緊皺,喝了口水,\"首先,要有世界公約的約束,約束不光針對我們自己,也要針對任何其他國家。就如同我們研究了爆破技術,我們不會把量級放大到毀滅地球一樣,我們在人工智能領域的應用,應該畫一個清晰的邊界。獨立思考的大規模機器人的存在和投放戰場,這大國之間的核戰不同,核戰,是相互毀滅,而大規模投放獨立思考機器人用於殺敵,這是相約自殺。\"


    唐斌:\"宇軒哪,咱們寫撇開顧慮,做一個假設,假設美國,已經在戰場上投放了機器人,規模巨大,戰鬥力強,對我們的作戰部隊造成重創!這時候我們應該做何反應呢?這時候去國際上譴責美國,當然是要去做的,但是解不了燃眉之渴。這可能也是孟首長想了解的,對吧?\",唐斌向孟玄艦點頭征詢,孟玄艦緊接著說:\"李教授,您最大的擔憂基於您認為獨立思考的機器人就注定會毀滅人類,還是我們的機器人武法戰勝敵國的機器人,您能具體闡述一下觀點麽?\"


    李宇軒:\"首長,我是想過一個問題,一山不容二虎,2011年開始美國重返亞太,給中國造成了一係列威脅,是基於第一大國對第二大國超越的擔憂,這不是哪屆總統的問題,而是中國快速發展必然要麵對的問題;美國不容有國家大國超越他。而人類,到目前也未曾發現有其他物種超越自己,假如,真的有這樣一個獨立思考的機器人物種存在了,智商和人類不相上下,甚至在人類之上,而人類還對他有生殺大權。在這種情況下,對於這些獨立思考的機器人物種而言,能夠在地球上容下人類麽?對於他們而言,消滅人類的優先級高,還是幫助一波人類消滅另一波人類的優先級高?\"


    孟玄艦:\"李教授考慮的非常周到,我想到時候機器人殺滅人類如同人類踩死螞蟻,而幫助人類進行國家戰爭,猶如人類帶著一波螞蟻去和另一波螞蟻廝殺,更大的可能性還是前者。\"


    在唐斌的主持下,各個領域的專家足足探討了三個小時,大家談了很多新穎的觀點,並沒有什麽結論,瑤謠做了完善的會議紀要。


    最後唐斌主持總結:\"這樣,今天非常感謝各位,尤其感謝孟首長的到來,科技強國,國防是國之根本,我們項目組,在未來的一段時間裏,要和孟首長經常打交道,今天大家談到的內容,非常關鍵,接下來我還會做一下梳理,向上級做一下匯報,最後會形成一個明確的科研方向,以產研結合落地應用為目標,形成一係列戰略優勢地位的產品,把我們的智慧貢獻給國家!


    最後再次強調,密級絕密,包括內容、人、時間,嚴格遵守!


    好!感謝各位,散會!\"


    接下來的半年,涉及人工智能方麵的探討,進行了數次,有幾次孟首長都帶著不同技術領域的軍方人員參與。李宇軒在項目領域也帶領著各位攻堅克難,輸出了一係列的國家層麵的落地應用。


    早在李宇軒博士後流動站工作時期,他就曾參與gfw(長城防火牆)的人工智能策略優化。長城防火牆的人工智能優化為國家的網絡安全防護提供了極高的即時策略優化能力,能夠自動分析網絡數據,發現對國家網絡安全有潛在風險的國外網站,並將他隔離在gfw之外。而這個項目也在民間帶來了一些負麵反響,有一些聲音指責中國的互聯網和世界的互聯網隔離開來。


    同時,李宇軒所在項目組的一些關鍵技術點也輸出給北鬥項目組和國家芯片研發項目,做出了相應的貢獻。


    2016年的春節剛過,瑤謠逐個通知了項目組成員到中科院開會,項目組核心成員參加,孟首長也在,並介紹了解放軍總參的鐵億智將軍共同出席。會議密級絕密,明確了研發任務:\"研發人工智能的戰略武器,即獨立作戰機器人,要求具有壓製對手的對等武器戰鬥能力,可用於裝備海陸空三軍,並具有獨立編製作戰能力。\"


    研發任務提出了幾點要求:


    1.獨立作戰機器人必須忠於黨,忠於人民,立場堅定,不畏犧牲。


    2.獨立作戰機器人需具備戰鬥素養,軍令如山並兼備群體作戰能力與獨立作戰能力、具有組織決策能力。


    3.組織信仰高於生命;保護人民群眾生命財產安全高於生命;時刻準備自我犧牲的能力。


    科研任務代號:逍遙遊,海陸空三型機器人代號: 靈鮭,靈獸,靈梟。


    鐵億智項目組黨委書記,唐斌擔任項目組組長,李宇軒擔任“逍遙遊”項目副組長,並隱藏項目身份利用全球創新學院副院長身份負責中美相關研究領域學術信息交流。項目組各自成員定期碰頭,不設置單獨的費用,由瑤謠作為接口秘書負責一切經費支付接口,相互花銷不設預算,瑤謠代號\"瑤\",公布了專用加密郵箱和電話,瑤會根據項目進展聯絡每位項目成員,同時鐵書記會給每個項目成員單獨交代一個核對方式,一切來自瑤的指令都必須進行核對,放可根據指示行動。


    是年3月,發展人工智能產業被寫入“十三五”規劃;國家工信部支持創建北京、天津、杭州、廣州、成都等第二批國家人工智能創新應用先導區;國家科技部支持建設多個人工智能創新發展試驗區,陸續批複北京、上海、天津、深圳、杭州等15個國家新一代人工智能創新發展試驗區。

章節目錄

閱讀記錄

觀海聽濤所有內容均來自互聯網,繁體小說網隻為原作者秋粥的小說進行宣傳。歡迎各位書友支持秋粥並收藏觀海聽濤最新章節