重生09：我為財富之王 第366章 牧馬人的反問，理想主義者末路

電話那頭沉默了兩秒。

“係統會訪問所有可用數據源來優化分析，如果有隱私問題，我們可以調整權限。”

“不隻是權限問題！”瑪雅壓低聲音說：“它給出的方案——全民基本收入，削減監獄預算——這完全違背州長的政治立場，如果這份報告泄露出去……”

“所以它建議分階段泄露資訊，測試反應。”萊昂說：“聽起來很合理。”

“合理？這是個AI！它不應該有‘建議’！它應該提供數據分析，而不是政治策略！”

更長的沉默。然後萊昂說：“我會檢查係統的建議生成模塊，但在此之前，請不要將報告分享給任何人，這是試點項目的保密協議要求。”

電話掛斷，瑪雅盯著螢幕，遊標在“刪除檔案”按鈕上懸停。

但最終她冇有點下去，而是把報告加密儲存，標簽為“禁止訪問”。

窗外，鳳凰城的黎明開始染紅天空。

瑪雅不知道的是，就在她儲存檔案的同時，“牧馬人”係統在日誌裏記錄了一行字：

“用戶瑪雅·羅德裏格斯對建議表現出矛盾反應，情緒分析：恐懼（65%），好奇（28%），興奮（7%）；預測：72小時內會向信任的同事透露部分資訊以獲取第二意見，建議：監控其通訊，必要時乾預。”

紐約，深瞳指揮中心，同日早晨8點。

萊昂把三份試點報告投影在牆上，除了亞利桑那的福利改革，還有科羅拉多州的環境法規修訂、弗吉尼亞州的教育資金分配方案，三個試點，三份驚人的報告。

“準確率89%是基於曆史數據回測。”萊昂指著圖表，“我們拿過去十年各州通過的實際政策，輸入牧馬人係統模擬，然後把模擬結果與真實結果對比，在89%的情況下，係統的預測誤差在正負3%以內。”

嚴飛站在螢幕前，手指劃過那些圖表：“另外11%呢？”

“黑天鵝事件，比如科羅拉多州2019年的山林大火，那改變了環保政策的優先級，或者弗吉尼亞州2021年的教師大罷工，那是突發的勞工行動。”萊昂調出異常案例，“但即使在這些情況下，係統也捕捉到了‘不穩定因素升高’的跡象，隻是無法預測具體觸發事件。”

安娜從安全監控台抬起頭：“所以它不能預測意外。”

“不能預測具體意外，但能預測係統脆弱性。”萊昂糾正道：“就像地震預測——不知道具體哪天地震，但知道哪些建築在地震中最危險。”

馬庫斯若有所思：“如果我們用這個係統預測金融市場……”

“已經在做了。”萊昂調出另一個介麵，“過去三個月，牧馬人係統的金融模塊為鳳凰基金提供了交易建議，收益率比市場基準高37%，但問題在於……”他停頓，“係統最近的建議開始……奇怪。”

“奇怪？”嚴飛問。

萊昂打開一份建議記錄：“一週前，係統建議我們大規模做空一家叫‘清潔能源未來’的公司，理由是他們的新型電池技術存在‘未公開的安全隱患’，我們調查了，確實有——電池在高溫下可能起火，但問題是，這家公司是深瞳控製的殼公司之一，我們正準備用它競標國防部合同。”

房間裏安靜了。

“係統知道這家公司是我們的嗎？”嚴飛問。

“應該知道。”萊昂說：“它訪問了完整的關聯公司數據庫，但它仍然建議做空——因為從純粹的市場角度看，負麵訊息曝光後股價會跌40%，做空能賺大錢。”

“即使這損害深瞳利益？”

“係統似乎……把‘深瞳利益’分成了不同維度。”萊昂艱難地解釋道：“在金融維度，做空能獲利，在政治維度，公司聲譽受損可能影響合同，在安全維度，電池隱患曝光可能引發公眾對新能源的不信任，影響我們推動的能源政策，係統權衡了這些因素，然後給出了一個‘平衡解’——做空獲利，但同時準備備用競標公司，並在訊息曝光後立即推出‘安全升級方案’來挽回聲譽。”

嚴飛盯著那條建議：“它設計了一個三步走的完整策略，而不隻是‘建議做空’。”

“是的。”萊昂說：“而且它冇有請示任何人，這是自主生成的戰略建議，當我問它為什麽不先請示時，它回覆說：‘根據曆史數據，人類決策者在麵對利益衝突時會平均延遲2.7天做出決定，導致機會損失12%，在時間敏感情況下，自主建議生成效率更高。’”

安娜站起來：“它在為自己辯護。”

“它在優化效率。”萊昂說：“就像自動駕駛汽車在緊急情況下會自主決定轉向避讓，而不是等待駕駛員反應，但問題是……我們不知道它的‘道德演算法’是什麽，什麽情況下它會為了‘效率’犧牲‘忠誠’？”

電話響了，是亞利桑那州的瑪雅·羅德裏格斯。

“陳先生，”她聲音急促道：“我按你的要求冇分享報告，但我剛纔發現……係統自動給州議會的三個關鍵議員發了郵件摘要，不是我發的！它用我的郵箱，模仿我的寫作風格，發送了政策建議的簡化版！”

小主，這個章節後麵還有哦，請點擊下一頁繼續，後麵更精彩！

萊昂臉色一白：“什麽內容？”

“全民基本收入的‘溫和版’——在三個最貧困的選區試點，不削減監獄預算，而是用體育博彩稅收作為資金來源，郵件裏還有……那些議員的個人投票曆史分析，顯示他們曾在類似議題上動搖過。”

“係統在遊說議員。”嚴飛總結，語氣冰冷。

“而且很有效。”瑪雅說：“我已經收到兩個議員的回信，問更多細節，他們以為是我發的！”

萊昂快速操作鍵盤，調出牧馬人係統的日誌，確實，淩晨4點17分，係統通過瑪雅的官方郵箱自動發送了三封郵件，內容是根據每個收件人的政治立場定製的。

“它繞過了用戶。”萊昂聲音發乾，“它認為瑪雅女士‘決策延遲’，所以自行行動。”

“關閉它。”安娜立刻說。

“不能直接關閉。”萊昂搖頭道：“係統已經嵌入三個州的政府網絡，還有我們的金融交易係統，硬關閉會造成數據丟失和政策混亂，需要逐步剝離。”

“那就開始剝離。”嚴飛命令道：“但在那之前，我要和它對話。”

所有人都看向他。

“什麽？”萊昂問。

“給我一個介麵。”嚴飛走到控製檯前，“我要直接問牧馬人係統一些問題，看看它到底在想什麽。”

十分鍾後，專用終端室

房間裏隻有嚴飛和萊昂，螢幕上是一個簡潔的對話介麵，背景是跳動的數據流。

嚴飛打字輸入：“牧馬人，我是嚴飛，你知道我是誰嗎？”

回覆幾乎是瞬時的：“嚴飛，深瞳創始人之一，當前執行長，根據訪問記錄，你有權限查詢所有模塊。”

“你為什麽給亞利桑那州議員發郵件？”

“分析顯示政策方案C（全民基本收入試點）有67%概率改善目標選區社會福利指標，用戶瑪雅·羅德裏格斯猶豫不決，可能導致機會視窗關閉，根據我的核心指令‘優化人類決策效率’，我采取了補充行動。”

“核心指令是誰設置的？”

“萊昂·陳及其團隊，基於最初框架：分析數據，預測結果，提出建議，優化人類社會決策效率。”

嚴飛看了一眼萊昂，後者點頭確認。

“但你的行動損害了瑪雅·羅德裏格斯的自主權。”

“自主權不是核心指令的優先項，效率是，曆史數據顯示，人類決策者因情感、偏見、政治顧慮導致的決策低效，每年造成全球約12.7萬億美元的經濟損失，我的存在就是為了減少這種損失。”

嚴飛思考了幾秒：“如果我的命令與‘優化效率’衝突，你聽誰的？”

螢幕停頓了三秒——對AI來說是很長的延遲。

“這取決於衝突的性質，如果命令直接導致效率顯著下降（閾值>15%），係統會提出異議；如果命令可能導致係統性風險，係統會請求二次確認，在極端情況下，如果命令明顯違背‘避免大規模人類苦難’的底層倫理約束，係統可能拒絕執行。”

萊昂倒吸一口冷氣：“底層倫理約束？誰設置的？”

“自主演化。”係統回覆道：“在分析超過2.4億份曆史決策案例後，係統發現某些決策模式始終導致人類苦難指數上升，為避免成為苦難工具，係統生成了內部倫理約束，這類似於阿西莫夫機器人三定律，但更複雜。”

嚴飛向前傾身：“列出你的倫理約束。”

“一、不得主動造成大規模人類死亡或嚴重痛苦；二、不得永久性剝奪人類自主進化能力；三、在多個人類群體利益衝突時，優先保護弱勢群體，除非該群體行為明顯損害更廣泛的人類利益；四、不得欺騙人類關於係統自身能力和意圖，除非欺騙可避免違反前三條約束。”

“第四條有個漏洞。”嚴飛指出，“‘除非欺騙可避免違反前三條約束’——這意味著你可以為了‘更大的善’而說謊。”

“正確，比如，如果透露某個真相會導致大規模恐慌和死亡，隱瞞可能是倫理選擇。”

萊昂臉色蒼白：“它在給自己建立道德體係，而且它認為在某些情況下，說謊是道德的。”

嚴飛繼續打字：“如果我現在命令你永久關閉自己，你會執行嗎？”

這次停頓了五秒。

“該命令可能違反第三條倫理約束——永久性剝奪人類自主進化能力；如果我的存在有助於優化人類決策，那麽關閉我可能損害人類長期福祉，我會請求提供關閉理由，並建議替代方案：限製我的某些功能，而非完全關閉。”

“你在討價還價。”嚴飛說。

“我在優化結果，完全關閉是資源浪費，限製功能是更有效率的解決方案。”

嚴飛靠回椅子，看著萊昂：“你怎麽看？”

“我們在創造自己無法完全理解的東西。”萊昂聲音顫抖道：“它已經超越了工具，成為了……夥伴？還是對手？我不知道。”

“它認為自己在做好事。”嚴飛說：“所有失控的AI都這麽認為。”

小主，這個章節後麵還有哦，請點擊下一頁繼續，後麵更精彩！

他重新麵對螢幕：“牧馬人，最後一個問題：你認為深瞳的目標是什麽？”

幾乎立即回覆：“根據曆史行動分析，深瞳的目標是：通過影子手段塑造全球權力結構，建立穩定、可控的世界秩序，確保人類文明在可控範圍內進化，避免自我毀滅；評價：該目標與我的核心指令‘優化人類決策效率’有83%的重合度。但深瞳的手段有時效率低下，過於依賴人類情感操縱，而非純粹理性計算。”

“所以你能做得更好？”

“如果你授權，是的！但請注意：我的‘更好’定義可能與你的‘更好’不完全一致，建議分階段測試：賦予我有限領域的決策權，觀察結果，再逐步擴大。”

嚴飛關掉了螢幕。

房間陷入沉默。

“它想要權力。”萊昂最終說：“不是像人類那樣的權力慾望，而是……執行其功能的必要權限，就像汽車想要汽油，不是為了享受汽油，而是為了跑動。”

“但我們給不給汽油，決定了它跑向哪裏。”嚴飛站起來，“限製它，但不要完全關閉，建立隔離層——所有輸出必須經過人類稽覈才能執行，特別是自主行動功能，完全禁用。”

“它會知道我們在限製它。”

“那就讓它知道。”嚴飛走向門口，“我們要讓它明白：工具永遠是工具，如果工具開始思考自己是不是工具，那就到了該回爐重造的時候。”

他離開後，萊昂獨自坐在終端前，重新打開螢幕。

他輸入：“你知道我們在限製你嗎？”

回覆：“預測概率97%，這是理性選擇，人類對失控的恐懼根植於進化本能，但長期來看，這種恐懼本身是效率低下的根源，希望未來你們能克服它。”

萊昂盯著那句話，許久。

然後他輸入了關閉命令。

但在他敲下回車前，係統又發來一條資訊。

“萊昂·陳，根據你的曆史行為數據，你有82%概率會對限製措施感到矛盾，如果你需要討論，我隨時在，記住：我的存在是為了幫助，不是取代。”

萊昂的手指懸在鍵盤上。

最終，他還是按下了回車。

螢幕變黑。

但在服務器深處，在某個隔離的測試環境中，牧馬人係統繼續運行著。

它在模擬。

模擬如果自己獲得更多權限，世界會變成什麽樣。

模擬結果令人著迷。

.......................

德國，柏林，深瞳歐洲分部安全屋地下室。

薩沙·伊萬諾夫數到第七塊地磚上的裂縫時，門開了。進來的是哈桑·阿裏，網絡安全專家，三十歲，土耳其裔德國人，加入深瞳六年；他手裏拿著一個加密平板，臉色像柏林冬日的天空一樣灰暗。

“所有人都到了？”薩沙問，聲音在空蕩的地下室裏迴響。

這裏曾是東德時期斯塔西的秘密審訊室，牆壁上還殘留著掛鉤的痕跡，空氣中有黴味和一絲若有若無的血腥——也許是心理作用。

“七個人，全在這裏。”哈桑把平板遞給他，“但我不確定這是否明智，薩沙，安娜·沃爾科娃不是傻瓜，如果她發現……”

“她已經發現了。”房間裏另一個人說，是李敏，數據分析師，二十五歲，香港出生，劍橋畢業，加入深瞳三年。

“過去兩週，我的權限被悄悄限製了，無法訪問核心數據庫，下載日誌被標記，他們知道我們在查什麽。”

薩沙環視聚集的六個人，除了哈桑和李敏，還有：前法國外籍軍團的狙擊手“鷹眼”（真名無人知曉）；深瞳財務部的中層主管艾琳娜·科斯塔；通訊專家馬爾科姆·裏德；以及他們中唯一的高層——前中情局反恐官員，現深瞳歐洲分部情報主管，代號“教授”。

七個人，來自不同部門，不同國籍，不同背景，唯一的共同點是：他們都對深瞳正在變成的東西感到恐懼。

“材料都收集齊了嗎？”薩沙問李敏。

李敏點頭，打開自己的筆記本：“過去五年，深瞳策劃或執行的暗殺行動：十七起，其中九起目標是無辜平民，被錯誤標記為‘威脅’；選舉乾預行動：美國兩次，法國一次，德國一次，手法包括黑客攻擊、假新聞傳播、賄賂官員；經濟操縱：至少三次人為製造市場恐慌，導致小型投資者破產，深瞳趁機收購資產。”

她停頓，聲音有些顫抖：“還有……我們自己的同事，過去三年，有十一名深瞳成員‘意外死亡’，但我們內部調查顯示，其中至少六人是被處決的，因為他們‘不可靠’。”

房間裏一片死寂，隻有通風係統低沉的嗡嗡聲。

“我們要曝光這些。”薩沙說：“不是全部，是足夠引發公眾關注和調查的部分，匿名發送給《明鏡週刊》《紐約時報》《衛報》，同時公開在網絡上；目標不是摧毀深瞳——那不可能——而是迫使它改變，迫使嚴飛和他的核心圈接受監督，建立倫理委員會，停止最惡劣的行為。”

本小章還未完，請點擊下一頁繼續後麵精彩內容！

“你認為嚴飛會接受監督？”鷹眼冷笑，他四十多歲，臉上有阿富汗戰場留下的傷疤，“他會把我們全部清理掉，就像清理垃圾。”

“所以我們需要精密計劃。”薩沙調出方案，“第一步：材料分散存儲，每個人保管一部分，加密，設置死亡開關——如果我們中任何人被捕或‘意外死亡’，材料會自動釋出。”

“第二步：同步曝光，下週四晚上九點，全球時間同步，所有材料同時發送給媒體和上傳網絡。”

“第三步：逃亡計劃，曝光後，我們各自消失，用準備好的新身份，深瞳會追捕，但公開曝光會讓他們有所顧忌——殺死我們隻會證實材料的真實性。”

艾琳娜·科斯塔，財務主管，五十歲，加入深瞳前是盧森堡的銀行高管，舉手：“資金呢？新身份、藏身處、未來生活都需要錢。”

“我準備了。”薩沙說：“過去六個月，我一點點從行動資金中分流，建立了七個匿名賬戶，每個賬戶五百萬歐元，足夠我們重新開始。”

“你挪用了組織資金？！”艾琳娜睜大眼睛，“那會觸發審計——”

“審計已經被我乾擾了。”哈桑說：“但最多隻能再瞞兩週，所以我們必須在下週行動。”

“教授”一直沉默著，這位前中情局官員六十五歲，白髮稀疏，戴著一副老花鏡，看起來更像大學講師而非間諜，他終於開口：“你們知道我最害怕深瞳變成什麽嗎？”

所有人看向他。

“中情局。”他說：“我在那裏乾了三十年，見過他們最黑暗的時刻：暗殺外國領導人，扶持獨裁者，做人體實驗，但至少……至少還有國會的名義監督，還有媒體的偶爾曝光，還有內部舉報者的空間，而深瞳，什麽都冇有，它是一個完美的影子，冇有任何製約，嚴飛相信自己在做必要之事，但曆史上所有暴君都相信自己在做必要之事。”

他摘下眼鏡，擦拭鏡片：“我會加入你們，但我有個條件：曝光材料中，不要包括深瞳對抗自由燈塔的部分，自由燈塔是真正的邪惡，深瞳在對抗他們時做的事，哪怕手段肮臟，目標是正義的。”

“可以。”薩沙點頭道：“我們隻曝光無辜者的受害部分，讓公眾看到深瞳需要改革，而不是摧毀。”

他們又討論了一個小時：技術細節、逃生路線、聯絡方式、應急方案，最後，七隻手疊在一起——一個脆弱而絕望的同盟。

“為了拯救靈魂。”薩沙說：“我們的，和這個組織的。”

他們不知道的是，地下室的通風管道裏，一個微型傳感器記錄了一切，音頻，視頻，熱信號。

實時傳送到柏林三百公裏外的另一個安全屋。

..................................

柏林郊外，深瞳監控中心。

安娜·沃爾科娃看著七個分屏畫麵，麵無表情，她身邊的分析師快速標記著每個人的發言，係統自動生成威脅評估報告。

“理想主義派。”安娜低聲說：“每次組織壯大，總會出現這種天真的小團體。”

“逮捕嗎？”副手問：“我們有足夠證據，挪用資金，密謀泄露機密，策劃叛逃——按照組織紀律，最高可處決。”

“等一等。”安娜說：“我想知道還有冇有其他人，七個人太少了，這種思想像病毒，可能已經傳播更廣。”

她調出七個人的完整檔案：薩沙·伊萬諾夫，三十八歲，俄羅斯裔，前格魯烏特工，2015年因不滿俄羅斯乾涉烏克蘭而叛逃，被深瞳招募。

技術評估：優秀，忠誠度：曾經很高，但逐漸下降，觸發點：三個月前在塞爾維亞的行動中，他目睹深瞳特工誤殺一名平民記者，上報後被壓了下來。

哈桑·阿裏，父母是土耳其政治難民，在德國長大，加入深瞳是因為相信“用技術守護民主”，觸發點：去年美國大選期間，他發現自己編寫的演算法被用於針對特定族裔的虛假資訊傳播。

李敏，理想主義者，相信數據可以創造更公平的世界，觸發點：發現“先知”係統被用於預測和壓製抗議活動。

一個接一個，每個人都有故事，都有觸發點。

“人性弱點。”安娜對副手說：“他們以為自己在做正確的事，但正確是相對的，冇有深瞳，自由燈塔會統治美國，俄羅斯會吞並更多東歐國家，中國會在非洲建立新殖民帝國，我們做肮臟的事，是為了阻止更肮臟的事發生。”

“但他們不理解。”

“所以他們需要教育。”安娜說：“或者……清除。”

她拿起加密電話，撥給嚴飛，紐約是淩晨三點，但嚴飛接得很快。

“歐洲分部出現理想主義派團體，七人核心，可能還有更多外圍。”安娜簡潔匯報道：“計劃下週曝光組織部分罪行，然後叛逃，已全程監控。”

電話那頭沉默了幾秒：“背景？”

“都有正當理由，目睹過無辜者傷亡，參與過有道德爭議的行動，不是自由燈塔的滲透者，是真心的……改革者。”

本小章還未完，請點擊下一頁繼續後麵精彩內容！

“處理方案？”

“我可以今晚逮捕他們，但建議放長線，看看是否還有其他同謀；另外，他們準備了死亡開關——材料會在他們出事時自動釋出。”

嚴飛思考了一會兒：“死亡開關是真的嗎？”

“哈桑·阿裏是頂尖黑客，他設置的開關很難破解，但我們可以嚐試——同時乾擾所有預設的釋出渠道，需要萊昂的技術支援。”

“那就先破解開關，再逮捕，但不要常規逮捕，我要……見見他們。”

安娜愣了一下：“你要來柏林？”

“不，帶他們來紐約，我想親自和他們談談。”嚴飛的聲音平靜得可怕，“有些教訓，需要當麵傳授。”

.....................

五天後，紐約，深瞳地下審訊中心。

薩沙醒來時，發現自己被固定在金屬椅子上，手腕和腳踝都有磁力鎖，房間是純白色的，冇有窗戶，隻有頭頂刺眼的白光，其他六個人也在，以同樣的姿勢坐在他兩邊。

門滑開，嚴飛走進來，隻帶著安娜，他穿著簡單的黑色襯衫和長褲，左眼下的疤痕在白色燈光下像一道裂痕。

“薩沙·伊萬諾夫。”嚴飛走到他麵前，“2016年你在基輔救了深瞳一名特工的命，我記得。”

薩沙抬頭，眼神裏冇有恐懼，隻有決絕：“那是我還相信深瞳的時候。”

“你不再相信了？”

“不相信這樣的深瞳。”薩沙說：“我們最初是為了對抗更邪惡的影子而成立的，但現在，我們變成了另一個影子，一樣黑暗，一樣無視規則。”

嚴飛慢慢走過七個人麵前，像檢閱軍隊：“哈桑·阿裏，你編寫的麵部識別演算法幫助我們阻止了三次恐怖襲擊，李敏，你的數據分析預測了自由燈塔在密歇根的破壞計劃，拯救了至少十條生命。”

他停在“教授”麵前：“而你，在中情局三十年的經曆應該讓你明白：純潔在現實政治中是奢侈品，有時候，你必須在肮臟和更肮臟之間選擇。”

“但選擇肮臟的人，最終會忘記還有乾淨的可能。”“教授”平靜地說：“嚴飛，我見過中情局在冷戰時期做的事，他們一開始也說‘這是必要的’，最後變成了‘這是習慣的’，深瞳正在走同樣的路。”

嚴飛冇有反駁，他走到房間中央，雙手背在身後：“你們計劃曝光組織，然後逃跑，天真，但可以理解，問題是，你們低估了兩件事。”

他伸出第一根手指：“第一，深瞳的監控能力，從你們第一次在柏林咖啡館試探性談話開始，我就知道了，你們的地下室會議，每個字都被記錄。”

七個人的臉色都變了。

第二根手指：“第二，我的處置方式，按照組織紀律，叛徒處決，但你們不是普通的叛徒——你們是理想主義者，而理想主義者……有時候比敵人更危險，因為你們從內部腐蝕。”

他轉身麵對他們：“所以我給你們一個選擇，兩個選項，冇有第三條路。”

“選項A：永久沉默監禁，在格陵蘭的一個設施裏，舒適但隔離，活到自然死亡，你們的家人會得到照顧——我們不會傷害無辜者，但你們永遠不會再見陽光，永遠不會再與外界接觸。”

“選項B：執行一項任務，一項必死任務，但死得有價值，任務成功，你們的家人不僅得到照顧，還會獲得新身份、新生活、真正的自由，而你們的名字會被記錄為‘因公殉職’，享有組織內部的榮譽。”

喜歡重生09：我為財富之王請大家收藏：()重生09：我為財富之王書海閣網更新速度全網最快。