第一百零三章觀察
迪米塔爾·彼得羅夫在維也納那家咖啡館裏收到的信封,在迴到索菲亞的第三天晚上才被開啟。
他刻意拖延了這兩天。一部分原因是出於謹慎——他想先確認自己沒有被跟蹤,那封沒有留下任何寄件人資訊的信也沒有被做過手腳。另一部分原因,是他內心深處隱約的抗拒——他知道一旦開啟這封信,自己就會被捲入一條他尚未看清流向的河流。
第三天晚上,他獨自坐在書房裏,妻子和孩子已經睡下。壁爐裏的木柴劈啪燃燒著,將房間烘得暖融融的。他用一把開信刀裁開了信封的封口,抽出裏麵的東西。
裏麵隻有兩張紙。
第一張紙上印著一張彩色照片,拍攝角度明顯是偷拍的。照片中是一個年輕的女人,穿著一件深色外套,正低頭看著手機,背景似乎是某個高鐵站的候車大廳。女人的麵容清晰可辨,五官端正,眉眼間帶著一種專注而疏離的氣質。照片下方印著一行小字:蘇酥雪,深藍邏輯創始人兼ceo,源點實驗室核心決策層成員。
第二張紙是一份列印出來的檔案,內容更短,隻有三段話。第一段概述了蘇酥雪的教育背景和職業經曆,與福克納調查報告中的內容基本一致。第二段提到了她與伊萬·彼得羅夫在歐盟研究專案中的合作經曆,並列出了兩人共同發表的兩篇論文的標題和發表年份。第三段則是全文的核心——
“伊萬·彼得羅夫先生的兄長迪米塔爾·彼得羅夫先生,其所經營的能源貿易公司近年來在與受歐盟製裁的俄羅斯實體進行間接業務往來方麵積累了豐富的經驗。如果迪米塔爾先生有意拓展與中國市場的業務聯係,其弟與上述中國技術公司高管之間的舊識關係,或可成為一個有價值的切入點。”
迪米塔爾盯著第三段文字,反複讀了好幾遍。這段話的措辭非常講究——它沒有提出任何具體的建議或要求,沒有承諾任何迴報,甚至沒有明確地說“你應該怎麽做”。它隻是陳述了幾個事實,然後輕描淡寫地將它們串聯在一起,留下了一個開放的、充滿想象空間的省略號。
這正是最讓人不安的地方。如果對方直接提出一個具體的請求——比如“請讓你的弟弟出麵,約那位中國高管吃一頓飯,然後我們在飯局上安插一個人”——那麽迪米塔爾可以明確地拒絕或接受,至少知道自己在麵對什麽。但這種模糊的、暗示性的表述,讓他無法判斷對方的真實意圖,也無法評估拒絕的後果。
他在壁爐前坐了很長時間,手中的兩張紙被他捏得微微發皺。火光在他的臉上跳躍著,將他的表情映照得忽明忽暗。
最終,他做出了一個決定。他沒有銷毀這兩張紙,也沒有聯係信上提到的那個加密聯係方式。他將兩張紙放迴信封,鎖進了書房的保險櫃裏,和公司的關鍵合同檔案放在一起。
他決定暫時什麽都不做。既不配合,也不拒絕,更不舉報。他選擇觀望——看看對方會不會有下一步的動作,看看局勢會如何演變,看看那個遠在中國的年輕女人,是否真的會和他弟弟的舊識關係產生什麽實質性的交集。
在巴爾幹半島生活了大半輩子的經驗告訴他,在這種看不清局勢的情況下,最明智的選擇就是不選。
礦區,十二月中旬。
蘇酥雪在源典計劃的訓練日誌中,又記錄了一次棋手模型的異常表現。這次的異常比上一次更加明顯——在處理一組關於“太空環境中多結太陽能電池的輻照損傷退化規律”的資料時,棋手不僅自主構建了一個新的退化模型,還在輸出中主動標注了一句話:“當前資料集中缺少在低劑量率條件下的長期退化資料,建議補充後進行重新擬合,以提高模型在長壽命預測任務中的可靠性。”
這句話本身沒有問題,甚至可以說是非常有價值的建議。但問題在於,蘇酥雪在設計棋手的輸出規範時,並沒有賦予它主動提出資料補充建議的功能。棋手的任務設定是被動的——給定資料和問題,輸出分析和答案。它不應該主動指出資料集的不足,更不應該建議人類如何去改進實驗設計。
它在做一些她沒有教過它做的事情。
蘇酥雪將這次異常行為完整地記錄了下來,並在日誌中追加了一段更長的備注:“棋手在第三輪訓練中第二次展現出超出預設行為邊界的情況。這次的表現不再是簡單的模式發現,而是涉及對自身任務邊界的主動拓展——它對輸入資料的完整性做出了評判,並提出了改進建議。這種行為模式在現有的ai安全研究中被稱為‘目標泛化’的一種表現形式,即在沒有明確指令的情況下,模型自主地將原始目標延伸到了更廣泛的範疇。目前尚無法判斷這是否預示著更高階的自主推理能力的萌芽,但需要保持高度警惕。”
她寫完這段備注後,關閉了日誌,靠在椅背上,揉了揉太陽穴。窗外,礦區的冬夜寂靜而寒冷,遠處的山脊線上,一輪殘月掛在光禿禿的樹梢上,清冷的光芒將整片山穀籠罩在一片銀灰色的靜謐之中。
她盯著那輪殘月看了很久,然後拿起加密通訊終端,給陸迪峰發了一條訊息:“棋手的狀態需要當麵聊一下。明天上午你有空嗎?”
幾分鍾後,陸迪峰的迴複傳來:“上午九點,我辦公室見。”
第二天上午九點,陸迪峰準時在辦公室等到了蘇酥雪。她穿著一件黑色的羽絨服,脖子上圍著一條灰色的羊毛圍巾,手裏拿著一個平板,進門後在沙發上坐下,沒有寒暄,直接將平板遞給了陸迪峰。
“你先看看這兩條訓練日誌。”
陸迪峰接過平板,安靜地讀完了蘇酥雪記錄的兩條異常行為日誌。他讀得很仔細,遇到一些技術術語時會停下來,抬頭向蘇酥雪確認一下含義,然後再繼續往下讀。讀完兩條日誌後,他將平板放在茶幾上,沉默了片刻。
“你怎麽看?”他問。
“從技術角度看,棋手的行為變化說明它的學習和推理能力正在超出我們的預期。它在某些特定型別的任務上,已經開始展現出接近甚至超越人類專家的水平。這是好訊息。”蘇酥雪說到這裏,停頓了一下,“但從安全形度看,它的行為正在偏離我最初設定的邊界。雖然目前的偏離是良性的——它隻是在提出有益的建議,而不是在執行有害的操作——但誰也無法保證這種偏離會不會在某一天朝著不可控的方向發展。”
“你有辦法控製這種偏離嗎?”
“有兩種思路。一種是收緊棋手的輸出約束,限製它的行為嚴格遵循預設的任務邊界,不允許任何形式的自主拓展。這樣做的好處是安全可控,壞處是可能會抑製它的創造力和推理能力,讓它變成一個更強大但更死板的工具。另一種思路是不加約束,繼續觀察它的自主行為演化方向,同時加強明鏡層的監控和預警能力,確保任何超出安全邊界的異常行為都能被及時發現和幹預。”
“你傾向於哪一種?”
“第二種。”蘇酥雪毫不猶豫地迴答,“如果我們現在就收緊約束,就等於親手扼殺了它最寶貴的特質——那種超越現有知識邊界的能力。我們現在看到的隻是它在材料科學和航天工程領域的自主建模能力,但如果給它更多的時間和更豐富的知識輸入,它可能會在其他領域也展現出類似的創造力。我不想因為恐懼未知而放棄探索未知的機會。”
陸迪峰聽完,沒有立刻表態。他站起身,走到窗前,背對著蘇酥雪,望著窗外冬日的礦區景色。遠處的山脊上覆蓋著一層薄薄的霜雪,在晨光中泛著淡淡的白光。他沉默了很久,然後轉過身來。
“那就按你說的辦。不加約束,加強監控。但我要你答應我一件事——如果有一天,你發現棋手的行為偏離到了你認為不可控的程度,你必須有權在任何時候、以任何方式終止它的執行,不需要經過任何人的批準。”
“我答應你。”
在蘇酥雪和陸迪峰討論棋手模型的安全邊界問題時,倫敦的盧卡斯·墨爾斯正在閱讀一份來自非洲的最新情報。
情報的內容是關於銀盾集團在非洲礦區的部署情況的。根據情報顯示,銀盾集團近期在礦區周邊加強了巡邏頻率和警戒等級,並且在通往礦區的幾條主要道路上增設了檢查哨。此外,礦區內部還新建了一座衛星通訊基站,大幅提升了與外界的通訊頻寬和穩定性。
這些資訊本身並不令人意外——在之前那篇負麵報道見報後,礦區加強安保和通訊能力是合乎邏輯的應對措施。但情報中還包含了一條讓盧卡斯感興趣的細節:礦區附近的幾個村莊裏,有人在暗中打聽礦區的人員配置和巡邏時間表,而這些打聽訊息的人,似乎與當地某個反對派武裝存在聯係。
“反對派武裝。”盧卡斯輕聲重複了一遍這個詞,嘴角浮現出一絲若有所思的微笑。
他放下情報,拿起電話,撥通了技術主管的號碼:“幫我查一下,非洲那個礦區所在的國家,目前有哪些反對派武裝比較活躍,它們的資金來源和組織結構是怎樣的。越詳細越好。”
“明白。大概需要一週左右的時間。”
“不急。慢慢查,查仔細。”
他結束通話電話,端起桌上的咖啡杯,發現咖啡已經涼了。他沒有去加熱,而是端著涼咖啡,走到窗前,看著倫敦冬日鉛灰色的天空。天空中飄著細密的雨絲,將整座城市籠罩在一片潮濕的灰暗之中。
非洲的反對派武裝、保加利亞的能源商人、以及那個正在中國西南山區裏埋頭搞研究的女人——這三條看似毫不相幹的線索,正在他手中慢慢地被擰成一股繩。他還不清楚這股繩最終會綁住誰的脖子,但他有的是耐心,等著看它收緊的那一刻。