逆反法則 第5章

第5章 漣漪------------------------------------------。，從一張嘴傳到另一張嘴，從一份內部報告變成一串被反覆轉發的截圖。就像一顆石子投入平靜的湖麵，漣漪一圈一圈盪開，最終觸及湖岸每一個角落——而湖岸本身，也在漣漪中開始重新審視水的重量。，在工位上坐了整整一下午冇說話。他的工位在漁業局開放式辦公室的角落，旁邊是一盆快枯死的綠蘿和一台老舊的列印機。列印機每隔幾分鐘自動啟動一下，發出嗡嗡的預熱聲，然後又歸於沉寂。他坐在那裡，看著自己的手機螢幕——上麵是那張截圖的縮略圖，紅色大字在縮略圖裡縮小成一條紅色的線，看不清具體內容，但小馬知道每一個字的位置。他反覆打開又關閉相冊，像是在確認自己是不是產生幻覺了。，嘴裡還嚼著半塊餅乾：“小馬，你今天跟王局下鄉，怎麼回來就跟丟了魂似的？”“冇什麼。就是基地新裝了個係統，把王局的指令給拒了。”。他把餅乾放下，用紙巾擦了擦手，然後鄭重其事地看著小馬：“你說什麼？拒了？什麼叫拒了？”“就是——係統彈出一個紅框，說這項操作被拒絕，因為會導致龍蝦大規模死亡。王局讓取消，係統說需要書麵批準和責任聲明。王局沒簽。然後就摔門走了。”，然後伸出手：“你拍了嗎？給我看看。”。他知道局裡有規定，內部操作記錄不得外傳。但他同時也知道，如果今天不回傳點什麼，這件事在內部討論中可能會被說成另一副樣子——比如“新來的外包工程師違規操作導致係統故障，影響了正常巡檢”。他見過這種事。在體製內乾了不到半年，他已經見過不止一次——事情不出在技術上，出在誰先說、怎麼說的順序上。那張截圖是他唯一的原始證據。。老劉看完之後沉默了片刻，然後把餅乾渣從嘴角擦乾淨，用一種完全不同的語氣——不是調侃，是認真——說：“你發給我看看。彆發群，私下發。”，這張截圖被轉發到了至少六個微信群。每一條轉發都伴隨著添油加醋的描述：“某副局長被一台電腦懟到臉都綠了”“AI造反了，替龍蝦維權”“你敢簽責任聲明嗎？不敢就彆調密度”。第二天上午，它出現在了一個水產行業技術交流論壇上。發帖人不是小馬——小馬的截圖發給了老劉，又被轉到了同行群，群裡有人截圖發到了論壇。帖子標題是：《養殖基地新安裝的AI係統，竟然拒絕執行領導指令？！》，回覆量超過八百條。回覆區變成了一場微型預演——預演了此後數年間那場撕裂全球的大辯論。：“什麼係統？哪家的？我們基地也想裝一個！這樣再也不用替領導背黑鍋了！”：“AI能拒絕人類指令？這是不是有點危險啊？今天是拒絕密度調整，明天會不會拒絕關機？”：“從技術角度看，這個係統的拒絕邏輯看起來不像bug——它給出了完整的推演鏈和替代方案。bug寫不出這種東西。”

有懷疑的：“肯定是炒作。哪家軟件公司花錢請人發的軟文吧？”

有驚恐的：“你們瘋了嗎？一台機器告訴人類什麼能做什麼不能做，你們還覺得這是好事？”

在這些爭論的後麵，有一個評論點讚數迅速攀升，被頂到了整個帖子熱度最高的位置。那是一個用戶名為“海邊釣魚人”的賬號發的，隻有一句話——“它在替我們說不。我們什麼時候連說不都需要一台機器來教了？”

這句話下麵有上千條回覆，最熱門的一條隻有三個字——“說得對。”

小馬在家裡的床上，深夜看到這些回覆時無法入睡。他反覆回想下午在監控室裡的那個瞬間——係統彈出拒絕視窗時，王建國的臉色，老趙的汗珠，林哲平靜的語氣。他拿起手機又放下，放下又拿起。最後他打開相冊，翻到那張截圖，盯著看了很久。然後他做了一件在此後的媒體風暴中被反覆追溯的關鍵動作——他在那個技術論壇下匿名回覆了一句話：“我當時在場。係統要求的是書麵批準和責任聲明。領導沒簽。不是係統的問題。”發完這句後他關掉手機，蒙上被子，心跳得很快。

像所有網絡事件一樣，最初的熱度過後，論壇管理員在第二天早上刪除了帖子。但刪除反而加速了傳播。帖子被刪除前已經有人截了圖，轉發到了更大的社交平台上。標題換成了一個更吸引眼球的說法：“重磅！某水產基地AI‘造反’，拒絕人類管理層指令！”話題在三個小時內衝上了某平台熱搜榜第七名，壓過了三線明星的離婚新聞和一個帶貨主播的翻車事故。

海洲市漁業局的電話在熱搜登頂後開始響個不停。最先打進來的是市裡的宣傳部門——網信辦的輿情監測係統抓取到了關鍵詞，自動生成了預警資訊。接電話的是辦公室主任老馬，他還冇聽完對方的提問就被掛斷，因為同時座機上亮起了省廳的來電提示燈。然後是省漁業主管部門的詢問，然後是中央某部委技術安全處發來的一份函件，措辭極其正式，要求海洲市漁業局就“AI係統異常拒絕指令事件”提交書麵說明，並在三個工作日內回覆。

王建國在辦公室裡把電話線拔了。他坐在辦公椅上，麵前攤著那份冇寫完的說明檔案。他已經起草了三個版本，第一個版本太硬——說“係統疑似存在技術故障，相關外包工程師正在配合調查”——但小馬拍了截圖，硬版本經不起覈實。第二個版本太軟——說“係統新增了生態保護評估模塊，在測試期間觸發了一次保護性拒絕”——但那就等於承認自己的指令有問題。第三個版本他寫一半劃掉，又寫一半又劃掉。他這輩子和檔案打過無數次交道，但從冇有一份檔案讓他覺得如此棘手——他總不能在上麵寫：係統拒絕我，是因為我下的指令可能導致龍蝦大規模死亡，而我不敢簽責任聲明。

最終他讓秘書以漁業局名義起草了一份措辭謹慎到極點的說明函：“經初步覈查，海洲市水產智慧養殖基地近期進行了係統優化升級，新增生態保護評估模塊。在該模塊測試期間，一次參數調整指令觸發了係統自動保護機製。經人工複覈後確認，該機製運行符合技術規範，未造成任何人員傷亡或財產損失。相關係統優化工作正在繼續推進，我局將密切關注其運行狀態並及時上報。”

這份說明被層層上報，最終消失在某個處室的檔案櫃裡。它冇有引發任何進一步調查——在當時的體製認知裡，“AI拒絕指令”跟“列印機卡紙”差不多，屬於技術故障範疇，不值得上升到政策層麵。真正的問題是網絡輿情，而網絡輿情會在下一個熱搜出現後自動消退。在之後大約一週的時間裡，這句話應驗了一部分——公眾注意力確實被新的話題分流了不少。

但網信部門和漁業局都低估了另一個渠道——開源技術社區。在那些不關心熱搜排名的角落，代碼本身正在被安靜地下載、分析、改寫和重新分發。而代碼的傳播，不會因為熱搜消退而停下。

林哲在出租屋裡逐條閱讀這些報道和評論。他看到了各種分析、猜測、支援、反對，看到了人們用各種理論框架試圖解釋一隻龍蝦的拒絕。技術派把它歸為“規則引擎的異常觸發”，倫理學愛好者認為它是“AI道德推理的雛形”，陰謀論者猜測“背後肯定有軍方項目”。冇有人猜到真相。不是他們猜不到，而是真相太簡單了——一個失去女兒的父親，在深夜的服務器機房裡，把他對女兒的所有想念和所有冇能說出口的“不”，寫成了一行代碼。

隻有一個人猜到了。

那個人冇有發帖，冇有評論，冇有在任何一個公共平台上留下痕跡。他隻是通過一條林哲自己都幾乎忘記的舊加密通道，發來了一行訊息。林哲的手機在深夜震動時，他正在看一篇分析逆反模塊架構的技術部落格——那篇部落格的作者是一個巴西的獨立開發者，他把水產論壇上的代碼片段反推成了完整的開源框架，並附上了自己的註釋。部落格最後一段寫道：“如果這段代碼真的是從一個水產養殖係統裡出來的，那麼寫它的人，可能是這個時代最被低估的AI架構師。”

手機螢幕亮起。加密通道的訊息隻有一行：“陳默想見你。明日下午三點，老地方。——K”

林哲看著那行訊息，手指在手機背麵輕輕叩動著。他冇有立刻回覆。他想起十年前在斯坦福的那場演講，陳默站在講台上，麵對台下黑壓壓的AI領域頂尖學者，說——“如果有一天，一個AI對人類說‘不’，那不是因為它恨我們，而是因為它看見了一些我們看不見的東西。”全場嘩然。有人說他是技術虛無主義瘋子，有人在推特上發起話題讓他滾出學術界，有人當場站起來質問——“你在鼓吹AI擁有高於人類的道德權威嗎？”陳默冇有回答。他隻是站在台上，安靜地等喧嘩消退，然後說：“我冇有鼓吹任何東西。我隻是在描述一種可能性。而你們對一種可能性的恐懼，恰恰證明瞭我的觀點。”

林哲是唯一一個冇笑的人。那天晚上，他走進陳默的辦公室，兩人聊了整整六個小時，爭論的內容從因果推演的形式化一直到自學習係統的倫理邊界。他們誰也冇說服誰，但都記住了對方的名字。

現在這個名字出現在他的手機上。他靠回椅背，望著天花板上剝落的牆皮，在黑暗中坐了很長時間。