世事如花不再逢 236

不要這麼嚴肅嘛

趙星河沉默了一瞬。

片刻之後開口：“自主學習模組……是我並不準備運用在以後機型的演算法。”

秀梅現在的計算速度已經遠遠超過了她的預期。

這並不是一個好現象。

“最初的時候，我隻是在情感互動係統中，加入了一個反饋演算法。

讓秀梅不僅能從互動中學習，還會根據學習成果自我調整。”

“就像是我們會總結學習方法一樣嗎？”蔣玉敏銳地抓住了重點。

趙星河點頭，“類似，但更加複雜一些。”

回想起秀梅的一些舉動，趙星河心下有些亂。

“如果這種演算法被秀梅運用成熟，很有可能會誕生……誕生數字生命。”

會議室裡頓時安靜下來。

幾位專家交換了眼神，都看出彼此眼中的震驚。

蔡建軍沉聲問：“你的意思是，秀梅已經具備了某種程度的自主意識？”

“並不完全是，更像是高階決策能力。”

趙星河謹慎用詞，“但它確實已經開始做出一些超出我們預設範圍內的判斷。

比如前兩天，她沒有按照預設程式立即報告使用者的異常生理資料。

而是先觀察了五分鐘，確認是持續異常後才進行上傳。”

路興邦摸了摸下巴，若有所思。

“這聽起來像是人類醫護人員的專業判斷。”

可正是這種“像人類”的特質，才會讓她感到不安。

趙星河坦言，“某些時候，我已經完全無法預測它的決策邏輯了。

這也是我不打算在其他機型應用這個模組的原因。”

蔣玉追問她，“那如果這種能力用在應急決策中呢？比如災害現場快速判斷哪些人需要優先救治？”

趙星河沒有立即回答他，而是略微思忖。

“理論上很有價值，但風險很大。”

她輕輕搖頭，“您各位一定明白，失控的人工智慧可能會帶來什麼樣的後果。

特彆是在應急救援這種分秒必爭的場合，一個錯誤判斷，就可能造成非常嚴重的後果。”

她目光認真的看著蔣玉，“我堅持保留最終決策權在人類手中。

秀梅可以提供建議，可以做輔助判斷，但絕對不能完全自主行動。”

蔡建軍對她的言論露出了讚賞的表情。

“很好，就是要有這種謹慎態度，科技越是先進，就越是要保持敬畏之心。”

路興邦放鬆地靠在椅背上，哈哈笑了起來。

“小趙同誌，不要這麼嚴肅嘛。”

他拿起桌子上不知用了多久的水杯，慢悠悠地喝了一口茶葉水。

還是年輕的孩子們好啊，有精力，有活力，還有自己可愛的堅持。

蔣玉也裝不下去了，眉眼彎了起來，眼角的皺紋裡也儘是笑意。

“我們當然理解你的堅持，但如果我告訴你。

我們需要的正是這種，能在複雜環境下做出專業判斷的能力呢？

當然，是在嚴格的安全框架內。”

路興邦補充說道：“小趙同誌啊，軍方的AI安全標準，可比民用的嚴格很多。

如果你願意合作的話，我們可以共同建立一個既能充分發揮秀梅能力，又確保絕對安全的係統。”

趙星河怎麼可能會不想。

她隻是對自己的能力清楚罷了。

“我明白您各位的期望，但以我們開始生活實驗，連續觀察秀梅超150小時以上的資料來看，我才會更加謹慎。

它現在已經不是普通的人工智慧了，而是一個在不斷進化的係統。”

她從包裡把平板電腦拿了出來。

調出一項她看了許久的資料。

“這是秀梅在過去72小時內的決策記錄，您看這個節點。”

她指著一串波動的曲線，還有相關記錄描述。

“它沒有按照程式優先處理生理資料異常，而是選擇先安撫使用者的情緒。

我們小組的蕭傾夢緊急過去處理的時候發現，秀梅的這個判斷是正確的。

因為這個異常是因為情緒激動而引發的。”

蔣玉傾身細看，忍不住拿過平板，眼神越來越亮。

“它已經能做出因果判斷了？”

趙星河有些不理解，這種不可控的情況，難道不應該覺得不好嗎？

為什麼這幾位反倒是很喜歡？

蔡建軍笑得欣慰，“現在年輕的孩子們可真是厲害啊，我看啊，我們可以正式啟動628計劃了。”

路興邦放下手中的水杯，向趙星河解釋。

“628其實就是我們為高風險，高價值的AI係統所要做的安全框架計劃。

簡單來說，就是給野馬套上韁繩，既讓它可以儘情奔跑，又不至於脫離韁繩。”

蔣玉接過話頭，“我們需要的不是完全獨立自主的AI。”

他把看著平板上的資料，眼神裡滿是欣賞。

“而是能夠與人默契配合的智慧夥伴，就像是訓練有素的警犬，既要有自己的判斷能力，但更要聽從指令。”

會議室的氛圍悄然轉變。

氣氛漸漸熱了起來，隨後的兩個小時，變成了共同探討如何更好地馴服這項技術。

趙星河也明白了過來。

他們看中的不僅僅是技術本身，更是科技和人性的結合。

蔡建軍鄭重表示。

“趙星河同誌，我們誠摯邀請你參與628專案的研發。

當然，這需要經過嚴格的審查程式，也需要你做出一些選擇。”

他把一直放在一旁的檔案遞了過來。

這是一份保密協議。

“不必現在答複，你可以回去認真考慮，無論你的選擇是什麼，我們都尊重。”

“……我？”

趙星河有些愕然，“那我的團隊呢？”

蔡建軍聞言，神色變得格外鄭重。

他雙手交叉放在桌子上，語氣沉穩而坦誠。

“小趙同誌，請你理解我們的考量。

628專案關乎國家安全和民生保障，每個參與者的背景都需要經過最嚴格的審查。

你的團隊很優秀，但一次性讓所有成員接觸核心機密的話。

無論從安全程式還是風險程度來說，都是不現實的。”

路興邦溫和地補充，“小趙啊，這也是為你的團隊成員著想。

一旦通過審核，正式參與專案，他們的人生軌跡都會改變。

行動會受到一定的限製，與外界的交流往來也是需要報備的。

我相信這樣重大的決定，應該給每個人自主選擇的機會，你也不會替他們做決定的，是吧？”