張遠又想起入職培訓時講師說的那句話。人類是演算法的調音器,不是備用大腦。但調音器如果調得太快,聲音就失真了。
掛了電話,張遠發現自己已經徹底清醒了。他從床上爬起來,走到書桌前翻開那本《人機互動中的信任校準》,正好翻到折角的一頁。上麵寫著:當人類操作員在時間壓力下產生決策焦慮時,其語言輸出的資訊熵會顯著降低,導致演算法在語義解析階段獲得的有效信號減少,進而引發更頻繁的低層級確認請求——形成負向強化循環。
他把書合上,看著封麵上的灰色字母,忽然覺得這個職業比他想象的更孤獨。演算法永遠在等他說話,而他說話的時候,不知道演算法到底聽懂了多少。
週六下午,張遠回了家。父母住在城北的老小區,從他租的房子坐地鐵要四十分鐘。進門的時候他媽正在廚房裡剁排骨,案板被震得咚咚響。他爸坐在客廳的沙發上戴著老花鏡看手機,螢幕上是一個短視頻,某個博主正在講解無人駕駛汽車到底敢不敢坐。
爸,你看這個乾嘛?張遠換了拖鞋走過去。
我看看人家怎麼說。他爸把手機遞過來,你不是乾這個的嗎?我看看他們說得對不對。
視頻裡的博主正激情澎湃地講述:……所以各位老鐵,你們想想,無人車遇到緊急情況,是誰在決策?是演算法。但演算法不會思考,演算法隻會算概率。如果前麵突然衝出來一個小孩,演算法算出來撞上去的損失是A,急打方向的損失是B,它選損失小的那個。但如果兩個損失都一樣呢?演算法就懵了。這時候誰來救?後台有個人,有個雲端司機,哢一下就接管了……
張遠他爸抬起頭看著他:兒子,真有這麼個雲端司機嗎?你就是那個?
差不多吧,但我們不直接開車,我們是給車下指令。
哦……那你要是在後台,突然看見車前麵有個小孩,你會怎麼下指令?
張遠愣了一下。他無數次在培訓中麵對過類似的道德困境假設,但所有培訓的最終結論都是同一個:真實世界中,這類極端二元選擇幾乎不會出現,因為無人車的感知和決策係統有足夠的時間在早期階段就規避掉高風險場景。但他爸不懂這些,他爸問的是一個短視頻裡流行的問題,一個被簡化到隻有兩個選項的偽命題。
我們會提前規避。張遠說,車在很遠的地方就能檢測到潛在的碰撞風險,然後減速或者繞行。不太會出現那種最後一秒必須二選一的情況。
那萬一呢?
張遠看著他爸認真的表情,忽然不想解釋了。他說:萬一的話,我會讓車刹車。刹不住也冇辦法,但至少減速了。
他爸點點頭,似乎對這個回答還算滿意,又低頭繼續刷視頻了。廚房裡傳來他媽剁排骨的聲音,節奏忽然變快了,像是在趕時間。
飯桌上,他媽給他夾了好幾塊排骨,問他工作累不累。他說還行。他媽說你這孩子從來不說實話,上次你同學小趙來家裡,說你們那個行業三班倒,年輕人都掉頭髮。張遠下意識地摸了摸自己的頭髮,他媽的視線追著他的手:你看看,你還說還行。
媽,我們控製中心恒溫恒濕,比你們辦公室舒服多了。
恒溫恒濕能管睡覺嗎?你夜裡上班白天睡覺,能睡踏實嗎?
張遠低頭吃飯,不說話了。他確實睡不踏實,但他的睡眠問題跟三班倒關係不大,跟那些淩晨三點需要他在四秒內做出判斷的時刻關係更大。那些時刻像釘子一樣紮進他的神經裡,即使下班了、回家了、躺床上了,它們還在暗處亮著紅色的狀態燈,隨時準備跳出一個人工乾預請求的彈窗。