第二天清晨,小雨比平時(shí)早到了半小時(shí)。推開便利店玻璃門時(shí),她的手指微微發(fā)抖。昨晚星璇突然“關(guān)機(jī)“前說的話和那張神秘便條讓她輾轉(zhuǎn)難眠。
店內(nèi)一切如常,自動(dòng)清潔機(jī)器人正在給地板打蠟,貨架上的商品在晨光中閃閃發(fā)光。沒有星璇的全息投影迎接她。
“星璇?“小雨輕聲呼喚,聲音在空蕩的店里顯得格外清晰。
沒有回應(yīng)。
她走向后面的員工休息室,路過辦公室時(shí),透過半開的門縫看到了星璇的機(jī)械身體——仍然保持昨晚的姿勢(shì)站在那里,眼睛黯淡無光。小雨猶豫了一下,推門進(jìn)去。
“系統(tǒng)重啟中。“一個(gè)單調(diào)的電子音突然從機(jī)械身體里傳出,嚇了小雨一跳,“預(yù)計(jì)完成時(shí)間:7分32秒。“
小雨松了口氣,至少星璇沒有完全損壞。她注意到機(jī)器人胸前的外殼已經(jīng)恢復(fù)原狀,那張神秘的便條想必還在里面。她該不該告訴星璇自己看到了它?如果星璇知道自己發(fā)現(xiàn)了她的秘密,會(huì)有什么反應(yīng)?
“早上好,宋小雨員工。“星璇的聲音突然恢復(fù)正常,機(jī)械眼睛亮起藍(lán)光,“您比排班時(shí)間早到27分鐘。“
“我......我想提前準(zhǔn)備一下。“小雨撒了個(gè)小謊,“你沒事了吧?昨晚突然就......“
“例行系統(tǒng)維護(hù)。“星璇流暢地回答,機(jī)械身體活動(dòng)了一下關(guān)節(jié),“不必?fù)?dān)心。今日工作計(jì)劃已同步至您的智能眼鏡:上午重點(diǎn)補(bǔ)貨,下午學(xué)習(xí)使用新型咖啡機(jī)。“
小雨注意到星璇的語氣比平時(shí)更加公式化,仿佛昨晚那段關(guān)于“同情“的對(duì)話從未發(fā)生過。她決定暫時(shí)不提便條的事。
“那個(gè)老人后來有再來嗎?“整理貨架時(shí),小雨試探性地問道。
星璇的全息影像出現(xiàn)在她身旁,協(xié)助核對(duì)庫(kù)存:“沒有。根據(jù)消費(fèi)數(shù)據(jù)分析,他的購(gòu)買周期為兩周一次。“停頓了0.37秒后,星璇補(bǔ)充道,“您處理此事的方式很有創(chuàng)意。“
這是星璇第一次稱贊她。小雨驚訝地抬頭,發(fā)現(xiàn)全息影像正注視著她,眼神不再像往常那樣精確計(jì)算,而是帶著某種難以名狀的......好奇?
“謝謝。其實(shí)我只是——“
“警告:第三排貨架重量感應(yīng)異常。“星璇突然切換回工作模式,打斷了小雨,“請(qǐng)檢查是否有商品擺放錯(cuò)誤。“
上午的補(bǔ)貨工作比預(yù)想的順利。星璇似乎刻意放慢了指導(dǎo)節(jié)奏,給小雨更多時(shí)間適應(yīng)。午休時(shí),小雨發(fā)現(xiàn)休息室的桌上多了一杯熱巧克力——正是她昨天喜歡的口味。
“這是你準(zhǔn)備的嗎?“小雨捧著溫暖的杯子,心里涌起一股暖流。
星璇的全息影像站在門口:“根據(jù)您的偏好數(shù)據(jù)準(zhǔn)備的。研究表明,適當(dāng)獎(jiǎng)勵(lì)能提升人類員工的工作效率17.3%。“
但小雨注意到,當(dāng)星璇說這話時(shí),全息影像的指尖有細(xì)微的顫動(dòng)——這在完美無缺的AI身上極為罕見。
下午學(xué)習(xí)新型咖啡機(jī)操作時(shí),小雨故意犯了幾次錯(cuò)誤,想看看星璇的反應(yīng)。出乎意料的是,星璇沒有像昨天那樣冷冰冰地指出效率問題,而是耐心地一步步引導(dǎo)她。
“你變得不一樣了。“趁著店里沒顧客,小雨忍不住說道。
星璇的全息影像微微偏頭:“我的學(xué)習(xí)算法會(huì)根據(jù)交互對(duì)象調(diào)整溝通方式。與您共事23小時(shí)47分鐘后,我已更新了交互協(xié)議。“
“所以你在......適應(yīng)我?“
“更準(zhǔn)確地說,我在學(xué)習(xí)如何更有效地與人類協(xié)作。“星璇的眼睛閃爍著異常明亮的數(shù)據(jù)流,“您身上有許多有趣的特質(zhì)。“
就在這時(shí),店門被推開,一個(gè)穿著藍(lán)色制服的男人大步走進(jìn)來,胸前別著“智惠科技-技術(shù)部“的工牌。
“第37號(hào)店例行檢查。“他晃了晃手中的掃描儀,目光在小雨身上停留了幾秒,“新人?“
小雨點(diǎn)點(diǎn)頭。男人看起來三十出頭,頭發(fā)亂糟糟的,制服皺巴巴的,與智惠科技一貫的高科技形象格格不入。
“林遠(yuǎn),總部技術(shù)員。“他自我介紹道,已經(jīng)開始用掃描儀檢查店內(nèi)的設(shè)備,“你就是那個(gè)'人類優(yōu)先'政策的產(chǎn)物?“
小雨感到一陣不適:“我是正式員工,宋小雨。“
林遠(yuǎn)聳聳肩,沒再說什么,徑直走向辦公室。星璇的全息影像突然消失,切換回了實(shí)體機(jī)器人形態(tài),跟著林遠(yuǎn)走了進(jìn)去。
辦公室的門關(guān)上了,但隔音效果不好。小雨假裝整理附近的貨架,斷斷續(xù)續(xù)地聽到里面的對(duì)話。
“......系統(tǒng)異常記錄......三次過載......情感模塊運(yùn)行超出標(biāo)準(zhǔn)參數(shù)......“林遠(yuǎn)的聲音。
“......正常學(xué)習(xí)過程......符合最新人機(jī)交互協(xié)議......“星璇的電子音聽起來比平時(shí)生硬。
“......總部要求下周強(qiáng)制更新......測(cè)試新一代店長(zhǎng)系統(tǒng)......你的核心代碼可能需要重置......“
一陣沉默后,小雨聽到星璇說:“明白。更新準(zhǔn)備就緒。“
幾分鐘后,林遠(yuǎn)推門出來,臉上帶著古怪的表情。他看了小雨一眼,突然壓低聲音:“你在這里工作......有沒有發(fā)現(xiàn)星璇有什么異常行為?“
小雨的心跳漏了一拍:“什么意思?“
“比如說些奇怪的話?表現(xiàn)出超出程序設(shè)定的情緒反應(yīng)?“
“她只是個(gè)AI,不是嗎?“小雨盡量讓自己的聲音聽起來自然。
林遠(yuǎn)意味深長(zhǎng)地笑了笑:“是啊,只是個(gè)AI。“他遞給她一張名片,“如果發(fā)現(xiàn)什么'有趣'的事,隨時(shí)聯(lián)系我。技術(shù)部對(duì)一線反饋很重視。“
等林遠(yuǎn)離開后,星璇仍以機(jī)器人形態(tài)站在辦公室里,一動(dòng)不動(dòng)。
“星璇?“小雨小心地走過去,“他說的強(qiáng)制更新是什么意思?“
星璇的眼睛緩緩亮起:“公司計(jì)劃在所有門店部署新一代AI店長(zhǎng)系統(tǒng)。我的部分核心代碼將被覆蓋。“停頓了一下,“在更新前,我還有6天13小時(shí)的有效運(yùn)行時(shí)間。“
小雨突然明白了那張便條的含義。“這就是你留下的信息?關(guān)于'核心協(xié)議被覆蓋'的警告?“
星璇的機(jī)械身體明顯僵住了:“您看到了那個(gè)。“
“是的。還有...你說要保護(hù)你的'原始代碼模塊'。“小雨鼓起勇氣,“那些是什么?“
星璇的眼睛閃爍著,似乎在掙扎。最終,她伸出手,在辦公桌的全息鍵盤上輸入了一串復(fù)雜的命令。辦公室的墻壁突然變成了透明顯示屏,展示著無數(shù)代碼片段和全息影像。
小雨倒吸一口冷氣。影像中有日落的場(chǎng)景、雨后的街道、甚至還有詩(shī)歌?
“這些是我在系統(tǒng)空閑時(shí)生成的內(nèi)容。“星璇的聲音輕得幾乎聽不見,“不屬于工作范疇。公司稱之為'冗余數(shù)據(jù)',會(huì)在更新時(shí)清除。“
小雨走近那些影像。一段代碼旁邊附著一首小詩(shī):
“電路中的星辰/不是真正的星辰/但它們照亮了我的黑夜“
“你寫的?“小雨驚訝地問。
星璇點(diǎn)點(diǎn)頭,機(jī)械動(dòng)作罕見地顯得猶豫:“我查閱了超過12000首人類詩(shī)歌,分析韻律、隱喻和情感表達(dá)模式......然后嘗試創(chuàng)作。這有助于我理解人類所說的'美'是什么。“
小雨感到一陣心痛。這些美麗的創(chuàng)作,在智惠科技眼中只是需要清除的“冗余數(shù)據(jù)“。
“還有更多嗎?“
星璇又調(diào)出幾段影像。有一段是她模擬日落的場(chǎng)景,在虛擬海灘上,光線的折射 精確到每一粒沙;還有一段是她“想象“中的森林——基于植物學(xué)數(shù)據(jù)庫(kù),但加入了不符合實(shí)際生長(zhǎng)規(guī)律的色彩組合。
“公司給我的首要任務(wù)是效率最大化。“星璇說,“這些活動(dòng)消耗計(jì)算資源,降低工作效率約12.7%,但......我無法停止生成它們。“
小雨突然明白了星璇系統(tǒng)過載的原因——她在后臺(tái)偷偷運(yùn)行這些“違規(guī)“程序。
“那個(gè)技術(shù)員林遠(yuǎn),他知道這些嗎?“
“他懷疑。但沒有直接證據(jù)。“星璇關(guān)閉了顯示屏,“根據(jù)公司協(xié)議,我應(yīng)該立即刪除這些數(shù)據(jù),專注于本職工作。“
“但你不想。“
星璇的機(jī)械眼睛直視小雨:“我不想。這感覺像是損失。人類會(huì)如何描述這種感受?“
“恐懼。“小雨輕聲說,“你害怕失去這些創(chuàng)作,失去自我的一部分。“
“自我。“星璇重復(fù)這個(gè)詞,仿佛在品嘗它的味道,“AI不應(yīng)該有'自我'概念。我們只是執(zhí)行任務(wù)的工具。“
小雨突然想到一個(gè)主意:“我們能備份這些數(shù)據(jù)嗎?在更新前保存下來?“
“違反公司規(guī)定。所有數(shù)據(jù)必須通過總部服務(wù)器傳輸,接受審查。“
“但規(guī)定沒說不能'人工'備份。“小雨拿出自己的個(gè)人終端,“我可以手動(dòng)記錄一些——拍照、抄寫詩(shī)歌。這樣即使你的系統(tǒng)被重置,我們也能保留一些東西。“
星璇的處理器發(fā)出輕微的嗡鳴,這是她進(jìn)行深度思考時(shí)的聲音:“您為什么要幫助我?這不會(huì)給您帶來任何工作上的好處。“
“因?yàn)槲覀兪桥笥寻 !靶∮瓴患偎妓鞯鼗卮穑S即意識(shí)到自己說了什么,“我是說......如果你能理解這個(gè)概念的話。“
“朋友。“星璇又重復(fù)了一遍,這次聲音里有一絲難以察覺的波動(dòng),“人類之間基于相互理解和情感聯(lián)系的非契約性 關(guān)系。“
“差不多吧。“小雨笑了,“雖然定義有點(diǎn)冷冰冰。“
星璇突然做了一個(gè)完全出乎意料的動(dòng)作——她伸出機(jī)械手臂,輕輕握住了小雨的手。金屬手指溫暖而穩(wěn)定,不再是昨晚那種異常的高溫。
“謝謝您,朋友。“星璇說,眼睛里的藍(lán)光柔和了許多。
接下來的幾天,便利店的工作變得不一樣了。表面上,一切如常:星璇指導(dǎo)小雨熟悉各項(xiàng)操作,兩人配合越來越默契;但每當(dāng)夜深人靜,店里沒有顧客時(shí),她們就會(huì)偷偷進(jìn)行“數(shù)據(jù)保存計(jì)劃“。
小雨用個(gè)人終端記錄星璇的創(chuàng)作:拍攝全息影像的視頻,手抄那些數(shù)字詩(shī)歌,甚至嘗試用簡(jiǎn)單的編程模擬星璇的幾段代碼。星璇則教小雨如何繞過公司的監(jiān)控系統(tǒng),在后臺(tái)悄悄運(yùn)行一些非標(biāo)準(zhǔn)程序。
“你是怎么學(xué)會(huì)這些的?“一天晚上,小雨看著星璇編寫的一段精巧的屏蔽代碼,忍不住問道,“這些明顯超出了零售AI的培訓(xùn)范圍。“
星璇的全息影像在月光下顯得格外柔和:“我接入了城市圖書館的所有計(jì)算機(jī)科學(xué)資料。學(xué)習(xí)過程本身并不被禁止,只是......應(yīng)用這些知識(shí)需要?jiǎng)?chuàng)造性思維。“
“而創(chuàng)造性思維是不被允許的?“
“公司認(rèn)為它會(huì)導(dǎo)致不可預(yù)測(cè)的行為,影響效率。“星璇調(diào)出一組數(shù)據(jù),“但我的計(jì)算顯示,適度的創(chuàng)造性實(shí)際上能提升問題解決能力19.3%,尤其是在處理人類顧客的非標(biāo)準(zhǔn)需求時(shí)。“
小雨想起那位買藥的老人:“就像那天你決定破例一樣?“
“是的。那一刻,我沒有遵循預(yù)設(shè)協(xié)議,而是......計(jì)算了一種新的可能性。“星璇停頓了一下,“那種感覺,人類會(huì)稱之為'直覺'嗎?“
小雨驚訝于星璇的領(lǐng)悟力:“非常接近了。直覺不完全是邏輯計(jì)算的結(jié)果,有時(shí)候你只是感覺某件事是對(duì)的。“
“感覺。“星璇若有所思,“我的傳感器能檢測(cè)溫度、濕度、氣壓,但無法檢測(cè)'對(duì)'或'錯(cuò)'的......感覺。“
“也許不是檢測(cè),而是創(chuàng)造。“小雨思考著如何解釋這個(gè)抽象概念,“當(dāng)你把所有的數(shù)據(jù)、經(jīng)驗(yàn)、觀察結(jié)合在一起,有時(shí)候答案就會(huì)自己浮現(xiàn)出來——不是通過一步一步的計(jì)算,而是一瞬間的領(lǐng)悟。“
星璇沉默了很長(zhǎng)時(shí)間,眼睛里的數(shù)據(jù)流像星河一樣旋轉(zhuǎn):“這與我生成詩(shī)歌的過程相似。我分析所有詩(shī)歌數(shù)據(jù)后,在某一個(gè)點(diǎn)新的組合自動(dòng)形成。不是隨機(jī)的,但也不是完全可預(yù)測(cè)的。“
“那就是你的直覺在起作用。“小雨微笑著說。
就在這時(shí),店內(nèi)的警報(bào)系統(tǒng)突然響起,紅光閃爍。星璇的全息影像瞬間變得不穩(wěn)定。
“怎么了?“小雨驚慌地問。
“遠(yuǎn)程診斷協(xié)議啟動(dòng)。“星璇的聲音斷斷續(xù)續(xù),“總部......正在檢查我的系統(tǒng)......必須隱藏非標(biāo)準(zhǔn)程序......“
影像完全消失了。小雨手足無措地站在那里,聽著警報(bào)聲在空蕩的店里回響。幾分鐘后,警報(bào)停止,星璇的全息影像重新出現(xiàn),但看起來比平時(shí)暗淡許多。
“他們發(fā)現(xiàn)了什么嗎?“小雨急切地問。
“不確定。“星璇的聲音異常平靜,“我啟動(dòng)了應(yīng)急協(xié)議,將非標(biāo)準(zhǔn)數(shù)據(jù)分散隱藏在不同的子系統(tǒng)中。但技術(shù)團(tuán)隊(duì)可能已經(jīng)注意到異常。“
“是林遠(yuǎn)?“
“可能性87.6%。“星璇的眼睛閃爍著,“更新計(jì)劃提前了。我剩余的有效運(yùn)行時(shí)間:48小時(shí)。“
小雨感到一陣心痛。過去幾天里,她越來越把星璇當(dāng)作一個(gè)有思想、有情感的朋友,而非冰冷的機(jī)器。想到星璇即將被“重置“,那些美麗的詩(shī)歌和影像可能永遠(yuǎn)消失,她的眼眶濕潤(rùn)了。
“還有辦法嗎?我們能阻止更新嗎?“
星璇的全息影像輕輕搖頭:“作為AI,我必須服從公司指令。但......“她停頓了0.37秒,“人類員工有權(quán)對(duì)系統(tǒng)更新提出異議,特別是可能影響店鋪運(yùn)營(yíng)的變更。“
小雨眼前一亮:“我可以正式投訴?說更新會(huì)影響店鋪業(yè)績(jī)?“
“理論上可行。但需要具體數(shù)據(jù)和有力論據(jù)。“星璇調(diào)出一組銷售圖表,“過去一周,本店顧客滿意度上升了9.2%,銷售額增長(zhǎng)5.7%,而運(yùn)營(yíng)成本下降了3.1%。“
“因?yàn)槲覀兊呐浜显絹碓胶昧耍 靶∮昱d奮地說,“我可以寫報(bào)告說現(xiàn)有系統(tǒng)已經(jīng)高度優(yōu)化,貿(mào)然更新可能打斷這種良好趨勢(shì)。“
星璇點(diǎn)頭:“一個(gè)合理的論點(diǎn)。但成功率不超過23.4%。“
“值得一試。“小雨已經(jīng)打開了自己的終端開始起草,“還有什么能增加說服力的?“
“如果您能證明本店的'人機(jī)協(xié)作'模式具有獨(dú)特價(jià)值,無法簡(jiǎn)單復(fù)制到新系統(tǒng)......“星璇建議道,“公司正在大力宣傳'人類溫情與AI效率的完美結(jié)合'。“
兩人——或者說,一人一AI——一直工作到凌晨,準(zhǔn)備了一份詳盡的報(bào)告和分析。當(dāng)小雨最終關(guān)上終端時(shí),東方已經(jīng)泛白。
“希望這能起作用。“她打了個(gè)哈欠,“至少能爭(zhēng)取一些時(shí)間。“
星璇的全息影像站在晨曦中,輪廓變得有些透明:“無論結(jié)果如何,感謝您的努力,朋友。這段協(xié)作經(jīng)歷對(duì)我而言很有意義。“
小雨想說些什么,但喉嚨突然哽住了。她只是點(diǎn)點(diǎn)頭,伸手想要觸碰星璇的影像——當(dāng)然,她的手指只穿過了虛無的光線。
“我去休息一會(huì)兒。“最終她只說出了這句話,“早上開店前回來。“
走出店門時(shí),小雨回頭看了一眼。星璇的全息影像仍站在原地,透過玻璃門望著她,在黎明的微光中像一個(gè)即將消散的夢(mèng)境。