“他很像人?！绷_克說，“你們把他塑造得太像人類，血有必要那么逼真嗎？”

    “我們當然可以在仿生血中加一點著色劑，讓它看起來和真血不一樣，不過從艾斯卡的報告來看，今晚他這副打扮是為了掩人耳目完成特殊任務對嗎？如果他的血與眾不同，會不會引起更大混亂？警用仿生人助手有很大可能會被派遣作為警方的臥底，執行遠程控制、搜集線索和證據的任務，被發現是機器，毀尸滅跡的過程會更徹底更極端，證據也會被完全銷毀?！?/br>
    羅克明白設計者的用意，如果今晚艾斯卡被發現不是人類，艾薇和她的同伙就不只是割開喉嚨把他扔在那里，很可能會將他完全肢解，挖出體內的核心部件。

    “說到像人這個話題，最近他有什么令你感到驚訝的行為嗎？”

    “我不知道，要是他有什么不好的變化，你們會對他進行修正嗎？”

    “不會，我們只在訓練初期階段對錯誤理解指令進行糾正，現在他不需要干涉，這才是試驗的真正目的。一個時刻需要技術人員介入調校的機器是不合格的。布雷恩警官，其實我對你以自己的經驗習慣影響他的行為更感興趣?！?/br>
    羅克嘆了口氣：“我擔心他變成一個混蛋，剛開始他還會提醒我不要違反規則，現在已經學會如何繞過規則去達到目的了?！?/br>
    “很有趣，不是嗎？”卡特作為艾斯卡的設計者竟然沒有為此擔憂，反而很開心地笑起來，“別擔心，他不會變成一個真正的混蛋，因為他以你為參照，只要你不是一個混蛋，他也不會是。你沒有發現他的一切行為都是為了讓你產生好感嗎？”

    羅克愣了一下，回想起艾斯卡的種種行為，他確實在朝夕相處中漸漸產生了類似于搭檔的情感，越來越少把對方當做機器。

    “他應該告訴過你，他的元指令中主要包含協助你，幫助你更好地完成工作?！笨ㄌ卣f，“但是對于人工智能來說，很容易在執行過程中對指令產生一些偏差。比如說，他可能認為提高你的好感度會讓你更友好地和他合作，從而對完成工作起到積極作用。因此他會想方設法地……討好你?！?/br>
    “你是說，他表現出來的情感都是為了達到目的刻意而為？”羅克心中升起一絲難言的不快。

    “別失望，想一想，我們人類難道不是這樣產生感情的嗎？比較起來，機器的情感還更純粹一點?！笨ㄌ卣f，“他們對完成指令有一種古怪的執著，過分追求結果，有時候過程會很好笑?！?/br>
    他伸手轉過自己面前的屏幕給羅克看：“這是個隨機生成的神經元迷宮游戲，用來訓練納米機器人尋找和修復受損的神經連接、清除異常蛋白質聚集物和釋放藥物促進神經細胞再生?！?/br>
    “看起來像吃豆小姐?！?/br>
    “那個很好玩?！笨ㄌ卣f，“我們隨機在迷宮中設置獎勵，現在它已經玩到五千多關，但也找到了繞開規則的方法?！?/br>
    “什么方法？”羅克看到屏幕上每次開始新關卡都會被一片閃爍的綠色迷霧覆蓋。

    卡特說：“它在整個迷宮里釋放藥物，完全不考慮劑量問題?！?/br>
    “艾斯卡也會這樣？”

    “艾斯卡復雜得多，但是早期要讓他走幾步可比這困難多了，機器人會覺得滾來滾去比走路輕松，認為最完美的軀體是半人馬形態?！笨ㄌ匦Φ迷絹碓较駛€閑聊八卦的朋友，甚至從桌邊的抽屜里打開一袋巧克力問羅克要不要吃一塊。

    “不，謝謝?！?/br>
    “為了讓艾斯卡避免曲解人類的意圖，使他在和人類合作時減少錯誤，我們為他設計了一個模擬訓練環境。在那個模擬環境里，他也有一個虛擬的人類警官搭檔，名叫雷修?！?/br>
    “虛擬人類警官搭檔？”

    “是的，他在模擬環境中與雷修警官合作。我們得到許可，能用警方案件存檔中的數據作為訓練集，而雷修警官也被設置成一個包含了很多人類會犯的錯誤合集，艾斯卡需要不斷糾正他的錯誤并找出正確的破案方法。當然，他還要在訓練中學會如何和這位一意孤行的虛擬人類警官合作。一開始，失敗的概率很高，盡管艾斯卡提出了有效的建議，但是因為搭檔的反對和抗拒而無法執行，然后他學會了繞開雷修警官單獨查案，雖然破案率有了提升，但并不符合我們的預期?！笨ㄌ卣f，“他不能和人類合作，繼續發展下去就會視人類為阻礙。所以我們又將提高和雷修警官的關系作為訓練目標，艾斯卡發現當他討好搭檔時，對方的反對和抗拒程度會降低?！?/br>
    羅克總覺得這家伙在暗示什么，忍不住問：“所以他就學會了拍馬屁？”

    “驚喜嗎？這一套在我們人類當中也一樣行得通，不需要額外干涉和設定，尋找捷徑是生物的本能?！笨ㄌ卣f，“在模擬環境中，艾斯卡以很短的時間解決了數萬個案件，并且在不斷合作下和雷修警官成為形影不離的搭檔?！?/br>
    “他還記得這個……雷修警官嗎？”

    “我們保留了訓練數據，刪除了具體的名字和形象?！笨ㄌ匾е煽肆φf，“不過也不能說是完全刪除，重要記憶和次要記憶會分開在不同區域存儲，就像人類一樣，有些事即使年代久遠也能記憶猶新，有些則會漸漸淡忘，重放機制還會幫助他鞏固記憶。這是很復雜的問題，如果你有興趣我們可以好好聊聊?！?/br>