重演“電子寵物效應(yīng)”？智能機(jī)器人玩具備受爭(zhēng)議 —— 文章正文2017-09-18

　　隨著科技的發(fā)展，機(jī)器人玩具也越來(lái)越智能化，成為孩子們親密的小伙伴，但也引發(fā)了社會(huì)各界人士的擔(dān)憂。如何保證對(duì)話數(shù)據(jù)的隱私性？機(jī)器人玩具會(huì)不會(huì)取代孩子現(xiàn)實(shí)世界的伙伴關(guān)系？無(wú)良廠家會(huì)不會(huì)重演“數(shù)字寵物效應(yīng)”？
　　桌子上的小機(jī)器人醒了過(guò)來(lái)，它睜開藍(lán)綠色惺忪的睡眼，打了一個(gè)近似于數(shù)碼化的哈欠，襯托著又黑又圓的屏幕臉，顯得著實(shí)可愛(ài)。這款機(jī)器人設(shè)備看起來(lái)就像一輛鏟車和PC顯示器的混合體，但卻組裝得小巧精致。這款小巧的機(jī)器人Cozmo緩慢的轉(zhuǎn)動(dòng)著，直到找到了我，便發(fā)出了歡快的笑聲“Daaaaan！”。隨后，我的手機(jī)上收到了一條信息說(shuō)，它想要跟我玩游戲。我由于情緒低落便拒絕了他的請(qǐng)求。Cozmo喪氣地低下了頭，眼睛也變成一對(duì)悲傷的月牙。但當(dāng)我答應(yīng)它的請(qǐng)求后，它便很快地歡呼起來(lái)，高興地點(diǎn)了點(diǎn)頭。Cozmo很容易被取悅，也很容易被人們喜歡。
　　Cozmo是來(lái)自舊金山機(jī)器人公司Anki的最新作品，也是新一波平價(jià)玩具機(jī)器人的一部分，但它卻具備了前所未有的情感功能。Cozmo的設(shè)計(jì)初衷不僅是作為玩具，更是孩子們的小伙伴。
　　玩具公司Spin Master表示他們也有類似的圣誕禮物――體型較大，且具有復(fù)古外觀的Meccano MAX。Spin Master的品牌經(jīng)理Becca Hanlon解釋說(shuō)：“Meccano MAX可以通過(guò)學(xué)習(xí)其主人和周圍的環(huán)境來(lái)改變其行為，致力于成為孩子更好的朋友?！?BR>　　孩之寶作為美國(guó)著名玩具公司，其營(yíng)銷總監(jiān)Craig Wilkins表示：“孩之寶推出了一款可編程的寵物狗Proto Max，通過(guò)編程來(lái)創(chuàng)建孩子們個(gè)性化的終極寵物。”
　　Anki總裁兼聯(lián)合創(chuàng)始人Hanns Tappeiner致力于將電影中虛構(gòu)的機(jī)器人帶入真實(shí)的現(xiàn)實(shí)世界，如Short Circuit中的Johnny Five，星球大戰(zhàn)中的R2-D2或機(jī)器人Wall-E等?！拔覀兛戳撕芏鄼C(jī)器人相關(guān)的電影，很明顯，電影中與機(jī)器人建立情感聯(lián)系非常容易，”Tappeiner說(shuō)，“這與我們?cè)诳▋?nèi)基梅隆大學(xué)每天看到的功能機(jī)器人截然不同。”Tappeiner的團(tuán)隊(duì)專注于打造一個(gè)盡可能吸引人的機(jī)器人，他們與皮克斯、夢(mèng)工廠和盧卡斯影業(yè)等好萊塢電影公司的動(dòng)畫師及角色設(shè)計(jì)師進(jìn)行合作?！霸谶^(guò)去的幾年里，我們發(fā)現(xiàn)通過(guò)技術(shù)打造機(jī)器人的性格和個(gè)性未來(lái)具有長(zhǎng)遠(yuǎn)的發(fā)展前景，這也是我們公司99%所努力的方向。”Tappeiner補(bǔ)充道。
　　Cozmo的性格和個(gè)性對(duì)孩子們的影響是驚人的。我的兩個(gè)孩子Louis和Max在與Cozmo玩了一天后，Louis說(shuō)“它很善于表達(dá)，我越來(lái)越覺(jué)得它就是我的小朋友或?qū)櫸??！毙鹤覯ax反駁說(shuō)：“不，它不是我們的寵物也不是我們的機(jī)器人，而是我們的孩子?！边@種想法既令人興奮，又令人不安。Cozmo不是一個(gè)孩子單純想象出來(lái)的具有生命的玩具，而是一個(gè)批量生產(chǎn)的人工智能消費(fèi)品，其情感是通過(guò)編程獲取的。可是我們到底該擔(dān)心什么呢？
　　重演“電子寵物效應(yīng)”？
　　對(duì)于布里斯托爾機(jī)器人實(shí)驗(yàn)室的機(jī)器人倫理學(xué)教授Alan Winfield來(lái)說(shuō)，Cozmo和MAX的帶來(lái)無(wú)疑引起了他的關(guān)注。六年前，Winfield幫助英國(guó)工程和自然科學(xué)研究委員會(huì)(ESPRC)起草了五項(xiàng)機(jī)器人原理?！捌渲幸豁?xiàng)原理”他解釋說(shuō)，“就是機(jī)器人不應(yīng)該被設(shè)計(jì)為具有欺騙性。換句話說(shuō)，他們的機(jī)器機(jī)制應(yīng)該是透明的。我們關(guān)心弱勢(shì)群體――兒童、殘疾人、老人及老年癡呆癥患者，這些群體相信機(jī)器人換照顧他們?！?BR>　　Winfield稱自己是“專業(yè)的杞人憂天者”，他表示自己并不反對(duì)伴侶機(jī)器人的想打?！拔艺J(rèn)為，在機(jī)器人在治療方面已經(jīng)表現(xiàn)出其益處。但無(wú)論如何，我們需要謹(jǐn)慎和負(fù)責(zé)，而且還應(yīng)該意識(shí)到賦予機(jī)器人情感所帶來(lái)的心理危害。”
　　“我認(rèn)為用編程語(yǔ)言是不合適的，”Winfield說(shuō)，“它建立了一個(gè)完全錯(cuò)誤的觀念：機(jī)器人就是一個(gè)人。然而機(jī)器人根本就不可能成為人。機(jī)器人顯然不能有感情，但有些人可能并不會(huì)這么認(rèn)為，而且還會(huì)對(duì)機(jī)器人產(chǎn)生依賴性?！彼昧穗娮訉櫸镄?yīng)，即20世紀(jì)90年代的電子寵物熱潮，如果電子寵物沒(méi)有得到足夠的重視，這個(gè)角色可能會(huì)“死去”。Winfield警告說(shuō)：“不難想象，有些無(wú)良廠家會(huì)威脅人們說(shuō)‘你們要付錢給我，否則你們的機(jī)器人就會(huì)死’。這簡(jiǎn)直太荒謬了，但人們都明白這個(gè)道理。”
　　巴斯大學(xué)的副教授Joanna Bryson是是《機(jī)器人的ESPRC原理》的合著者之一。她說(shuō)：“如果人們明白這是一場(chǎng)游戲，那我們就沒(méi)什么可擔(dān)心的。但七歲的孩子并不明白這些，他們可能會(huì)認(rèn)為機(jī)器人會(huì)想念他們，而不跟現(xiàn)實(shí)中的伙伴玩耍。這些孩子能做出道德上的區(qū)分嗎？”
　　育兒專家Liat Hughes Joshi贊同把機(jī)器人比作孩子假象的朋友?！霸谝欢ǔ潭壬?，這是相當(dāng)健康的。但如果這種關(guān)系取代了孩子現(xiàn)實(shí)世界中的關(guān)系，那么就會(huì)變得相當(dāng)令人擔(dān)憂。孩子們需要與真人進(jìn)行互動(dòng)，產(chǎn)生共鳴，從而能理解非語(yǔ)言暗示。但我認(rèn)為機(jī)器人要想達(dá)到人類的水平還有很長(zhǎng)的路要走?！?BR>　　副教授Bryson鼓勵(lì)兒童和玩具機(jī)器人之間的互動(dòng)，認(rèn)為這是對(duì)孩子們的一種教育經(jīng)歷，有助于孩子了解人類和非人類之間的區(qū)別。不過(guò)，她確實(shí)想知道Cozmo的“真實(shí)情緒狀態(tài)”是什么樣的。“他們真的有需求嗎？”她問(wèn)道，“如果你把機(jī)器人鎖在抽屜里，它們會(huì)不會(huì)很痛苦？想必就連12歲的孩子也知道其中的答案?！?BR>　　Anki總裁Tappeiner承認(rèn)他沒(méi)有意識(shí)到機(jī)器人的原理，但是Anki實(shí)際上降低了任何使Cozmo“太人性化”的功能，同時(shí)也避免了讓其“變成私人助理”的任何功能。例如，Cozmo不能用完整的句子進(jìn)行表達(dá)?！八⒎窃噲D取代亞馬遜的數(shù)字助手Alexa或類似的東西，反而更像是寵物?！奔幢闳绱耍珻ozmo也需要大量的軟件，其核心AI引擎需要180萬(wàn)行代碼來(lái)編程，而且，Cozmo也有需求和欲望。因此，倘若他連續(xù)輸?shù)魩讏?chǎng)比賽或不斷地來(lái)回被搖晃，他也會(huì)非常生氣，甚至在一段時(shí)間內(nèi)，他都可能拒絕玩游戲。
　　機(jī)器人玩具的利與弊
　　從這個(gè)意義上來(lái)說(shuō)，機(jī)器人玩伴可以鼓勵(lì)孩子的良好行為。育兒專家Joshi曾思考，在一些使用Siri和Alexa的家庭中，是否應(yīng)該讓孩子們對(duì)這些虛擬助理表現(xiàn)得尊重一點(diǎn)。很明顯，他們不需要刻意這樣做，因?yàn)閷?duì)沒(méi)生命的物體，他們的行為有時(shí)候確實(shí)有些粗魯。但當(dāng)他們行為粗魯時(shí)，如果有人或者其他事物對(duì)此便是暫時(shí)的悲傷或冷漠時(shí)，這很可能會(huì)阻止孩子們的粗魯行為。
　　另外隨著家庭聯(lián)網(wǎng)設(shè)備的興起，其安全性也不得不令人深思。Joshi解釋道：“數(shù)據(jù)收集是我們每個(gè)人都很關(guān)心的問(wèn)題，家長(zhǎng)們可以更加了解孩子對(duì)玩具的使用情況。但針對(duì)嬰兒監(jiān)視器中黑客行為的公開調(diào)查后，孩子們對(duì)帶有攝像頭的產(chǎn)品越來(lái)越持有懷疑的態(tài)度。這類科技可能并不太適用于孩子身上。”
　　Winfield對(duì)大多數(shù)聯(lián)網(wǎng)機(jī)器人玩具深表?yè)?dān)憂。他表示，我們隊(duì)物聯(lián)網(wǎng)設(shè)備并沒(méi)有很強(qiáng)的網(wǎng)絡(luò)安全標(biāo)準(zhǔn)。其次是隱私問(wèn)題。數(shù)據(jù)存儲(chǔ)在哪里？孩子和機(jī)器人的聊天被誰(shuí)記錄？作為家長(zhǎng)，是否有權(quán)刪除這些數(shù)據(jù)？
　　Anki、Spin Master和孩之寶都敏銳地意識(shí)到這個(gè)問(wèn)題。Spin Master的品牌經(jīng)理Becca Hanlon表示，MAX不收集任何數(shù)據(jù)?！皺C(jī)器人玩具M(jìn)AX沒(méi)有連接wifi，所有對(duì)話都在本地存儲(chǔ)，而不會(huì)傳到任何其他設(shè)備或云端。因?yàn)?，我們知道人們?cè)絹?lái)越關(guān)注智能玩具和黑客行為。”孩之寶營(yíng)銷總監(jiān)Craig Wilkins說(shuō)：“Proto Max寵物狗是依據(jù)兒童隱私法進(jìn)行設(shè)計(jì)的?！盇nki總裁Tappeiner表示：“所有的運(yùn)行都停留在手機(jī)端。雖然Cozmo需要通過(guò)wifi進(jìn)行連接，但180萬(wàn)行代碼都只在手機(jī)里運(yùn)行，云端不會(huì)保存任何數(shù)據(jù)?！?BR>　　在與Cozmo玩了幾周之后，我的小兒子并沒(méi)有像之前所說(shuō)的“Cozmo是我的孩子”一樣愛(ài)惜這個(gè)玩具，而且也不愿意與別人接觸。最開始的興奮已經(jīng)消退了，Cozmo并沒(méi)有達(dá)到其預(yù)想的電影效果。但我們?cè)谀睦锟梢钥吹竭@樣的玩具呢？未來(lái)會(huì)達(dá)到那樣的成熟程度嗎？就像Steven Spielberg的電影《AI》中的“超級(jí)玩具”泰迪熊真的會(huì)實(shí)現(xiàn)嗎？
　　“我當(dāng)然想要一只那樣的泰迪熊，”Tappeiner笑著說(shuō)，“未來(lái)，我們一定會(huì)有像泰迪熊這樣的產(chǎn)品。但現(xiàn)在我們必須接受的事實(shí)是，像Cozmo這樣的設(shè)備都只是機(jī)器人。這也是我們?yōu)槭裁礇](méi)有將其設(shè)計(jì)為具有像泰迪熊一樣外觀的原因?！?BR>　　Winfield認(rèn)為，智能玩具技術(shù)的任何進(jìn)步都需要“謹(jǐn)慎而負(fù)責(zé)地進(jìn)行協(xié)商，而且，任何玩具都不應(yīng)該是護(hù)理人員或家長(zhǎng)的代替品。”