
1. 分配責任
1.1. 弄清楚在出現問題時如何分配責任是一個很大的挑戰,但這個問題已經存在了幾千年
1.2. 雖然大多數現代法律制度傾向於將動物視為財產而不是人,但該制度通常承認這種“財產”對自主行為的偏好
1.3. 今天,隨着機器人開始進入共享空間,撞倒蹣跚學步的幼兒,抵制“機器人本身應負責任”的想法尤為重要,負責任的應該是人
1.4. 嘗試用動物做類比,我們會發現現在或許並不是我們想象的那樣,成為了“歷史性的時刻”
1.5. 在人類悠久的歷史中,為未曾預料到的動物行為分配責任的先例,至少可以啓發我們更有創意地思考機器人的責任問題
2. 牛傷人事件
2.1. 公元前18世紀的《埃什努納法典》和《漢謨拉比法典》,是人類已知的現存最早的“法律”
-
2.1.1. 是美索不達米亞社會制定的第一批規則,對動物造成的傷害規定了明確的後果
-
2.1.2. 都規定了對牛主人的懲罰,而且都遵循同樣的原則:如果你的牛意外地殺了人,你不用負責
-
2.1.3. 如果你知道這隻動物是“習慣性殺戮者”,換句話説,這隻動物存在風險性,那麼你就得承擔責任了
2.2. 美索不達米亞的法典和《出埃及記》都要求牛的主人承擔責任,前提是牛的主人知道牛有傷人的傾向,但未採取適當的措施加以預防
2.3. 人類不需要預測或控制動物做出的每一個自主決定,所以法律只會指責那些對動物粗心大意的主人
2.4. 自主行動的責任並不一定是一個全有或全無的問題
2.5. “諾克薩爾強制上交”(noxal surrender):交出違法的動物(或兒童、奴隸、物品),以補償被傷害的人
2.6. 人們需要採取適當的措施防止牛傷人,而只有在機器人(牛)的行為不太可能造成傷害的情況下,人們才不用對傷害負責
3. 分類
3.1. 一種是人類只有在預料到傷害,並且沒有采取措施防止傷害的情況下才負有責任
3.2. 一種是人類會因動物的行為而受到嚴格的追責
3.3. 在城市和人口稀少的地區,對在街道上游蕩和在天空中漫遊的機器人,所制定的規則應該有所不同
3.4. 家養動物的主人只有在動物們“被某種有悖於其本性的野性所驅使”時,才需要承擔責任
3.5. 馴養的動物廣義而言是指依賴人類生存的馴化的(通常是)脊椎動物,而野生生物包括所有未被馴養的動物
3.6. 蜜蜂在某種程度上可以被歸入可預測的生物類型,有時它們是有主人的,但它們大多桀驁不馴,來去自由,可以隨意蜇傷人和生物,有時甚至是致命的
- 3.6.1. 沒有什麼動物能比得上蜜蜂,它更易為律師提供使其欲罷不能卻又微不足道的問題
3.7. 法院需要裁定人類是否可以擁有蜜蜂,以及裁定蜜蜂是否以及何時可以擺脱人類的所有權
- 3.7.1. 一羣蜜蜂飛起來之際,如果其主人沒有及時追趕或者是放棄追趕,蜜蜂就此成為無主之物
3.8. 將那些不會對人類造成很大危險的設備與風險更高的設備分開
3.9. 對機器人的傷害預防也可以遵循我們之前對動物使用過的一些方法,而不是將道德規則以編程的方式植入機器,例如,用徵税或監管的方式,對所有權進行約束
4. 制定法規
4.1. 可以考慮哪些機器人法規可以減輕機器人創造者或用户無法預料的傷害
4.2. 對特定類別的機器人進行登記註冊或微芯片識別
4.3. 對操控特定口徑的無人機的飛行員進行強制性的培訓,並將操作限制在允許的區域內
4.4. 保險不一定會重新定義誰是應該因動物的不良行為而受到指責的主體,但保險確實提供了一種機制
- 4.4.1. 對經濟損失予以賠償,尤其是保險業已經形成了處理索賠的內部規範,只需要在邊緣案件中進行復雜的法律責任分析即可
4.5. 以色列人的法律體系是基於宗教信仰的,他們認為人類凌駕於動物之上
-
4.5.1. 如果動物傷害了人類,即使傷害的是像奴隸這樣的低等人,也要受到懲罰
-
4.5.2. 撰寫於公元前2世紀至公元2世紀的《米書拿》,通常被稱為猶太教拉比的第一份文獻,記錄了動物在23名法官面前接受審判的事,如果動物被判定有罪,那麼它就會被判處死刑
4.6. 古希臘人還以謀殺的罪名審判動物,以死刑或流放的方式來懲罰它們
5. 誰來負責
5.1. 幾十年來,科幻小説一直在提出因果關係鏈,以及如何為機器人所造成的傷害分配責任的問題
5.2. 在當下,機器造成的任何傷害都可以直接追溯到設計、製造或給它編程的人或公司
5.3. 在未來,機器人將有獨立行事的能力,並以其創造者無法預料的方式行事
5.4. 在某些方面,處理機器人會更容易,因為它們是由人類創造出來的,並且總是在某些人的掌控之下
5.5. 用動物來做類比並非完美之舉
-
5.5.1. 用動物做類比可以幫助我們從一條基準線出發,即機器人不能像人類那樣做出決策,並且人類應該為機器人造成的傷害承擔責任
-
5.5.2. 用動物做類比可以幫助我們假設機器人是在我們的權限範圍內解決問題的,即便它會做出我們沒有預料到的決策
5.6. 在潛意識中傾向於認為,公司和個人不應該為沒有預測到的算法驅動的行為負責
5.7. 我們不會看到人類任務落在機器人身上的普遍情況(在這種情況下,責任大多隻是從人類轉移到機器人制造商身上)
6. 機器人的責任
6.1. 理論上講,人類與機器組成的團隊配合得很好
6.2. 自動駕駛拖拉機可以耕地,只需要農民在現場處理偶發的意外狀況
6.3. 車輛自動化並不只是讓機器人操縱方向盤那麼簡單
- 6.3.1. 需要重新架構一個系統,並在最有價值的地方使用人力
6.4. 人們對錯誤的認知往往是大相徑庭的
6.5. 將傷害歸咎於責任的偏見
6.6. 使用動物類比有助於我們正確看待當前的系統,無論是技術、經濟、法律還是文化,動物類比法可以讓我們敞開思維的大門,看到其他的可能性,在我們繼續將機器人融入人類世界之際,這一點尤為重要
7. AIBO
7.1. 金屬小狗AIBO(在日語中意為“同伴”或“伴侶”)的營銷定位是“21世紀人類最好的朋友”
7.2. AIBO於1999年推出,是當時市場上最先進的人機互動玩具之一
7.3. 這隻小狗有自己的性格,會與人互動,會表現出開心,也會表現出難過的樣子
7.4. A-Fun公司把AIBO的零件互換稱為“器官捐贈”,這樣可以更好地表達出AIBO主人對所發生事情的感受
7.5. 2015年,興福寺舉辦了第一場AIBO葬禮
- 7.5.1. 17只機器狗因“器官捐贈”而得到禮遇,伴隨着祈禱和誦經,機器狗在正式的佛教儀式中辭別今世
7.6. 2018年,也就是索尼推出全新現代化版AIBO的同一年,興福寺為第800個無法修復的機器狗舉辦了葬禮
7.7. 日本的本土信仰認為萬物皆有靈,包括人、動物、樹木、岩石、人造工藝品,甚至虛無也有靈
8. 擬人化
8.1. 善用擬人化的一個原因是它有助於我們理解周圍的世界
8.2. 將動物和物體擬人化的傾向是人類的特徵,這一特徵根深蒂固,隨着時間的推移而越發穩定,在幼兒身上就已經出現這樣的跡象
8.3. 嬰兒最先學會識別和關注的事物之一是臉,無論是看護者的臉,還是隻是一張黑白的面部特徵圖
-
8.3.1. 嬰兒似乎從出生伊始便能夠模擬其他人的心理狀態
-
8.3.2. 可能有助於我們從童年開始就將其他動物和某些物體視為社會的主體
8.4. 渴望減少不確定性,並且能夠預測社會環境中可能發生的事情
8.5. 擬人化背後的另一個流行理論是,它滿足了我們對社會聯繫的內在需求
-
8.5.1. 孤獨的人似乎更傾向於將非人類擬人化,甚至與物體建立深厚的情感關係
-
8.5.2. 社會孤立也可能是引發戀物癖的誘因之一
-
8.5.3. 戀物癖是一種對物體滿懷浪漫想象或性慾的癖好
-
8.5.4. 擬人化不僅僅依存於孤獨和生存
8.6. 電子寵物Tamagotchi是20世紀90年代非常流行的兒童遊戲機,這是一種虛擬寵物,孩子們可以把它掛在鑰匙鏈上隨身攜帶
8.7. “人機交互”,又稱HCI
8.8. 隨着目前與人類互動的實體機器人的興起,人機交互的發現促成了一個新的研究領域:人與機器人的互動,又稱HRI
- 8.8.1. 人們不喜歡不友善的機器人,更願意與表現好的機器人合作,在別人對機器人殘忍的時候會為它們感到難過
9. 移動着的機器人
9.1. “動態圖片”的新媒體形式既為人們提供了身臨其境的體驗,又引人入勝,將繼續存在下去
9.2. 自主運動激活了我們的“生命探測器"
9.3. 區分動物和物體的能力更有可能受我們祖先深層的優先考慮因素,而不是我們自身的生活經歷所驅動
9.4. 當運動有一個主體並且它與我們共處一室時,發現和解讀自主智能運動生命的“生物硬件”的反應甚至會更強烈
9.5. 人們對實體機器人説得更多,笑得更多,而且更願意再次與它們互動
-
9.5.1. 與計算機相比,人們更願意服從實體機器人的命令
-
9.5.2. 當人們獨自待在房間裏時,會抓住機會在遊戲中作弊
-
9.5.3. 當機器人和他們同處一室時,人們作弊的次數便會減少
9.6. 機器人不需要看起來像人類,這種情況也會發生
9.7. 機器人正以多種形式進入人們的生活,即使是最簡單的或機械式的機器人,也能引起人們的本能反應
- 9.7.1. 機器人的設計也不太可能避免引起這些生物反應,尤其是因為有些機器人的設計就是有意模仿逼真的運動