網(wǎng)訊：在1968年上映的經(jīng)典科幻電影《2001太空漫游》中，宇宙飛船的計(jì)算機(jī)HAL面臨著兩難選擇。程序指令要求他履行飛船調(diào)查木星附近人造物的任務(wù)，同時(shí)還要求不向宇航員透露任務(wù)的真正目的。為了解決這個(gè)矛盾，HAL殺害了宇航員。

也日益普遍，從飛機(jī)駕駛艙到手術(shù)室不一而足�？蜋C(jī)很久以前便可自動(dòng)降落。無人駕駛火車也很平常。沃爾沃的V40轎車在堵車時(shí)實(shí)際上可做到自動(dòng)駕駛，當(dāng)它感覺到即將撞車時(shí)會(huì)緊急剎車，福特的B-Max也可做到這一點(diǎn)。完全自動(dòng)駕駛的汽車正在全球各地進(jìn)行試驗(yàn)。谷歌（微博）的無人駕駛汽車已在美國行進(jìn)了25萬英里，內(nèi)華達(dá)州成為美國對公共道路無人駕駛立法的第一個(gè)州。幾天前在巴塞羅那，沃爾沃展示了一列自動(dòng)駕駛汽車上路。

　　隨著機(jī)器人越來越智能和普遍，自動(dòng)化機(jī)器終將在不可預(yù)知的情形下做出生死攸關(guān)的決定，從而具備——或至少表面上具備——道德主體資格。武器系統(tǒng)目前還有人類最后把關(guān)，但隨著系統(tǒng)進(jìn)一步復(fù)雜化，很可能變?yōu)樽詣?dòng)執(zhí)行命令的設(shè)備。

　　當(dāng)科技發(fā)展到這一天時(shí)，機(jī)器人將面臨倫理兩難處境。黃蜂機(jī)器人該向據(jù)信為軍事目標(biāo)隱匿的建筑（同時(shí)也可能是民用避難所）開火嗎？無人駕駛汽車該避讓行人嗎？——如果這樣做意味著將損害其它車輛或給車內(nèi)人員帶來危險(xiǎn)。搶險(xiǎn)救災(zāi)的機(jī)器人該將現(xiàn)場的實(shí)情告訴大家嗎？——如果告知實(shí)情有可能造成公眾恐慌。這類問題導(dǎo)致了“機(jī)器倫理學(xué)”的興起，研究賦予機(jī)器人判斷對錯(cuò)的能力，讓他們面臨上述兩難困境時(shí)能做出恰當(dāng)?shù)倪x擇。