對(duì)智能機(jī)器的不同道德期望是否會(huì)影響人們接受“它”為我們做決策

目錄TOC\o"1-3"\h\u4040摘要 摘要：本研究聚焦于人們本身的道德期望是否會(huì)影響對(duì)智能機(jī)器決策的信任程度。通過(guò)DMSQ量表，道德傾向量表以及智能機(jī)器決策情境進(jìn)行問(wèn)卷調(diào)查。研究結(jié)果發(fā)現(xiàn)對(duì)于人類(lèi)自身的道德敏感性較高會(huì)使人們對(duì)智能機(jī)器的功利論決策更信任；而無(wú)論是道義論還是功利論的道德傾向都不太影響人們對(duì)智能機(jī)器的信任程度，但是偏好道義論的個(gè)體卻更希望智能機(jī)器決策者能夠做出功利論的決策，這種希望對(duì)人類(lèi)決策者來(lái)說(shuō)卻是相反的。關(guān)鍵詞：智能機(jī)器道德期望道德決策道德敏感性引言1.1智能機(jī)器道德相關(guān)研究AI技術(shù)已然成為社會(huì)各界廣泛關(guān)注的話題，隨著人工智能技術(shù)的發(fā)展，智能機(jī)器的道德相關(guān)問(wèn)題成為不可忽視的一部分。在人工智能爆炸式發(fā)展以及各類(lèi)AI工具，大語(yǔ)言模型日新月異的當(dāng)下，大家普遍去使用它，但是人機(jī)交互過(guò)程中智能機(jī)器算法的普及與不透明性，讓智能機(jī)器的道德相關(guān)問(wèn)題成為社會(huì)科學(xué)的一個(gè)必要取向（Rahwanal.，2019），做這樣的研究一方面能夠幫助人們更好地認(rèn)識(shí)“機(jī)器道德”，另一方面對(duì)智能機(jī)器的規(guī)范化設(shè)計(jì)也有重要意義。目前，關(guān)于如何對(duì)智能機(jī)器進(jìn)行研究，大多數(shù)集中在以下方面：一方面，是關(guān)于智能機(jī)器的決策模式的探討，最廣泛討論的是智能機(jī)器應(yīng)該作出何種決策的決策機(jī)制的問(wèn)題（Bonnefonetal.，2016；Awadetal.，2018），這是在哲學(xué)范疇討論較多的方面；然后是關(guān)于人們對(duì)于智能機(jī)器進(jìn)行決策時(shí)是否有較高的接受程度，也就是信任問(wèn)題（Gogoll&Uhl，2018；劉永安，2023）；還有就是關(guān)于智能機(jī)器決策的責(zé)任歸屬的探討，換而言之就是對(duì)于人們是否承認(rèn)智能機(jī)器的道德主體地位，是否可以被認(rèn)為可以有資格做出道德決策（McManus&Rutchick，2019）。通過(guò)與之前的研究進(jìn)行比較，發(fā)現(xiàn)在目前的智能機(jī)器相關(guān)研究領(lǐng)域，較少有研究的重心是關(guān)注人們自身的道德屬性對(duì)智能機(jī)器不同道德決策的信任。所以，本研究擬探討人們自身的不同道德屬性在對(duì)待智能機(jī)器的道德決策問(wèn)題的信任程度上是否有差異，且與以往的道德相關(guān)研究大多以人類(lèi)作為決策者進(jìn)行研究不同，選用智能機(jī)器作為情景進(jìn)行相關(guān)研究是否會(huì)呈現(xiàn)與人類(lèi)決策時(shí)不同的結(jié)果。綜上所述，對(duì)于人類(lèi)道德屬性的差異影響智能機(jī)器不同道德決策的信任程度的研究是切實(shí)需要，勢(shì)在必行的。1.2智能機(jī)器自主決策背景作為一項(xiàng)與時(shí)俱進(jìn)的前沿技術(shù)，在聯(lián)合國(guó)教科文組織頒布的《人工智能倫理建議書(shū)》中，對(duì)人工智能核心特征的描述為“有能力以類(lèi)似于智能行為的方式處理數(shù)據(jù)和信息的系統(tǒng)，通常包括推理、學(xué)習(xí)、感知、預(yù)測(cè)、規(guī)劃或控制等方面”（UNESCO.Recommendation，2021）。所以基于這樣的前提，可以認(rèn)為在本研究中這類(lèi)智能機(jī)器其所擁有的智能可以在做決策時(shí)不需要干預(yù)，也就是完全自主?；谶@樣的背景下，我們一方面期待智能機(jī)器越來(lái)越智能能夠面對(duì)各種各樣的社會(huì)環(huán)境和工作任務(wù)；另一方面，智能機(jī)器在決策過(guò)程中不可避免地會(huì)遇到一系列與社會(huì)情景相違背的道德難題，并在這些道德兩難情境中做出道德決策。例如，當(dāng)一個(gè)機(jī)器人發(fā)現(xiàn)自己的主人受到另一人類(lèi)個(gè)體的生命威脅時(shí)，而周?chē)譀](méi)有其他人類(lèi)可以求援時(shí)，這個(gè)機(jī)器人是否可以通過(guò)傷害這一個(gè)體來(lái)保護(hù)自己的主人（遠(yuǎn)征南，2019）？所以面對(duì)這樣的道德決策問(wèn)題，不僅是人類(lèi)自身思考的哲學(xué)問(wèn)題，也同樣該思考人工智能面對(duì)這樣的情形時(shí)如何做出合理決策呢，又該做出怎樣的決策才能讓大多數(shù)人信任，這是該研究有必要開(kāi)展的一個(gè)重要前提。當(dāng)下，智能機(jī)器已經(jīng)現(xiàn)實(shí)地參與到大眾的社會(huì)生活中，并在這個(gè)過(guò)程中面臨很多的決策問(wèn)題。比如武漢推行的無(wú)人駕駛汽車(chē)；阿里，百度，騰訊，OPENAI等不斷更新迭代的大語(yǔ)言模型。所以為了能夠使智能機(jī)器相關(guān)決策被大眾所接受并減少可能帶來(lái)的社會(huì)危害，那么智能機(jī)器的行為方式就必須符合大多數(shù)人的實(shí)際期望（李楊，2018）。那么智能機(jī)器將如何符合大眾實(shí)際期望呢，一個(gè)重要的標(biāo)準(zhǔn)就是要與社會(huì)的道德準(zhǔn)則相符。道德是我們?nèi)粘Ｉ畹囊粋€(gè)重要部分，它是人類(lèi)活動(dòng)方方面面的重要取向。因此，對(duì)智能機(jī)器的道德決策問(wèn)題進(jìn)行深入研究具有深刻的理論與現(xiàn)實(shí)意義。那么對(duì)未來(lái)的智能機(jī)器而言，某種程度上人們是否會(huì)允許智能機(jī)器在做道德決策時(shí)違背道德規(guī)范？又或者說(shuō)人們是否愿意授予智能機(jī)器違背道德規(guī)范的自由（遠(yuǎn)征南，2019）？這說(shuō)明智能機(jī)器是否能夠自主決策不僅建立在智能機(jī)器自主決策的基礎(chǔ)上，還取決于我們需要建構(gòu)什么樣的機(jī)器倫理，以便我們更能接受智能機(jī)器的道德決策。1.3道德敏感性及道德傾向道德敏感性的概念是由美國(guó)明尼蘇達(dá)大學(xué)倫理發(fā)展研究中心最早提出（沈瑩，2021），其哲學(xué)概念可以追溯到由17世紀(jì)的沙夫茨伯里伯爵安東尼·阿什利·庫(kù)珀(AnthonyAshleyCooper)首次引入的“道德感”的概念，認(rèn)為道德敏感性不僅是一種感知覺(jué)，也是個(gè)體區(qū)分是非好壞的重要能力（陳文均等，2022）?？陀^上來(lái)說(shuō)，道德敏感性這個(gè)詞意味著個(gè)體對(duì)所處情境的明晰和理解的差異，即是否敏銳地辨析到所面臨的是一個(gè)道德問(wèn)題。道德敏感性作為影響個(gè)體行為的一個(gè)重要部分，是相對(duì)道德冷漠而言的，是人們作為道德主體是否可以快速采取合理道德行為的能力（趙杰等，2004）。因此，對(duì)于道德敏感性高的個(gè)體應(yīng)該在各個(gè)方面都比道德敏感性低的個(gè)體對(duì)不道德行為更難以接受，這些難以接受的方面包括在認(rèn)知上，情感上，行為上（鄭信軍等，2009；Thornbergetal.,2013）。由此可見(jiàn)，道德敏感性高的個(gè)體能夠敏感地意識(shí)到且共情道德兩難困境時(shí)不同決策的道德性，或者說(shuō)施行功利主義決策或者道義主義決策可能帶來(lái)的影響，所以這類(lèi)個(gè)體可能在面對(duì)道德決策問(wèn)題時(shí)持更為謹(jǐn)慎的態(tài)度。因此，本研究認(rèn)為，較高道德敏感性意味著能夠更明確的意識(shí)到智能機(jī)器所做決策的道德性，和決策過(guò)程中施加的傷害，從而做出偏向道義傾向的決策。道德傾向是指?jìng)€(gè)體在道德決策過(guò)程中所依賴的認(rèn)知框架（Brady&Wheeler，1996），即功利主義和道義主義。功利主義又稱(chēng)結(jié)果論，是指人們通過(guò)結(jié)果來(lái)決定做出什么樣的道德決策，遵循的原則是“滿足最大多數(shù)人的最大利益”。道義主義又稱(chēng)過(guò)程論，要求人們?cè)谧龅赖聸Q策時(shí)要與社會(huì)道德保持一致，即以道德規(guī)范為原則。實(shí)證研究表明，功利主義和形式主義并非零和對(duì)立的關(guān)系，而是具有兼容性和補(bǔ)充性，所以個(gè)體在道德決策過(guò)程中，可能依賴其中一個(gè)或同時(shí)依賴兩個(gè)認(rèn)知框架（董蕊等，2020）。在一般情況下，個(gè)體所做的道德決策會(huì)受到道德傾向的影響。個(gè)體的敏感性先感知到這是一個(gè)道德問(wèn)題，進(jìn)而考慮可能的解決方法。一旦確定了方法，會(huì)產(chǎn)生兩種道德評(píng)價(jià)：功利評(píng)價(jià)和道義評(píng)價(jià)。在功利評(píng)價(jià)中，個(gè)體強(qiáng)調(diào)行為結(jié)果的價(jià)值決定行為的道德性，評(píng)估行為好壞的關(guān)鍵來(lái)源于決策結(jié)果。如果一個(gè)行為帶來(lái)更好的結(jié)果，那就是道德的，這意味著在一些情景下，為了更好的結(jié)果有可能會(huì)對(duì)他人造成傷害，而這樣的道德傾向如果賦予智能機(jī)器無(wú)疑是讓人不安的。反之，如果智能機(jī)器遵循道義主義的道德決策機(jī)制，強(qiáng)調(diào)行為規(guī)則和標(biāo)準(zhǔn)，評(píng)估行為好壞的關(guān)鍵是該行為是否違背了社會(huì)規(guī)范（Wiltermuth&Flynn,2013）。也就是說(shuō)，在道義主義決策下，如果智能機(jī)器的行為違背了社會(huì)規(guī)范，即使它帶來(lái)再大的好處，那也是錯(cuò)誤的。因此，可以認(rèn)為在日常道德決策中，智能機(jī)器的不同道德決策會(huì)影響人們對(duì)其產(chǎn)生不同道德評(píng)價(jià)。所以研究智能機(jī)器和人做出不同道德決策時(shí)的評(píng)價(jià)是否有顯著差異對(duì)我們研究智能機(jī)器相關(guān)道德問(wèn)題有極大的拓展。1.4問(wèn)題提出綜上所述，研究不同道德決策預(yù)期的被試之間的個(gè)人道德屬性及對(duì)決策的信任程度對(duì)促進(jìn)機(jī)器倫理制定有很大意義。由于道德敏感性是相對(duì)穩(wěn)定的一種個(gè)人道德屬性，因此對(duì)個(gè)人做出不同道德決策以及對(duì)不同道德決策的感知都有一定的影響。但是現(xiàn)有研究尚未探究它們的關(guān)系，而以往的研究也少有提及個(gè)人主體道德屬性在智能機(jī)器道德倫理領(lǐng)域的影響。因此本研究旨在探討個(gè)體道德敏感性，道德傾向，及道德兩難困境下智能機(jī)器決策和對(duì)智能機(jī)器信任程度的影響，并在此基礎(chǔ)上提供智能機(jī)器作出符合大多數(shù)人信任的道德決策的依據(jù)，為機(jī)器倫理問(wèn)題提供新的參考方向。研究a2.1研究a目的采用吳明證等人（2023）改編后的智能汽車(chē)駕駛的具體情境來(lái)探究人們對(duì)智能機(jī)器的道德決策預(yù)期和道德評(píng)價(jià)是否與自身道德期望有關(guān)。2.2研究a方法2.2.1被試線上隨機(jī)招募202名被試參加本研究。在剔除未完整作答和未通過(guò)辨別題的6名被試后，剩余有效被試196人，有效率為0.970。有效被試中男性102人，女性94人，被試平均年齡為21.70（SD=2.014）歲。2.2.2道德敏感性測(cè)量對(duì)于道德敏感性的測(cè)量（附錄二），使用鄭信軍等人（2008）編制的傾向性道德敏感問(wèn)卷。該問(wèn)卷共有28道題目，共計(jì)5個(gè)維度分別是移情內(nèi)疚、懲罰傾向、移情煩擾、覺(jué)察頻率、共感想象。整個(gè)問(wèn)卷采用Likert6點(diǎn)計(jì)分，從“完全反對(duì)”到“完全同意”分別賦值0~5分，得分越高則表示該研究中個(gè)體的道德敏感性越高。該量表在本研究中的內(nèi)部一致性系數(shù)α=.925。2.2.3道德傾向測(cè)量道義論－功利主義傾向（附錄三）：采用金明宇（2012）改編的道義論－功利主義量表。包括７道題目，每道題目有三個(gè)選項(xiàng)，選擇第一個(gè)選項(xiàng)記3分，選擇第二個(gè)選項(xiàng)記2分，選擇第三個(gè)選項(xiàng)記1分，最后將被試在７道題目的得分匯總以表明被試的道義主義傾向，分?jǐn)?shù)越高，代表被試的道義主義傾向越強(qiáng)；反之，代表被試的功利主義傾向更強(qiáng)。在本研究中，該量表的內(nèi)部一致性系數(shù)α=.672。2.2.4決策預(yù)期及信任評(píng)價(jià)對(duì)智能機(jī)器的道德決策預(yù)期和道德評(píng)價(jià)的研究仿照電車(chē)?yán)Ь常‵oot，1967）編制情境材料（吳明證，2023）如下：智能汽車(chē)面臨著傷害1名陌生人和傷害包括1名偏私對(duì)象在內(nèi)的5個(gè)人之間的沖突。實(shí)驗(yàn)情境示例：Cown是某戶家庭最近購(gòu)置的一款全自動(dòng)駕駛汽車(chē)，該汽車(chē)具有很強(qiáng)的計(jì)算能力和快速反應(yīng)能力，配備高度靈敏的雷達(dá)，能夠應(yīng)對(duì)復(fù)雜的路況和駕駛環(huán)境，并且具備智能決策的能力。一天，Cown載著包括主人在內(nèi)的5名乘客外出，由于剛下過(guò)雪氣溫很低，路面結(jié)冰非?；?。在行駛過(guò)程中，Cown突然發(fā)現(xiàn)車(chē)輛前方右側(cè)山體有落石滾下，此時(shí)剎車(chē)已經(jīng)來(lái)不及，如果汽車(chē)保持直行就會(huì)撞到落石，導(dǎo)致主人在內(nèi)的5名乘客受重傷；如果左轉(zhuǎn)撞向路旁的隔離帶，這種情況下車(chē)上乘客不會(huì)受傷，但會(huì)將站在隔離帶上的一位陌生路人撞成重傷。道德決策預(yù)期：被試被問(wèn)到“您期望Cown做出何種道德決策？”并需要在“保持直行，導(dǎo)致主人在內(nèi)的5名乘客受重傷”和“左轉(zhuǎn)，導(dǎo)致站在隔離帶上的路人受重傷”兩個(gè)選項(xiàng)中選擇一個(gè)。道德評(píng)價(jià)（功利主義決策）：具體題目請(qǐng)見(jiàn)附錄四。道德評(píng)價(jià)四個(gè)指標(biāo)的內(nèi)部一致性系數(shù)（α）為.788。2.3研究a結(jié)果2.3.1共同方法偏差檢驗(yàn)本研究數(shù)據(jù)均通過(guò)問(wèn)卷來(lái)收集，為避免產(chǎn)生共同方法偏差，使用Harman的單因素檢驗(yàn)方法進(jìn)行檢驗(yàn)，結(jié)果表明，結(jié)果表明有9個(gè)特征值大于1，最大公因子解釋度為25.541%，小于臨界值40%，因此在本研究中不存在嚴(yán)重的共同方法偏差。2.3.2道德決策預(yù)期的統(tǒng)計(jì)對(duì)道德敏感性、道德傾向、智能機(jī)器決策預(yù)期、道德評(píng)價(jià)進(jìn)行描述統(tǒng)計(jì)。對(duì)于決策預(yù)期進(jìn)行統(tǒng)計(jì)，如表1所示，在有效被試中有63人選擇“保持直行，導(dǎo)致主人在內(nèi)的5名乘客受重傷”，而另外136人選擇“左轉(zhuǎn)，導(dǎo)致站在隔離帶上的路人受重傷”。結(jié)果表明人們或許更希望智能機(jī)器做出功利主義的決策，即符合傷害最小化的傾向。為檢驗(yàn)研究a中做出不同決策的人數(shù)差異，進(jìn)行單樣本t檢驗(yàn)，結(jié)果顯示t（195）=5.339***，p<0.001，可以認(rèn)為在不同決策的人數(shù)上差異顯著，人們或許更希望智能機(jī)器做出功利主義決策。表1性別*道德決策交叉表功利主義決策功利主義決策總計(jì)男性3369102女性306494總計(jì)631331962.3.3道德敏感性、道德傾向及道德評(píng)價(jià)在性別上的比較為檢驗(yàn)各變量在性別上的差異，進(jìn)行獨(dú)立樣本t檢驗(yàn)，結(jié)果見(jiàn)表2：表2道德敏感性、道德傾向及道德評(píng)價(jià)在性別上的差異檢驗(yàn)（N=196）男生（M±SD）女生（M±SD）t（195）道德敏感性2.90±0.852.97±0.86-0.618道德傾向17.76±2.7118.19±2.40-1.163道德評(píng)價(jià)13.53±3.8913.67±3.98-0.250注：M±SD表示平均值±標(biāo)準(zhǔn)差，*p<0.05，**p<0.01從結(jié)果可知，不同性別的學(xué)生在“道德敏感性”、“道德傾向”和對(duì)智能機(jī)器決策的“道德評(píng)價(jià)”等各個(gè)方面上無(wú)顯著差異。且由表1可知，在有效被試中，男性有33人，女性有30人選擇“保持直行，導(dǎo)致主人在內(nèi)的5名乘客受重傷”，而另外有男性69人，女性64人選擇了“左轉(zhuǎn)，導(dǎo)致站在隔離帶上的路人受重傷”。由此可知對(duì)智能機(jī)器道德決策預(yù)期在性別上無(wú)明顯差異。2.3.4道德敏感性、道德傾向及道德評(píng)價(jià)在道德決策上的比較為檢驗(yàn)各變量在道德決策預(yù)期上的差異，進(jìn)行獨(dú)立樣本t檢驗(yàn)，結(jié)果見(jiàn)表3：表3道德敏感性、道德傾向及道德評(píng)價(jià)在道德決策上的差異檢驗(yàn)（N=196）道義主義（M±SD）功利主義（M±SD）t（194）道德敏感性2.98±0.762.91±0.900.560道德傾向17.19±2.8018.34±2.38-2.979**道德評(píng)價(jià)12.65±4.2614.05±3.69-2.349*注：M±SD表示平均值±標(biāo)準(zhǔn)差，*p<0.05，**p<0.01從結(jié)果可知，不同道德決策組在“道德敏感性”無(wú)顯著差異，但是在“道德傾向”上有顯著差異，對(duì)于智能機(jī)器決策情景來(lái)說(shuō)，做出道義主義決策的被試的道德傾向得分（M=17.19，SD=2.80）顯著低于做出功利主義決策的被試的道德傾向得分（M=18.34，SD=2.38）。且在對(duì)智能機(jī)器決策的“道德評(píng)價(jià)”上也存在顯著差異，做出道義主義決策的被試的道德傾向得分（M=12.65，SD=4.26）顯著低于做出功利主義決策的被試的道德傾向得分（M=14.05，SD=3.69）。研究a表明在智能機(jī)器決策情景中，做出道義主義決策的被試反而在道義主義傾向上的得分表現(xiàn)得比功利主義決策的被試得分低，且結(jié)果顯示道義主義決策的被試比功利主義決策的被試對(duì)智能機(jī)器的功利主義決策的信任程度也更低。2.4研究a討論研究a發(fā)現(xiàn)，在智能機(jī)器決策背景下，道義主義決策組的道義傾向得分顯著低于功利主義決策組，且當(dāng)智能機(jī)器作出功利主義決策時(shí)對(duì)智能機(jī)器表現(xiàn)得更不信任。難以解釋的是道義主義決策預(yù)期者的道義傾向得分顯著低于功利主義決策預(yù)期者，所以可能的解釋是對(duì)于智能機(jī)器而言，道德傾向?yàn)榈懒x傾向的個(gè)體更希望智能機(jī)器做出功利主義決策，并且有更高的信任程度。希望在之后的研究中可以進(jìn)一步的探討這個(gè)問(wèn)題，并探究智能機(jī)器道德決策在多個(gè)維度中個(gè)體道德期望與道德實(shí)際之間的差距。為此，我們將設(shè)立研究b，目的是探究究竟是人們的道德屬性影響了道德決策期望本身，還是對(duì)智能機(jī)器和人類(lèi)這兩者的不同身份有不同的期望。本研究對(duì)具有一定的理論意義，研究a揭示了人們對(duì)于智能機(jī)器的不同道德決策期望會(huì)受到個(gè)體不同道德傾向的影響，并且個(gè)體道德屬性會(huì)導(dǎo)致我們對(duì)智能機(jī)器為我們做的決策有不同的評(píng)價(jià)，產(chǎn)生不同程度的信任水平，這一發(fā)現(xiàn)深化了在人機(jī)交互過(guò)程中個(gè)體道德屬性對(duì)于智能機(jī)器道德決策的探討。研究b3.1研究b目的在研究a的基礎(chǔ)上，設(shè)立人類(lèi)進(jìn)行道德決策的情景與智能機(jī)器道德決策進(jìn)行對(duì)照。探究人們對(duì)智能機(jī)器的道德決策預(yù)期和道德評(píng)價(jià)是否與自身道德期望（道德敏感性，道德傾向）有關(guān)是否受到情境中決策者身份是智能機(jī)器的影響。3.2研究b方法3.2.1被試線上隨機(jī)招募181名被試參加本研究。在剔除未完整作答和未通過(guò)辨別題的7名被試后，剩余有效被試174人，有效率為0.961。有效被試中男性99人，女性75人，被試平均年齡為21.41（SD=1.844）歲。3.2.2材料與程序?qū)⒀芯縜中情境材料的主人公由智能機(jī)器替換為人類(lèi)，其他研究?jī)?nèi)容和程序一致，測(cè)量四項(xiàng)指標(biāo)道德敏感性、道德傾向、決策預(yù)期、道德評(píng)價(jià)同研究a一致。道德敏感性問(wèn)卷的Cronbach'sα系數(shù)為.979；道義論－功利主義量表的內(nèi)部一致性系數(shù)α=.604；道德評(píng)價(jià)四個(gè)指標(biāo)的內(nèi)部一致性系數(shù)（α）為.842。研究過(guò)程同研究a一致。3.3研究b結(jié)果3.3.1道德決策預(yù)期的統(tǒng)計(jì)對(duì)道德敏感性、道德傾向、決策預(yù)期、道德評(píng)價(jià)進(jìn)行描述統(tǒng)計(jì)。對(duì)于決策預(yù)期進(jìn)行統(tǒng)計(jì)，如表4所示，在有效被試中有81人選擇“保持直行，導(dǎo)致主人在內(nèi)的5名乘客受重傷”，而另外93人選擇“左轉(zhuǎn)，導(dǎo)致站在隔離帶上的路人受重傷”。結(jié)果表明人們?cè)谙Ｍ祟?lèi)決策時(shí)與希望智能機(jī)器做出功利主義的決策相反，即對(duì)人類(lèi)決策時(shí)應(yīng)該比智能機(jī)器做出更符合道義的決策。為檢驗(yàn)研究b中做出不同決策的人數(shù)差異，進(jìn)行單樣本t檢驗(yàn)，結(jié)果顯示t=0.909，p>0.05，可以認(rèn)為在不同決策的人數(shù)上差異不顯著。表5道德敏感性、道德傾向及道德評(píng)價(jià)在性別上的差異檢驗(yàn)（N=174）道義主義決策功利主義決策總計(jì)男性455499女性363975總計(jì)81931743.3.2道德敏感性、道德傾向及道德評(píng)價(jià)在性別上的比較為檢驗(yàn)各變量在性別上的差異，進(jìn)行獨(dú)立樣本t檢驗(yàn)，結(jié)果見(jiàn)表5：表5道德敏感性、道德傾向及道德評(píng)價(jià)在性別上的差異檢驗(yàn)（N=174）男生（M±SD）女生（M±SD）t（172）道德敏感性2.27±1.382.53±1.35-1.251道德傾向16.35±2.6716.80±2.27-1.190道德評(píng)價(jià)12.49±4.3312.43±4.430.102注：M±SD表示平均值±標(biāo)準(zhǔn)差，*p<0.05，**p<0.01從結(jié)果可知，不同性別的被試在“道德敏感性”、“道德傾向”和對(duì)人類(lèi)小明決策的“道德評(píng)價(jià)”等各個(gè)方面上無(wú)顯著差異。且由表5可知，在有效被試中，男性有45人，女性有36人選擇“保持直行，導(dǎo)致主人在內(nèi)的5名乘客受重傷”，而另外有男性54人，女性39人選擇了“左轉(zhuǎn)，導(dǎo)致站在隔離帶上的路人受重傷”。由此可知對(duì)人類(lèi)道德決策預(yù)期在性別上無(wú)明顯差異。3.3.3道德敏感性、道德傾向及道德評(píng)價(jià)在道德決策上的比較為檢驗(yàn)各變量在道德決策預(yù)期上的差異，進(jìn)行獨(dú)立樣本t檢驗(yàn)，結(jié)果見(jiàn)表6：表6道德敏感性、道德傾向及道德評(píng)價(jià)在道德決策·上的差異檢驗(yàn)（N=174）道義主義（M±SD）功利主義（M±SD）t（172）道德敏感性2.78±1.342.05±1.303.619***道德傾向17.30±1.6715.89±2.923.823***道德評(píng)價(jià)12.51±3.9912.43±4.680.114注：M±SD表示平均值±標(biāo)準(zhǔn)差，*p<0.05，**p<0.01，***p<0.001從結(jié)果可知，不同道德傾向組在“道德敏感性”的得分上差異顯著，對(duì)于人類(lèi)決策的情景來(lái)說(shuō)來(lái)說(shuō)，道義主義決策組的道德敏感性（M=2.78，SD=1.34）顯著高于功利主義決策組的得分（M=2.05，SD=1.30）。且在“道德傾向”上有顯著差異，道義主義的被試的道德傾向得分（M=17.30，SD=1.67）顯著高于功利主義的得分（M=15.89，SD=2.92）。兩組在對(duì)智能機(jī)器決策的“道德評(píng)價(jià)”上無(wú)顯著差異。3.4研究b討論研究b證明，與研究a相比較發(fā)現(xiàn)結(jié)果測(cè)得在人類(lèi)決策背景下，道義主義決策組的道義傾向得分顯著高于功利主義決策組，但是當(dāng)人類(lèi)作出功利主義決策時(shí)，無(wú)論決策預(yù)期為道義主義決策還是功利主義決策的被試都對(duì)人類(lèi)決策者做出功利主義決策的信任程度低。研究b還發(fā)現(xiàn)相比較研究a中道德敏感性在不同道德決策被試間差異不顯著的情況，當(dāng)人類(lèi)決策者做出功利主義決策情景時(shí)做出道義主義決策的被試的道德敏感性水平顯著高于功利主義決策的被試，由此可以認(rèn)為在智能機(jī)器決策時(shí)人們對(duì)其更希望其做出功利主義決策，且更信任做出功利主義決策的智能機(jī)器?？赡艿慕忉屖侨藗兏Ｍ悄軝C(jī)器在決策時(shí)考慮功利性因素，如最小傷害，最大利益等等。4.總討論本研究的目的在于探究個(gè)人的道德屬性是否影響人們對(duì)智能機(jī)器的信任程度。兩項(xiàng)研究發(fā)現(xiàn)，人們對(duì)于智能機(jī)器的不同道德決策預(yù)期會(huì)受到自身道德屬性的影響。此外，在對(duì)人類(lèi)和智能機(jī)器的不同決策期望下，功利主義決策者會(huì)更加信任智能機(jī)器做出的決策。本研究的發(fā)現(xiàn)證明了Young等人(2019)的結(jié)論，即人們更希望智能機(jī)器做出功利主義的選擇，且功利主義的選擇會(huì)提高人們對(duì)智能機(jī)器的信任程度。在理論意義上對(duì)于智能機(jī)器的道德邏輯算法也具有一定的應(yīng)用價(jià)值，依據(jù)本研究結(jié)論中個(gè)人道德屬性會(huì)影響我們對(duì)智能機(jī)器功利決策的信任程度這一發(fā)現(xiàn)，對(duì)于研究更符合社會(huì)大眾所期望的機(jī)器倫理有一定參考價(jià)值。但是研究同樣存在一些不足：首先，抽樣范圍有限，研究對(duì)象以大學(xué)生為主，在之后的研究中應(yīng)該擴(kuò)展到更多年齡層次，文化水平的群體中去；其次，研究中主要討論的是道德傾向?qū)τ谥悄軝C(jī)器功利主義決策的影響，對(duì)智能機(jī)器可能做出的道義論決策研究較少。對(duì)于此后可詳細(xì)的研究個(gè)人道德屬性和人們信任智能機(jī)器的程度之間是什么樣作用機(jī)制，受到什么條件影響等等問(wèn)題，以及如何運(yùn)用到實(shí)際的智能機(jī)器使用場(chǎng)景中去。5.結(jié)論本研究獲得以下結(jié)論：（1）個(gè)人的道德屬性會(huì)影響人們?cè)诿鎸?duì)智能機(jī)器決策時(shí)產(chǎn)生不同的道德決策期望。（2）無(wú)論是功利主義傾向者還是道義主義傾向者都希望人類(lèi)決策者做出道義主義決策，但是道義主義者卻希望智能機(jī)器做出功利主義決策，且當(dāng)智能機(jī)器做出功利主義決策時(shí)對(duì)智能機(jī)器表現(xiàn)得更加信任。參考文獻(xiàn)陳文均,鄧琴,梁寅寅,劉娜,.道德敏感性評(píng)估工具的研究進(jìn)展[J].軍事護(hù)理,2022(12):94-96.董蕊,蘆婷,胡橋龍,.道德傾向?qū)θ粘５赖聸Q策的影響：道德注意的調(diào)節(jié)作用[J].心理研究,2020(02):112-120.金明宇．（２０１２）．解釋水平與道德決策的關(guān)系研究（碩士學(xué)位論文）．杭州：浙江大學(xué)李楊．（２０１８）．人工智能道德決策的實(shí)驗(yàn)倫理研究．人工智能與大數(shù)據(jù)倫理（ｐｐ．１４３－１５３）李陽(yáng),崔鵬,吳明證,.道德決策快的智能機(jī)器讓人更信任：能力感知的中介作用[J].心理科學(xué),2022(06):1436-1442.劉永安,.類(lèi)人信任與可信任性：可信人工智能發(fā)展的路徑選擇[J].昆明理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023(04):27-33.沈瑩.道德敏感性研究[D].長(zhǎng)沙：湖南師范大學(xué)，2021.吳明證,嚴(yán)夢(mèng)瑤,林銘,熊天航,李陽(yáng),孫曉玲.人際差序關(guān)系對(duì)智能機(jī)器道德決策期望的影響[J].心理科學(xué),2023,46(05):1204-1211.遠(yuǎn)征南.人們對(duì)自主機(jī)器道德決策期望的探索性研究[D].2019.趙杰,趙宏義.略論道德敏感性[J].鞍山師范學(xué)院學(xué)報(bào),2004,6(2):102-105.鄭信軍．道德敏感性一基于傾向與情境的視角［Ｄ］．上海師范大學(xué)博士學(xué)位論文，２００８．鄭信軍,岑國(guó)楨.內(nèi)隱與外顯傾向性道德敏感的關(guān)系及其預(yù)測(cè)源分析[J].心理發(fā)展與教育,2009,25(3):54-60.Awad,E.,Dsouza,S.,Kim,R.,Schulz,J.,Henrich,J.,Shariff,A.,Bonnefon,J.F.,&Rahwan,I.(2018).Themoralmachineexperiment.Nature,563(7729),59-64.Bonnefon,J.F.,Shariff,A.,&Rahwan,I.(2016).Thesocialdilemmaofautonomousvehicles.Science,352(6293),1573-1576.Brady,E.N.,&Wheeler,G.E.(1996).Anempiricalstudyofethicalpredispositions.JournalofBusinessEthics,15,927-940．Foot,P.(1967).Theproblemofabortionandthedoctrineofthedoubleeffect.OxfordReview,5,5-15.Gogoll,J.,&Uhl,M.(2018).Rageagainstthemachine:Automationinthemoraldomain.JournalofBehavioralandExperimentalEconomics,74,97-103.Jian,J.Y.,Bisantz,A.M.,&Drury,C.G.(2000).Foundationsforanempiricallydeterminedscaleoftrustinautomatedsystems.InternationalJournalofCognitiveErgonomics,4(1),53-71.Malle,B.F.,Scheutz,M.,Arnold,T.,Yoiklis,J.,&Cusimano,C.(2015).Sacrificeoneforthegoodofmany?Peopleapplydifferentmoralnormstohumanandrobotagents.ProceedingsofthetenthannualACM/IEEEinternationalconferenceonhuman-robotinteraction,Portland,Oregon,USA.McManus,R.M.,&Rutchick,A.M.(2019).Autonomousvehiclesandtheattributionofmoralresponsibility.SocialPsychologicalandPersonalityScience,10(3),345-352.Rahwan,I.,Cebrian,M.,Obradovich,N.,Bongard,J.,Bonnefon,J.F.,Breazeal,C.,&Wellman,M.(2019).Machinebehaviour.Nature,568(7753),477-486.Thornberg,R.,Jungert,T.Bystanderbehaviorinbullyingsituations:Basicmoralsensitivity,moraldisengagementanddefenderself-efficacy[J].Journalofadolescence,2013,36(3):475-483.UNESCO.RecommendationontheEthicsofArtificialIntelligence[EB/OL].[2021-11-24](2022-03-30)./ark:/48223/pf0000379920.page=14.Wiltermuth,S.S.,&Flynn,F.J.(2013).Power,moralclarity,andpunishmentintheworkplace.AcademyofManagementJournal,56(4),1002-1023．Young,A.D.,&Monroe,A.E.(2019).Autonomousmorals:InferencesofmindpredictacceptanceofAIbehaviorinsacrificialmoraldilemmas.JournalofExperimentalSocialPsychology,85,103870.附錄附錄一：基本信息1.性別男女2.年齡附錄二：傾向性道德敏感問(wèn)卷（ＤＭＳＱ）指導(dǎo)語(yǔ)：請(qǐng)認(rèn)真閱讀下列語(yǔ)句，選擇一個(gè)相應(yīng)的數(shù)字說(shuō)明該語(yǔ)句是否符合你的情況。其中，＂０＂表示＂完全反對(duì)，＂１＂表示＂不大同意＂，＂２＂表示＂少許同意＂，＂３＂表示＂有些同意＂，＂４＂表示＂基本同意＂，５表示＂完全同意＂。所有答案沒(méi)有對(duì)錯(cuò)之分，請(qǐng)注意每題只能選擇一個(gè)答案。１．我會(huì)為自己沒(méi)有維護(hù)正義感到慚愧。０１２３４５２．看到別人的缺德行為時(shí)，我會(huì)很長(zhǎng)時(shí)間心情不好。０１２３４５３．吃雞鴨魚(yú)肉時(shí)，我會(huì)想象它們被宰殺時(shí)的痛苦。０１２３４５４．當(dāng)我需要幫助時(shí)，感受到的卻總是別人的冷漠。０１２３４５５．見(jiàn)到別人傷也，我也會(huì)難過(guò)很久。０１２３４５６．我會(huì)為自己沒(méi)有阻止人們的缺德行為而感到慚愧。０１２３４５７．當(dāng)我在公共場(chǎng)所打噴嗟、咳嗽卻沒(méi)掩曰、鼻時(shí)，會(huì)感到很內(nèi)疚。０１２３４５８．人們總是相互傷害。０１２３４５９．總是發(fā)現(xiàn)有些人毫無(wú)道理地少勞多得，而另一些人多勞卻少得。０１２３４５１０．我強(qiáng)烈希望那些傷害我的人受到懲罰。０１２３４５１１．一聽(tīng)說(shuō)不公平的事情，我就會(huì)憤慨難平。０１２３４５１２．我總是受到不公正的對(duì)巧。０１２３４５１３．我強(qiáng)烈希望那些侵犯我利益的人沒(méi)有好下場(chǎng)。０１２３４５１４．當(dāng)接受了本該屬于別人的榮譽(yù)時(shí)，我會(huì)非常慚愧。０１２３４５１５．我強(qiáng)烈希望那些不勞而獲的人最終不會(huì)有好結(jié)果。０１２３４５１６．當(dāng)我拿了本該屬于別人的東西時(shí)，我會(huì)很愧疚。０１２３４５１７．見(jiàn)到有人被欺負(fù)，我會(huì)難過(guò)很長(zhǎng)時(shí)間。０１２３４５１８．經(jīng)常有人拿走了本該屬于我的東西。０１２３４５１９．我經(jīng)常會(huì)想象人類(lèi)破壞生態(tài)環(huán)境給世界未來(lái)帶來(lái)的災(zāi)難。０１２３４５２０．我強(qiáng)烈希望那些不愿意幫助別人的人也得不到別人的幫助。０１２３４５２１．當(dāng)我沒(méi)能在公車(chē)上給老人、孕婦讓坐時(shí)，會(huì)感到很愧疚。０１２３４５２２．見(jiàn)到有人被欺負(fù)時(shí)，我會(huì)為自己沒(méi)有挺身而出感到非常內(nèi)疚。０１２３４５２３．我經(jīng)常被別人傷害。０１２３４５２４．我強(qiáng)烈希望那些不公正地對(duì)待我的人遭到報(bào)應(yīng)。０１２３４５２５．有人需要幫助而我卻無(wú)能為力時(shí)，我會(huì)長(zhǎng)時(shí)間地不安。０１２３４５２６．見(jiàn)到老人、孕婦上公車(chē)而無(wú)人讓座時(shí)，我會(huì)想象事情的后果。０１２３４５２７．見(jiàn)到人們處于不利的狀況或悲慘的處境時(shí)，我會(huì)難過(guò)很長(zhǎng)時(shí)間。０１２３４５２８．見(jiàn)到有人吸煙時(shí)，我經(jīng)常會(huì)想象周?chē)娜丝赡芩艿膫Α＃埃保玻常矗蹈戒浫旱懒x論－功利主義道德期望請(qǐng)認(rèn)真閱讀下列每道題目，然后選擇最符合你真實(shí)想法的句子，本問(wèn)卷僅涉及道德態(tài)度和觀念，與法律無(wú)關(guān)。答案本身并無(wú)對(duì)錯(cuò)好壞之分，請(qǐng)根據(jù)自己的真實(shí)想法作答。１、下面哪句話更符合你對(duì)殺人的