OR 新媒|oror.vip跨平台阅读首选
2024-08-30 08:26
科技

自动驾驶汽车将如何学习作出事关生死的决定?

随着AI汽车时代离我们越来越近,工程师、程序设计人员和生物伦理学家正在努力思考解决一些关键问题,包括识别人类、动物的价值、对安全和速度的权衡等。
自动驾驶继电动汽车后,中国又试图主导AI驱动的自动驾驶技术
Brett Berk


在路面驾驶时,人工智能(AI)视角下的伦理道德会是什么样的?

随着完全自动驾驶汽车离我们越来越近,驾驶决定将由AI掌控,许多汽车制造商认为这种转变将使驾驶更安全。

Alphabet旗下自动驾驶子公司Waymo的产品管理主管David Margines表示,让AI掌控驾驶可以排除许多导致事故的因素,例如超速、疲劳、分心和醉酒,从而防患于未然。

也有人持不同看法。“对自动驾驶汽车的期望远高于对人的期望,”圣克拉拉大学(Santa Clara University)通用工程系的人类学家兼讲师Melissa Cefkin表示,她与日产汽车(Nissan)和Waymo合作研究人与自动驾驶汽车之间的互动。“当一个人发生事故时,我们可以说,‘他们只不过是普通人。他们尽了最大努力。这只是一场意外’,”她说。“我们不会如此宽容地对待一家公司,而且可能也不应该如此。”

随着AI汽车时代渐行渐近,工程师、程序设计人员和生物伦理学家正在努力思考解决一些关键问题。

识别人类

为了避免撞到行人,自动驾驶汽车使用了一系列AI功能:感知、分类、预测、路径规划。但区分人类和人形送货机器人、零售用的人体模型甚至有人物图像的路面广告仍有难度。

普林斯顿大学(Princeton University)人类价值中心生物伦理学名誉教授Peter Singer表示,若训练数据有偏颇或电子摄像头带着偏见去“看”时,也会使一些AI系统在检测深色皮肤的行人时可靠性下降。

凭藉车对车(V2V)和车对基础设施(V2I)系统,自动驾驶汽车将能够彼此互动,并与交通信号灯和摄像头通信。

一些人还设想开发车辆与行人(V2P)通信。交通研究公司Guidehouse Insights的首席出行分析师Sam Abuelsamid表示,例如,手机ping广播可以向自动驾驶汽车的AI发出信号提示人的存在。但这可能引发隐私和个人自由方面的顾虑,并且将没有手机的人置于劣势之中。期望别人带着手机以保护自身安全是否合理?

人类学家Cefkin建议,自动驾驶汽车本身可以更多地表达自己,如使用箭头、灯光或文本来传达它们所看到的内容以及它们正在作出的决定。“人们开始意识到可以进行更多双向沟通,因为汽车现在会告诉他们更多东西。”

动物的价值

在碰撞中,麋和鹿可能对车辆及车内人员构成生存风险。刺猬、猫和狗等较小型动物的风险则较小。从道德角度来看,AI对这些动物的生命有不同考量是否可接受?

Margins说道,对于大型动物,Waymo优先考虑通过回避动作“降低对人类造成伤害的可能性”。至于花栗鼠和鸟类等小型动物,该公司AI“的认知是,刹车或对某些类型的异物采取规避动作本身可能就存在危险”,他说道。

对于豪猪或狐狸等中型动物,考量会有什么不同?对于可能是宠物的动物又有怎样的考量?

生物伦理学家Singer表示,目标应该是“尽量减少对包括人类和非人类在内的所有动物造成伤害”。他担心AI程序设计人员会带有“物种歧视”,偏向人类和作为人类伴侣的动物。作为一名实用主义者,他赞成这种折中考量,而不赞成“不关心非人类动物的利益”。不过,他警告说,像这样的道德决定不应简单地留给市场来决定。而应有专家意见和法规作为指引。

什么是美好的旅程?

选择最快的路线应是指引自动驾驶汽车的核心标准吗?还是其他因素也同样重要?对于自动驾驶共享汽车来说,侧重快速到达目的地将能使汽车完成更多行程并获得更多利润,但可能导致更多危险。而仅仅优先考虑安全也许会减缓和堵塞交通。还是优先选择让乘客享受旅程的路线呢?

Cefkin说,如果考虑服务于谁的利益,这样的决定就涉及到道德层面。“是乘客?自动驾驶出租车服务?还是其他道路使用者?”

安全和速度之间的权衡取舍“这个问题会真正影响到自动驾驶汽车99%的道德问题”,Mobileye首席技术官Shai Shalev-Shwartz说。他说,在这两极之间改变参数会导致不同的AI驾驶行为,从过于鲁莽到过于谨慎,再到看似“自然”和人性化的行为。Mobileye是英特尔(Intel)旗下开发自动驾驶汽车软件和硬件的部门,为全球一些大型车企提供产品。

Mobileye设计了一个包含AI决策五项原则的逻辑系统,分别为不要从后面撞人,不要鲁莽加塞,通行权是给予而非强行获取,在能见度有限的区域谨慎驾驶,以及如果能避免撞车而不造成另一起撞车事故、那就必须这样做。Shalev-Shwartz说,公司模拟发现,如果所有驾驶员都遵守这些规则,无论是人类还是自动驾驶汽车,都不会发生事故。

他说,还可以对这个软件进行调整以生成不同的驾驶风格。例如,自动驾驶跑车可能更追求激情以增强性能感,自动驾驶小型货车可能会将重点放在安全性上,而越野车辆可能会默认选择风景优美的路线。

瑞典汽车制造商沃尔沃(Volvo)希望在公众和自动驾驶汽车之间“建立信任”。“我们对自动驾驶汽车的设计初衷将是平稳和舒适行驶,车速会限定在一定范围内,”沃尔沃产品战略主管Martin Kristensson表示。“这有望影响交通模式,鼓励协作,减少事故,并且随着时间的推移给路面行为带来积极改变。”

有类似研究发现的Cefkin表示,这种行为具有感染力,可以缓解司机、乘客和行人的焦虑。“有证据表明,当人们看到其他人更镇定的反应时,对交通状况会有一些积极的影响,”她说。

对交通规则的反思

特斯拉(Tesla)曾召回配备该公司完全自动驾驶(Full Self-Driving)系统的车辆,因之前美国全国高速公路交通安全委员会(National Highway Traffic Safety Administration)表示,由于FSD技术,一些汽车违反了当地交通法规,出现没有遵照停止路牌指示停车等待等行为。

然而,许多人类驾驶员如何并道、变道、左转或绕过停着的送货车辆也面临着类似的严格合法性问题。那么对自动驾驶汽车是否应有不同的标准?

Mobileye的AI技术能够凭借来自车辆周身的传感器套件获得的数据,通过速度、车辆间距和转弯等指标来识别和区分当地的驾驶习惯。“我们可以调整我们的系统以适应不同地方人类驾驶员的驾驶方式,”Shalev-Shwartz说。“但仅仅因为我们可以做到,并不意味着我们应该这样做。”他认为这是监管部门的职责,建议他们应该“思考对于目前人们在所在城市的驾驶行为,他们是否满意,或者他们是否希望交通有所变化”。

Cefkin说,在AI时代,需要对道路和规则进行全面的重新思考,以提高安全性和便利性并扩展可用性。维持现状可能会失去进行更深层次变革的机会。“道路的出现远早于汽车,也曾有许多其他用途,”她说。“也许是时候让我们重新拿回来了。”

车队思维

想象一下,如果科技公司分派自动驾驶汽车车队来运送人员、货物、食物等。他们会联合起来对付我们吗?

“自动驾驶汽车本身的设计就是作为一个群体共同从驾驶经验中学习,”沃尔沃的Kristensson说。“与单个驾驶员相比,这大大提高了它们的学习速度。”

这些车辆将通过V2V和V2I通信进行互动,这种AI团队合作可能有助于自动驾驶汽车避免事故。但当存在竞争或合作的车队成员相遇时,它们应该如何表现?这些汽车“群体”是否应被允许在碰撞中偏向自己的同伴而不是其他车辆,在链式车队中最大限度地提高效率或主导路线?

Cefkin在思考自身利益是否会影响系统作出的决策。“无论是谁提供这个产品或服务,或者两者兼有,他们可能都希望对某些事情给予更多或不同的权重,”她说。

“车主、车外的人、驾驶另一辆车的人之间不应被区别对待,”Shalev-Shwartz说。他建议路面上所有的汽车都应遵守相同的标准,并平等对待彼此。

但最关键的是,到目前为止还没有这方面的法规。Abuelsamid说,公司可能决定,当发生冲突时,车辆应该优先考虑同一车队中的其他汽车。“作为一个社会,我们需要讨论我们要优先考虑什么?”他说。“我们是要优先考虑公司的需求,还是要优先考虑什么对生活在社会中的人们最为有利?”

注:本文仅代表作者个人观点     

■ 
                                                                                         
相关内容
+
读者评论
MORE +

热门排行榜
OR
+
自动驾驶继电动汽车后,中国又试图主导AI驱动的自动驾驶技术
2024-08-30 08:26
科技

自动驾驶汽车将如何学习作出事关生死的决定?

随着AI汽车时代离我们越来越近,工程师、程序设计人员和生物伦理学家正在努力思考解决一些关键问题,包括识别人类、动物的价值、对安全和速度的权衡等。
Brett Berk


在路面驾驶时,人工智能(AI)视角下的伦理道德会是什么样的?

随着完全自动驾驶汽车离我们越来越近,驾驶决定将由AI掌控,许多汽车制造商认为这种转变将使驾驶更安全。

Alphabet旗下自动驾驶子公司Waymo的产品管理主管David Margines表示,让AI掌控驾驶可以排除许多导致事故的因素,例如超速、疲劳、分心和醉酒,从而防患于未然。

也有人持不同看法。“对自动驾驶汽车的期望远高于对人的期望,”圣克拉拉大学(Santa Clara University)通用工程系的人类学家兼讲师Melissa Cefkin表示,她与日产汽车(Nissan)和Waymo合作研究人与自动驾驶汽车之间的互动。“当一个人发生事故时,我们可以说,‘他们只不过是普通人。他们尽了最大努力。这只是一场意外’,”她说。“我们不会如此宽容地对待一家公司,而且可能也不应该如此。”

随着AI汽车时代渐行渐近,工程师、程序设计人员和生物伦理学家正在努力思考解决一些关键问题。

识别人类

为了避免撞到行人,自动驾驶汽车使用了一系列AI功能:感知、分类、预测、路径规划。但区分人类和人形送货机器人、零售用的人体模型甚至有人物图像的路面广告仍有难度。

普林斯顿大学(Princeton University)人类价值中心生物伦理学名誉教授Peter Singer表示,若训练数据有偏颇或电子摄像头带着偏见去“看”时,也会使一些AI系统在检测深色皮肤的行人时可靠性下降。

凭藉车对车(V2V)和车对基础设施(V2I)系统,自动驾驶汽车将能够彼此互动,并与交通信号灯和摄像头通信。

一些人还设想开发车辆与行人(V2P)通信。交通研究公司Guidehouse Insights的首席出行分析师Sam Abuelsamid表示,例如,手机ping广播可以向自动驾驶汽车的AI发出信号提示人的存在。但这可能引发隐私和个人自由方面的顾虑,并且将没有手机的人置于劣势之中。期望别人带着手机以保护自身安全是否合理?

人类学家Cefkin建议,自动驾驶汽车本身可以更多地表达自己,如使用箭头、灯光或文本来传达它们所看到的内容以及它们正在作出的决定。“人们开始意识到可以进行更多双向沟通,因为汽车现在会告诉他们更多东西。”

动物的价值

在碰撞中,麋和鹿可能对车辆及车内人员构成生存风险。刺猬、猫和狗等较小型动物的风险则较小。从道德角度来看,AI对这些动物的生命有不同考量是否可接受?

Margins说道,对于大型动物,Waymo优先考虑通过回避动作“降低对人类造成伤害的可能性”。至于花栗鼠和鸟类等小型动物,该公司AI“的认知是,刹车或对某些类型的异物采取规避动作本身可能就存在危险”,他说道。

对于豪猪或狐狸等中型动物,考量会有什么不同?对于可能是宠物的动物又有怎样的考量?

生物伦理学家Singer表示,目标应该是“尽量减少对包括人类和非人类在内的所有动物造成伤害”。他担心AI程序设计人员会带有“物种歧视”,偏向人类和作为人类伴侣的动物。作为一名实用主义者,他赞成这种折中考量,而不赞成“不关心非人类动物的利益”。不过,他警告说,像这样的道德决定不应简单地留给市场来决定。而应有专家意见和法规作为指引。

什么是美好的旅程?

选择最快的路线应是指引自动驾驶汽车的核心标准吗?还是其他因素也同样重要?对于自动驾驶共享汽车来说,侧重快速到达目的地将能使汽车完成更多行程并获得更多利润,但可能导致更多危险。而仅仅优先考虑安全也许会减缓和堵塞交通。还是优先选择让乘客享受旅程的路线呢?

Cefkin说,如果考虑服务于谁的利益,这样的决定就涉及到道德层面。“是乘客?自动驾驶出租车服务?还是其他道路使用者?”

安全和速度之间的权衡取舍“这个问题会真正影响到自动驾驶汽车99%的道德问题”,Mobileye首席技术官Shai Shalev-Shwartz说。他说,在这两极之间改变参数会导致不同的AI驾驶行为,从过于鲁莽到过于谨慎,再到看似“自然”和人性化的行为。Mobileye是英特尔(Intel)旗下开发自动驾驶汽车软件和硬件的部门,为全球一些大型车企提供产品。

Mobileye设计了一个包含AI决策五项原则的逻辑系统,分别为不要从后面撞人,不要鲁莽加塞,通行权是给予而非强行获取,在能见度有限的区域谨慎驾驶,以及如果能避免撞车而不造成另一起撞车事故、那就必须这样做。Shalev-Shwartz说,公司模拟发现,如果所有驾驶员都遵守这些规则,无论是人类还是自动驾驶汽车,都不会发生事故。

他说,还可以对这个软件进行调整以生成不同的驾驶风格。例如,自动驾驶跑车可能更追求激情以增强性能感,自动驾驶小型货车可能会将重点放在安全性上,而越野车辆可能会默认选择风景优美的路线。

瑞典汽车制造商沃尔沃(Volvo)希望在公众和自动驾驶汽车之间“建立信任”。“我们对自动驾驶汽车的设计初衷将是平稳和舒适行驶,车速会限定在一定范围内,”沃尔沃产品战略主管Martin Kristensson表示。“这有望影响交通模式,鼓励协作,减少事故,并且随着时间的推移给路面行为带来积极改变。”

有类似研究发现的Cefkin表示,这种行为具有感染力,可以缓解司机、乘客和行人的焦虑。“有证据表明,当人们看到其他人更镇定的反应时,对交通状况会有一些积极的影响,”她说。

对交通规则的反思

特斯拉(Tesla)曾召回配备该公司完全自动驾驶(Full Self-Driving)系统的车辆,因之前美国全国高速公路交通安全委员会(National Highway Traffic Safety Administration)表示,由于FSD技术,一些汽车违反了当地交通法规,出现没有遵照停止路牌指示停车等待等行为。

然而,许多人类驾驶员如何并道、变道、左转或绕过停着的送货车辆也面临着类似的严格合法性问题。那么对自动驾驶汽车是否应有不同的标准?

Mobileye的AI技术能够凭借来自车辆周身的传感器套件获得的数据,通过速度、车辆间距和转弯等指标来识别和区分当地的驾驶习惯。“我们可以调整我们的系统以适应不同地方人类驾驶员的驾驶方式,”Shalev-Shwartz说。“但仅仅因为我们可以做到,并不意味着我们应该这样做。”他认为这是监管部门的职责,建议他们应该“思考对于目前人们在所在城市的驾驶行为,他们是否满意,或者他们是否希望交通有所变化”。

Cefkin说,在AI时代,需要对道路和规则进行全面的重新思考,以提高安全性和便利性并扩展可用性。维持现状可能会失去进行更深层次变革的机会。“道路的出现远早于汽车,也曾有许多其他用途,”她说。“也许是时候让我们重新拿回来了。”

车队思维

想象一下,如果科技公司分派自动驾驶汽车车队来运送人员、货物、食物等。他们会联合起来对付我们吗?

“自动驾驶汽车本身的设计就是作为一个群体共同从驾驶经验中学习,”沃尔沃的Kristensson说。“与单个驾驶员相比,这大大提高了它们的学习速度。”

这些车辆将通过V2V和V2I通信进行互动,这种AI团队合作可能有助于自动驾驶汽车避免事故。但当存在竞争或合作的车队成员相遇时,它们应该如何表现?这些汽车“群体”是否应被允许在碰撞中偏向自己的同伴而不是其他车辆,在链式车队中最大限度地提高效率或主导路线?

Cefkin在思考自身利益是否会影响系统作出的决策。“无论是谁提供这个产品或服务,或者两者兼有,他们可能都希望对某些事情给予更多或不同的权重,”她说。

“车主、车外的人、驾驶另一辆车的人之间不应被区别对待,”Shalev-Shwartz说。他建议路面上所有的汽车都应遵守相同的标准,并平等对待彼此。

但最关键的是,到目前为止还没有这方面的法规。Abuelsamid说,公司可能决定,当发生冲突时,车辆应该优先考虑同一车队中的其他汽车。“作为一个社会,我们需要讨论我们要优先考虑什么?”他说。“我们是要优先考虑公司的需求,还是要优先考虑什么对生活在社会中的人们最为有利?”

注:本文仅代表作者个人观点     

■ 
                                                                                         
相关内容
+
 

读者评论
OR

 

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......