点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

首页> 社科 > 正文

“道德算法”的缺陷

来源:北京日报2020-12-21 10:46

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:中国人民大学法学院副教授、未来法治研究院社会责任与治理研究中心主任 郭锐

  在人工智能伦理研究中,主流的看法是既然让人工智能决策已经不可避免,应该将伦理嵌入人工智能技术之中,以便增加人工智能决策的可靠性和安全性。这种嵌入,也称为“道德算法”。在道德算法的实现路径上,人们已经考虑了三种进路:自上而下进路、自下而上进路和某些混合式进路。所谓自上而下进路,本质上是把道德规则转换为用数学符号表达的算法,用一套伦理原则应对一切伦理问题。自下而上进路则模拟了生物进化,通过机器学习和复杂适应系统的自组织发展与演化,使人工智能系统能够从具体的伦理情境生成普遍的伦理原则?;旌鲜浇肥墙岷锨傲秸?,是目前人工智能算法设计的主流。但是,上述看法仍未离开摇摇欲坠的根基,特别是其伦理知识根基。

  “道德算法”的问题在于它仍然是一种消极的应对

  在具体的伦理情境中做出道德决定,受制于无法确知因果关系的困境,具体到某个道德决定可能困难重重。从众多的具体道德决定中生成普遍的伦理原则,更加少不了分歧和争议。让人工智能自发形成普遍伦理准则,对人的道德主体性的威胁是致命的。无论是自上而下、自下而上,还是混合式进路,对因果关系难题、终极准则难题的应对仍然不足,这是它们致命的缺陷。

  此外,人工智能用于公共决策的语境中,尤其会受现代国家将社会生活“简单化”的路径依赖的限制,导致人工智能决策在伦理上的可能盲点。公共决策需要的只是那些帮助决策者对整体进行概括的观察,且可以在许多不同的情况下被重复使用的信息,故在信息中展现的事实必须是可以类型化、忽略大量相关的特征的事实。例如,社会中的人工作生活都是非常复杂的,但在就业统计中,大量复杂的特征被忽略,最终进入统计的是一些格式化的信息:有收入的就业。无论是人工智能系统任务目标的设定、数据的收集,还是算法的训练,都与决策者“简单化”的需求相契合。对数据来源的了解以及数据收集者的度量标准的反思,展现出看似科学、中立的大数据为基础的决策带有的无处不在的偏差和歧视的风险。

  根本上,“道德算法”的问题在于它仍然是一种消极的应对:无论是自上而下的设计还是自下而上的归纳,如果不触及动力机制,而只是应对发现的问题,无异于在建造房屋的同时挖走地基。今天的人工智能技术发展存在于市场和国家等制度中,道德算法的进路,并未在这些制度中发掘应对人工智能伦理挑战的空间。

  应对人工智能伦理的挑战能够采取的行动

  真正能够帮助我们在人工智能伦理领域前行的,或许不是道德算法这类宏大叙事的路线图。我们可以做的,是避免将社会生活“简单化”的狂妄设想,从历史和哲学中谦卑寻求应对的智慧。下面或许是我们当下能够采取的一些行动:

  其一,我们需要关注人工智能决策的道德维度。在已有的人工智能决策应用领域,要特别关注人工智能决策的道德性,不能想当然地把人工智能决策看作是科学的和不可挑战的。这既关乎社会对因果关系的正常判断,也是坚持人的道德主体性的具体表现。例如,对公共决策中人工智能的应用,我们保持应有的关注和警醒。

  其二,我们需要对具体情境下的人工智能决策的道德性保持敏感并持续进行论辩。人工智能决策是对个人、团体和社会层面决策的模仿。关于具体情境下的人工智能决策是否合乎伦理,如果我们失去了敏感,麻木不仁,只会让人工智能系统模仿甚至增强这种趋势。持续论辩是人工智能的道德决策能够与人一致的前提。如果人工智能无法在具体的道德决策中校准,当决策迁移到更大人群或不同语境时就可能完全不在人性的道德罗盘上。这个问题同样关乎社会有没有健康的因果性判断和是否尊重人的道德主体性。广为人知的一个例子是微软的在线人工智能交互机器人,这个机器人上线后,因为一群人使用大量种族主义词汇和污言秽语而迅速被同化。类似的还有美国法院的人身危害评估系统,这个系统从已有案例中模仿因而习得了对非裔美国人的系统性歧视。

  其三,我们需要在人工智能系统中反映人类社会道德生活的丰富性。将发展人工智能伦理的讨论通过立法过程、媒体报道、社区参与推向社会,而不仅局限于技术人员之中。技术社群在遇到伦理问题时向社会保持开放,将社会的反馈反映在人工智能伦理决策中。这种方式能最大限度地帮助人工智能伦理系统学习人类道德,因此是对终极准则难题进行回应的一种实践方式。这个方面最好的例子是隐私权问题。当社会开始讨论隐私权的边界和?;し绞绞?,人工智能系统的决策也更有可能反映人类社会道德生活的丰富性。

  其四,我们必须让弱势群体可以在人工智能伦理决策上发出声音。出现终极准则难题的一个主要原因是,不同的人在道德问题上发言权重的不同。在当代社会,无论是女性主义带来的伦理争议,还是残障群体对“何为残障”问题提出的质疑,都源于长久以来在社会生活中弱势群体的失声。要最大限度地回应终极准则难题,应使弱势群体在人工智能伦理决策上能够发出声音。这方面典型的例子是亚马逊的人工智能人力资源系统对女性歧视引发的争议,金融科技领域的人工智能风险控制系统对特定种族、地域人群的低信用评估分数等。

[ 责编:刘梦甜 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 天津建城616周年 鼓楼灯光秀点亮津城夜

  • 哈萨克斯坦公布新冠疫苗相关计划

独家策划

推荐阅读
中国邮政湖州市分公司开辟近20个“骑士驿站”,为快递小哥提供包括便民百宝箱、骑士工具箱、健康医药箱、饮用水补给、设备充电等服务。中国邮政湖州市分公司开辟近20个“骑士驿站”,为快递小哥提供包括便民百宝箱、骑士工具箱、健康医药箱、饮用水补给、设备充电等服务。
2020-12-24 17:39
新华社记者 吴晓初 摄  这是在香港街头拍摄的戴口罩的行人(12月23日摄)。新华社记者 吴晓初 摄  这是在香港街头拍摄的电车上戴口罩的乘客(12月23日摄)。新华社记者 吴晓初 摄  这是在香港街头拍摄的电车上戴口罩的乘客(12月23日摄)。
2020-12-24 14:09
12月23日,在美国弗吉尼亚州阿灵顿的罗纳德·里根华盛顿国家机场,旅客戴着口罩走在航站楼内。新华社发(沈霆 摄)  12月23日,在美国弗吉尼亚州阿灵顿的罗纳德·里根华盛顿国家机场,旅客戴着口罩走在航站楼内。
2020-12-24 14:01
野保员靠近一只受伤的小藏羚羊准备对其救护(2017年6月24日摄)。新华社记者 觉果 摄  这是在西藏那曲市双湖县拍摄的藏羚羊(2019年1月31日摄)。
2020-12-24 10:27
冬季里,浙江省湖州市南浔区菱湖镇渔民忙着晾晒鱼干,准备供应年货市场。冬季里,浙江省湖州市南浔区菱湖镇渔民忙着晾晒鱼干,准备供应年货市场。冬季里,浙江省湖州市南浔区菱湖镇渔民忙着晾晒鱼干,准备供应年货市场。
2020-12-24 10:23
临近岁末,浙江诸暨枫桥镇阳春村进入年糕生产旺季。新华社记者 翁忻旸 摄  12月23日,阳春村白米湾年糕厂工作人员码放用植物制作的“彩色年糕”。临近岁末,浙江诸暨枫桥镇阳春村进入年糕生产旺季。
2020-12-24 10:22
这是12月23日在英国伦敦拍摄的因疫情关闭而停止转动的“伦敦眼”。新华社记者 韩岩 摄  12月23日,一名打扮成“米老鼠”的男子在英国伦敦的威斯敏斯特桥上行走。新华社记者 韩岩 摄  12月23日,车辆从英国伦敦泰晤士河畔的高楼大厦前经过。
2020-12-24 10:20
位于法国巴黎以北的尚蒂伊城堡每年都会举办特色活动迎接圣诞和新年的到来。位于法国巴黎以北的尚蒂伊城堡每年都会举办特色活动迎接圣诞和新年的到来。位于法国巴黎以北的尚蒂伊城堡每年都会举办特色活动迎接圣诞和新年的到来。
2020-12-24 10:19
圣诞节临近,英国部分地区新冠病毒传播速度加快,疫情令人担忧。圣诞节临近,英国部分地区新冠病毒传播速度加快,疫情令人担忧。圣诞节临近,英国部分地区新冠病毒传播速度加快,疫情令人担忧。
2020-12-23 11:11
阿富汗警方22日证实,首都喀布尔当天上午发生一起炸弹袭击,造成5人死亡、2人受伤。阿富汗警方22日证实,首都喀布尔当天上午发生一起炸弹袭击,造成5人死亡、2人受伤。阿富汗警方22日证实,首都喀布尔当天上午发生一起炸弹袭击,造成5人死亡、2人受伤。
2020-12-23 11:10
西班牙卫生部21日发布的统计数据显示,该国累计新冠确诊病例1819249例。西班牙卫生部21日发布的统计数据显示,该国累计新冠确诊病例1819249例。西班牙卫生部21日发布的统计数据显示,该国累计新冠确诊病例1819249例。
2020-12-23 11:09
当日清晨,受冷空气影响,上海街头的一些植物叶片凝上了霜,分外美丽。当日清晨,受冷空气影响,上海街头的一些植物叶片凝上了霜,分外美丽。当日清晨,受冷空气影响,上海街头的一些植物叶片凝上了霜,分外美丽。
2020-12-23 11:05
当日,安徽省合肥市朝霞小学开展非遗进校园活动,邀请变脸、皮影戏、蛋雕、糖画等非物质文化遗产传承人来到校园进行展示,让孩子们近距离接触民间传统技艺。当日,安徽省合肥市朝霞小学开展非遗进校园活动,邀请变脸、皮影戏、蛋雕、糖画等非物质文化遗产传承人来到校园进行展示,让孩子们近距离接触民间传统技艺。
2020-12-23 10:33
新华社发(云南省林业和草原局 供图)  这是在云南省境内拍摄的滇金丝猴(2008年10月6日摄)。新华社发(云南省林业和草原局 供图)  这是在云南省境内拍摄的滇金丝猴(2008年10月6日摄)。
2020-12-23 10:16
白衣执甲、战歌嘹亮,无数军地医护人员直面病毒,用坚毅与专业筑起“抗疫”长城。除夕夜,由陆军军医大学抽调精干医务人员,组建的150人医疗队连夜从重庆出发,飞赴武汉支援抗击新冠肺炎疫情。
2020-12-23 10:13
在重庆动物园,大熊猫“新星”在38岁生日会上享用水果生日蛋糕(2020年8月16日摄)。大熊猫“新星”谱系号253,雌性,1982年8月出生于四川宝兴,1983年6月被送到重庆动物园救助,在重庆动物园生活了37年零6个月。
2020-12-22 15:56
冬日夜间,位于内蒙古乌兰察布市察哈尔右翼后旗的乌兰哈达火山群上空繁星闪烁,景色迷人。冬日夜间,位于内蒙古乌兰察布市察哈尔右翼后旗的乌兰哈达火山群上空繁星闪烁,景色迷人。
2020-12-22 15:54
美国国会两党20日就一项一直争议不断的、总额约9000亿美元的经济纾困方案达成一致,以应对仍在肆虐的疫情。这是12月20日在美国华盛顿拍摄的国会大厦。新华社发(沈霆 摄)  这是12月20日在美国华盛顿拍摄的国会大厦。
2020-12-22 15:53
12月21日,几只白鹤在南昌五星白鹤?;ば∏峡辗上?。鸟儿在?;ば∏上?、觅食,让?;ば∏饶制鹄?,成为鄱阳湖区一道特别的风景。鸟儿在?;ば∏上?、觅食,让?;ば∏饶制鹄?,成为鄱阳湖区一道特别的风景。
2020-12-22 15:02
这是2019年1月31日在西藏那曲市双湖县拍摄的太阳能发电站(无人机照片)。新华社记者 孙非 摄  这是11月29日在西藏阿里地区普兰县拍摄的西藏阿里与藏中电网联网工程输电铁塔。
2020-12-22 14:57
加载更多
成年片黄网站色大全免费,三级网站午夜三级,亚洲 日韩 在线 国产?精品 <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <文本链> <文本链> <文本链> <文本链> <文本链> <文本链>