复旦大学肖仰华:偏见是算法造成的吗?
原标题:复旦大学肖仰华:偏见是算法造成的吗?
在海量的信息中,AI算法帮助人们更快更准确地找到想要的内容;在AI的助力下,一座城市的交通得以更合理地规划布局;通过人脸识别AI,甚至可以指引走失者与家人团聚…… AI算法技术正给人们带来越来越多的便利,但同时,也带来不容忽视的挑战——算法偏见。
在近日一场由复旦大学新闻学院、复旦大学全球传播全媒体研究院举办的“智能传播与算法推荐”线上研讨会上,复旦大学计算机学院教授肖仰华指出,算法偏见不单单是算法本身的偏见,它在更广义上是指整个人工智能系统、平台对于某些任务产生一些局限性,导致结果存在一般意义上的偏见,可以归结为“技术上存在某种局限性,导致结果存在一定的偏见”。
那么,算法如何避免偏见呢?
肖仰华分析,第一是避免数据偏见。人工智能的模型都是由数据喂养,所以给它什么样的数据,就可能产生什么样的结果。例如闲聊类型的问答机器人,是根据大量的问答语料训练出来的。如果当你提供的是带有歧视性的对话语料,机器很可能学会带有歧视性的聊天。对于这类问题,肖仰华提出,需要在数据治理和管控方面下大功夫,要确保喂给机器数据本身是消除偏见的。
第二是避免模型自身所导致的偏见。人工智能技术的很多模型本质上是优化的问题,它有明确可量化的优化目标,不同的优化目标会导致不同倾向的结果。在模型构造的时,要做一些特征的设计,特征设计涉及到选择性问题,“我们可以关注这些特征,也可以关注那些特征,在做模型特征设计的时候我们也会带来一定的偏见。” 肖仰华说道。
第三个原因,与当前技术的瓶颈有关。肖仰华提到,技术不透明性,也会导致最终超出人们预期或是可控范围之外的一些结果,从而造成所谓的一些偏见。肖仰华建议,“将所表现的逻辑向大众公开,让大众知其然,还能知其所以然,就能在一定程度上解决对算法的担忧”。但需要注意的是,偏见是基于人而存在的,即使没有算法和技术,偏见都是始终存在的。
责任编辑:邓健
京东方收购中电熊猫,面板总决赛即将打响
{image=1}作者:涂以矛编辑:陈帅/刘芮支持:远川研究所科技组今日,国内第一大面板厂京东方正式宣布,将接手中电熊猫挂出来的程度8.6代线和南京8.5代线的股权,收购价估计为55.9亿。这次并购宣告一个国内重量级玩家的撤出,加上之前TCL收购三星苏州面板厂的股权,可以说精力充沛的国内两强已经开启了打扫战场模式。本文,将回溯中电熊猫兴衰的历史,记录面板两强格局的开启。瞄准疫情过后消费重启?多个知名消费品牌密集开设“首店”
上述报告指出,欧莱雅旗下的圣罗兰全球首家香水主题旗舰店落地上海,欧莱雅中国相关负责人表示:“我们认为首店除了销售功能以外,“首店经济”一词在上海首店宣传中被首次提及,更多的是消费升级的标志,“首店经济”进入爆发期,我们希望能够把线下的渠道升级为体验渠道。”值得注意的是,“首店经济”也被看作是疫后提振消费的重要举措。3月13日,会在今年重新开跑吗?{image=1}0000知名作家在宁波仁医堂花4500元打针后,疼得直不起腰半夜去急诊,大呼医生唐某为“无耻骗子”
5月30日,#紫金陈打祛炎针后腰疼得直不起来#的话题登上了微博热搜,引发网友热议。{image=1}作家紫金陈毕业于浙江大学,以写悬疑小说闻名,被誉为“中国版东野圭吾”。他的《无证之罪》《坏小孩》《长夜难明》等小说,被改编成《无证之罪》《隐秘的角落》《沉默的真相》等影视作品,收视口碑双丰收,紫金陈本人也是着实大火了一把。{image=2}0001前9月自主品牌市占率创历史新低 产品质量表现仍待提升
每经记者范文清9月,自主品牌市占率再次下降。据中汽协数据统计,9月自主品牌虽实现销量增长,但其市场份额下降了0.2个百分点为37.6%;1-9月自主品牌累计销量同比下降17.7%为487.3万辆,市占率下降了2.3个百分点至36.4%,创历史新低。{image=1}图片来源:中汽协0000世界粮食计划署执行干事:马斯克2%的净资产就可解决全球饥饿问题
澎湃新闻记者王卓一{image=1}当地时间10月26日,联合国世界粮食计划署执行主任大卫·比斯利(DavidBeasley)表示,某些超级富豪可以用他们净资产的一小部分,帮助解决世界饥饿问题。0000