违规、歧视、安全问题,如何应对AI时代的风险?

2019-09-04 08:54:02    第一财经

人们在生活中已经开始习惯用语音控制电子设备、用图像识别人脸、让机器处理家务,人工智能正在全方位渗透到我们生活的每一个角落。同时,据估计,人工智能的经济潜力高达15.7万亿美元。

然而,随着落地场景的不断增多,使用范围的不断扩大,人工智能应用也暴露出一些问题,尤其是其带来的诚信问题、安全问题和社会问题引发了监管机构、业界和公众的广泛关注。根据普华永道的一项最新报告,只有当各家企业采用负责任的人工智能项目,并在开展项目之前经过深思熟虑时,其经济潜力才能成为现实。

人工智能正面临五大风险与挑战

目前,用户在应用人工智能时,主要面临来自五个方面的风险和挑战。

第一,合规。目前针对人工智能的监管还处于探索阶段,远远落后于应用落地的速度。相关的法律法规较少,合规要求相对模糊,监管的不确定性是企业面临的重要风险。

监管要求的落地是企业面临的另一项挑战。数据是人工智能的基础,在应用人工智能时,企业需要满足包括数据收集、隐私保护等要求。2017年,谷歌旗下人工智能子公司DeepMind所开发的移动应用Streems因收集患者医疗病历被英国信息委员会裁定违背了英国数据保护法。2019年5月,出于对侵犯个人隐私的担忧,美国旧金山通过一项法令禁止该城市的政府机构使用人脸识别技术。

在特定的情形下,企业还需要向监管机构证明复杂的人工智能应用程序是如何做出决策的,以判断是否满足监管要求,这对企业和监管机构而言均有一定的难度。

第二,道德和伦理。决策偏见可能是人工智能应用中最突出的道德风险。亚马逊公司在利用人工智能算法进行求职简历审核时发现,由于科技行业简历大多都是男性投递的,其机器学习引擎在接受训练之后会优先选取男性求职者,给女性简历以更低的评级。美国部分州的司法部门使用了一套人脸识别系统(COMPAS)来预测罪犯再次犯罪的概率,以决定是否批准保释或假释,然而从预测结果来看,被错误标记为高风险再犯罪的黑人人数几乎是白人的两倍。而那些真正实施再犯罪的人群中,被错误标记为低风险的白人人数却是黑人人数的两倍。这些案例显示出人工智能算法在决策时有可能产生偏见和歧视。

今日热点

小编推荐

频道热点

关闭
X
本网页已闲置超过2分钟,点击关闭或空白处,即可回到网页