算法治理应包容审慎敏捷灵活

来源:法制日报
[2019-07-03]

随着人工智能技术的不断发展,数据和算法的结合开始对我们的生产生活产生广泛影响,从信息的个性化传播到金融、雇佣、司法等领域的自动化决策再到自动驾驶汽车等等。

但算法的应用在给人们生活带来便利的同时,也带来一系列法律、伦理与社会问题,诸如算法歧视、责任、安全、滥用、深度伪造等。国际社会开始呼吁建立算法治理,实现算法透明与问责。对此需要考虑以下几个方面的问题:

第一,算法实际上是一个非常广义的概念,所谓的算法治理是针对机器学习等人工智能算法在特定领域的应用,所以明确概念是算法治理的起点。

第二,算法治理需要包容审慎、敏捷灵活的思路,技术和商业模式快速迭代,草率立法不可能期待会产生正面效果,而且成文或专门立法恐难跟上技术发展步伐,所以应避免严格、细致的法律要求,而是采取事后监管或者通过出台标准、行业公约、伦理框架、最佳实践、技术指南等方式调整算法应用,支持行业自律。

第三,算法透明不是对算法的每一个步骤、技术原理和实现细节进行解释,简单公开算法系统的源代码也不能提供有效的透明度,反倒可能威胁数据隐私或影响算法安全应用。相反,在算法系统的行为和决策上实现有效透明将更可取,也能提供显著的效益。如欧盟《一般数据保护条例》(GDPR)并没有要求对特定自动化决策进行解释,而仅要求提供关于内在逻辑的有意义的信息,并解释自动化决策的重要性和预想的后果。

第四,算法治理需要分级分类的监管机制,例如欧盟、加拿大等呼吁针对政府和社会公共部门使用的算法系统进行严监管,包括建立“算法影响评估”机制;对于商业领域的算法系统则更多采取事后追究法律责任的机制,以免过度监管影响技术创新。

因此,我们看到社会各界在以伦理的方式推动算法治理。国际层面,欧盟、OECD、G20等都提出了人工智能原则,力争在国际上达成共识;行业层面,谷歌、微软、腾讯等都提出了各自的人工智能伦理原则,积极承担伦理责任,践行科技向善,避免算法被不当利用或滥用。展望未来,我们还需要通过广泛社会参与和跨学科研究评估的方式来实现对算法应用的良好治理。(曹建峰)

【责任编辑:刘芳】

政务公开

更多>>

司法案例

更多>>
6月26日上午,市中级法院在第二审判庭对黄北桂等贩卖毒品罪一案进行公开宣判...

百姓关注

更多>>