【CNMO新闻】人工智能具有巨大的潜力，但是应用程序处理数据的速度远超我们的想象，在这种情况下，如何防止偏见的产生？为了解决这个问题，英国数字、文化、媒体和体育部（DCMS）推出了数据伦理与创新中心，其中一个项目侧重于为人工智能提供算法的编程或学习偏差的概念。
“技术不仅是一股能够促进生活前进的力量，还能够不断改善人们的生活质量，我们必须确保技术能够安全可靠的发展。”数字化秘书杰里米・赖特表示，“我们的数据伦理与创新中心的成立旨在帮助我们实现这一目标，并使英国保持技术发展的领先地位。”
人工智能
首先，新中心将与内阁办公室的种族差异部门合作，探讨在犯罪和司法方面存在偏见的可能性。随着越来越多的应用程序出现在警务领域，例如评估重新犯罪的可能性，所以防止偏见的产生变得非常重要。
这当然只是人工智能应用的一种，在招聘中，计算机算法可用于筛选简历和候选人名单，或者金融服务领域长期使用数据分析来判断人们获得贷款的资格。但在招聘案例中，已经有关于性别偏见的报道。
2014年，亚马逊开始构建一个应用程序，该应用程序将审查每周获得的数千名申请人的简历，为每个简历提供一到五颗星的评级。2015年，他们意识到该算法并非中性的评估方式，而是更加倾向于使男性申请人担任更多技术职务。
这种类型的难题是人工智能面临的主要挑战之一，由于这些机器是由数据和代码驱动的，因此很难将道德、可接受的容忍度、细微差别和社会影响转化为它理解的语言。例如在招聘案例中，它会查看其过去的属性来决定，但却没有理解上下文的能力。
行业和政府必须保证天平的平衡，数据伦理与创新中心将以多种方式造福社会，但现在却面临着几乎不可能完成的任务挑战。
