海归学者发起的公益学术平台
分享信息，整合资源
交流学术，偶尔风月
技术有无善恶？长期以来，人们通常认为技术是中性的，无所谓善与恶。然而，当人工智能技术一日千里，渐渐深度融合进我们的日常生活时，越来越多的研究人员发现，AI是会戴“有色眼镜”看人的。越来越多的证据表明，人工智能技术会引发歧视现象。
找工作需要投递简历。但你也许不知道，负责筛选简历的也许并不是企业的HR，而是AI。自2014年起，亚马逊公司团队试图通过开发电脑程序来审查求职者简历，以在海量信息中自动筛选优秀人才。该模型通过观察过去10年内公司选聘员工的标准和结果来建立一种符合公司价值取向的模式，并以此来确定应聘者的简历是否能够进入面试环节。
然而仅仅一年，人们发现，大部分女性应聘者被AI淘汰掉了。这是因为新系统并没有对技术岗位求职者做出性别中立的评估。实际上，亚马逊技术岗位员工大部分简历的确来自于男性，这也反映了男性在科技行业占主导地位的现状。当简历中出现“女性”关键字的时候，系统自动“学会”了对这样的关键词保持敏感，甚至自动下调了两所女子学院的毕业生评级。
虽然，亚马逊之后对程序进行了修改，使它们对应聘者性别保持中立。但有知情人表示，这并不能保证AI系统在学习过程中不会设计出其他方面的歧视，比如种族。
最近，推特上有网友发现，将美国第一位黑人总统巴拉克奥巴马（Barack Obama）的低分辨率照片输入到一个名为PULSE的程序中，结果生成的是一张白色人种的面孔。不仅仅是奥巴马，使用同样的算法从低分辨率输入中生成女演员露西刘或女众议员亚历山德里亚奥卡西奥科尔特斯的高分辨率图像，得出的也是同样的结果。
该程序使用一种称为上尺度（upscaling）的技术来处理视觉数据。它能让你在网站上看到的人脸更加清晰。一张模糊不清的人脸从低分辨率图像转换成高分辨率图像，程序必须通过机器学习来实现。然而令人遗憾的是，AI在学习的过程中，自作聪明地“开发”出了新面孔。有网友表示：这些图片充分说明了人工智能存在偏见的风险。
PULSE的创建者承认这种偏见的存在，并认为问题可能出在了训练的数据上。由于用于训练人工智能的数据通常偏向于单一的人群白人男性。因此，当程序接收的数据不在这个人群范围内时，可能得出并不准确的结果。
研究人员认为，AI歧视通常是由有偏见的训练数据或算法造成的。这一问题在机器学习中普遍存在。然而这种歧视能否被纠正？在一项由马里兰大学罗伯特史密斯商学院与哈佛大学组成的联合研究中，研究人员试图通过限制算法来消除专利审查中的潜在偏见。结果发现，让算法对所有输入和操作负责很困难。因为算法是可欺骗的。
专利与发明每年都在不断增多。在专利审查过程中，审查人员需要通过筛选来确定新申请的新颖性。美国专利商标局用算法技术来“阅读”申请文本，以实现这一目的。具有挑战性的是，相关法律规定，允许申请者创建连字符的单词，并赋予现有单词新的含义来描述他们的发明。这对于申请者来说是一个机会，可以战略性地、有针对性地撰写申请。
研究人员发现，随着时间的推移，申请语言会发生变化，这使得任何算法都很难独立完美地运行。“尽管从理论上讲，机器学习可以不断学习和纠正专利申请人试图操纵算法的方式，但专利申请人动态更新其写作策略的潜力难以让算法进行逆向训练，来纠正这种行为。”
最终，研究团队得出的应对之策是：“人机结合”，即让专业人员去人为修整算法带来的偏颇。虽然也许这并不是最优的方法。
高效、便利、精准……当前，人们在享受人工智能带来的种种便利的同时，也开始对人工智能产生了隐忧。比如就业岗位减少、隐私侵犯，以及未来超级机器人对人类主宰地位的威胁等。更可怕的是，人工智能在自主学习过程中，可以不在人类的操作下自主执行各种功能，甚至于和人类平等对话。在教育领域，很多智能机器人已经被开发用于教育人类的下一代。是教人向善，还是诱人为恶，这是一个全新的问题。这也迫使更多人工智能领域专家开始关注同一个问题：智能向善。
“让技术具有人类价值观，这一问题放在数十年前，我们是不敢谈到的。然而当前，我们却开始正视这一问题。”世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克对此表示，所有人工智能行业从业者必须有强烈意识，发展人工智能不能任其成为“坏智能”，要成为帮助人类的“好智能”。要在研发的同时赋予AI人类的价值观，来服务社会的可持续发展。
史蒂芬霍金曾经预言，完全人工智能的发展可能会招致人类历史的终结。他说：“强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。是好是坏，我不得不说，我们依然不能确定。但我们应该竭尽所能，确保其未来发展对我们和我们的环境有利。我们别无选择。我认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到解决。”。