AI部署决策可能会对不同社会群体产生不同程度的影响。以波士顿校车调度系统为例,该系统直接影响了众多家长的利益。故事是这样的:麻省理工学院的两名毕业生开发了一种算法,通过重新规划波士顿地区数百辆校车的路线、调整孩子们的上学时间,以期减少超过1亿美元的交通开支。这一算法的实施导致高中生的上学时间延后,而小学生和初中生的上学时间提前,造成了早晨7:15—9:30的托儿服务空当期。在这个时间段内,一些孩子还在家中,而另一些孩子已经到达学校。这迫使部分家长不得不对自己的工作时间做出重大调整,甚至不得不寻找新的工作机会以方便送孩子上学。家长们的不满情绪高涨,他们通过签署在线请愿书和投诉学校等方式来表达抗议。新调度系统引发了家长们的强烈反对,最终这成为时任市长马蒂·沃尔什(Marty Walsh)所面临的重大危机之一。面对这一局面,波士顿市最终决定放弃该计划。
对社会这一利益相关者的忽视揭示了一个关键观点:在考虑AI部署时,我们不能仅仅关注那些短期内会受到影响的群体。同样重要的是,识别那些会受到间接或长期影响的利益相关者。因此,一个明智的领导者必须认识到,AI部署决策往往伴随着复杂的权衡。你需要在追求长期利益与短期利益、公司利益与社会利益之间找到微妙的平衡。
在这方面,你必须做一个负责任、有道德意识的企业领导者。如今,公司的声誉与其领导者的诚信密切相关。随着企业引入AI,公众期望领导者对AI的伦理道德问题给予更多关注,并警惕AI可能引发的社会风险。 作为深谙AI的领导者,你需要时刻提醒自己,在部署AI时应避免AI导致不道德的结果或产生歧视性行为。这方面的例子比比皆是。例如本书第1章提到的亚马逊的招聘算法被发现存在性别偏见,以及英国尝试过使用一个算法模型减少学生成绩评定中的偏见,却意外导致来自贫困学校和社区的学生受到不公平对待。
决定部署AI之后,作为企业领导者,你将立即面临一个紧迫的道德挑战:如何与担心失业的员工沟通并给予他们适当的回应。在追求效率和自动化的压力下,裁员和提升自动化水平已成为不可回避的议题。实际上,当前的调查已经显示,许多组织预期自动化技术能将员工的工作效率提升30%~40%(从理论上来说,员工人数可以按相应比例下降)。 面对这样的预期,你可能会本能地倾向于保障对AI的投资,并将客户视为最重要的利益相关者。在转向自动化服务的过程中,你自然会希望保持客户的忠诚度。
然而,作为一个对AI和商业都有深刻洞察的领导者,你需要寻找一个平衡点,使企业既能维持财务健康,又能对直接利益相关者及社会整体保持公平与道德。你必须深思熟虑,AI部署导致的工作岗位减少将对社会产生哪些负面影响。你应该从一个更广泛的社会视角出发,明确自己的责任,而非仅仅局限于考虑AI会对客户产生什么影响,这是当前所有利益相关者期望企业领导者所展现的领导力。作为领导者,你的投资决策权衡不仅要基于AI对客户的好处,更要建立在对整个社会影响的深入理解之上。
一个值得借鉴的方法是学习Hugging Face(抱抱脸)的实践,它是一个由法裔美国人创立的著名人工智能开源平台。Hugging Face的AI伦理小组规模庞大、目标专一且资源丰富,汇集了技术、法律、哲学和商业等多个领域的专家。这个小组被授予广泛的权力,能够对公司的众多AI服务产品进行有效的监管和干预。 小组成员分布在公司的各个部门,他们相信让所有相关方共同承担责任、遵守承诺,并承认和理解公司工作中的道德风险至关重要。在一些极端情况下,如果伦理影响评估指出,某项目可能造成重大且实质性的伦理损害,那么AI伦理小组有权联合起来要求暂停或终止该项目。而在大多数情况下,该小组致力于协助公司各部门的项目团队识别和应对潜在的AI伦理风险。
当前,企业领导者越来越多地被邀请参与公共讨论,分享他们对于企业在使用AI时所应承担责任的看法。如果你所在的企业在部署AI的过程中对许多人的就业造成了负面影响,那么你需要明确表达你的企业将如何应对由此引发的失业问题及其带来的社会压力。
评论 0条