这与众多金融机构当前的策略形成了鲜明对比。当前,许多银行的CEO们特别强调,他们的机构在本质上先是科技公司,之后才是金融机构。在当今时代,众多银行在其愿景声明中都明确提出了部署AI的意向。一方面,这是好事;另一方面,他们传达这一愿景的方式并不完全恰当。我认为,他们的愿景声明并没有突出AI整合各种服务和功能的潜力(这对银行等组织显然是有益的),以确保银行保持其核心的金融身份和价值。相反,许多银行的CEO们在高谈阔论AI将如何彻底改变他们的金融业务。这样的愿景声明实际上暗示AI将改变银行的金融身份。让我们来审视几家知名银行的CEO的愿景声明:
・“我们显然是一家科技公司。”(美国银行CEO)
・“我们的行为更像一家科技公司,而不像一家银行。”(新加坡星展银行CEO)
・“在许多方面,我们把自己视为一家拥有银行牌照的科技公司。”(美国花旗银行CEO)
这样的愿景声明对他们有用吗?我与我的研究伙伴、美国东北大学助理教授沙恩·施韦策(Shane Schweitzer)共同开展了一系列研究,旨在探究这些愿景声明在银行员工和客户心中引发了怎样的想法和情感反应。 通过这些研究,我们可以了解这种愿景传达方式是否能够促使员工对愿景产生认同并做出承诺,以及是否能够激发客户对银行的忠诚。研究的结果表明:不能。
在我们进行的多项研究中,我们观察到一个现象:银行高层领导者宣称AI的部署将彻底改变他们的组织,使其转变为一家科技公司,这种言论实际上对他们并不利。这样的信息传递,让员工和客户感觉传统的金融业务不再是银行的核心。实际上,研究结果显示,这样的愿景声明,让人们对于银行所代表的意义(除了想成为科技公司)感到越来越模糊不清。因此,员工和客户都不太认同这样的愿景声明,也不太相信银行会继续顾及他们的利益。
这些研究结果揭示了一个事实:如果AI的部署与银行的本质身份背道而驰,那么AI技术就难以产生积极的影响。试想一下:你更倾向于将自己的储蓄和投资交给谁——一位资深的银行家,还是一位技术专家?显而易见,当客户寻求金融服务时,他们更可能选择让银行家而非技术专家来打理他们的财务事宜。因此,你不能让愿景声明对AI的描述与利益相关者的诉求背道而驰。相反,你需要确保公司在部署AI的过程中保持其身份和价值观不变,从而将所有利益相关者卷入变革中来。
愿景需要包含你对AI伦理层面的看法
尽管人们普遍对AI的潜力持乐观态度,但你必须意识到部署AI所需承担的责任。正如前文讨论过的,AI系统经常出现偏见和错误,并且它们的决策过程往往像黑箱,其内部逻辑对人类来说是不可捉摸的。如果这些风险未得到妥善处理,可能会导致公司部署不可靠甚至有害的AI系统,损害组织声誉,并可能带来违法风险。随着公众对这些风险的认识加深,要求政府对AI进行规范和监管的呼声也日益高涨。作为深谙AI的领导者,你应该制定策略和治理流程,以超前的布局引领监管潮流,成为行业标杆。将伦理和社会影响纳入你的愿景,你将能够以诚信、远见和责任感引领组织的AI部署之旅。
下面这个例子特别关注AI系统的一个极其关键的风险:黑箱问题。
假设你是一家医疗保险公司的领导者,公司打算部署AI系统来预测潜在客户的风险概况以及对应的保险费率。这个AI系统的构建基于一个复杂的神经网络,该神经网络是使用大量历史客户的健康数据集训练而成的,因此其内部决策逻辑对你来说是一个黑箱。然而,正如AI专家所指出的,一些新兴的可解释性技术能够帮助你的团队理解AI是如何做出决策的。因此,你决定投资这些可解释性技术,以便公司的精算团队能够审查AI系统的决策过程,以确保决策的公平性和准确性。此外,如果任何潜在客户感觉受到了不公正对待(例如,保险费率高于他人),你的公司就能够向他们提供该决策过程的详细解释。这种透明性有助于重建客户信任,并在必要时防止法律诉讼的发生。
假如你所在公司的政策研究部门的同事指出,公司所在地区的政府监管机构正准备推出一系列新的监管政策,这些政策将确保受AI决策影响的个人有权获得解释。那么,你的公司提前适应这些潜在的监管要求,将是明智之举。然而,同样关键的是,需要界定谁拥有获取AI系统解释的权限。原因在于,如果这些解释信息被广泛公开,潜在客户可能会发现并利用系统的漏洞,使自己的健康风险看起来比实际的更低,以求获得更低的保险费率,导致你的公司利益受损。因此,除了引入可解释性技术,你还需要制定严格的数据管理和数据公开规则,确保只有经过授权的利益相关者才能访问AI系统的决策解释,以支持组织目标的实现。
实际上,在处理AI伦理问题时,你必须综合考虑众多复杂的技术、政策和监管因素。为了使你的愿景成为一个为所有利益相关者创造价值的整合性战略,你必须持续关注所部署的AI系统在伦理和社会层面的影响。
愿景需要彰显你在引领AI部署方面的灵活性
评论 0条