近来,人们越来越认识到AI的一个显著优势在于其管理利益相关者的能力。人们提出这一观点的理由是,类似ChatGPT的AI系统能够处理庞大的数据集,并且相较于人类,能够以更快、更准确的方式进行数据分析。此外,通过运用可解释性技术,对AI给出的决策结果做出清晰的解释组织也可以公开透明地进行数据分析,进而提高决策质量。那么,为何不在重要的商业决策中让AI辅助你,以确保利益相关者的利益得到全面考量呢?这一想法并非概念上的构想,而是已经在实际操作中得到应用的。以中国香港的风险投资公司“深度知识创业”(Deep Knowledge Ventures)为例,该公司开创性地委任了一个AI机器人加入其董事会。 这个名为“Vital”的AI机器人在公司中拥有重要地位,公司管理层和投资经理在未征询Vital的意见之前,不会轻率地做出任何关键的投资决策。
深谙AI的领导者是否应该将管理利益相关者利益的部分工作交给AI系统来执行?要回答这一问题,关键在于确认AI是否能够充分理解决策背后的复杂情境。在做决策时,人类的利益相关者会综合考虑个人需求、期望、顾虑以及反馈意见等多重因素。因此,在部署AI以进行利益相关者管理时,关键在于确认AI是否能够洞察并理解利益相关者的需求和期望。我们必须扪心自问:AI是否真正具备这种深层次的理解能力?在我看来,AI在这方面的能力可能还有所不足。
AI无法领会“人类”这个词所承载的深层意义。既然它无法感受或理解人类的体验与意义,自然就无法真正关心人类利益相关者的需求与期望。 实际上,AI不会关心我们明天是否会离开这个世界,因为它本质上就不具备我们所说的“关心”(care)的能力。对于AI而言,人类利益相关者仅仅是数据点的集合;而且由于缺乏共情,AI认为这些数据点是冷冰冰的、不带情感的。这意味着AI无法完全理解客户的期望对企业长远发展的影响,也无法进行带有批判性和反思性的深层次思考,以全面顾及利益相关者的各种利益诉求。
让我们一起来看一个案例。2018年,斯坦福大学计算机科学系的阿南德·阿瓦蒂(Anand Avati)与医学院团队携手,研发了一种AI算法,该算法能够预测重症患者的临终时间。 这项研究依托深度神经网络技术,依据海量的医院医疗电子病历数据进行训练,构建出了一个预测模型。研究结果显示,该算法能够提前12个月以90%的准确率预测患者生命终结的时间点。该算法主要优化了由各种原因引起的对死亡时间的不准确预测,可以作为姑息治疗的一个参考指标。肿瘤医学专家和护理人员可以利用这一算法,决定是将重症患者转介至姑息治疗,还是继续进行积极治疗。采用这种算法的动因之一是经济层面考量。以往,肿瘤医学专家往往对继续化疗做出过于乐观的预测,虽然其出发点是尽可能延长患者生命,但这种治疗方法也被人们普遍认为过于昂贵。深度神经网络技术支持的姑息治疗算法旨在识别出那些治疗成本超出收益的情况,并建议停止进一步化疗。通过AI预测患者可能的死亡时间,医生可以更有信心地向患者提出接受姑息治疗的建议。
我深信,对于许多重症患者而言,他们愿意倾听肿瘤医学专家的建议,接受姑息治疗。但同时,也有些患者可能持有不同意见,他们不希望放弃化疗。研究证实了后者的看法。在决定提供何种治疗方法时,患者的心理状态至关重要,因为它极大地影响着他们对治疗的响应度。 实际上,根据患者的直觉和想法进行治疗,往往能让患者活得更久一些。然而,AI对患者的这种心理一无所知。作为一个缺乏情感的决策工具,AI很容易忽视利益相关者的诉求。在这种情况下,利益相关者就是正在饱受折磨的患者。有报告指出,面对不利预后,很多患者更倾向于选择更积极的治疗方式,如重症监护、插管和静脉输液,而不是选择姑息治疗。但如果AI成为我们决策的依据,那么一个渴望继续接受积极治疗的患者如何说服这个没有情感的工具呢?AI无法进行临终关怀对话,无法理解人们的复杂情感——即使面对严重不利的预后,他们仍选择承受痛苦的治疗,那么你该如何让它尊重患者的意愿呢?
评论 0条