人工智能:充满新机遇和风险的世界
作者:编辑部
2022-01-18
摘要:成功不仅在于提出正确的问题、保持开放的心态并了解关键问题,还在于找到“正确”的答案。

这不是一个新故事——一项新技术颠覆了社会,带来了许多好处,但也带来了重大风险和成本。

我们在工业革命期间看到了这一点,它极大地提高了平均生活水平,但也导致了恶劣的劳动条件和环境恶化——在一个难以预见的时间线上。在这里,在人工智能革命的曙光中,云计算和计算机处理能力、廉价存储、新算法以及新产品和服务创新的出现实现了技术的好处——从无人驾驶汽车和虚拟现实到医疗诊断和预测性机器维护。

然而,与此同时,我们也看到了这些技术带来的一些负面的、通常是意想不到的后果。它们从有利于煽动性和分裂事实的假新闻和算法的兴起,到歧视少数群体甚至夺去生命的重大隐私泄露和人工智能模型。

人工智能是一种强大的工具,对于高管来说,了解如何利用人工智能实现增长和创新,以及如何以负责任和合乎道德的方式做到这一点从未如此重要。他们需要了解他们构建和部署的算法的长期影响(正面和负面)。这绝不是一条既定的道路。成功不仅在于提出正确的问题、保持开放的心态并了解关键问题,还在于找到“正确”的答案。

 

建立有效的人工智能能力

构建能够提供业务价值的AI能力本身就是一项挑战。Gartner预测,到2022年,80%的分析洞察力将无法实现大规模的商业价值。高管们很容易相信人工智能会神奇地带来新的收入来源或效率提升,但事实是人工智能计划应该经过同样严格的考验业务规划与任何其他项目一样。

人工智能计划首先应该与组织的关键战略目标保持一致,并直接有助于推动支持该战略的KPI。换句话说,高管们必须“知道为什么”进行人工智能计划。建议从简单、可解释的模型开始进行迭代开发。应该避免投资更复杂的解决方案,这些解决方案可能会带来边际的准确性提升,但更难解释或大规模部署。

从AI中挖掘商业价值的最佳经验法则是:“不要陷入炒作”和“从简单开始并测试价值”。正如亚马逊数据科学家Eugene Yan所说,“机器学习的第一条规则:从没有机器学习的情况下开始。”

高管对人工智能计划的关键阶段以及每个阶段的技术风险有广泛的了解是有帮助的。例如,高管们普遍低估了构建可行算法所需的数据清理和准备工作量。另一方面,数据科学家可能会专注于使用最新技术构建最准确的模型,而不了解业务环境和许多权衡。

最成功的人工智能计划是数据人才、业务利益相关者和赞助商、工程师以及可以测试解决方案和发送反馈的最终用户之间的密切合作。建立合适的团队并提高组织技能以实现这种协作对于成功至关重要。

一个组织已经沿着数据和人工智能成熟度规模发展的一个确定的迹象是,从防御性数据能力(主要专注于报告和了解过去)转变为进攻性数据能力-专注于如何使用数据和人工智能制定战略、实现利润并支持创新。

另一个关键迹象是数据人才变得越来越专业化,从通才转变为技术专家(数据分析师、数据科学家、机器学习工程师)以及业务合作伙伴专家(数据科学家获得特定商业领域的专业知识,例如营销归因或定价分析)。无论专业化程度如何,最有效的人工智能团队都没有固定的结构;它们的结构随着业务需求的变化而变化。

 

管理人工智能风险

然而,运行有效的人工智能能力不仅仅是利用这些技术来实现息税前利润和市场份额的增长。现在,高管们比以往任何时候都必须对开发算法所涉及的新业务风险有敏锐的理解。他们必须确保他们的组织正在积极地缓解这些问题,并确保他们遵守即将出台的法规。潜在风险的清单可能看起来令人生畏,从导致更严厉监禁的算法到由于训练数据的偏见而导致少数族裔被告,再到由于自动化程度的提高而导致的失业和“赢家通吃”经济模型,甚至是民主风险由于用于在社交媒体上推广内容并创建不安全的在线空间。

人工智能也提出了问责问题。谁是负责的人:

当无人驾驶汽车坠毁

在一场诉讼中,声称人工智能算法提供的招聘不公平

当因为人工智能诊断系统包含错误而开出错误的医疗处方时

 

算法交易平台造成巨额经济损失?

最能降低这些风险的组织是那些在整个人工智能生命周期中建立在自己的道德标准和网关之上的组织,从他们如何收集和准备数据,到他们如何构建、测试和部署模型。那些采用新数据和人工智能风险管理实践、流程和工具的企业,既能遵守即将出台的法规,又能确保客户信任。

例如,一家北美大型银行使用各种技术对其数据进行去偏,以确保其信用评分算法将自动向所有符合条件的申请人授予信用,并且不排除在基础数据中可能较少代表的少数群体。虽然技术团队在实地执行了去偏技术,但执行团队对投资道德AI的承诺确保了这一过程的稳健性。

使用人工智能发展和创新的机会从未如此巨大,但风险也同样没有。要以盈利、合乎道德、安全和规模化的方式利用这些技术是一条漫长的道路。新的世界经济论坛工具包是参与正确辩论的起点,以确保高管考虑其决策和组织工作方式中的突出问题。在AI就绪的执行团队必须具备的所有技能中,提出正确的问题可能是最重要的。

热门文章