C3 AI首席执行官Tom Siebel:我们将看到人工智能领域的大规模创新

C3 AI首席执行官Tom Siebel在the Claman Countdown中提供了对难以想象的强大技术的见解。

一家主要的联邦银行监管机构警告银行，在其系统中实施人工智能(AI)工具存在潜在风险。

美国货币监理署(OCC)是财政部下属的一个独立机构，负责特许、管理和监督国家银行、联邦储蓄协会、联邦分行和外国银行的代理机构。OCC的国家风险委员会(National Risk Committee)发布了半年度风险报告，指出人工智能是金融机构在寻求将人工智能工具纳入内部和面向客户的用例时需要注意的一个新兴风险。

“计算能力的进步，加上数据可用性的提高和分析技术的改进，将继续扩大银行利用人工智能进行各种风险管理和运营目的的机会。人工智能的使用案例多种多样，包括客户聊天机器人、欺诈检测和信用评分。”

OCC解释说:“所有类型的人工智能都可能产生许多风险，例如缺乏可解释性、对大量数据的依赖、潜在的偏见、隐私问题、第三方风险、网络安全风险和消费者保护问题。”“使用生成式人工智能可能会带来额外的风险，包括提供看似可信的不准确回应。”

我IBM启动国际业务部分与50个组织的“人工智能联盟”，以推进开源人工智能

美国货币监理署(Comptroller of The Currency)是主要的联邦银行监管机构之一，该机构就人工智能的部署带来的潜在风险向银行发出了警告。(摄影师:Ting Shen/Bloomberg via Getty Images / Getty Images)

OCC发出警告之际，联邦机构正寻求为私营部门和政府使用人工智能制定监管框架。这些规则中的许多将是为了响应拜登总统关于人工智能的行政命令而制定的，该命令指示各机构在人工智能在日常生活中变得越来越明显的情况下启动监管工作。

银行监管机构指出，“随着人工智能得到更广泛的采用，进一步受益的潜力可能是巨大的。技术的发展可以降低成本，提高效率;改进产品、服务和绩效;加强风险管理和控制;扩大获得信贷和其他银行服务的渠道。”

虽然这些潜在的好处对银行来说很有吸引力，但OCC强调，“然而，人工智能的广泛采用也可能带来与合规风险、信用风险、声誉风险和操作风险相关的重大挑战。”

什么是人工智能(ai)?

人工智能为银行和其他金融机构创造了机会，但随着人工智能被更广泛地采用，它也带来了风险。(iStock / iStock)

鉴于金融公司的人工智能规则正在制定中，OCC通知银行，根据其现有的监管指导，银行必须“以安全、健全和公平的方式管理人工智能的使用，并与人工智能使用所支持的活动或业务流程的特定风险的重要性和复杂性相称”。

它补充说，银行需要以与使用其他技术相同的方式“识别、测量、监测和控制人工智能产生的风险”，并且“现有的安全和健全标准和合规要求”并不适用，因为有关该主题的监管指南没有具体解决人工智能的使用问题。

OCC强调，该机构是“技术中立的”，并支持“国家银行和联邦储蓄协会继续努力探索人工智能等新兴金融技术的安全和合理使用”。它还表示，该机构将注意到人工智能使用带来的“挑战和风险”，并将“继续监测这一快速发展的领域，包括生成式人工智能的使用”。