据科技媒体TechRadar刊发的一篇署名文章,作者为OutSystems首席产品与技术官,文章认为人工智能将对全球企业产生变革性影响,但有两个前提:AI必须被分配到正确的任务,使用者必须信任它的输出。文章指出,企业常常不加思考就部署AI,管理者把并非为其设计的任务交给智能体,而每天使用这些工具的许多员工,尚未准备好承担管理智能体的新角色。信任只来自经验,需要时间积累。
文章写道,当AI给出合乎逻辑、确实帮得上忙的结果时,人们的信心会增加;一旦它出错,这种信心可能瞬间消失。出错之后,员工会开始想办法绕过AI,或者干脆不再使用;如果领导者忽视员工关于如何让AI更好工作的意见,AI本可带来的收益就会被削弱。
按文章的说法,AI基于概率运行,给出的答案是“可能”正确的,这也是它偶尔产生幻觉的原因。这一特性使AI在处理不清晰或复杂信息时十分有效,却不适合错误答案可能造成严重后果的任务。文章列出三个AI真正能发挥作用的领域:文档处理、决策支持和个性化。
在文档处理方面,AI可以从通常需要人花数小时审阅的材料中提取、分类和归纳信息,例如把合同与一套标准条款比对,或按所涉问题整理大量客户邮件,让人只需查看重要发现,而不必通读全文。在决策支持方面,AI擅长汇集各类信息、发现规律并给出下一步的选项。但文章提醒,AI并不总是做决定的那项正确技术。以采购为例,AI可以考察供应商的过往表现、交付能力、到货速度以及复购折扣,甚至说明为何某个选项更优,但在多数情形下,最终选择仍由人来做出。在个性化方面,AI可以让产品更贴合具体使用者,此时概率式的工作方式反而成为关键驱动力,内容只需好到足以建立联系,让接收者感到自己被专门对待。
文章还谈到把AI派到错误任务上的代价。AI生成的答案听起来笃定,但仍可能出错;如果未经核实就据此采取行动,一个小错误会在工作流中迅速传播。以合同中的规则或细节为例,当有人发现错误时,它可能已被写入记录、发送给公司外部人员,甚至被用来生成新软件。
为提醒自己注意AI的局限,作者把这项技术比作一个超级聪明、勤奋的实习生:实习生需要经验丰富的同事给予指导和监督,其接触敏感信息的权限也需要受到限制,只有在证明自己能做出合理决策之后才逐步放开。文章认为AI应当以同样方式管理,只有在证明自身之后才获得更高程度的控制权,而且其工作仍须由人监督。文章以软件开发为例指出,AI能快速产出大量代码,但速度快意味着质量并不总与人类开发者相当,管理大量AI生成的代码常令IT专业人员感到头疼。