上个月，加拿大法院在加拿大航空公司由 GenAI 驱动的聊天机器人误导客户后，下令该公司赔偿。
据 CX Today 报道，失去亲人的孙子 Jake Moffatt 支付了 1600 多美元的往返多伦多机票。
然而，按照航空公司的丧亲费率，他只需要支付大约 760 美元。
意识到这一点后，Moffatt 提起诉讼，加拿大航空试图以该机器人是一个独立的法律实体，无法承担责任为由进行辩护。
这一辩护失败了，Salesforce 董事长兼首席执行官 Marc Benioff 表示，这一裁决具有重大意义。在财报电话会议上表示：
就像他们对人类员工所做的那样，他们对数字员工负有责任。
此外，Benioff 警告说，这些人工智能模型是“非常自信的骗子，会产生错误信息和幻觉”，并建议：“对于公司、企业和我们的客户来说，这些都不是值得信赖的解决方案，因此存在危险。
“这些[公共]模型对公司的客户关系一无所知，在某些情况下，只是编造出来的。
“企业需要拥有吸引消费者的相同能力，但他们需要以信任的方式拥有它，并且需要以安全的方式拥有它。这并不容易。”
值得庆幸的是，Benioff 认为企业可以将三个“基本组成部分”构建到 GenAI 机器人战略中，以提供值得信赖的体验。
它们是引人注目的用户界面 (UI)、世界一流的人工智能模型和庞大的数据集。
然而，Benioff 强调，数据集必须包含元数据，以便人工智能理解并提供客户所需的关键见解和情报。
他总结道：“这不仅仅是一些被盗的公共数据集……这是数据和元数据的深度集成，哦，这就是 Salesforce 所做的事情。”
避免聊天机器人失误：CX 分析师的建议在最近的重大新闻更新中，几位 CX 分析师就他们认为企业应该从加拿大航空的错误以及DPD 的机器人故障中吸取的一些最重要的教训发表了自己的看法。
Valoir 首席执行官兼首席分析师 Rebecca Wetteman总结道：”这不仅仅是幻觉的问题，而是暴露不良数据的问题。“
“我不知道是否是聊天机器人编造的，或者事实上是否存在一些有人不知道的部落知识。
“但是，我认为随着人们开始将更多的关键对话委托给人工智能和聊天机器人，我们将看到更多的下游影响。
更多的公司说：“哦，我希望技术供应商为我承担一些责任和风险。”
这就引发了一场关于在供应商-客户合同中添加赔偿条款的有趣讨论。
然而，Arion Research 创始人、首席执行官兼首席分析师 Michael Fauscette认为：“从根本上来说，这是你的责任。我不在乎它是否由另一个实体运营，是否外包，或者是否……糟糕的数据，糟糕的体验，就这么简单，这是你的责任。
“法院可能会这样看待人类特工，‘你知道吗，人们会犯错误’……可能会有一些回旋余地。但是，这就是教训；这些法庭不太可能给机器太多回旋余地。”
