幻觉不是错误——它是特性

幻觉不是一个bug：
它是生成式人工智能系统架构的设计特性。

这个区别对治理至关重要：
bug可以修复和关闭。特性必须持续管理，包括控制、监控和经过测试的人工干预。

我们已经看到，当组织将其视为bug时会发生什么：专业公司因AI起草的、无人检查的工作而感到尴尬，经验丰富的律师提交了从未存在过的引文的简报。

副教授安迪·施穆洛，本书的推荐人之一，直言不讳地说：“……员工甚至领导者都在偷工减料，让人工智能为他们工作，并且未能检查其产出。”他对本书的评价是：“这本书应该被视为不可或缺的。”

企业级人工智能风险管理® (EW-AiRM®) ewairm.com 将幻觉、漂移和模型崩溃视为风险格局中的永久居民，并围绕这种现实构建控制措施。