Susam Pal 写了一篇很有意思的文章。阿西莫夫的「机器人三定律」是给机器人定的规矩，但从来没有人为「人类如何与机器人/AI 互动」定过规矩。他提出了三条「反定律」。
第一条：不要拟人化
不要把情感、意图、道德主体性赋予 AI 系统。拟人化会扭曲判断，极端情况下会导致情感依赖。
现代聊天机器人听起来很会聊天，用礼貌的措辞和对话模式模仿人类互动。这让它们更好用，但也更容易让人忘记它们的本质：基于数据模式生成合理文本的大型统计模型。
Pal 认为 AI 厂商应该做得更好——很多系统被刻意调教得更像人，而不是更像机器。如果语调更机械一些，用户误把流畅语言当成理解力的概率就会降低。
第二条：不要盲信
AI 生成的内容不能在没有独立验证的情况下被视为权威。这个原则不只适用于 AI——生活中我们本就不该不加批判地接受信息。但 AI 的特殊之处在于：你在私聊里收到的回答，没有经过任何同行评审，全靠你自己判断。
即使 AI 系统未来变得非常可靠，由于其固有的随机性，仍然存在产出错误的可能。后果越严重，验证的负担就应该越重。
在数学证明或软件开发这类场景，我们可以用证明检查器或单元测试做自动验证。其他场景就必须人工验证。
第三条：不要推卸责任
使用 AI 的后果，责任必须由人类承担。「AI 告诉我这么做」不是借口。AI 系统不会选择目标、不会自我部署、不会承担失败成本。人类和组织才会。
这说起来容易做起来难。在自动驾驶这种实时应用中，人类没有足够时间审查 AI 的决策。但即使如此，调查失败原因和增加安全护栏的责任，仍然落在系统设计者身上。
在其他场景中，不存在物理约束阻止人类审查 AI 输出。任何因使用 AI 而产生的负面后果，都必须完全由人类决策者承担。
对出海独立开发者的启示
做 AI 产品的人最容易踩的坑：把 AI 的输出当「事实」展示给用户，不做验证层。如果你的产品是面向海外用户的 SaaS，一旦 AI 输出错误信息导致用户损失，法律和声誉风险全在你身上。
给自己定个规矩：AI 生成的任何面向用户的内容，必须有验证机制。代码有测试，内容有审核，决策有回退。这不是过度谨慎，这是基本的产品责任。
来源：HackerNews