Gergely Orosz：AI在熟悉领域的错误能识破，在法律问题上却被同样的自信骗过

据X News，软件工程师Gergely Orosz分享了自己的经历：在熟悉的代码项目里，AI工具给出的错误答案说服力很强，但他能看出问题；换到不熟悉的法律问题上，AI以同样流畅自信的语气给出错误回答，他没能识破，后来由一位律师指出并纠正。

科技圈用户把这一现象与Gell-Mann失忆效应联系起来。据X News，这一说法出自Michael Crichton于2002年提出的观点，指人们会信任存在错误的信息源在自己专业以外领域的说法。

讨论中，有用户分享了AI给出的代码建议在生产环境出错的经历。大家提出的应对办法包括核对出处、用多个模型交叉检验、把AI输出当作草稿，在关键领域始终配合人工判断。

以上为X News对相关讨论的转述。