ChatGPT编造证词 美国律师被认定藐视法庭 OpenAI拒绝回应

ChatGPT在司法文书中的不当使用再次酿成实质后果。据半岛电视台报道，新墨西哥州最高法院周三对辩护律师Stephen Aarons处以5000美元罚款并认定其视法庭，原因是他在一桩谋杀案上诉文件中提交了由该程序虚构的证人证词。

法院在裁定中指出，Aarons提交的文件"包含完全虚构证人的虚假证词"，并认定其"缺乏悔意且不关心其委托人"。法院同时将此案移交新墨西哥州律师纪律委员会进一步调查。

Aarons代理的是Oscar Renee Sandoval的上诉案件。Sandoval被指控谋杀其孩子的母亲，被定罪后判处终身监禁。Aarons在向路透社发表的声明中承认，去年接手该上诉后使用ChatGPT总结庭审记录，并称自己"未充分了解"人工智能会"产生幻觉"事实的程度。

"我感到悔恨，但希望纪律委员会考虑到这是一个诚实的错误，"Aarons对路透社说。"这是所有依赖这种强大但有时不稳定技术的专业人士应当吸取的教训。"

新墨西哥州最高法院上月已命令Aarons就伪造材料——据称包括"枪手穿着深色裤子和白衬衫的虚构陈述"——如何出现在主要上诉状中作出说明。在8月21日的听证会上，Aarons告诉法官，他将一份计算机生成的庭审记录和其他案件材料输入ChatGPT，预期它能生成"无懈可击的总结"。

法院对Aarons竟未意识到AI的可靠性风险表现出强烈不解。法官C. Shannon Bacon在听证会上质问："律师，你是否看新闻？是否听广播？是否阅读世界上正在发生的事情？因为律师依赖AI幻觉的问题每天都是头版新闻。"

OpenAI在被问询时未立即回应置评请求。半岛电视台指出，这是美国州和联邦法官惩戒未充分核实AI生成内容律师的众多案例之一。已有数十名律师因在法律文书中提交AI虚构的判例引用或错误引述法律而受到制裁；Aarons的案件更进一步——在刑事上诉中捏造了证人证词。

Sandoval的上诉仍在进行中，已于9月2日转交新墨西哥州公设辩护人Kim Chavez Cook接手。Cook与Dona Ana县地区检察官办公室均拒绝置评。新墨西哥州律师纪律委员会对Aarons的进一步调查结果尚未公布，委托人的上诉因律师过失受到的具体影响程度亦不清楚。

OpenAI对这一事件拒绝置评，与其产品在司法等领域被广泛采用的速度形成反差。在使用者的疏忽背后，是科技公司在高风险场景下对其工具可靠性边界缺乏公开说明的更深层责任问题——而这条链条的末端，是一位因律师过失面临上诉受阻的终身监禁被告。