美国纽约州一名律师利用ChatGPT来整理起诉文件时，引述了六件根本不存在的案例，结果他和同事都面临纪律处分，需要出席听证会。
根据BBC和商业内幕等外媒报道，一名男子想对哥伦比亚航空提告人身伤害罪，于是他到律师事务所“Levidow, Levidow & Oberman”聘请法律团队提交起诉文件，在文件中引述多个案例，以证明他的案件也应该被审理。岂料航空公司的法律团队向法官表示，他们根本找不到其中引述的几起案例。
法官卡斯提尔（Judge Castel）表示，起诉文件中有至少六起似乎不存在的案例，并要求原告法律团队做出解释。
经过调查后发现，原告律师洛杜卡（Peter LoDuca）并未参与这起案件的法律研究，而把工作交给他的同事施瓦茨（Steven A Schwartz）。
施瓦茨承认使用ChatGPT寻找类似的案例，并且感到非常后悔。他说他之前从没用过AI进行法律工作，之后也不会在没有验证的情况下使用AI完成法律文件。他也澄清，原告律师洛杜卡的确没有参与案例研究。
根据施瓦茨提供的截图，他反覆询问ChatGPT那几起不存在的案例是否是真的，而ChatGPT给出肯定的回复，还称可以在多个法律资料库找到。
