原告律师所说的“完美”案例真的是由人工智能?
原告律师所说的“完美”案例其实是AI的作品
北京通州法院准确识别虚假引用案件
人工智能技术正在深刻改变法律行业的工作生态系统。从专业解答、意见征求到文案润色,人工智能工具为法律从业者提供了极大的帮助。但科技红利的背后,错误信息损害司法程序的危险已悄然显现。近日,北京市通州区人民法院审结的一起案件,暴露了人工智能产生的虚假案件对司法公正造成的潜在危害。
本案是一起因股权持有而引发的商事纠纷案件。在诉讼过程中,为了进一步支持其观点,原告律师在庭审后向法院提交了书面意见,引用了最高人民法院和上海市第一中级人民法院(2022)上海民州案的案例。NG号12345例。从律师意见描述来看,两起案件的事实细节、法律争议以及裁判逻辑与本案比较一致。完全支持原告律师提出的观点,一看就很有参考价值。
出于职业敏感性,审判长进行了检索核实,却发现这两个案号对应的案件实际事实与律师书面意见中描述的情况完全不同。其中,“(2022)沪01民终12345号”案件实为民间借贷纠纷,与书面意见所述事实完全不符,与本案涉案事实没有任何联系,也不存在类似或转嫁情节。
早期,当法官助理与原告律师交谈时,律师语焉不详,回避提问。 “一个gent总是说他会再查一下,但他无法提供判决书。我仔细阅读了代理人提交的书面意见,发现相关案号、案件内容、格式具有典型的人工智能‘书写’特征。”负责审理此案的法官郑吉哲告诉《法治日报》记者,“人工智能语言模型兴起后,通州法院成为我们建立人工智能司法司法应用和群体利益理论的地方。”此外还有类似的法律问题案件。有一些规律和特点。
“你提到的案例有问题,你是用什么AI工具找到这些案例的?”郑继哲直接走到电话前询问原告律师,后者没有说话。对方沉默了几秒后,承认这确实是AI软件提供的相关信息。
原告律师表示,参考案例是在提炼案例事实和情况后,通过反复询问特定AI软件大模型,最终引导AI软件生成相关参考案例。但他并没有进一步核实,直接复制粘贴后提交给了法院。
据此,通州法院根据法律规定并根据案件事实,没有采纳原告代理人的这部分意见,并在向法院提交参考案例和法律规定时明确提出批评教训并进行检查和核实,以确保争议作者。必须保持真实性和准确性,决不能允许人工智能模型生成或产生虚假信息,扰乱司法秩序。一审判决后,双方当事人均提出上诉,现已判决。
通州法院提醒近年来Chatgpt、Deepseek等软件引发的人工智能浪潮正在深刻改变人们的工作方式。强大的语言生成能力可以在短时间内输出看似预言和详细的文本。然而,如果没有适当的指导,人工智能很可能会产生误导性甚至虚假的信息。对于非行为人利用人工智能证据生成的虚假参考案件如何处理,民事诉讼法和司法解释均没有明确规定。然而,人工智能在司法命令中产生的虚假信息所造成的损害值得关注。误审扰乱了法院的正常审理程序。审判小组要花费大量的时间和精力对律师提交的案件进行反复检索和筛选。当人工智能生成的虚假信息被用作参考时,司法资质就会受到质疑。
通州法院建议法律实践人们应该使用人工智能作为一个有用的工具,而不是一个取代他们自己专业判断的“神器”。在使用人工智能时,仍需保持谨慎合理,对人工智能生成的内容进行严格审核,确保信息来源可靠、内容真实准确;人民法院应当加大审查力度,运用技术手段和专业知识,对当事人、代理人提交的参考案例等材料进行严格筛选,确保司法过程中使用的信息真实可靠。
法官讨论案件
人工智能可以在限制结果时生成案例事实
看似未知的人工智能背后,隐藏着重大的诚信危机。结合本案的审理经验和司法实践的规则,我们可以从案件结案是否有规律性痕迹、案件描述的适应性强等方面来判断AI生成的案件是否真实。需求场景复杂,通过获取方式验证难度大。
真实司法案件的案卷由年份、法院代码、案件性质代码、审判级别代码和案件号组成。案号按照接收顺序自然生成,具有随机性和连续性的统一特征。人工智能生成的个案通常表现出故意的规律性。他们经常使用连续整数,如“12345”和“1234”,或具有明显属性的数字,如“111”。例如本例中出现的“12345”就是这样的情况。遇到涉及案件编号的案件时应格外小心。
大型人工智能模型的生成逻辑基于概率统计和上下文匹配。当用户清楚地输入案例详细信息时,生成的案例通常很直观,可以满足需求。事实细节和理论结论能够与用户需求完全同步,呈现出特征人工定制。如果传递给AI的需求非常详细,并且使用AI获得的案例过于完善和一致,则应谨慎处理。
案件是摘录和简易裁判文书。虽然AI模型可以生成案件,但其生成的假案件并没有得到真实判决文件的证实。为了避免出现漏洞,人工智能有时会故意模糊案件中可识别的元素,例如当事人的姓名,例如伊藤案。在两个虚构的案件中,人工智能在成立时使用了“A”、“B”、“C”和“D”等表述来表示所涉及的当事人。实际测试表明,大规模语言模型在生成判断文档方面存在局限性。在限制结果时,虽然人工智能可以通过整合现有来源输出判断理由,但常常会出现“人工智能幻觉”的现象(即人工智能会产生看似合理但实际上不存在或与现实不符的信息),甚至案件的法律依据或事实是否符合预设的结果。最可靠的鉴别方法是登录中国裁判文书网,对生成的案件的真实性进行核实和验证。
记者 徐伟伦/通讯员 杨哲
会议在高原脑卒中中心建设方面取得了进展。国家卫健委减贫工程专家委员会主任委员、中国医学科学院、北京协和医学院院长季训明表示,目前全国已有20个省份成立了减残工程专门委员会,8个省份正在积极推进。 2025-11-12 07:24 彭焕武:用一生践行“科学报国”誓言的模范。 2025年是中国科学院院士、中国科学院院士彭焕武诞辰110周年。我国理论物理学家,“两弹一星功勋章”获得者。 2025-11-12 07:23 长臂猿长臂之谜被解开 中国科学院昆明动物研究所牵头,国内外多家科研机构组成的研究团队,通过对现存和灭绝的长臂猿进行大规模基因组测序和比较分析,系统阐明了长臂猿标志性表型的进化历史、种群动态和遗传基础,为全球行动提供新的科学视角。长臂猿保护。相关研究成果近日发表在国际期刊《Cell》上。 2025-11-12 05:10 唱八夭夭五号火箭成功完成转移。 11月11日,长征八号遥遥五号运载火箭成功转运至海南商业航天发射场,计划择日发射。 2025-11-1205:10
我国磁量热技术实现“零的突破”。近日,由中核集团中国原子能研究院牵头的量子放射性测量实验室和电离辐射测量级装备“一线多用”产研平台正式开工,成功填补了我国低温量子磁量热仪领域的空白。 2025-11-12 05:10 十部门正着力推动数据开放,协调降低物流成本。在数据管理和使用方面,《实施方案》提出对物流公共数据实行分类分级管理,规范数据授权操作,扩大路网、轨迹、业务、人员等基础数据供给。 2025-11-11 10:03 我国科技期刊总数已达5325种。 《发展蓝皮书》中国科协发布的《中国科技期刊(2025)》显示,我国科技期刊总数将持续增加,从2023年的5211种增加到2024年的5325种,整体影响力不断增强。2025-11-11 10:04 天地一体化网络开启科技期刊新时代国家信息化出行作为国家信息化的重要基础设施,天地一体化网络具有远远超出普通通信技术范围的战略意义,这不仅是我国实现全球信息覆盖和自主创新的必由之路,也是抢占数字时代发展主动权的基本布局。
让学生从“好奇”走向“改变”。培养顶尖创新人才不是考验即时爆发力的冲刺,而是一场考验需要长期耐力的拉松。在课程体系建设方面,北航实验学校打造了科技创新人才“五级阶梯”综合培养课程群,实现了从基础普及到高级的无缝过渡。 2025-11-11 10:00 加快场景培育开放,推动新场景大应用。近日,国务院办公厅发布《关于加快培育开放场景推动新场景规模化应用的实施意见》(以下简称《意见》),对相关工作提出建议。 2025-11-11 09:50 国航C919继续执飞“两航起义”北行航班。 11月9日,国航C919继续执飞“两航起义”主题航班香港至天津航线,带回“两航起义”北航d航班76年前,致敬“两航起义”爱国功勋。 “两航”传人陈绍增介绍,76年前,“两航起义”飞行员驾驶12架飞机从香港飞往北京、天津,建设新中国民航事业。 2025-11-10 10:10 新研究意外发现药物制造中的超强抗生素。 “超级细菌”是指对多种抗生素具有抗药性的细菌。研究人员意外地发现了一种有前途且强大的抗生素,可以在常用药物的制造过程中杀死耐甲氧西林金黄色葡萄球菌等“超级细菌”。 2025-11-10 10:09
2025年世界互联网大会乌镇峰会11月9日闭幕,2025年世界互联网大会乌镇峰会在浙江乌镇闭幕。世界互联网大会秘书长任贤良用“聚焦构建网络空间命运共同体理念”、“关注创新发展热点话题”、“持续打磨峰会品牌”、“持续贡献智慧和力量”。2025-11-10 10:08 使用供暖设备时应牢记这一点。使用供暖设备有哪些注意事项?看它!2025-11-10 10:17 推动技能人才建设围绕促进新型工业化人才需求,顺应实体经济与数字经济融合发展趋势,立足产业侧责任定位,多措并举加快推进制造业技能人才库建设,深入开展产业基础再造工程和数字化转型行动,依托工程培养高技能人才。2026 ASC世界大学生超级计算大赛正式启动 ASC26报名链接:https://www.asc-events.net/studentchallenge/asc26/register.php 2025-11-07 15:58
空间环境预报中心:11月6日发生地磁暴,橙色警戒级别。北京时间2025年11月6日11:00至14:00,发生强烈地磁扰动,达到地磁暴级别(KP=7),属橙色警戒级别。 2025-11-07 13:39 第一、第一、第一次!本周,中国的硬实力再次成为人们关注的焦点。 Atlas的成功观测是天问一号的重要拓展任务。利用探测器观测微弱天体,为天问二号进行小行星探测进行了技术试验,积累了经验。 2025-11-07 09:37 天问一号成功观测到比太阳系更古老的星际物体。天问一号轨道飞行器近日成功观测星际物体ATLAS高分辨率相机。据m报道,天问一号探测器于2021年2月进入火星轨道,迄今已稳定运行4年零8个月,目前状态良好,创新发展,凝聚行业国际合作发展共识,推动开放包容的人工智能产业建设
加载更多