生成式人工智能（AIG），如ChatGPT，正在改变法律专业人士处理从文档起草到法律分析等日常工作的方式。但是，律师及法律领域其他专业人员在使用这一技术时，需要同时考虑其可能带来的严重风险。本文中，我们以西班牙一起司法案件为例，尝试探讨法律专业人员盲目依赖生成式人工智能技术可能带来的风险，并提供在法律领域安全使用该项技术的建议。

法律领域使用生成式人工智能的主要风险

1. 引用错误或虚假司法文献

法律领域使用生成式人工智能的最明显的风险之一是，引用错误或虚假法律文献。尽管人工智能技术很先进，但其有可能生成看似真实的错误信息，这一现象也被称为“人工智能幻觉（AI Hallucinations）”。因此，法律专业人员在其法律文件中使用人工智能生成的内容之前，需要对其内容的参考来源和引用内容等逐一核实。

2. 提供的外国司法领域法律规范不适用

人工智能提供的有关国外司法领域的法律规范参考，可能不适用于本国法律实践。这可能导致在本国诉讼中包含无关的参考法律，从而影响文件的有效性，并进而影响案件结果。因此，法律专业人员在使用人工智能工具时需小心谨慎，并根据本地法律和法学理论等对生成结果进行调整。

3. 保密数据的泄露

在开放平台使用生成式人工智能，可能对信息保密和隐私构成重大风险。向开放平台提供的敏感数据，可能被用于未来训练人工智能模型，从而造成保密信息泄露。法律专业人员在向人工智能平台输入可能涉及保密的敏感信息前，需要特别谨慎并考虑保密要求。

4. 过度依赖人工智能

尽管生成式人工智能可以在处理法律任务，如起草法律文件或研究案例法等，过程中提供自动化服务，但不应取代专业人员的监督作用。有数据表明，有44%的法律任务可以借助人工智能进行自动化处理，但并非所有任务都适合完全交由人工智能完成。关键决策仍必须由法律专业人员以其知识背景和专业判断做出并承担责任，确保法律工作的质量和准确性。

生成式人工智能在法律专业领域的一个案例事故

近期，一名西班牙律师提交的一份诉讼请求书，其中引用了哥伦比亚刑法的部分条款。正如该名律师在后来的文件中所承认的，所引用内容是通过ChatGPT3生成的，他承认因其律所对人工智能系统的不当使用，造成了这一“严重且非自愿的实质性错误”，并对此以书面形式公开道歉。

高等法院（Tribunales Superiores de Justicia）启动调查程序，审查该名律师是否存在权力滥用或恶意诉讼问题。尽管存在引用文献错误，法院最终裁定驳回起诉，但考虑涉案律师主动道歉情节和此类问题属首次出现，未处以经济处罚。

生成式人工智能：一场技术革新，但并非法律专业人员的替代品

上文案例强调了核实生成式人工智能工具所生成内容真实的重要性，并向法律专业人员发出职业道德警告：“应以本案为戒，重视盲目依赖新技术可能造成的法律、伦理和职业道德的负面影响”。

生成式人工智能以其出色的处理能力引发新的技术革命，但绝非已经能够完全取代专业人员。对其生成内容，仍然需要法律专业人员审核甄别，并依具体法律环境进行适应调整等。

关于在法律服务中安全使用生成式人工智能工具的建议

• 源头验证。审核并确认人工智能提供的信息的正确性、相关性和实时性至关重要。我们建议，应使用具有可靠来源的信息，并确保引用的法律文献等符合当地法律实践。
• 数据保护。不能将保密或敏感信息输入人工智能平台，尤其是可公开访问的平台。此外，我们建议使用提供高水平隐私保护和采用高安全标准的人工智能工具。
• 专业监督。尽管人工智能可以辅助完成多种任务，但不应因此取代专业人员判断。法律专业人员应在使用这些工具生成的内容前，进行全面审核确认。
• 持续教育。法律专业人员应了解人工智能的最新进展和最佳实践，及在法律服务中使用这一工具的有关法律和职业伦理影响。

生成式人工智能在很多方面能够提高法律服务效率，但也伴随着不容忽视的重要风险。近期在西班牙发生的案件提醒所有法律专业人员，盲目依赖这些工具可能造成重大风险。

艾萨博睿（ELZABURU）建议在法律专业人员监督下使用生成式人工智能工具，并对生成内容进行专业审核。人工智能可以成为工作的有力助手，但最终决定权应始终由法律专业人员掌握。

编译：刘丹，艾萨博睿法律顾问

来源：艾萨博睿（ELZABURU）知识产权

联络我们：elzaburu@elzaburu.es, 3107429780（QQ）, ELZABURU-BJ（微信）