生成式人工智能时代的信息披露

《Frontiers in Digital Health》：Disclosure in the era of generative artificial intelligence

生成式AI已深度融入学术写作，但其使用披露标准存在不一致性。文章提出风险比例披露框架（DISCLOSE-AI），区分AI在语言校对、内容生成、数据分析等不同场景的责任边界，要求投稿时全面披露AI使用情况，而读者端披露则按风险等级分级：基础语法修改可免于公开说明，涉及数据解读等核心内容需详细披露。研究强调应平衡透明度与实用性，避免因过度限制抑制合理AI应用，同时确保作者对研究成果的最终责任。

　　

摘要

生成式人工智能（AI）已迅速融入学术写作中，协助完成从语言编辑到文本起草以及证据生成等各种任务。尽管AI的应用范围广泛，但对其使用的披露要求却并不一致。一些期刊采用二元的披露声明，未能区分仅提供语言辅助的功能与对稿件结构和数据解释产生重大影响的使用情况。本文提出了一种基于风险的比例化披露方法。

1 引言

生成式人工智能（AI）在学术写作中的应用已从新兴技术迅速发展为常规工具。大型语言模型现在可以协助制定稿件框架、润色文字、总结文献内容并生成初稿。最初仅用于简单拼写纠错的AI技术，已扩展到几乎影响科学工作每个阶段的广泛辅助功能。最新研究表明，约48%的提交稿件中超过10%的部分包含了AI辅助生成的文本。

争论的焦点已不再是AI是否被用于学术写作——事实上它确实被广泛使用了。更为紧迫的问题是如何以一种既能保护学术质量又不阻碍合理、负责任使用的方式披露AI的应用情况。

尽管AI的采用率不断提高，但各期刊的透明度指南仍滞后，披露政策也不统一。在提交时仅设置一个简单的复选框来标注AI的使用情况，无法全面反映AI使用的复杂程度。本文提出了一种基于风险的披露框架，以促进作者更透明、更合理地报告AI的使用情况。

二元披露的利与弊

与医学领域的许多应用类似，AI的使用范围也从简单的任务扩展到更复杂的任务。一方面，AI可用于拼写和语法纠错，提高文本的清晰度；另一方面，它也可以处理对研究结果有直接影响的复杂任务，如数据转换、研究对比和结论推断。如果将所有AI使用情况同等对待，就会模糊语言辅助与实质性学术贡献之间的区别。

对于许多使用第二语言进行研究的学者来说，这些工具具有明显的好处。语言障碍可能会影响原本优秀的科研成果的发表。AI辅助编辑能够提升文本的清晰度和条理性，使研究结果的评价基于其内容本身而非语言表达能力。在这方面，AI的使用有助于降低语言障碍，促进全球知识的传播，并节省撰写时间与成本，让研究者能够专注于研究设计、分析和数据解读。

然而，AI的使用也伴随着风险：它可能生成错误信息、提供不准确的解读或引用错误参考文献。此外，在进行文献总结时，某些研究可能被遗漏而缺乏合理解释，从而导致结果不可靠。

另一个重要问题是AI使用可能侵犯数据隐私，这需要谨慎管理。随着AI工具（如ChatGPT）内置数据分析功能的发展，这一风险变得更加突出。这些功能能快速处理大量数据并生成统计摘要和可视化结果，对研究者来说具有吸引力，尤其是在截止日期临近时。但将受保护的健康信息上传到外部AI平台是违反HIPAA法规的，所有研究者都必须承担保护患者数据的责任。

因此，AI不能为学术研究的准确性、伦理性和完整性承担责任。作者，而非算法，应对所有陈述、引用和结论负全责。披露实践应体现这一原则。

按风险比例进行披露

一个实际的解决方案是区分两种不同的披露义务：向编辑披露和向读者披露。向编辑的披露应该是常规且全面的，不应有任何例外。在提交稿件时，作者应说明AI工具的使用方式，以便期刊评估研究的可靠性。

向读者披露AI的使用情况应与其风险程度相匹配。风险是指AI使用可能对研究内容产生影响的概率。当AI仅用于语言编辑（如语法或拼写检查）时，强制性披露可能意义不大，甚至可能对依赖这些工具的语言辅助用户造成不利影响。相反，当AI用于生成研究内容、进行统计分析或形成研究结论时，透明且详细的披露就变得至关重要。读者需要了解结论的生成过程及其影响因素，以确保研究结果的可重复性。

目前已有期刊制定了AI使用的披露标准。在AI作用有限的早期阶段，简单的“是/否”式披露方式尚可接受。但随着AI在学术研究中的整合程度加深，作者需要更具体的指导。

为解决这一问题，我提出了DISCLOSE-AI框架，该框架根据风险程度来决定披露内容（见图1）。该框架分为四个层级：如果AI仅用于语法和拼写检查，可能无需在稿件中公开披露；如果用于核心写作或结论生成，则必须在稿件中明确说明。无论如何，所有AI使用情况都应在提交时向期刊报告。此外，编辑层面的披露信息也应可供读者随时查阅。当AI在多个层级中混合使用时，披露内容应符合最高风险等级的要求。

这种做法在关键环节保持了透明度，并认识到如今简单的语言编辑已经非常普遍。

重要的是，披露不应具有惩罚性。有研究表明，使用AI的人可能会受到负面社会评价和较低的能力评估。因此，披露的目的不是为了指责AI的使用，而是为了明确责任。当AI被审慎使用时，它可以提升稿件的质量。我们将这些工具引入学术实践还处于初期阶段，随着更多证据的积累，披露标准也会不断完善。无论如何，作者始终应对自己的工作负全责。学术可信度不仅取决于研究结果，还取决于这些结果是如何获得的。