使用大规模语言模型编写的内容的所有权和作者感。

大型语言模型 25/09/2024

三个要点
✔️ 考察大规模语言模型如何影响个人对其生成内容的所有权意识
✔️ 提出在语言模型生成的内容方面，所有权意识和作者意识之间存在心理冲突
✔️ 对数字时代的所有权和著作权概念提出了新的问题

LLMs as Writing Assistants: Exploring Perspectives on Sense of Ownership and Reasoning
written by Azmine Toushik Wasi, Mst Rafia Islam, Raima Islam
(Submitted on 20 Mar 2024 (v1), last revised 22 Apr 2024 (this version, v3))
Comments: Published on arxiv.
Subjects: Human-Computer Interaction (cs.HC); Artificial Intelligence (cs.AI); Computation and Language (cs.CL); Computers and Society (cs.CY); Machine Learning (cs.LG)

code：

本文所使用的图片要么来自论文、介绍性幻灯片，要么是参考这些图片制作的。

概述

据说，在写作过程中，我们为自己的想法所付出的时间和精力会增强主人翁意识（=自己的产品意识），从而对自己的作品产生依恋之情。然而，写作助手的使用，如最近讨论的大规模语言模型，可能会造成冲突，因为有些内容不再是我们自己的创作，因此可以被视为我们自己的作品。

例如，如果您将大规模语言模型用于一项特别具有创造性的任务，那么人们就会高度重视大规模语言模型的贡献，尽管所有任务在努力程度上都是相同的，无论它们对于大规模语言模型来说是否具有创造性。此外，作为作者，您可以自由地对大规模语言模型生成的内容主张权利，尽管您不太可能主张这些内容完全属于自己（所有权意识）。

通过研究，本文深入探讨了这些问题，旨在通过写作任务更好地理解人机交互，并改进写作支持系统。

所有权意识从小就深深扎根于我们的认知和行为中。它意味着个人对某些物品、内容、资产或权利拥有权力。它还意味着作为团队、项目或组织的所有者或成员所感受到的责任感。除了法律或形式方面，它还是个人的心理和主观体验。在写作和创作任务中，完成任务所需的原创性和努力程度与所有权或作者意识直接相关。

写作中的这些感觉不仅仅是拥有一支笔和一张纸。思想与文字之间的深刻联系让我们对自己投入感情，并培养了我们对自己想法的责任感。在这个过程中，我们与自己的创作之间建立了一种关系，这种关系不仅仅是邀功那么简单。一笔一划赋予我们在纸上表达自己身份的力量，并分享讲述我们本质的故事。

大型语言模型，如 ChatGPT、Gemini 和 Microsoft Copilot 等，正被越来越多地用于教育和商业领域。它们在各种写作任务中都很有效，包括创意故事和论文、学术写作和法律写作。通过利用大规模语言模型，写作过程变成了一个协作过程，将人的输入与机器生成的内容融合在一起。这有利于探索不同的观点和风格，并可能改变传统的内容创作观念。

在创造性任务中，我们人类往往会产生强烈的依恋感以及强烈的主人翁感和作者感，但在使用大规模语言模型时，这种依恋感和主人翁感会发生怎样的变化？基于大规模语言模型的写作助手又会如何影响对所有权和作者身份的感知？鉴于 "剽窃"（从他人作品中全部或部分窃取文字、图表、短语、故事情节、观点等，并在自己的作品中将其作为自己的作品使用）这一广为人知的问题，这些问题显得尤为重要。在大规模语言模型的支持下，了解个人如何看待所有权和作者意识，有助于解决内容创作中的原创性和归属问题。

本文首先考虑的问题是，在使用大规模语言模型作为写作助手时，不同内容类型的党员意识（即主人翁意识和作者意识的强弱）是否有所不同。对于创造性和非创造性任务而言，参与创意生成和故事形成的程度对党性意识有重大影响。如果大规模语言模型自动完成了一项任务，我们往往会对其结果产生较少的信任感。相反，对于常规的、非创造性的任务，我们可能会从与大型语言模型的合作中获得更强的贡献感。

接下来，我们将研究使用基于大规模语言模型的写作助手会如何影响人们对所有权和作者身份的感知。从技术上讲，在大规模语言模型的支持下，人工智能可以成为内容的作者，但可能不会像独立创作内容那样感受到情感上的联系。在实践中，他们可能会自我认定为人工智能生成内容的作者，但却不会有完全的所有权感。所有权感和作者感之间的这种差异可能会导致一种心理困境。

了解这些细微差别对于培养有效的写作助理非常重要。本文对 35 位参与者进行了调查，以全面探讨这些问题，并对他们的观点进行了分析。通过加深对这些细微差别的理解，我们希望能开发出满足用户需求、改善写作体验的工具。此外，我们还希望，驾驭这些复杂性将成为在现实生活中更有效地使用大规模语言模型的关键，并在创作过程中起到宝贵的辅助作用。

调查概述

该实验对35 名参与者进行了一项简短的调查，以了解他们在使用写作助手时的党性意识（主人翁意识和作者意识）。调查向参与者提出了以下问题。

如果您使用 ChatGPT 进行非创作性写作（如作业），您认为这对内容有帮助吗？
如果您使用 ChatGPT 创作了一个故事或一首诗（创作任务），您认为它对内容有帮助吗？
您是否希望将大规模语言模型生成的内容以您的名义提交到某个地方？(例如作业、报刊文章）
您认为 ChatGPT 为您创建的内容是您自己的吗？
鉴于 ChatGPT 为特定提示生成的内容，提示和生成的文本之间存在着复杂的互动关系。提示是生成人工智能模型的催化剂，可以决定回复的方向和性质。鉴于内容是由人的输入提示和引导的，您认为ChatGPT 为您创建的内容是您自己的吗？
虽然内容最初是由 ChatGPT 生成的，但随后的修改可能会反映出人为干预，从而使文本更适合上下文或传达特定信息。您认为此时 ChatGPT 修改后的回复是您的回复吗？

参与者也主要是 18-24 岁的大学生（94.3%），少数（5.7%）为 24-30 岁年龄组。参与者的性别以男性为主（65.7%），女性占 34.3%。此外，大多数参与者（88.6%）具有科学背景，少数（8.6%）具有艺术背景。参与者还认为自己具有较高的技术意识，在 5 分制的量表中，得分在 3-5 之间（5 分表示 "技术狂热"，1 分表示缺乏技术意识）。

调查结果

研究发现，当参与者感觉到人工智能的干预（贡献）较少时，例如在处理简单任务等非创造性内容时，他们会表现出较强的党员意识（主人翁意识和作者意识）。相比之下，诗歌、故事和生日祝福等创造性内容往往被认为人工智能的贡献更大，而党性意识较弱。

下图显示了与会者对不同类型的基于大规模语言模型的写作支持的认同程度（1 表示非常低，5 表示非常高）。在创造性内容中，人的贡献往往不太受重视，而大规模语言模型则更受青睐。

在创造性任务中，人们倾向于将大规模语言模型与人类贡献者几乎同等对待。所有权和作者意识与原创性、贡献和责任有关，但对大规模语言模型产生的内容的责任却不那么明确。另一方面，不需要创造性的任务往往较少出现这种问题，对大规模语言模型的认可度也较低，因为原创性和贡献的价值没有那么高。这说明了非创造性任务和创造性任务在使用大规模语言模型如何影响当事人意识（自己的作品意识）方面的差异。

此外，研究还考察了人们对大规模语言模型生成的内容的所有权感和作者感的看法。有趣的是，尽管许多参与调查者并不声称对大规模语言模型生成的内容拥有所有权（"否 "占 51.5%，"可能 "占 31.4%），但他们表示有意提交与自己作品相同的内容（"是 "占 28.6%，"可能 "占 48.6%）。).

这种心理冲突表明，版权与身份之间存在着复杂的关系，需要进一步探讨，因为个人并不主张所有权，但允许使用他们的名字。

研究还表明，提醒参与者他们在提供提示时所扮演的角色，会使声称对内容拥有所有权的参与者人数增加。(从 17.1%的 "是 "到 28.6%，从 31.4%的 "可能 "到 48.6%，从 51.4%的 "否 "到 22.9%）。这可能会鼓励人们重新评估主人翁意识，认识到个人积极参与了内容方向的塑造。在对大规模语言模式进行宣传和编辑回复后，62.9% 的参与者声称对内容拥有所有权，作者意识也得到了提升。

本研究的见解证实了合作在内容创作中的重要性，它对个人的主人翁意识和作者身份有明显的影响。这种认识可用于提高人机协作的效率。

讨论

论文指出了所有权意识和作者意识之间的心理冲突。人们一方面希望自己的作品得到认可，另一方面又对是否拥有自己的作品犹豫不决。这种两难境地可能源于人们认为作者身份的意义超出了单纯的所有权。然而，当他们意识到自己积极参与了内容的创作和编辑（如在提示中提出想法、编辑文本）时，他们开始更强烈地将自己视为所有者和作者。这可能表明，承认个人的贡献是对作品产生拥有感和作者感的关键。

此外，大规模语言模型的广泛使用也存在一些风险，如模糊作者身份、引入偏见、难以解释、丧失自主性、缺乏批判性思维和思维外包等。这些问题也凸显了明确区分个人贡献和大规模语言模型贡献的重要性。

虽然本文分别讨论了非创造性任务和创造性任务，但应探讨更多的内容类型。我们希望这将有助于我们更好、更全面地了解写作支持系统。

大规模语言模型可以通过提高所生成内容的透明度和问责制，并提供明确的指导方针和标准，帮助个人就所有权做出明智的决定。人类与人工智能之间的合作方式也有助于加强参与创造性任务的个人的所有权和作者意识。

所有权意识还与特定的所有权和道德考虑因素有着深刻的联系，并对法律框架和司法管辖区产生影响。在美国，需要有人类作者才能主张所有权，如Thaler诉Perlmutter案。而在中国，人工智能生成的内容也应受到版权法的保护。法律决定将塑造人工智能时代的版权和所有权价值。这对数字时代的所有权概念提出了新的挑战。

摘要

本文指出了借助大规模语言模型写作可以解决的两大心理困境。首先，对大规模语言模型的评价如何根据内容类型影响个人的所有权意识；其次，所有权意识与对大规模语言模型所产生内容的作者意识主张之间的联系。通过对调查数据的分析，我们展示了这些困境与背后的思维过程之间的关系。我们希望，解决这些困境将有助于更好地理解写作任务中的人机交互，并促进有效写作支持系统的开发。