生成式人工智能应用的七项设计原则

人机交互 22/02/2024

三个要点
✔️ 生成式人工智能正被广泛应用于各个领域，因此有必要将潜在危害降至最低，并确保安全性和有效性。
✔️ 已经制定了生成式人工智能应用的七项设计原则。
✔️ 我们希望它们能帮助设计者和开发者构建安全有效的生成式人工智能应用。

Toward General Design Principles for Generative AI Applications
written by Justin D. Weisz, Michael Muller, Jessica He, Stephanie Houde
(Submitted on 13 Jan 2023)
Comments: 16 pages, 1 figure. Submitted to the 4th Workshop on Human-AI Co-Creation with Generative Models (HAI-GEN) at IUI 2023
Subjects: Human-Computer Interaction (cs.HC); Artificial Intelligence (cs.AI); Computers and Society (cs.CY)

code：

本文所使用的图片要么来自论文、介绍性幻灯片，要么是参考这些图片制作的。

介绍

这篇题为 "生成式人工智能应用的设计原则 "的论文为开发安全有效的应用提供了指导，以适应生成式人工智能技术的快速发展。

该指南基于最新研究和实践的见解，侧重于改善用户体验和正确处理数据。作者确定了开发生成式人工智能应用的关键原则，从数据收集到模型选择、训练以及隐私和安全考虑。

希望这将有助于设计人员和开发人员构建安全有效的生成式人工智能应用。

七项设计原则概述

本文提出了生成式人工智能应用的七项设计原则。这些原则基于最近的研究，重点关注人机交互（HCI）和人工智能社区，特别是人类与人工智能的共同创造过程。

在设计生成式人工智能系统的七项原则中，有六项被置于相互重叠的圆圈内，表明了它们之间的关系。不过，其中一项独立原则涉及生成模型的输出、误用或其他有害影响。这些原则特别关注生成变量环境，生成式人工智能应用输出的数量、质量、性质和其他特征可能会有所不同。

七项设计原则是什么？

生成式人工智能与其他人工智能系统的不同之处在于，它的目标是生成某种东西，而不是确定某种东西。例如，它可以生成文本、图像和许多其他东西。此外，其他人工智能系统的目标是为相同的输入返回相同的输出，而生成式人工智能每次都可能产生不同的结果。因此，很难再现相同的结果。用户在与生成式人工智能交互时，必须了解这一特性。下面几节将介绍在这种环境下围绕生成式人工智能的特点而设计的原则。

1. 设计多种产出的管理

管理多重输出是生成式人工智能应用设计原则中的一个关键问题。由于生成式人工智能技术是概率性的，不同的输入会产生多种不同的输出，因此需要制定策略，确保用户能够有效地处理和利用这些输出。具体来说，输出结果的版本化非常重要，用户需要能够在不同的输出结果之间切换，并返回到以前的输出结果。整理和注释输出结果也很重要，用户需要能够整理输出结果、注释特定输出结果并根据需要选择它们。将产出之间的差异可视化也很重要，应提供工具帮助用户了解不同产出之间的异同。这些策略将帮助用户有效利用生成式人工智能应用，充分发挥其潜力。

2. 为不完美而设计

生成式人工智能应用的一个重要设计原则是考虑输出的不完美。换句话说，重要的是让用户明白输出并不完美。生成式人工智能应用程序有时无法提供用户期望的完美输出。输出可能包含缺陷，如图像错误或代码故障。它们也可能无法对提示做出适当的回应。要处理这些不完整的输出，以下策略可以提供帮助生成多个输出，让用户选择满意的输出。评估输出的质量并在必要时进行人工审核也很重要。允许用户编辑生成的输出并制作最终成品也很有用。此外，还必须提供一个沙盒环境，最大限度地减少用户对输出的操作所造成的影响。这些策略可以让用户使用不完整的输出结果，并取得令人满意的结果。

3. 人为控制设计

生成式人工智能应用的一个重要设计原则是允许人类控制。如果用户可以控制人工智能系统，就能提高效率，也更容易理解结果。生成式人工智能应用中有三种控制方式

1. 一般控制：允许用户控制产出的数量和种类。例如，用户可以通过改变温度来调整输出的种类。
2. 特定技术控制：取决于所使用的人工智能技术。用户可以使用滑块来控制属性和特性。
3. 特定领域控制：取决于用户制作的人工制品类型。例如，在化学领域，用户可以指定分子的属性。

这些控件允许用户根据自己的需要定制人工智能应用程序的输出。

4. 探索设计

生成式人工智能应用的一个重要设计原则是提供多种输出，以方便用户探索不同的选项，并提供一个便于用户控制的环境。根据具体的技术架构，用户有不同的控制方式，这有利于探索。将探索过的空间可视化，也能让用户更容易理解可能产生的一系列人工制品。

5. 心智模式设计

作为生成式人工智能应用设计原则的一部分，心智模型的设计对于确保用户准确理解系统的行为和作用非常重要。心智模型是一个人头脑中的假设或模型，用于理解和预测外部世界和周围环境。换句话说，它们是人们的内部概念和思维框架，帮助人们感知、理解和预测外部世界和事件。例如，我们日常使用的道路交通规则、驾驶汽车的方式或操作手机和电脑等技术设备的方式，都是心智模式的一部分。用户对系统如何工作、如何产生输出以及系统如何满足他们的需求形成心智模型。因此，应用程序设计人员需要集中精力，明确传达应用程序的工作原理和作用，以便用户形成准确的心智模型。