生成AIアプリケーションのための7つの設計原則
3つの要点
✔️ 生成AIは様々な分野で活用されているため、潜在的な害を最小限に抑え、安全性と効果性を確保する必要があります。
✔️ 本論文では、生成AIアプリケーションのための7つの設計原則を開発されています。
✔️ 設計者や開発者が安全かつ効果的な生成AIアプリケーションを構築するための手助けとなることが期待されます。
Toward General Design Principles for Generative AI Applications
written by Justin D. Weisz, Michael Muller, Jessica He, Stephanie Houde
(Submitted on 13 Jan 2023)
Comments: 16 pages, 1 figure. Submitted to the 4th Workshop on Human-AI Co-Creation with Generative Models (HAI-GEN) at IUI 2023
Subjects: Human-Computer Interaction (cs.HC); Artificial Intelligence (cs.AI); Computers and Society (cs.CY)
code：
本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。
はじめに
「生成AIアプリケーションの設計原則」に向けて、この論文では、生成AI技術の急速な進化に伴い、安全で効果的なアプリケーションを開発するためのガイダンスを提供します。
このガイダンスは、最近の研究や実践の洞察に基づいており、ユーザー体験の向上やデータの適切な扱いに焦点を当てています。著者は、データの収集からモデルの選択、トレーニング、そしてプライバシーやセキュリティの考慮まで、生成AIアプリケーションの開発に関する重要な原則を明らかにします。
これにより、設計者や開発者が安全かつ効果的な生成AIアプリケーションを構築するための手助けとなることを期待しています。
7つの設計原則の概要
この論文では、生成AIアプリケーションのための7つの設計原則を開発しました。この原則は、最近の研究に基づいており、HCI（人間とコンピュータの相互作用）やAIコミュニティ、特に人間とAIの共創プロセスに焦点を当てています。
生成AIシステムの設計に関する7つの原則のうち、6つは相互に重なり合う円の中に示され、相互の関係を示しています。しかし、独立した原則の1つは、生成モデルの出力、誤用、またはその他の有害な影響に対処することです。これらの原則は、生成AIアプリケーションの出力の量、品質、性質、その他の特性が異なる可能性がある生成変動環境に特に焦点を当てています。
7つの設計原則とは
生成AIは、他のAIシステムとは違い、何かを決定するのではなく、何かを作り出すことが目的です。例えば、テキストや画像など様々なものを作り出すことができます。また、他のAIは同じ入力に対して同じ出力を返すことを目指しますが、生成AIは毎回違うものを作り出すことがあります。そのため、同じ結果を再現するのは難しいことがあります。この特性は、ユーザーが生成AIと対話する際に理解しておくべき重要なポイントです。以降では、この環境での生成AIの特性に基づいて設計された原則について説明します。
1. 複数出力の管理の設計
生成AIアプリケーションの設計原則において、複数の出力の管理は重要な課題です。生成AIテクノロジーは確率的であり、異なる入力に対して複数の異なる出力を生成するため、ユーザーがこれらの出力を効果的に処理し、活用できるようにする戦略が必要です。具体的には、出力のバージョン管理が重要であり、ユーザーが異なる出力の間を移動し、以前の出力に戻ることができるようにする必要があります。また、出力のキュレーションや注釈付けが重要であり、ユーザーが出力を整理し、特定の出力に注釈を付け、必要に応じて選択することができるようにする必要があります。さらに、出力の違いを視覚化することも重要であり、ユーザーが異なる出力の間の類似点や相違点を理解しやすくするツールが必要です。これらの戦略は、ユーザーが生成AIアプリケーションを効果的に活用し、その潜在能力を最大限に引き出すのに役立ちます。
2. 不完全性を考慮した設計
生成AIアプリケーションの設計原則には、出力の不完全性を考慮することが重要です。すなわち、ユーザーは、出力が完璧でないことを理解することが重要です。生成AIアプリケーションは、時にはユーザーの期待通りに完璧な出力を提供できないことがあります。出力には、画像のエラーやコードの不具合など、欠陥が含まれることがあります。また、プロンプトに対する適切な回答が得られない場合もあります。これらの不完全な出力を処理するために、以下の戦略が役立ちます。複数の出力を生成し、ユーザーが満足できるものを選択することができるようにします。出力の品質を評価し、必要に応じて人間のレビューを行うことも重要です。また、ユーザーが生成された出力を編集し、最終的な成果物を作成できるようにすることが有効です。さらに、ユーザーが出力を操作する際に影響を最小限に抑えるサンドボックス環境を提供することも重要です。これらの戦略を使用することで、ユーザーは不完全な出力を処理し、満足のいく結果を得ることができます。
3. 人間による制御のための設計
生成AIアプリケーションの設計原則には、人間がコントロールできるようにすることが大切です。ユーザーがAIシステムを操作できると、効率が上がり、結果を理解しやすくなります。生成AIアプリケーションには、3つの種類のコントロールがあります。
１. 一般的なコントロール：ユーザーが生成される出力の数やバリエーションを制御することができます。例えば、ユーザーは出力の多様性を調整するために温度を変えることができます。
２. テクノロジー固有のコントロール：使用されているAIテクノロジーに依存します。ユーザーが属性や特性を制御するためにスライダーを使うことができます。
３. ドメイン固有の制御： ユーザーが生成される成果物のタイプに応じて異なります。例えば、化学分野では、分子の特性を指定することができます。
これらのコントロールを使うことで、ユーザーはAIアプリケーションの出力を自分のニーズに合わせてカスタマイズすることができます。
4. 探索のための設計
生成AIアプリケーションの設計原則には、複数の出力を提供することでユーザーがさまざまな選択肢を探索しやすくするとともに、ユーザーが制御しやすい環境を提供することが重要です。特定の技術アーキテクチャに応じて、ユーザーがそれを制御するためのさまざまな方法があり、これは探索を促進します。また、探索した空間を視覚化することで、ユーザーが生成される可能性のあるアーティファクトの範囲を理解しやすくなります。
5. メンタルモデル設計
生成 AI アプリケーションの設計原則の一部として、ユーザーがシステムの動作や役割について正確な理解を持つために、メンタルモデルのデザインが重要です。メンタルモデルとは、人が外界や周囲の状況を理解し、予測するために持つ心の中の仮説やモデルのことを指します。つまり、人が持っている内的な概念や思考の枠組みであり、外部の世界や出来事を認識し、理解し、予測するのに役立ちます。例えば、我々が日常的に使っている道路交通のルールや自動車の運転方法、あるいは携帯電話やコンピュータなどの技術機器の操作方法などが、メンタルモデルの一部です。ユーザーは、システムがどのように機能するか、出力がどのように生成されるか、およびシステムが彼らのニーズをどのように満たすかについてのメンタルモデルを形成します。そのため、アプリケーションの設計者は、ユーザーが正確なメンタルモデルを形成できるように、アプリケーションの動作や役割を明確に伝えることに注力する必要があります。
6. ユーザーの理解と信頼に関する設計
生成 AI アプリケーションの設計では、ユーザーがシステムを理解し、信頼できるようにすることが重要です。ユーザーがアプリケーションの機能や制限を理解しやすいように説明し、不完全な出力に対処するための方法を提供することが求められます。最近の研究では、ユーザーがモデルの動作を正確に理解するために説明を活用する方法が検討されています。例えば、モデルがどのような変換を行っているかを可視化することで、ユーザーがモデルの動作をより理解しやすくなります。
7. 危害に対する設計
生成AIアプリケーションの設計においては、潜在的な危険に対処する必要があります。これらの危険には、差別や個人情報の漏洩、誤った情報の拡散などが含まれます。設計者は、これらのリスクを理解し、可能な対策を考える必要があります。具体的には、出力のリスクを把握し、悪用の可能性を考慮し、人々の労働を代替するのではなく、強化する方法を模索する必要があります。これにより、より安全で有益な生成AIアプリケーションが開発されるでしょう。
結論
生成AIアプリケーションの設計は、ユーザーの目的に合わせた柔軟性と潜在的なリスクの軽減が重要です。ユーザーの目的は多岐にわたり、それに応じた適切な機能やコントロールが必要です。また、潜在的な害を軽減するためには、設計段階からリスクを考慮し、適切な制御や説明を提供することが必要です。価値重視のアプローチを取ることで、ユーザーのニーズを満たしつつ、安全性と信頼性を確保することができます。
生成AIアプリケーションの今後の展望では、倫理的配慮と透明性向上、多様性と包摂性の促進、持続可能性とエネルギー効率の向上、そして協調と共創の促進が重要であり、これらの取り組みを通じて技術革新が社会全体の利益に貢献することが期待されます。
この記事に関するカテゴリー
