大規模言語モデルベースの多エージェントを用いる次世代製造システム
3つの要点
✔️ 大規模言語モデルによる多エージェントシステムの知能化と、それらの協調方法を規定
✔️ 柔軟な製造リソースの動的管理により効率的なスケジューリング手法を実現
✔️ 実験によるLLMベースシステムの性能検証と他手法との比較
A Large Language Model-based multi-agent manufacturing system for intelligent shopfloor
written by Zhen Zhao, Dunbing Tang, Haihua Zhu, Zequn Zhang, Kai Chen, Changchun Liu, Yuchen Ji
[Submitted on 27 May 2024]
Comments: Accepted by arXiv
Subjects: Artificial Intelligence (cs.AI); Multiagent Systems (cs.MA); Robotics (cs.RO)
code:
本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。
概要
生産性の向上に伴い、多品種少量生産に対する顧客の需要が増加しており、それにより製造システムへの要求が高まっています。この需要により、生産タスクが頻繁に変更される場合、従来の製造システムは迅速に対応できないことが多いです。この問題を解決するために、著者らは多エージェント製造システムを提案しています。しかし、技術的な制約から、この種のシステムにおけるエージェント間の交渉は事前に定義されたヒューリスティックルールに基づいて実現されており、多品種少量生産に対応するには十分な知能を持っていません。
本研究では、知能化されたショップフロアのための大規模言語モデル(LLM)ベースの多エージェント製造システムを提案します。このシステムは、多様なエージェントを定義し、それらの協調方法を規定しています。エージェントの役割には、マシンサーバーエージェント(MSA)、ビッドインビターエージェント(BIA)、ビッダーエージェント(BA)、シンキングエージェント(TA)、ディシジョンエージェント(DA)が含まれます。LLMのサポートにより、TAとDAはショップフロアの状況を分析し、最適なマシンを選択する能力を獲得します。BAとBIA間の交渉は製造資源を結びつける最も重要なステップであり、TAとDAのサポートにより、BIAは各マシンから返された情報に基づいて注文の分配を最終決定します。MSAはエージェントを物理的なショップフロアと接続する役割を担っています。このシステムは、エージェントの協力によってワークピースを分配・伝送することを目指しており、他のスケジューリング方法とは異なる特徴を持っています。比較実験も行い、このシステムの性能を検証しました。
はじめに
生産性の向上に伴い、顧客のユニークな製品要求がますます頻繁になってきています。この多品種少量生産の需要は、製造リソースの頻繁な変更を必要とし、製造システムの能力に対する要求を高めています。製造システムは、効率的な生産のためにショップフロアやより広いエリア内の製造リソースを組織する役割を果たしています。
従来の生産手法では、経験やリアルタイムの現場の状況に基づいて生産スケジューラーがワークピースを調整する必要があります。手動でのスケジューリングは複数の機械や部門との協力を必要とし、長期的なスケジュールが設定され、通常は変更に対して柔軟ではありません。この硬直性は、生産の変動する需要に対応するのが難しくなります。従来の製造は、大規模製造に適しており、均一で標準化されたワークピースに焦点を当てています。しかし、個別カスタム製品の生産は、多品種少量生産を必要とし、専用の生産ラインを構築することは経済的にも効率的にも不適切です。
この点で、柔軟な製造がより適した代替手段として浮上しています。柔軟な製造は、いくつかのスケジューリング方法に従って製品の加工を組織し、複雑で変動する製品の生産を可能にします。現在、柔軟な製造におけるスケジューリング方法は主にヒューリスティックルール、メタヒューリスティックアルゴリズム、およびディープ強化学習(DRL)アルゴリズムを用いて実施されています。
ヒューリスティックルールは、人間の知恵によって設計され、迅速な反応を提供しますが、後続の方法と比較して性能は劣ります。メタヒューリスティックアルゴリズムは、現在の生産注文と製造リソースを考慮してスケジューリングソリューションを生成するための計算を利用します。ただし、この方法は反復計算に時間がかかり、注文やリソースの変更時の調整が通常は不十分です。DRLアルゴリズムは、より効率的な方法を提供し、迅速にスケジューリングソリューションを見つけ、動的な妨害に対処することができます。メタヒューリスティックとDRLの性能は、小規模な製造リソースのスケジューリングにおいて優れていますが、製造リソースが増えるにつれて、これらのアルゴリズムの複雑さが急速に増加し、性能が低下します。
このような状況下で、著者らは新しいアプローチとして、大規模言語モデル(LLM)を活用した多エージェント製造システムを提案しています。このシステムは、従来のヒューリスティックルールやメタヒューリスティックアルゴリズムに依存せず、LLMの自然言語処理能力を活用して、より高度な交渉メカニズムを実現します。LLMを活用することで、エージェント間の交渉をより柔軟かつ知的に行うことができ、多品種少量生産に対応するための最適なマシン選択が可能になります。
関連研究
LLMのマルチモーダル能力は、製造システムに新たな知能を導入します。現在のスケジューリング手法は、主にメタヒューリスティックアルゴリズムとDRLアルゴリズムに基づいています。本セクションでは、製造システムのスケジューリング手法とLLMの応用についての既存の研究を紹介します。
製造システムのスケジューリング手法
- メタヒューリスティックアルゴリズム:高精度だが、解決に時間がかかるため、静的スケジューリング問題に適している。
- 例:Liuらは、柔軟なジョブショップのデュアルリソースバッチスケジューリングのための数学モデルを開発し、現実のシナリオでの効果を検証した。
- ディープ強化学習(DRL)アルゴリズム:動的スケジューリング問題に対応するための前訓練が必要。
- 例:Zhouらは、スマートファクトリーにおける動的スケジューリングのためのAIベースのシステムを紹介し、複合報酬関数を使用してマルチオブジェクティブな性能指標を改善した。
- その他の手法:多エージェント製造システムは、迅速な処理速度と事前訓練の必要がないため、製造システムの移行と拡張に有効である。
- 例:Qinらは、自己組織化製造ネットワークの包括的な概念を紹介し、これを次世代の製造自動化技術として位置付けた。
LLMの応用
- 生物学:研究者はLLMを活用して、生物学分野で大きな進展を遂げている。
- 例:Boikoらは、GPT-4を基盤とするAIシステムであるCoscientistを導入し、複雑な実験の設計、計画、実行を自動化した。
- 化学:LLMを活用して化学タスクの理解と迅速な適用を目指している。
- 例:Jablonkaらは、GPT-3を微調整して自然言語で化学の質問に正しく答えるモデルを開発した。
- ロボティクスと製造:LLMの導入はロボティクスと製造分野においても重要である。
- 例:Ichterらは、低レベルのスキルをLLMと組み合わせて、高レベルの知識を提供することで、複雑な手順を実行するロボットの性能を向上させた。
研究ギャップ
- 現在、LLMの応用はさまざまな分野で進展しているが、特に製造システムにおける応用はほとんどない。
- 柔軟な製造リソースのスケジューリングは主にメタヒューリスティックアルゴリズムとDRLアルゴリズムに基づいている。
- 従来の多エージェント製造システムは、単一のヒューリスティックルールに依存しており、リアルタイムの条件に基づいた機械選択ができない。
LLMベースの多エージェント製造フレームワーク
本研究では、図1に示すように、LLMエンジン層、交渉層、および物理リソース層からなるLLMベースの多エージェント製造システムを提案しています。このシステムの特徴と各層の役割は以下の通りです。
図1 LLMベースのマルチエージェント製造フレームワーク |
LLMエンジン層
LLMエンジン層では、LLMエンジンが提供されます。LLMの推論とトレーニングには大規模なGPUが必要ですが、これらを工場内で使用することは不可能です。そのため、製造システムと複数のGPUを備えたコンピュータセンターにデプロイされたLLMとの通信はAPIを介して確立され、ショップフロア内の製造リソースエージェントがより効果的に動作できるようにします。
データセキュリティに非常に敏感なアプリケーションシナリオの場合、オープンソースのLLM(例:Large Language Model Meta AI(LLaMA))も代替案として利用できます。ただし、これはエージェントの性能に影響を与えることは間違いありません。
交渉層
この層は、LLMと製造リソースが相互作用するための重要なミドルウェアとして機能します。ショップフロアにはさまざまな種類の製造リソースが存在しますが、これらは効果的に抽象化され、機械として解釈されます。例えば、原材料倉庫は伝統的には注文を出荷するために使用されますが、処理時間がゼロの機械として概念化できます。
図2に示すように、エージェント間の交渉プロセスは以下の手順で行われます:
- イベントトリガー:各機械にはMSA(Machine Server Agent)が装備されており、その機械を監視します。処理の決定時に、MSAは次の手順を開始し、BIA(Bid Inviter Agent)を活性化します。
- 入札者の準備:MSAからのトリガーを受けて、BIAは次の利用可能な機械に必要なワークピースの情報を準備します。
- 入札者の招待:BIAは利用可能なBA(Bidder Agent)を招待し、処理すべきワークピースの情報を伝えます。
- 入札の準備:BAは招待を受け取ると、入札文書を準備し、関連する機械の情報とワークピースの分析を含めます。
- 入札文書の配信:すべてのBAは入札文書を初期BIAに配信します。
- 質問文書の生成:BIAはBAからの文書を受け取り、ショップフロアの情報と最適化目標を統合して質問文書を生成します。
- 質問文書の配信:BIAは生成した質問文書をLLMと連携するTA(Thinking Agent)に送信します。
- 提案の生成:TAはLLMのマルチモーダル能力を利用して質問文書に対する包括的な解決策を生成します。
- 提案の配信:TAは生成した提案をDA(Decision Agent)に送信します。
- 決定の生成:DAはTAからの提案に基づいて最終決定を下します。
- 決定の配信:DAは最終決定をBIAに送り、BIAはMSAをトリガーし、ワークピースの処理を実現します。
図2 製造代理店の交渉プロセス |
物理リソース層
この層にはショップフロアに配置されたすべての物理的なエンティティが含まれます。この層では、各製造リソースが製造システムに接続されています。IIOT(Industrial Internet of Things)を介して、この層と交渉層がリンクされています。MSAのイベントトリガーにより、交渉層が活性化され、製造リソースが決定を必要とする場合に交渉プロセスが開始されます。同様に、決定トリガーにより交渉層から関連する製造リソースに決定が戻されます。
図3は、LLMベースの多エージェント製造システムのエージェント間の交渉プロセスを詳細に示しています。このプロセスにより、エージェントはリアルタイムの条件に基づいて最適な機械を選択し、効率的なスケジューリングを実現します。
図3 LLMベースのマルチエージェント製造システムにおけるエージェント交渉の例 |
製造システムにおける交渉エージェント
本セクションでは、エージェントがどのようにして交渉能力を実現するかについて詳述します。図3に示されるように、製造システム内でのエージェントの交渉の具体例が提供されています。
-
マシンサーバーエージェント (MSA)
- MSAは、物理的な製造リソースと他のエージェントの橋渡し役を果たします。製造システムを知能化するためのリンクを提供します。
- 例:MSAのサンプルコードはC#でプログラムされており、フライス盤を制御します。各MSAは製造リソースに対応し、MSA間の協力により、決定時間の到来を検出します。
-
ビッドインビターエージェント (BIA)
- BIAは、入札プロセスに直接関与し、MSAと連携しています。他のエージェントの助けを借りて、現在のワークピースの次の加工機械を指定します。
- 例:イベントトリガーを受け取ると、BIAは次のプロセスを完了するために必要なBAをフィルタリングし、入札を招待します。
-
ビッダーエージェント (BA)
- BAは入札文書を生成し、MSAと協力します。入札文書には、機械の状態とワークピースの分析情報が含まれます。
- 例:BAは招待を受け取った後、MSAから関連する機械の状態を取得し、入札文書を作成してBIAに返送します。
-
シンキングエージェント (TA)
- TAは他のエージェントに知能を付与し、LLMを利用して決定を行います。TAは、BIAから受け取った質問文書に基づいて最適なBAを選択します。
- 例:Markdown形式を使用して、LLMの動作を多角的に定義します。チェーン・オブ・ソートを活用して、決定プロセスを段階的に導くことができます。
-
ディシジョンエージェント (DA)
- DAは最終決定を下し、TAの分析結果に基づいて最適な決定を行います。決定結果はBIAに送信され、MSAが実行します。
- 例:DAはTAからの分析文書を受け取り、最終決定を抽出してBIAに伝達します。
図4は、シンキングエージェントとディシジョンエージェントの詳細を示しており、エージェントのキャラクター、目標、知識、回答、制約を定義するためにMarkdown形式を使用する方法が説明されています。
図4 思考エージェントと意思決定エージェントの詳細 |
実験
本研究では、提案されたLLMベースの多エージェント製造システムの性能を検証するためにいくつかの実験を実施しました。実験は、柔軟なジョブショップスケジューリング問題(Flexible Job Shop Scheduling Problem, FJSP)を対象に行われました。
検証実験
システムの適用性を確認するために、選択されたテストインスタンスを使用しました。これらのインスタンスでは、機械の数は5から15、注文の数は10から30に変化します。
比較対象として、以下の方法をベンチマークとして導入しました:
- Shortest Machine Processing Time (SMPT):最短の操作処理時間を持つ機械を選択
- Work in Queue (WINQ):最も少ない作業量を持つ機械を選択
- Random:機械をランダムに選択
- ヒューリスティックルールとして、First In First Out (FIFO)、First In Last Out (FILO)、Shortest Processing Time (SPT)を導入
テストインスタンスでの比較結果は、表1、表2、および表3に示されています。これらの表では、提案システムが他のアプローチに比べてほとんどのケースで優れていることが示されています。
- 表1: FIFOを用いたテストインスタンスでのメイクスパン
- 表2: FILOを用いたテストインスタンスでのメイクスパン
- 表3: SPTを用いたテストインスタンスでのメイクスパン
図5(a)と図5(b)は、FIFOを用いたmk01のGanttチャートであり、提案システムのワークロードが均等に分散されていることを示しています。
図5 mk01のFIFOによるマシン選択のガントチャート |
図6(a)と図6(b)は、FILOを用いたmk15のGanttチャートであり、提案システムが大規模な問題にも効果的に対応できることを示しています。
図6 mk15でのFILOによるマシン選択のガントチャート |
LLMベースの多エージェント製造システムの応用
-
提案システムの実用性を検証するために、無錫市にあるインテリジェント製造工場ラボでシステムをテストしました。このラボでは、MSAを利用して製造リソースの自動制御が実現されています。
-
図7は、物理的なケーススタディでLLMスケジューラーの性能を評価するためのインテリジェントファクトリーテストベッドを示しています。
図7 物理的ケーススタディによるLLMスケジューラの性能評価用インテリジェント・ファクトリー・テストベッド |
-
図8は、異なるスケジューリングアプローチに対応するメイクスパンを示しており、提案システムが他の方法に比べて優れていることを示しています。
図8 スケジューリングアプローチに対応するメイクスパン |
図7と図8は、提案システムがさまざまなワークピース選択方法に適応できることを示しています。特に、WINQの結果は常にランダムよりも悪いことが示されており、単一のヒューリスティックルールが異なる問題に適応するのが困難であることを示していますが、この問題は提案システムでは発生しません。
結論
LLM(大規模言語モデル)の急速な進展は、多エージェント製造システムに新たな可能性をもたらしています。LLMの強力な能力を製造システムに取り入れるために、本研究では、知能化されたショップフロア向けのLLMベースの多エージェント製造システムを提案しています。このフレームワークは、物理的なショップフロアの製造リソースに対してエージェントを定義し、制御から意思決定までの全プロセスを支援します。
提案システムは、ショップフロアや工場のために複数のエージェントを備え、エージェント間の協力方法を定義しています。定義されたエージェントには、マシンサーバーエージェント(MSA)、ビッドインビターエージェント(BIA)、ビッダーエージェント(BA)、シンキングエージェント(TA)、ディシジョンエージェント(DA)が含まれます。TAとDAはLLMに直接接続されており、いくつかのLLMエンジンと互換性があるため、特定の要件に基づいて独自に選択できます。BAとBIAの協力により、さまざまな製造リソース間の情報交換が可能になります。MSAはこれらの機械を直接管理し、すべてのエージェントを包括的にサポートします。
エージェントの本質は、各個人に固有の抽象ではなく、生産関係の集合体です。エージェント間の協力により、LLMベースの製造システムは自律的に生産を交渉することができます。協力プロセスでは、このシステムの情報は自然言語を利用しており、提案システムのメンテナンスと変更の費用を大幅に削減します。
提案システムの性能を検証するために、いくつかのテストインスタンスで実験が行われました。これらの実験により、本システムが他の方法に比べて優れた性能を発揮することが確認されました。また、物理的なインテリジェント製造工場ラボでもシステムをテストし、実用性を検証しました。
今後の研究では、さらに多くの実際の製造環境での適用を目指し、システムの柔軟性と効率を向上させるための追加の最適化を行う予定とします。
この記事に関するカテゴリー