新しいデータセットでAIエージェントを評価中

AIエージェントは、特に大規模言語モデル（LLM）の成長に伴って、複雑なタスクに取り組むためにますます使われている。これらのエージェントは、常に明確で正確な答えがあるわけではないユーザーからのリクエストを受け取る。例えば、ユーザーが特定のカロリー制限内のベジタリアン食事プランを求めることがある。こうしたリクエストには、エージェントが従うべき特定の制限やルールが伴うことが多い。

AIエージェントを改善するためには、良い評価方法を設定することが重要だ。この評価は、エージェントがユーザーのリクエストに示されたルールに従っているかどうかをチェックする必要がある。LLMはこの種のタスクで注目されてきたが、回答がルールに従っているかをどれだけうまくチェックできるかはわからない。

それを知るために、Arithmetic Constraint-Satisfaction（ACS）データセットという特別なデータセットを作成した。このデータセットには、さまざまなユーザーリクエスト、必要なルール、AIの応答、およびルールが遵守されたかを示すラベルが含まれている。このデータセットの特別な特徴は、多くのルールをチェックするためには、応答全体を見なければならないということだ。また、データセットはLLMの論理的な思考、情報の抽出、計算を行う能力をテストするものでもある。

私たちの研究では、商業用と公開されているLLMの両方を評価し、ルールが遵守されているかをどれだけうまくチェックできるかを見てみた。私たちの発見は、ほとんどのモデルが大きな改善の余地があり、特に推論に関してそうであることを示している。また、多くのモデルは、答えが肯定的な場合の方が否定的な場合よりも予測がうまくいく傾向があることもわかった。さらに、モデルを助けるための例を提供すると、実際にはパフォーマンスを悪化させることがあることもわかった。

#評価の必要性

AIエージェントはますます人気が高まり、強力になっている。彼らは旅行計画や食事スケジュールの作成、物語の作成など、特定のルールに従いながらさまざまなことを行うことができる。そのため、彼らの応答を評価する能力は非常に重要だ。

例えば、ユーザーがベジタリアンで1800カロリー以下の食事プランを求めた場合、エージェントはその要件を満たす3日分の食事を提供しているかをチェックする必要がある。これは明確に定義されたタスクだ。しかし、リクエストは時にはもっと主観的なものになることもあり、例えば猫についての面白い歌を求めるようなリクエストは、良いか悪いかを判断するのが難しい。いくつかのタスクは明確なルールと不明確なルールが混ざっている場合もあり、両方の側面を評価することが重要だ。

AIエージェントの応答を評価するために、私たちはユーザーが設定した制約が満たされているかを判断するフレームワークを提案する。これは、ユーザーのリクエストからルールを特定し、そのルールに対してエージェントの応答をチェックするということを意味する。この方法は、エージェントがどれだけうまくやったかを示すスコアを提供する。

#ACSデータセット

私たちのACSデータセットは、LLMが正解が一つではないシナリオでどれだけ応答を評価できるかをベンチマークするために設計されている。これは、論理と基本的な数学のスキルを必要とする明確で客観的なルールに焦点を当てている。データセットは、食事計画、日常スケジュール、ワークアウト計画の3つの一般的な領域をカバーしている。

データセットの各エントリーには：

1. ユーザーリクエスト: エージェントが完了する必要のあるタスク。
2. 制約: そのリクエストからの特定のルール。
3. エージェントの応答: エージェントが返した内容。
4. ラベル: ルールが守られたかどうかを示すイエス・ノーマーク。

制約はデータセットに明示的に含まれており、異なるLLMを一貫して評価できるようにしている。データセットはそれほど大きくはなく、405のエントリーがあり、満足度はさまざまだが、厳密な評価プロセスを促すように設計されている。

#データセット作成プロセス

ACSデータセットの作成には、AIを使ってテキストを生成し、正確さを確保するための手動編集の組み合わせが必要だった。ユーザーリクエスト、制約、応答を作成するためにLLMを使用し、その後結果をクリーニングして、遭遇した誤りを修正した。

各計画領域に対して、25のユニークなユーザーリクエストが作成された。各リクエストには複数の制約が伴い、すべてがフィルタリングされて質の高いユニークな組み合わせが得られた。最終的なデータセットには、満足したエントリーと満足しなかったエントリーのバランスが含まれている。

#データセットの評価

ACSデータセットの応答にはエラーが含まれているかもしれないが、それは評価の焦点ではない。例えば、食事プランが正確な測定値なしで食べ物をリストしているか、間違ったカロリー数を提供しているかもしれない。私たちの目標は、正確な値をチェックすることではなく、全体の応答が制約を満たしているかを確認することだ。

評価のために、フレームワークは以下のステップに従う：

1. エージェントの応答から有用な情報を特定する。
2. 必要な数学的操作を行ったり、アイテムをカウントしたりする。
3. 計算した結果をユーザーが設定した制約と比較する。

#評価に必要なスキル

ACSデータセットのエントリーを評価するには、いくつかの基本的なスキルが必要だ：カウント、足し算、掛け算、そして時間の概念を理解すること。これには、食事プランのカロリー値を合計したり、スケジュール内の活動の総時間を計算したりするタスクが含まれる。

これらのスキルは簡単に提示されているため、特別な知識がなくてもLLMのパフォーマンスを評価できる。これにより、ベンチマークがさまざまな分野でLLMを効果的に評価できることを目指している。

#データセットの特性

ACSデータセットはリアルでチャレンジングになるように設計されている。重要な情報は単純な順序で提示されるのではなく、応答全体に散らばっている。これにより、モデルは注意を払い、批判的に考える必要がある。

さらに、一部の応答には気を散らす情報が含まれている場合があり、関連しているように見えるが実際にはそうではない情報だ。例えば、応答が2000カロリーの食事プランを言及している際に、実際の制約が1500カロリーである場合などだ。こうした気を散らす要素は、タスクを難しくするがより現実的にする。

特定の制約を検証するために、LLMは複数の情報を別々にチェックする反復的なプロセスを経る必要がある。これは、評価がキーワードをマッチさせるだけのより単純なベンチマークとは異なる。

#モデルのベンチマーキング

私たちはACSデータセットを使って、さまざまなLLMの応答における制約が満たされるかどうかを評価する性能をテストした。各モデルには、エージェントがユーザーのルールを満たしたかどうかについてイエス・ノーの答えを出すように指示した。

LLMには、独自のモデルとオープンモデルの両方が含まれていた。モデルはデフォルト設定で厳密なテストを受け、ゼロショットと少数ショットの構成で評価された。

評価中、モデルにはステップバイステップで考えるように指示し、提示された数字に頼らずに計算を明確に示すように求めた。これにより、徹底的な評価と推論が促される。

#結果と精度メトリクス

さまざまなモデルの性能を評価した後、全体の精度や「満足」や「不満足」といった各ラベルのスコアを含む精度メトリクスを計算した。

結果は、GPT-4oが最も高い精度レベルを持っており、ACSベンチマークのタスクにとって信頼できるスコアラーであることを示した。他のモデルはそれほど良くなく、制約満足度を正確に評価する能力に大きなギャップがあることが強調された。

さらに、ほとんどのモデルはポジティブな結果をネガティブなものよりも好意的にスコアする傾向があることに気づいた。これは、要件を実際に満たしていなくても、満足を暗示するキーワードの存在に影響される可能性があることを示唆している。

また、モデルが例で促された場合のパフォーマンスの変化についても調査した。一部のモデルは例のプロンプトで精度が向上したが、他のモデルは悪化した。これらの結果は、プロンプト戦略の効果がモデルによって大きく異なる可能性があることを示している。

#エラー分析

評価されたモデルのパフォーマンスについての洞察を得るために、誤り分析を行い、間違いが発生した主要な分野に焦点を当てた。結果が最も優れた4つのモデルを詳しく調べ、エラーをカテゴリーに分けた。

分析の結果、多くのミスは推論の欠陥から生じていることがわかった。つまり、計算が正しかったとしても、モデルはしばしば応答で正しく点と点を結ぶことができなかったということだ。

異なるモデルは異なるタイプのエラーを示した。あるモデルはコンテキストから関連情報を抽出するのに苦労し、他のモデルは単純なカウントタスクに問題を抱えていた。この結果は、モデルの批判的思考能力と情報整理能力の向上が、計算能力の向上よりもはるかに有益であることを強調している。

#研究の限界

ACSデータセットとこの研究は貴重な洞察を提供するが、いくつかの限界も認識している。データセットの範囲は小さく、3つの計画領域にしか及んでいない。これは実世界の使用例のほんの一部に過ぎない。

さらに、GPT-4oは高い精度を示しているが、他のモデル、特に公開されているモデルには、まだ大きな改善の余地があることがわかった。これは、これらのLLMの能力を洗練し拡張する必要があることを示している。

この研究はまた、評価タスクをバイナリー結果に単純化している。この単純化は、実際には重要な推論や計算の微妙な誤りを見落とす可能性がある。将来の研究では、LLMの性能をよりよく理解するために、より詳細な評価に焦点を当てることができるだろう。

最後に、エラー分析は間違いを分類する一つの方法を反映している。他の方法を用いることで異なる洞察が得られる可能性があり、したがってモデルのパフォーマンスに関するより包括的な検討が、今後の研究にとって有益であるだろう。

#結論

この研究では、ACSデータセットを使用してAIエージェントの応答を評価する新しい方法を紹介した。結果は、GPT-4oのような最先端のLLMが良好なパフォーマンスを示す一方で、多くのモデルが複数の推論を必要とするルールに対して応答を評価するのに苦労していることを浮き彫りにしている。

応答内の気を散らす情報の存在は、これらのモデルにとって課題をもたらし、設計において注意深い配慮が必要であることを示している。さらに、結果はプロンプト戦略を注意深く使用する必要があることを示唆しており、常により良いパフォーマンスにつながるわけではない。

全体として、今回の研究からの発見は、AIエージェントの今後の発展にとって意味のあるものである。彼らが現実のアプリケーションでの有効性を向上させるためには、単なる計算能力を超えた推論スキルの強化が重要であることを指摘している。この研究は、複雑なタスクのための信頼できる評価者を作成するためのさらなる探索のための強固な基盤を提供する。