大規(guī)模な言語(yǔ)モデル（LLM）と幻覚の避けられない問(wèn)題

ChatGpt、Claude、GeminiなどのAIモデルを使用した可能性があります。これらはすべて、人間のようなテキストを理解して生成するために、大規(guī)模なテキストデータセットで訓(xùn)練された強(qiáng)力なAIシステムの大規(guī)模な言語(yǔ)モデル（LLM）の例です。しかし、最も先進(jìn)的なLLMでさえ、重大な欠陥、つまり幻覚に苦しんでいます。

最近の研究、特に「幻覚は避けられない：大規(guī)模な言語(yǔ)モデルの生來(lái)の制限」は、これらの幻覚（製造された情報(bào)の自信を持ってプレゼンテーション）が固有の制限であり、単なるバグではないと主張しています。この記事では、この研究とその意味を探ります。

LLMと幻覚の理解

LLMSは、印象的ではありますが、「幻覚」と闘い、もっともらしいものの、事実上誤った情報(bào)を生成します。これは、彼らの信頼性と倫理的意味について深刻な懸念をもたらします。研究論文は、幻覚を內(nèi)因性（矛盾する入力）または外因性（入力による検証不可）のいずれかに分類しています。原因は多面的であり、データの品質(zhì)の問(wèn)題（バイアス、誤った情報(bào)、時(shí)代遅れの情報(bào)）、トレーニングの欠陥（アーキテクチャの制限、暴露バイアス）、および推論の問(wèn)題（ランダム性のサンプリング）に起因します。

幻覚の必然性

この研究の中心的な議論は、幻覚が計(jì)算可能なLLMで避けられないということです。このペーパーでは、數(shù)學(xué)的証明（定理1、2、および3）を使用してこれを?qū)g証し、完璧なトレーニングデータと最適なアーキテクチャがあっても、計(jì)算可能性の制限が誤って出力につながることを示しています。これは、多項(xiàng)式時(shí)間計(jì)算用に設(shè)計(jì)されたLLMSでも當(dāng)てはまります。この調(diào)査では、モデルサイズやトレーニングデータを増やすことさえも、この基本的な制限が排除されないことを強(qiáng)調(diào)しています。

経験的証拠と緩和戦略

この研究は、その理論的主張を経験的証拠で裏付けています。 Llama 2およびGPTモデルを使用した実験により、単純な文字列列挙タスクを完了できなかったことが実証され、幻覚の必然性をさらにサポートしました。

完全な根絶は不可能ですが、この論文では緩和戦略を探ります。

• より大きなモデルとより多くのデータ：役立ちますが、このアプローチには固有の制限があります。
• 改善されたプロンプト：考え方のようなテクニックは、精度を向上させることができますが、コアの問(wèn)題を解決しないでください。
• アンサンブルメソッド：複數(shù)のLLMを組み合わせると、エラーが削減されませんが、排除することはできません。
• 安全上の制約（「Guardrails」）：これらは有害な出力を軽減できますが、事実上の不正確さの基本的な問(wèn)題に対処しません。
• 知識(shí)統(tǒng)合：外部の知識(shí)ソースを組み込むと、特定のドメインの精度が向上します。

結(jié)論：責(zé)任あるAI開(kāi)発

この研究では、幻覚はLLMSの固有の特徴であると結(jié)論付けています。緩和戦略は頻度と影響を減らすことができますが、それらを完全に排除することはできません。これにより、責(zé)任あるAI開(kāi)発への移行が必要です。

• 透明性： LLMSの制限を認(rèn)める。
• 安全対策：幻覚のリスクを最小限に抑えるために、堅(jiān)牢な保護(hù)ガードを?qū)g裝します。
• 人間の監(jiān)視：特に重要なアプリケーションで、人間の制御とLLM出力の検証を維持します。
• 継続的な研究：幻覚を減らし、LLMSの信頼性を改善するための新しいアプローチを探る。

LLMSの將來(lái)には、実用的なアプローチが必要であり、その制限を認(rèn)め、責(zé)任ある開(kāi)発と展開(kāi)に焦點(diǎn)を當(dāng)てています?；靡櫎伪厝恍预稀⑦M(jìn)行中の研究の必要性とそれらのアプリケーションの批判的な評(píng)価を強(qiáng)調(diào)しています。これはLLMSを放棄するための呼びかけではなく、責(zé)任ある革新の呼びかけです。

（ここによくある質(zhì)問(wèn)セクションが追加され、元の入力のFAQセクションを反映しています。）

以上が大規(guī)模な言語(yǔ)モデル（LLMS）の幻覚は避けられませんか？の詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。