ChatGPTはなぜ時々バカになるのか？AIのJagged Intelligence問題
ChatGPTなどのAIは、驚くほど自然な文章を書く一方で、簡単な問題で間違えることがあります。高度な文章を作れるのに、高校レベルの数学でつまずくこともある。この奇妙な現象は「Jagged Intelligence」と呼ばれています。AIが賢く見えたり、急に頼りなく見えたりする理由はどこにあるのでしょうか。その仕組みを順番に見ていきます。
ARCHETYP Staffingでは現在クリエイターを募集しています。
エンジニア、デザイナー、ディレクター以外に、生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください！
AIが「天才と愚かさ」を同時に見せる理由 ― Jagged Intelligence
ChatGPTのようなAIは、長い文章を書いたり難しい質問に答えたりできる一方で、単純な問題で思わぬミスをすることがあります。こうした不安定な能力は「Jagged Intelligence（ジャグド・インテリジェンス）」と呼ばれています。高い能力を見せる部分と、基本的なミスが出る部分の差が大きい状態を指す言葉です。
原因は、現在の大規模言語モデル（LLM）の仕組みにあります。LLMは世界の仕組みを理解しているわけではなく、大量の文章データを学習し、その中のパターンをもとに次に来る言葉を予測して文章を作っています。つまりAIは、知識を理解して使っているというより、過去のデータから最もそれらしい答えを推測している状態です。
この仕組みは文章生成では非常に強い力を発揮しますが、明確なルールが必要な問題では弱さが出ることがあります。実際に研究者の間では、高校レベルの数学問題で誤答が出たり、四目並べ（Connect Four）のルールを正しく扱えなかったりする例が報告されています。
つまり現在のAIは、非常に高度な能力と基本的なミスが同時に現れる特徴を持っています。この不安定さこそが「Jagged Intelligence」です。そして、この問題をどう乗り越えるかが、AIの次の課題として議論されています。
では、どうすればこの不安定さを減らせるのでしょうか。そのヒントとして注目されているのが、「知識」という考え方です。
AIを賢くするカギは「データ」ではなく「知識」
Jagged Intelligenceの問題を解決する方法として注目されているのが、AIに体系化された知識を与えるという考え方です。ここでいう知識とは、単に大量のデータを学習させることではありません。世界のルールや概念の関係を整理し、AIが参照できる形で明確に記述することを指します。
人間の学び方を考えると、この違いは分かりやすくなります。人は幼い頃、周囲の出来事からパターンを見つけて学びます。しかし成長すると、算数の計算方法や交通ルールのように、明確なルールを教えられるようになります。こうした体系化された知識があることで、人は複雑な問題でも安定して判断できるようになります。
AI研究でも同じ発想が取り入れられています。初期の大規模言語モデルは算数でも誤りが多いと指摘されていましたが、研究者は数学のルールを扱える仕組みを組み合わせました。その結果、Googleの新しいモデルが数学オリンピックの問題を解けるレベルまで改善した例も報告されています。一方で、AIの性能を上げる方法として「より多くのデータを学習させる」という考え方もあります。しかしデータを増やすだけでは問題が完全に解決するとは限りません。確率的な推測に基づくAIでは、どれだけデータが増えても誤りがなくなるとは言い切れないためです。
そこで提案されているのが、人間の専門知識を整理し、機械が扱える形でまとめた知識ベースを構築するという方法です。数学だけでなく、医療、法律、経済などの分野のルールや概念を整理し、AIが必要に応じて参照できるようにする構想です。
AI学習用のデータ作成を手がけるScale AIのような企業の動きは、人間の専門知識を機械が読める形に整理する仕事が重要になりつつあることを示しています。知識が体系として整理されれば、AIの判断を人間が確認することも可能になります。
現在のAIは内部の仕組みが分かりにくいと指摘されることがありますが、知識を明確な形で扱うことで、AIの判断を検証しやすくなる可能性があります。こうした取り組みは、AIの信頼性を高める一つの方向として注目されています。
まとめ
いかがだったでしょうか？
AIは高度な文章生成などで優れた能力を見せる一方で、単純な問題で誤りを出すことがあります。こうした不安定さは「Jagged Intelligence」と呼ばれ、現在のAIの仕組みと深く関係しています。
その課題を乗り越える方法として、人間の知識を整理しAIに組み込むという考え方が議論されています。
AIの進化を理解するうえで、この視点は重要なヒントになるといえるでしょう。