Episode Details

現在、世界のAI業界では、単にチャットで質問に答えるだけのAIから、複数のAIがチームを組んで複雑な業務を自律的にこなす「マルチエージェント」の時代へと急速にシフトしています。しかし、このマルチエージェントの実用化には大きな壁がありました。AI同士が作業の履歴や推論の過程を常に共有し続けるため、処理すべきデータ量が標準的なチャットの最大15倍にも膨れ上がり、コストが跳ね上がるだけでなく、処理速度が極端に低下してしまうのです。こうした「コンテキストの爆発」と「思考コスト」という二つの課題を解決するため、AI半導体の王者であるNVIDIAが2026年3月11日に正式リリースしたのが、「Nemotron 3 Super」という新しいAIモデルです。

このモデルは1200億個という膨大なパラメータを持ちながら、推論時に実際に動くのはその10分の1である120億個のパラメータだけという極めて効率的な作りになっています。これを実現しているのが、NVIDIAが新たに開発した「Latent MoE」と呼ばれる次世代のMixture of Expertsアーキテクチャです。1回分の計算コストで4つの専門家ネットワークを同時に動かすことができるため、前世代のモデルと比較して最大5倍の処理スピードと2倍の精度向上を達成しました。さらに、少ないメモリで長い文章の処理を得意とする「Mamba」と呼ばれる技術と、高度な推論を担う「Transformer」を組み合わせたハイブリッド構造を採用し、最大100万トークンという途方もない量のデータを一度に記憶したまま、作業の目的を見失うことなくタスクを完遂することができます。

このモデルはオープンソースとして公開されており、すでに業界で大きな反響を呼んでいます。高精度な検索AIで知られるPerplexity AIが自社のサービスに組み込んでいるほか、SiemensやPalantirといった世界的な巨大企業も、通信や半導体設計などの複雑な自動化ワークフローにこのNemotron 3 Superを導入し始めています。また、NVIDIAの最新AI半導体である「Blackwell」上で動かした場合、NVFP4と呼ばれる新しいデータ形式に最適化されているため、従来のHopper世代の半導体と比べて精度を落とすことなく最大4倍のスピードで推論を行うことが可能です。

これまで「自律型AI」は夢の技術として語られることが多かったですが、そのボトルネックとなっていた計算コストと処理速度の問題を、NVIDIAがハードウェアとソフトウェアの両面から一気に解消しようとしています。Google CloudやOracle、さらにはAWSやAzureといった主要なクラウドプラットフォームでも順次提供が開始される予定で、あらゆる企業が安価で高速な自律型AIを自社の業務システムに組み込める時代がいよいよ本格的に幕を開けました。