NVIDIAは、海外を含めたグローバルな報道関係者向け発表会を開催し、生成AIの性能を飛躍的に向上するAIスーパーコンピュータ「NVIDIA Jetson Orin Nano Super 開発者キット」を発表した。
NVIDIAの創設者のひとりでCEOのジェンスン・フアン氏は自宅のキッチンから動画を配信した。キッチンからの配信の前回、コロナ禍でリアルな発表会が制限されていた2021年、キッチンの調理器具からフアン氏がスーパーコンピュータ「H100システム」を取り出して話題になった。そして、今回、超小型の新しい生成AIスーパーコンピュータ「Jetson Orin Nano Super」をオーブンから取り出して紹介した。
■Introducing NVIDIA Jetson Orin™ Nano Super: The World’s Most Affordable Generative AI Computer
新しい「「NVIDIA Jetson Orin Nano Super」については、NVIDIA 自律型マシン事業 バイス プレジデント 兼 ゼネラル マネージャー(Vice President and General Manager of Autonomous Machines) ディープゥ タッラ氏から詳しい説明があった。
生成AIのパフォーマンスを70%向上するSuperなJetson Orin Nano
手のひらに収まる「NVIDIA Jetson Orin Nano Super 開発者キット」は、AI開発者や研究者、学生、AIを趣味で楽しむ愛好家まで、あらゆる人が生成AIの機能とパフォーマンスの向上を提供するものとなっている。
本日から発売されるこのキットは、生成AIモデルの推論パフォーマンスが最大1.7倍も向上するとしている。最大パフォーマンスは67 INT8 TOPS(従来は40 TOPS、70%向上)に向上した。ただし「生成AIモデルのパフォーマンス向上の多くは、TOPS性能だけをアップするだけでは不十分だ。そこで、 Super版ではメモリ帯域幅を102 GB/秒(従来は68 GB/秒、50%向上)と大幅に向上させた」（前出のタッラ氏）。
「Jetson」は、製造業や物流業、小売業など多くの分野で活用されるAIロボット工学向けに開発された超小型AIコンピュータボードだが、生成AIの大規模言語モデル(LLM)との連携（チャットボットやQ&Aデバイス）、視覚AIエージェントの開発、セキュリティカメラなどの映像解析AI、ドローン、医療用ロボットや農業用デバイス、簡易的なヒューマノイドなどの開発や展開など、「Jetson Orin Nano Super」は、処理演算に負荷がかかる生成AIにおいても、快適で最適なソリューションとなるだろう。
既にAIはタスク固有のモデルから基礎モデル(ファウンデーションモデル)へと移行する中、アイデアを現実に変えるためのプラットフォーム開発も加速するだろう。
それでいて価格は半額、従来の499ドル(米国ドル)から249ドルに大幅に値下げすることも発表した。「つまり、パフォーマンスは70%向上させながらも、価格を半分にすることにより、価値は約3.5倍になった」（タッラ氏）。なお、日本向けにも販売代理店を通して12月18日より発売される予定だが、記事公開時点ではまだ公開されてない。
従来の「Jetson Orin」シリーズもスーパーモードでパフォーマンスを向上
新しい「Jetson Orin Nano Super」で性能向上のコアとなっているのはソフトウェア･アップデート。生成AIパフォーマンスを70%(1.7倍)向上させるソフトウェア･アップデートは、モジュール上の「Jetson Orin NX」および「Orin Nano」シリーズでも利用できる。
これは既に「Jetson Orin Nano 開発者キット」を使っているユーザの生成 AIパフォーマンスも向上する、としているので朗報だ。
NVIDIAは、既存の「Jetson Orin Nano 開発キット」ユーザーも、JetPack SDKをアップグレードして、今すぐパフォーマンスの向上を体験して欲しい、と呼びかけている。なお、生成AI向けにブラッシュアップされたソフトウェアは、NVIDIAの公式WebサイトとGitHubに投稿される予定。Jetpack SDK マネージャーからダウンロードできるようになる。
生成AI向けの「Super」による強力なパフォーマンス
NVIDIAは「Jetson Orin Nano Super」の強化したパフォーマンスのベンチマークを公開した。Alibaba、Google、Hugging Face、Meta、Microsoft、NVIDIA、OpenAl などのモデルを含む、一般的な生成AIモデルとトランスフォーマー･ベースのコンピュータ･ビジョンでパフォーマンスの向上が見られたという。
開発者キットは「Jetson Orin Nano 8GB システムオンモジュール(SOM)」と「リファレンス･キャリア･ボード」で構成されていて、エッジAIアプリケーションのプロトタイプ作成に最適なプラットフォームが提供される。
■「Jetson Orin Nano Super 開発者キット」の主な仕様
SOMは、テンソル･コアと6コア Arm CPU を備えた「NVIDIA Ampere アーキテクチャ GPU 」を搭載、複数の同時AIアプリケーション･パイプラインと高性能なAI推論を実現する。また、最大4台のカメラをサポートし、従来のバージョンと比較して高い解像度とフレーム･レートを提供する。
Superモードを搭載しつつ、価格を下げた主な理由
Superモードを搭載しつつ、価格を下げた主な理由について、タッラ氏は「より多くのユーザにJetsonを利用して、エッジAIデバイスでも生成AIを活用して欲しい」と語る。社会を変革する可能性を秘めた「生成AIが、ロボティクスやエッジAIにも必要とされるようになりました。生成AIで構築されたAIモデルのほとんどは、「ChatGPT」や「LLaMA」に見られるように数十億、場合によっては数百億のパラメータを持つ大規模な言語モデルが中心で、データセンターで扱うべき規模のものです。しかし一方で、過去18か月の経過を見ると、エッジAI向けアルゴリズムもまた、生成AIの進歩によってリアルタイムで実行できるAIモデルが登場しはじめ、エッジAIでも生成AIを高いパフォーマンスで処理することが求められています。エッジAIは低電力で、経済的なデバイスでも実行できることも望まれています。これが「Jetson Orin」や「Orin Nano」にSuperモードを搭載した理由です。そして、価格体系を変更し、誰もが利用しやすいように提供していくことを決めました」と続けた。
■量産版「Jetson Orin」シリーズの主な仕様
広範囲な生成AIソフトウェア･エコシステムとコミュニティ
生成AIは急速に進化を続けている。「NVIDIA Jetson AIラボ」は、オープン ソース コミュニティの最先端のモデルをサポートし、使いやすいチュートリアルを提供する。開発者は、より広範なJetsonコミュニティから広範なサポートを受け、開発者が作成したプロジェクトからインスピレーションを得ることもできる。
Jetsonは、ロボティクス用の「NVIDIA Isaac」、ビジョンAI用の「NVIDIA Metropolis」、センサー処理用の「NVIDIA Holoscan」などのAIサービスをエッジAIでの実行を実現する。また、デジタルツイン生成用の「NVIDIA Omniverse Replicator」と「NGCカタログの事前トレーニング済み AIモデル」を調整するための「NVIDIA TAO Toolkit」を使用すれば、開発時間を短縮することができる、としている。
「Jetson エコシステム パートナー」では、追加のAIおよびシステムソフトウェア、開発者ツール、カスタムソフトウェア開発を提供する。また、カメラやその他のセンサー、キャリアボード、製品ソリューションの設計サービスもサポートする。
NVIDIAは、同社の開発環境を活用して物理AI(フィジカルAI)の実現に取り組み、多様で高度な開発者や研究者のコミュニティに参加するように促している。
NVIDIAのイベントで生成AI対応「ugo +edge AI」を展示 ロボットに生成AIをどう活用する? ugoの松井CEOに聞く
NVIDIA 次世代ヒューマノイド開発支援プロジェクトについて聞く 「GR00T」の3つのワークフローを発表
ディズニーが表現力豊かなロボット開発の裏側を紹介 「二足歩行ロボット･キャラクターの設計と制御」動画を公開
菱洋エレクトロ ロボティクス開発や生成AIに最適な「NVIDIA Jetson Orin 開発者キット」学生･研究者向け特別販売を開始 最大40%オフ
NVIDIA Jetson 関連記事【ロボスタ】
この記事を読んだ人におすすめ
ABOUT THE AUTHOR /
神崎 洋治
PR
このカテゴリの新着記事
注目のロボット
注目のロボット企業
連載・コラム
