NECは、報道関係者や証券アナリスト、機関投資家などが対象のイベント「NEC Innovation Day 2024」において、既にリリースしている大規模言語モデル(LLM)生成AI「cotomi」(コトミ)を強化した「cotomi v2」(正式名称は不明)を発表した。このモデルは2024年12月から順次提供開始される。NECは、生成AI関連事業において、2025年度末までに約500億円の売り上げを目指す。
また、「cotomi Fast v2」と、「GPT-4o」「Qwen2.5」と比較したデモを展示し、秀でた高速性を紹介した(動画あり)。
「cotomi」はNECの価値創造モデル「BluStellar」(ブルーステラ)のキーテクノロジーで、NECが開発した生成AI「台規模言語モデル」。日本語ベンチマークにおいて圧倒的な高速性を維持しつつ、世界トップクラスの精度を達成した。
他の大規模言語モデルとのスピード比較
今回、「cotomi v2」は性能の強化を行い、日本語の大規模言語モデル(LLM)ベンチマーク「Japanese MT-Benchmark」において、「Claude」や「GPT-4」「Qwen」などのグローバルでトップレベルの他社LLMに匹敵する「精度」を達成した。さらに「Qwen」の6倍、「GPT-4o」の2倍の速度を実現し、圧倒的な推論速度と、高精度を両立させることに成功した。
「NEC Innovation Day 2024」の展示ブースでは「cotomi Fast v2」と、「GPT-4o」「Qwen2.5」と実際に比較したデモを公開した。約3,000文字のテキスト内容を入力し、それをそれぞれのLLMが要約して表示するのにかかる時間から、速度を比較するデモとなっている。
■スピード対決!NEC cotomi vs GPT-4o vs Qwen
「cotomi V2」の特長
NECは、2024年4月に大規模言語モデル「cotomi」に、「cotomi Pro」と「cotomi Light」のバリエーションを開発してラインアップ。グローバルでトップレベルの他社LLMと同等の性能を持ちながら、高速性を実現したことを発表している。
「cotomi V2」については、発表されたリリースと「NEC Innovation Day 2024」で展示された内容から、改良点は次のような内容。
・cotomiの性能向上(軽量化・高精度)、ベンチマークで実証
・根拠を提示することで信頼性を向上
・ハルシネーションを検知するAI連携
・自己学習でプロンプト作成の負担を軽減(自己学習をLLMやRAGに反映)
・GPUの演算効率を2倍に高める技術
・電力効率を2倍に改善
GPUの演算効率を高める技術を開発
生成AIの急速な発展により、様々な企業や公共機関が生成AIを活用した業務変革を進めている。これに伴い、より専門性の高い業務に合わせたユースケースや業務システムへの組み込みへの対応など、生成AI自体の機能・性能向上が求められている。
一方、今後の生成AI市場の世界需要額は2023年から2030年にかけて約20倍の成長が見込まれている。それに合わせてGPUの需要も急激に増大しており、データセンターにおける消費電力の増加が課題となる。
これらの課題に対しNECは「cotomi」の性能強化と使用時のGPUの演算効率を高める技術を開発し、環境に配慮した生成AI活用環境を提供する、としている。
生成AIの性能を維持しながらもGPUの演算効率を2倍に高める技術も併せて開発。高速性を維持しつつ精度の高い生成AIにより、実際の業務でストレスのない生成AIの活用を強力に推進する。
AI需要の高まりに伴うGPU不足や電力問題なども改善し、AIをより身近に、快適に活用できる環境づくりを実現する。
NECは「この性能強化により、生成AIを用いた高度な専門業務の自動化を現実のものにします」とコメントしている。
NECのCTOが「NECの先端技術開発」を発表 生成AI・大規模言語モデルの新Ver、生体認証の最新技術、図表を理解するAI など NEC Innovation Day 2024
ソニーとNECが戦略的協業を開始 エッジAI技術と顔認証ソリューションで共同開発
NEC 複雑な図表を読み取り、図表の構造を理解し、自動でデータ化するサービスを来年1月から提供へ マルチモーダル資料をRAGで最大限に活用
NEC、さくらインターネットと生成AIプラットフォーム領域で協業 さくらが「cotomi」を生成AI向けサービスに提供
NECが顔・虹彩マルチモーダル生体認証技術を開発 数千万人規模の認証を屋内外問わず高速かつ高精度に実現
NECがPLMソフトウェア「Obbligato」に生成AI連携機能を搭載 来年4月より提供開始
NEC 関連記事
NTTが大規模言語モデルに文書を視覚情報から理解する「視覚読解技術」を確立 NTT版LLM 生成AI「tsuzumi」に採用
【世界初】NECが映像認識AI×LLMで動画から説明文章を自動生成する技術を開発 ドライブレコーダー動画等に活用
日本電気株式会社
この記事を読んだ人におすすめ
- NEC、さくらインターネットと生成AIプラットフォーム領域で協業 さくらが「cotomi」を生成AI向けサービスに提供
- NEC 複雑な図表を読み取り、図表の構造を理解し、自動でデータ化するサービスを来年1月から提供へ マルチモーダル資料をRAGで最大限に活用
- NECのCTOが「NECの先端技術開発」を発表 生成AI・大規模言語モデルの新Ver、生体認証の最新技術、図表を理解するAI など NEC Innovation Day 2024
- NEC モバイル通信向け「高精度QoE予測技術」を開発 大規模言語モデル(LLM:生成AI)と映像認識AIも活用 自動運転やドローン飛行などに
- ドコモ調査 ChatGPTの利用率は「学生4割超・教職員の約3割」男性が高い利用率 GeminiやBingより認知率が高い
- バーチャル窓「Atmoph Window 2」がOpenAI「GPT-4o」対応など大幅に進化 世界各国1,700カ所以上の風景と解説が楽しめる
- 「AI宮迫」と「AIひろゆき」が対談、新時代のトーク動画を公開 GPT-4o対応のAI会話アバター「AI宮迫」貸出開始、LINE版も正式リリース
- AIさくらさん、ショッピングセンター「須磨パティオ」に導入 生成AIでリアルタイム回答生成 イベントや駐車場情報などを案内
- 【動画】生成AI音声アシスタント「Gemini」搭載スマホ『Google Pixel 9』新登場 河合優実と金田哲がGeminiを使うCM動画をドコモが公開
- 大黒屋「AI音声対話アバター」ビデオ通話でブランド品を査定 「GPT-4」と「Google Voice API」活用 AI査定士アバター「DAI」
ABOUT THE AUTHOR /
神崎 洋治神崎洋治(こうざきようじ) TRISEC International,Inc.代表 「Pepperの衝撃! パーソナルロボットが変える社会とビジネス」(日経BP社)や「人工知能がよ~くわかる本」(秀和システム)の著者。 デジタルカメラ、ロボット、AI、インターネット、セキュリティなどに詳しいテクニカルライター兼コンサルタント。教員免許所有。PC周辺機器メーカーで商品企画、広告、販促、イベント等の責任者を担当。インターネット黎明期に独立してシリコンバレーに渡米。アスキー特派員として海外のベンチャー企業や新製品、各種イベントを取材。日経パソコンや日経ベストPC、月刊アスキー等で連載を執筆したほか、新聞等にも数多く寄稿。IT関連の著書多数(アマゾンの著者ページ)。