NVIDIAが「ChatGPT」など大規模言語モデル(LLM)の「AIチャットボット」を安全運用するための制御ソフトをオープンソースで公開

NVIDIAは、開発者が大規模言語モデルなど「ジェネレーティブAI」の学習を指導し、優れたテキスト応答を業務の範囲内でおこなうことを支援するオープンソースのソフトウェア「NeMo Guardrails」を新たに公開した。AIチャットボットが業務外の会話をすることを防止し、信頼できる情報源のみを参照するように設定することなどができる。

NeMo Guardrailsは、大規模言語モデル (LLM) を搭載したスマート アプリケーションの正確性、適切性、文脈の整合性、安全性の確保を支援する。このソフトウェアには、テキストを生成するAIアプリケーションに安全性を追加するために企業にとって必要な多くのコード、サンプルコード、そしてドキュメントが含まれている。

LLMは高性能、しかし安全性の確保が必要

「ChatGPT」をはじめとするLLMは、顧客の質問に答えたり、長い文書を要約したり、さらにはソフトウェアを書いたり、薬の設計を加速させたりと、成果を発揮し始めている。多くの産業で、AIアプリケーションを支える強力なエンジンとしてLLMを採用する流れが急速に進む中で、今回のリリースはLLMが軌道をはずれた想定外の応答を示すことを抑止することが期待できる。

「NeMo Guardrails」は、この新しい次元のAI搭載アプリケーションの安全性を保つために、企業やユーザーを支援するように設計されているという。

開発者がLLMに設定できる3つ境界(ガードレール)

ジェネレーティブAIの性能は誰もが認めつつも、安全性が業界全体の懸念事項となっている。NVIDIAは、OpenAIの「ChatGPT」のようなすべてのLLMで動作できるように「NeMo Guardrails」を設計した。
このソフトウェアにより、開発者はLLMを搭載したアプリケーションを安全で、企業の専門領域内にとどめるように制御することができる。

「NeMo Guardrails」は、開発者が3種類の境界を設定することができる。

・話題のガードレール
アプリが望ましくない領域の話題に逸脱してしまうことを防ぐ。例えば、カスタマー サービスが天気に関する質問には答えないようにする。

・安全性ガードレール
アプリが正確で適切な情報で応答することを保証する。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定する。

・セキュリティ ガードレール
安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限する。

事実上すべてのソフトウェア開発者が「NeMo Guardrails」を使用することができるため、機械学習の専門家やデータサイエンティストを必要としない。数行のコードを書くだけで素早く新しいルールを作成することができる、としている。

使い慣れたツールとの連携

「NeMo Guardrails」はオープンソースとして提供される。エンタープライズ・アプリの開発者が使用するすべてのツールと連携することができるという。

有識者のコメント

例えば、LLM の性能にサードパーティのアプリケーションをプラグインするために、開発者が急速に採用しているオープンソースのツールキット「LangChain」上でも実行することができる。
LangChain ツールキットとその名を冠したスタートアップを設立したHarrison Chase氏は次のように述べている。「ユーザーは LangChain のワークフローに NeMo Guardrails を簡単に追加して、AI 搭載アプリに安全な境界線を素早く設置することができます」

さらに「NeMo Guardrails」は、Zapierなどの幅広いLLM対応アプリケーションと連携できるように設計。Zapierは 200万社以上の企業に利用されている自動化プラットフォーム。
Zapier の AI 担当リード プロダクト マネージャーである Reid Robinson 氏は次のように述べている。「安全性、セキュリティ、信頼性は、責任ある AI 開発の礎であり、これらのガードレールを AI システムに埋め込むという NVIDIA の積極的なアプローチに期待しています。AI が頼もしく信頼できる存在である未来を築くことで、さまざまな面でより良い影響が生まれることを楽しみにしています」

オープンソースで提供、NVIDIA からも入手可能

NVIDIAは「NeMo Guardrails」を「NVIDIA NeMo フレームワーク」に組み込んでいる。このフレームワークには、ユーザーが企業独自のデータを使って言語モデルのトレーニングとチューニングを行うために必要な要素が含まれている。

NeMoフレームワークの多くは、すでにオープン ソースコードとしてGitHubで公開されている。また、企業は、NVIDIA AI Enterpriseプラットフォームの一部として、完全かつサポートされたパッケージとして入手することができる。

NeMoはサービスとしても提供されている。これは「NVIDIA AI Foundations」の一部であり、独自のデータセットやドメイン知識に基づいてカスタムのジェネレーティブ AI モデルを作成、実行したい企業向けのクラウド サービスだ。

NVIDIAは、韓国大手のモバイル事業者がNeMoを利用してインテリジェント アシスタントを作り、すでに顧客と800万回の会話をしているという事例をあげた。また、スウェーデンの研究チームは、NeMoを採用して、国内の病院、政府機関、および企業向けのテキスト機能を自動化できる LLM を作成した。

コミュニティの継続的な取り組み

ジェネレーティブ AIを安全に運用するための優れたガードレールを構築することは難しい課題であり、AIの進化とともに多くの継続的な研究が必要になる。
NVIDIA は、数年にわたる研究の成果である「NeMo Guardrails」をオープンソース化し、開発者コミュニティの多大なエネルギーとAI業務の安全性に貢献したい考えだ。

この記事を読んだ人におすすめ

関連する記事はまだありません