SambaNova、Dataflow-as-a-ServiceのラインアップにGPT Bankingを追加

John Russell

AIチップとシステムのスペシャリストであるSambaNovaは、金融サービス業界におけるGPTモデルの展開を簡素化し、迅速化することを目的とした新サービス「SambaNova GPT Banking」を発表した。この新サービスは現在提供中で、価格は明らかにされていないが、SambaNovaの拡大するdataflow-as-a-serviceポートフォリオの一部となる。

	SambaNova社 Marshall Choy

「dataflow-as-a-serviceは、as-a-serviceの包括的な製品群だと考えてください。私たちは、そのうちの3つを提供しています。言語系、コンピュータビジョン系、レコメンデーション系の3つです。」HPCwireとEnterpriseAIとのブリーフィングで、製品担当SVPのMarshall Choyは、「言語のサブカテゴリの中にGPTがあり、今はそれを業界固有のGPT bankingソリューションに拡張しています」と述べた。

GPT（generative pre-trained transformer）モデルは、近年その規模と有効性が急増している。GPTの王者として君臨するOpenAIのGPT-3は、機械学習パラメータ1750億個の容量を持つ。GPTモデルは自然言語処理に非常に有効であることが証明されており、新しい用途が次々と生まれている。

SambaNova社のCEO兼共同創業者であるRodrigo Liangは、公式リリースの中で「GPT Bankingは、業務の改善からリスクやコンプライアンスの管理まで、銀行のほぼすべての側面を変革する可能性を持っています」と述べている。顧客は、顧客の進化するニーズを理解することを可能にする豊富なインサイトによって、顧客体験を真にパーソナライズするGPT Bankingの能力に最も期待していると言っています」と述べている。

銀行業界において、SambaNovaは4つの顕著なGPTアプリケーションを挙げている。

• センチメント分析：ソーシャルメディア、プレス、ブログをスキャンし、市場、投資家、利害関係者のセンチメントを理解する
• エンティティ認識：ヒューマンエラーを減らし、ドキュメントを分類し、手作業や繰り返し作業を削減する
• 言語生成：クレームの処理、転記、優先順位付けを行い、必要な情報を抽出し、顧客満足度を向上させるためのドキュメントを作成する
• 言語翻訳：言語翻訳を行い、顧客基盤を拡大する

「私たちは、銀行のデジタル変革を加速させながら、銀行の競争力と効率性を向上させるためにGPT Bankingを構築しました」とLiangは述べている。「AIは今日、それを行うための最も迅速でコスト効率の高いツールであり、我々のサービスは数週間で展開し価値を提供することができます」。 GPT Bankingは、銀行の大規模な言語モデル向けに構築されており、最先端の言語モデルを短時間で導入するプロセスを簡素化するためにサブスクリプションサービスとして提供されているという。

GPTの大きな課題は、広くAIモデルと同様に、このような大規模なモデルのトレーニングには時間と計算量がかかるということである。特殊なハードウェアとソフトウェアの要件、そして社内にAIに関する専門家がいない、あるいは少ないことが、すべて大きな障害となっている。他のAIチップやシステムの新参者と同様、SambaNovaは販売する手ごわいハードウェア（独自のAIチップをベースにしたDataScaleシステム）を持っており、喜んでそれを販売している。しかし、そのような大規模なシステムの販売はほとんどない。一例として、豊富なノウハウと（比較的）予算があるローレンス・リバモア国立研究所でのSambaNovaの大規模システムの設置が挙げられる。

GPTのような大規模モデルのAI技術の利用を主流にすることは、少なくとも今のところ、X-as-a-serviceのアプローチに適しているように思われる。SambaNovaは、インフラよりも機能を強調するために、dataflow-as-a-serviceを記述子として好んでいる。れでも安価とは言えないが、導入はかなり簡単で早くなる。

Choyは、「正直に言うと、ローレンス・リバモアに行って、1台売り込んできたのは、採用の1つのタイプです。しかし、このDataFlow-as-a-Serviceが登場したきっかけは、「DataScaleの製品はローレンス・リバモアやグーグルであれば素晴らしいが、私には300人や3000人のデータサイエンティストがいるわけではない。MLエンジニアを抱えているわけでもない。私が持っているのは、半ダースのチームと、そのチームを今後18ヶ月で6人から9人に拡大するための予算です。それにあなたは何ができるますか？」というお客様の声でした」。

SambaNovaの大きな市場（収益）は、システム販売よりもdataflow-as-a-serviceの提供であろうとChoyは指摘する。実際には、同社のdataflow-as-a-serviceのインフラは、お客様の敷地内に設置されるか、クラウドに隠されている。モデルの大部分はSambaNovaによって事前に構築され、その後、顧客のニーズを反映するように改良される。クライアントはAPIを介してシステムと対話する。

GPT bankingは、チャレンジとアップサイドの良い例である。金融業界では、多くの商業環境で見られるように、データ管理の問題（機密性とセキュリティ）が大きくクローズアップされている。

「dataflow-as-a-serviceが提供するのは、データプライバシーとデータビューアビリティに関して、顧客と私たちの間に非常に明確な関係を築くことです。銀行の顧客は、「私たちのデータをあなたに渡すことはできない」と言います。私たちもそう思います。私たちは、モデルを学習させるためのサービスとAPIを提供するという考えです。データセットはお客様の知的財産ですから、私たちはそのデータセットを所有することも可視化することもできません。そのため、当社とお客様のデータの間には、非常にきれいな境界線が引かれています。私たちはそれを見ることはありません。ただ、モデルを通すだけです」とChoyは言う。

「銀行などのエンドユーザであろうと、クラウドサービスを提供するプロバイダであろうと、すべては同じです。私は、お客様のデータセンターにシステムを導入しています。私はそのシステムを所有し、管理・保守していますが、あなたはそのシステムをあなたのファイアウォールの内側に置いています。電源、冷却、床の重量、ドアの寸法など、非常に簡単なことです。- そうすれば、ラックが簡単に搬入できることを確認できるのです」。

Chowは、このオンプレミス型導入モデルは、データ管理規制が厳しい規制産業で好まれるアプローチになりつつあると述べている。「また、すでにデータがクラウド上にある場合、クラウドへの移行を希望する人もいます。クラウドサービスプロバイダーの数だけ、クラウドを導入することができるのです」。

GPTモデルがオープンソースで提供されていることや、SambaNovaがすでにGPTを提供していることを考えると、GPT bankingが提供する本当の利点は何なのかという疑問が湧いてくる。Choyは、「私たちのものであれ、他の誰かのものであれ、汎用のGPTモデルは、多くのことに対しては問題ありませんが、何に対してもあまり優れていないことがわかりました」と述べている。これらのモデルは、大きな公共データセットで学習させた大きなモデルです。事実上、スイスアーミーナイフのようなものです。銀行業界では、センチメント分析、テキスト抽出、文書作成、固有表現認識など、特定の下流タスクに非常に関心があります。私たちが行ったのは、GPTベースの事前学習済みモデルを、業界特有のニーズに合わせてもう一段階事前学習させたということです」。

SambaNovaのdataflow-as-a-serviceが市場でどのように評価されるかを監視するのは興味深い。Hyperion ResearchのアナリストであるSteve Conwayは、「ドメインに特化したGPT bankingサービスを提供するというSambaNovaの戦略は理にかなっている」と述べている。「AIはすでに高い有用性を持っていますが、多くのドメインを効率的に扱える汎用的な体験学習型の製品やサービスにはまだ十分ではありません。銀行業ではセキュリティが常に懸念されますが、SambaNovaのサービスは適切な規制と慣行をすべて順守していると確信しています」。

以下、発表文へのリンク