こんにちは、ビデオリサーチのヤナギタです。
先日「ビデオリサーチも生成AIやってます！」という記事を書いたばかりですが、その中でも触れたNVIDIA H100搭載のサーバを社内に構築しましたので、早速ですがその件を書かせて頂きたいと思います。
前回書いた調査表作成業務の効率化研究は、リースしたNVIDIA A100の環境で行っておりました。 最初は、研究の中で必要になるモデルの規模も、それを動かすのに必要なGPUの性能も手探りでしたのでリースの形で進めていたのですが、研究の手ごたえもあり、今後もLLMの研究を継続していく必要性が明確に見えてきましたので、社内に生成AI専用のサーバを建てることにしました。
詳しい方はご存じだと思いますが、NVIDIA H100というのは、今や効率的なAI開発に欠かせない代表的なGPUの一つです(GPUというのは、Graphics Processing Unitの略で、もともとは画像処理に特化した処理装置のことでしたが、今やAI分野で積極的に活用されています)。 少し前まではNVIDIAのA100シリーズが主流でしたが、その後継機として昨年登場し、これからのAI開発の主流になると言われています。
そのような最先端のハードウェアですから、もちろんそれなりの費用が掛かりますが、ここまでの研究の中で実際にオンプレ環境で行ってきた試行錯誤の作業を、継続的にリース環境で行っていった場合、あるいは(オンプレ環境での活用を前提とした研究ではありますが、仮に)クラウド環境で行った場合の費用もシミュレートして比較しまして、社内にサーバを建てる方が中長期的にメリットが大きいとの判断をしました。逆に言うと、ビデオリサーチは今後も意欲的にAIの活用を続けていくという意思表示でもあります。
ただ、外見は同じでもGPU稼働時はやはりすごい音がします。単基のGPUでこのぐらいなのであれば、大量のGPUを置いているクラウドのデータセンサーはどのくらいすごい音なんだろうと怖くなるほどでした。
さて、この新たに構築したH100環境ですが、もちろんこの後、一つ前の記事の調査票作成研究の基盤はこちらに移して、更なる精度向上、課題解決に向けた研究を行っていきます。 また、次の新たなAI活用のテーマもいくつか考えていますので、この環境を十二分に利用して、様々なAI活用法を見出してい行きたいと思っています。
今後のビデオリサーチのAI研究にもご期待ください。
