NEC、独自の日本語大規模言語モデルを開発

NECは独自の日本語大規模言語モデルを開発。

パラメータ数は130億で、クラウド/オンプレミス環境での運用が可能。

性能面では世界トップクラスの日本語処理能力を実現しているとのこと。

一般的に高い性能を持つLLMほど推論も多数のGPUが必要となるが、

NECのLLMはGPU1枚搭載の標準的なサーバでも動作可能。

消費電力やサーバーコストも抑えられる。

参考記事はこちら