
基盤モデルを代表とする新世代の人工知能(AI)技術は、新たな科学技術革命と産業変革をリードする戦略的技術であり、重要な原動力である。 計算能力の需要が高まる中、AI計算能力の基盤企業は、AI技術の新潮流においてますます重要な役割を担うようになっている。
2024年5月、MOORE THREADS社とHIPU Ai社は、KUAEクラスタに基づくビッグモデルの推論と基盤モデルの事前学習を含む、GPUビッグモデルの適応と性能テストの新ラウンドを実施した。テストに使用された基盤モデルは、Wisdom AIの基盤モデルとそのオープンソースバージョンのものからだ。
テストの結果、MOORE THREADS社の自社開発フル機能GPUは、推論の面においてベンチマーク比較製品のRTX 3090とRTX 4090より優れている;すべてのテストケースにおいてRTX 3090より優れている;マルチバッチにおいてRTX 4090を大幅に上回ることが示された。トレニンーグにおいて、MOORE THREADS社のKUAEクラスターのトレーニング精度はA100 Clusterの誤差の1%未満であり、KUAEクラスターのパフォーマンス・スケーリング・ファクターは90%以上だ。KUAEクラスタのパフォーマンス・スケーリング・ファクターは90%を超え、モデルフォース利用率(MFU)はA100クラスタと同等だ。
ZHIPU AI社は、新世代の認知知能基盤モデルの構築に取り組んでおり、イノベーションのための基盤モデル作りに注力している。 2022年8月、ZHIPU AIはGLM-130Bモデルをオープンソース化し、2023年には1,000億ベースの対話モデルChatGLMを発表した。 ChatGLM-6Bのオープンソース化により、基盤モデル開発者はローカルでの微調整と展開が可能になり、オープンソースコミュニティで広く歓迎されている。 自社開発のオリジナルGLMプリトレーニングフレームワークの構築当初から、ZHIPU AIは計算能力の利用問題に細心の注意を払ってきた。 中国国内の計算能力適応を通じ、ZHIPU AIは10以上の国内ハードウェア・エコシステムをサポートし、基盤モデルのハードウェアとソフトウェア・エコシステムの構築、国内チップ企業との共同イノベーションとアップグレードの促進に努めてきた。
MOORE THREADS社の優れたテスト結果は、中国の基盤モデル製品と技術エコシステムのより良い構築にとって大きな意義がある。
ZHIPU AIのハードウェア適応とテスト担当者は、「計算精度と安定性の面でMoore Threads社のKUAEクラスターの性能は印象的であり、Smart Spectrum AIはMoore Threadsを含むビッグモデル業界のエコシステム・パートナーと手を携えて、ビッグモデル業界のエコシステムの繁栄を促進する 」と述べた。


