MOORE THREADS社、中国国産基盤モデルの訓練・推論に力添え RTX 4090を性能上回る
2024-06-18エレクトロニクス全般業界動向

基盤モデルを代表とする新世代の人工知能(AI)技術は、新たな科学技術革命と産業変革をリードする戦略的技術であり、重要な原動力である。 計算能力の需要が高まる中、AI計算能力の基盤企業は、AI技術の新潮流においてますます重要な役割を担うようになっている。


2024年5月、MOORE THREADS社とHIPU Ai社は、KUAEクラスタに基づくビッグモデルの推論と基盤モデルの事前学習を含む、GPUビッグモデルの適応と性能テストの新ラウンドを実施した。テストに使用された基盤モデルは、Wisdom AIの基盤モデルとそのオープンソースバージョンのものからだ。

 


テストの結果、MOORE THREADS社の自社開発フル機能GPUは、推論の面においてベンチマーク比較製品のRTX 3090とRTX 4090より優れている;すべてのテストケースにおいてRTX 3090より優れている;マルチバッチにおいてRTX 4090を大幅に上回ることが示された。トレニンーグにおいて、MOORE THREADS社のKUAEクラスターのトレーニング精度はA100 Clusterの誤差の1%未満であり、KUAEクラスターのパフォーマンス・スケーリング・ファクターは90%以上だ。KUAEクラスタのパフォーマンス・スケーリング・ファクターは90%を超え、モデルフォース利用率(MFU)はA100クラスタと同等だ。

 


ZHIPU AI社は、新世代の認知知能基盤モデルの構築に取り組んでおり、イノベーションのための基盤モデル作りに注力している。 2022年8月、ZHIPU AIはGLM-130Bモデルをオープンソース化し、2023年には1,000億ベースの対話モデルChatGLMを発表した。 ChatGLM-6Bのオープンソース化により、基盤モデル開発者はローカルでの微調整と展開が可能になり、オープンソースコミュニティで広く歓迎されている。 自社開発のオリジナルGLMプリトレーニングフレームワークの構築当初から、ZHIPU AIは計算能力の利用問題に細心の注意を払ってきた。 中国国内の計算能力適応を通じ、ZHIPU AIは10以上の国内ハードウェア・エコシステムをサポートし、基盤モデルのハードウェアとソフトウェア・エコシステムの構築、国内チップ企業との共同イノベーションとアップグレードの促進に努めてきた。

 


MOORE THREADS社の優れたテスト結果は、中国の基盤モデル製品と技術エコシステムのより良い構築にとって大きな意義がある。

 


ZHIPU AIのハードウェア適応とテスト担当者は、「計算精度と安定性の面でMoore Threads社のKUAEクラスターの性能は印象的であり、Smart Spectrum AIはMoore Threadsを含むビッグモデル業界のエコシステム・パートナーと手を携えて、ビッグモデル業界のエコシステムの繁栄を促進する 」と述べた。

 


79.jpg



(原文:https://www.icsmart.cn/78913/)  

[注] 新闻内容由AI翻译生成,如有表述不尽完善之处,敬请谅解!
Please note: This news article was translated by AI. We apologize for any imperfections in the translation.
前の記事:
2024年世界の先端パッケージング設備は前年比6%増の31億ドルに成長
次の記事:
Meetfuture Tech(弥費科技):8インチ&12インチ工場向けAMHSシステム受け入れ 業界の長期的な海外独占を打破