This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
ChatGPT の背後にあるコンピューティングパワーゲーム 中国企業は米国の束縛を早急に打ち破る必要がある
Huaxi Securities は、世界の AI ソフトウェア市場は 2025 年に 1,260 億米ドルに達し、2021 年から 2025 年までの複利成長率は 41.02% になると予測しています。
ChatGPT の繁栄の背後には、天文学的な計算能力のサポートがあります。
推定によると、AI トレーニング サーバーに関しては、単一の大規模言語モデルのトレーニングにより、AI トレーニング サーバーの需要が約 2 億米ドルに達し、ChatGPT などの AI 推論サーバーに関しては、推論サーバーの需要が高まる可能性があります。初期段階では約45億米ドルに達する。
一時はChatGPTが次々と登場し、それに伴ってその背後にあるAIサーバートラックも台頭し始めました。
ChatGPT は計算能力によって決まります
コンピューティング能力は大規模モデルのコア エンジンであり、その計算式は非常に単純です。どれだけの GPU チップが多くのコンピューティング能力を生成できるか、そしてハイエンド GPU チップの数はコンピューティング能力に直接影響します。
**ChatGPT に必要な計算能力は一定ではなく、段階的に増加します。 ChatGPT がより賢くなると、その代償としてより多くのコンピューティング能力が必要になります。 **
メディアの推測によると、GPT-3 のトレーニング費用は 1 回あたり 500 万ドル、GPT-3 モデルのトレーニング費用は約 140 万ドル、Google の PaLM モデルのトレーニング費用は約 1,120 万ドルかかると予想されています。数ドルのトレーニング費用。
Microsoft幹部によると、ChatGPTの計算能力を提供するAIスーパーコンピュータは、Microsoftが2019年に10億米ドルを投資して構築した大型の一流スーパーコンピュータで、数万個以上のNvidia A100 GPUを搭載しているという。 60 合計で数十万の Nvidia GPU がデータ センターに導入されています。
ChatGPT のコンピューティング能力に対する増え続ける需要に応えるため、Microsoft は、開発を大幅に加速するために、Nvidia の最新のフラッグシップ チップ H100 GPU と Nvidia の Quantum-2 InfiniBand ネットワーク相互接続テクノロジをベースにした一連の Azure スケーラブル AI 仮想マシンを発売すると発表しました。 AI モデルの
ChatGPTの背後にはNvidia、Nvidia、Nvidiaがいっぱいあるようです。
実際、ハードウェアの覇者である Nvidia は、消費者市場で市場の大部分を占めているだけでなく、AI サーバー チップの分野でも第一の選択肢となっています。
現在、NVIDIA の主力チップ H100 は 1 週間で 7 万元近く値上がりし、通常の価格は 30 万元に達するが、元は 9 万元まで上昇し、1 週間を超えた。 50%。
高値で購入できないだけでなく、米国ですらエヌビディアによるチップの販売を禁止している。昨年8月、米国政府は輸出管理政策を発表し、NVIDIAがA100およびH100チップを中国に販売することを禁止した。
中国市場を失わず、米国の輸出規制に準拠するために、Nvidia はその後、A800 および H800 チップの性能を去勢したバージョンを発売しました。しかし、これら 2 つのチップも供給不足で市場に奪われ、価格もそれに応じて上昇しました。
Baidu、Ali、Tencent を筆頭に、中国のほとんどのインターネット企業が大規模モデルへの参入を発表しました。市場統計によると、ChatGPT以降、中国で今年発売される大型モデルの数は10を超えた。
ChatGPT のレベルに到達したい場合は、少なくとも 3,000 個の A100 チップが必要で、大型モデルの導入を完了するには 1 個あたり 90,000 の価格で 2 億 7,000 万人民元になります。10 個の大型モデルには 30,000 個の A100 チップ、27 億人民元が必要です。 。
その後のトレーニングのコストに加えて、必要なチップはさらに天文学的な金額になります。しかし、Nvidia の現在の納期から判断すると、十分なチップを購入するのは簡単ではありません。
夢中になっているうちに、再びマイニングカードの時代がやって来ました。
Nvidia が再び空中に座る
ここ数年仮想通貨が盛り上がったとき、エヌビディアはマイニングに必要なグラフィックスカードのプロバイダーとして、数年間で48億ドルという巨額の利益を上げました。今、ChatGPT に頼って第二の人生を送り、歴史を再び繰り返しましょう。
市場需要の急増に直面し、AIの波を利用して逆転したエヌビディアは、コンピューティングパワーのリースサービスを開始した。
3 月 21 日、2023 GTC カンファレンスで、NVIDIA の創設者兼 CEO のジェンスン フアン氏は、高度な AI モデルのトレーニングに必要なインフラストラクチャとソフトウェアを企業に提供できる NVIDIA DGX クラウドを立ち上げました。 DGX Cloud の各インスタンスには、8 つの H100 または A100 80GB GPU が装備されています。企業は、クラウド リースの形式で月単位で DGX Cloud クラスターをレンタルできます。価格は、インスタンスあたり月額 37,000 米ドルからです。
**本当に Nvidia に代わるものはないのでしょうか?なぜ企業は他の GPU チップ メーカーではなくリースを選択するのでしょうか? **
IDCのデータによると、2021年の国内サーバー市場では、国内GPUサーバーが88.4%以上を占め、NVIDIAを採用した製品が80%以上を占めると予想されています。
**AI大型モデルに必要なチップは、処理情報の精度と演算能力の速度に対する要求が高く、スーパーコンピューティングの分野では、倍精度浮動小数点演算能力FP64が高精度の確実な指標となります。コンピューティング能力の計算。現在、これらの機能を備えたチップは Nvidia の H100 と A100 だけです。 **
米国に行き詰まっているのはエヌビディアチップの売上だけではなく、技術、設備、材料すべてが中国企業の研究開発を制限している。しかし、米国の厳しい制限の下、中国企業は依然として圧力を受けていくつかのダークホースを使い果たした。
IDCが発表した最新の「中国アクセラレーテッド・コンピューティング市場(2021年下半期)追跡レポート」によると、2021年の中国AIサーバー市場規模は350億3000万元に達し、前年比68.6%増となる。
エンタープライズレベルのGPUチップの分野では、中国メーカーのBiren TechnologyがBR100チップを2022年に発売し、Tianshu ZhixinがZhikai 100チップを、CambrianがSiyuan 270チップを発売する。
その中で、Biren Technology は、BR100 は世界最高のコンピューティング能力を備えており、そのピークコンピューティング能力は市場の主力製品の 3 倍以上に達し、そのコンピューティング能力は PFLOPS レベルに達すると述べています。
データは良好ですが、FP64 を処理する重要な能力が欠けており、Nvidia H100 と A100 の 2 つの兄弟を完全に置き換えることはできません。
さらに、Nvidia が使用する CUDA プラットフォームはすでに AI 開発エコシステムとして最も広く使用されており、Nvidia の Tesla ベースの GPU のみをサポートしており、現段階では国産チップで置き換えることはできません。
GPUチップの分野では中国のチップメーカーが追い上げを見せているが、依然として米国における技術格差とボトルネックが重要な課題であり、努力するには時間がかかるだろう。
AI サーバー以上のもの
AIサーバーやGPUチップだけでなく、ストレージ市場も大型モデルの力を借りて右肩上がりだ。
**ChatGPT の動作条件には、トレーニング データ、モデル アルゴリズム、高い計算能力が含まれており、高い計算能力を備えた基盤インフラストラクチャが大量のデータとトレーニングの基盤となります。 **
最も明白な特徴は、ChatGPT を数回反復した結果、パラメーターの数が 1 億 1,700 万から 1,750 億に、ほぼ 2,000 倍に増加したことです。これは、コンピューティングとストレージにも大きな課題をもたらしています。
**AI の新時代が始まるにつれて、世界的なデータの生成、保存、処理の量が飛躍的に増加し、メモリが大幅に活用されることが予想されます。コンピューティング ストレージは ChatGPT の重要な基盤であり、Alibaba や Baidu などのテクノロジー大手が ChatGPT プロジェクトに参入することで、コンピューティング ストレージ市場全体の需要はさらに急速に増加すると考えられます。 **
AIGC が繁栄を続ける中、北京、上海、広州、その他のデジタル経済が発展した地域でも、インテリジェント コンピューティング センターの建設を促進する政策が導入されています。例えば、北京は、2023年までに新しい計算データセンターと人工知能コンピューティングパワーセンターを構築し、それらを人工知能コンピューティングパワーハブに育成することを提案し、上海は、高性能、高スループットの人工知能コンピューティングのバッチを構築することを提案している。パワーセンター、パブリックコンピューティング電力サービスプラットフォームの構築等を推進する。
そして、あらゆる階層が ChatGPT の洗礼に直面することになり、人工知能の新たな波の下で、AI 関連産業が広範な市場空間に参入することになります。
そして中国企業は必ず米国の制約を突破し、不公平の束縛を打ち破るはずだ。