Begini Data Center AMD Mendorong Kemampuan AI Generatif - Selain memperkenalkan jajaran prosesor server dan akselerator AI (Artificial Intelligence) baru, AMD dan para mitranya menunjukkan bagaimana data center AMD mendorong kemampuan AI generatif di masa mendatang di acara Advancing AI 2024 yang digelar di San Fransisco, Amerika Serikat.
Sejak diluncurkan pada Desember 2023, akselerator AMD Instinct MI300X telah digunakan dalam skala besar oleh mitra cloud, OEM, dan ODM terkemuka dan melayani jutaan pengguna setiap hari dengan model-model AI yang populer, termasuk ChatGPT dari OpenAI, Meta Llama, dan lebih dari satu juta model open source pada platform Hugging Face.
Google menyoroti bagaimana prosesor AMD EPYC memberi daya pada berbagai macam contoh untuk AI, kinerja tinggi, tujuan umum dan komputasi rahasia, termasuk AI Hypercomputer, arsitektur superkomputer yang dirancang untuk memaksimalkan ROI AI. Google juga mengumumkan VM berbasis EPYC 9005 Series akan tersedia pada awal tahun 2025.
Oracle Cloud Infrastructure berbagi tentang bagaimana mereka memanfaatkan CPU AMD EPYC, akselerator AMD Instinct, dan DPU Pensando untuk menghadirkan infrastruktur komputasi dan jaringan yang cepat dan hemat energi bagi para pelanggan seperti Uber, Red Bull Powertrains, PayPal, dan Fireworks AI. OCI mengumumkan platform komputasi E6 baru yang ditenagai oleh prosesor EPYC 9005.
Databricks menyoroti bagaimana model dan alur kerjanya berjalan dengan mulus pada AMD Instinct dan ROCm dan mengungkapkan bahwa pengujian mereka menunjukkan kapasitas memori yang besar dan kemampuan komputasi GPU AMD Instinct MI300X membantu memberikan lebih dari 50% peningkatan kinerja pada model milik Llama dan Databricks.
CEO Microsoft Satya Nadella menyoroti kolaborasi dan inovasi bersama yang telah berlangsung lama antara Microsoft dan AMD di seluruh penawaran produk dan infrastrukturnya, dengan MI300X yang memberikan kinerja yang kuat pada beban kerja Microsoft Azure dan GPT.
Nadella dan Su juga membahas kemitraan mendalam kedua perusahaan dalam roadmap AMD Instinct dan bagaimana Microsoft berencana untuk memanfaatkan akselerator AMD Instinct generasi mendatang, termasuk seri MI350 dan seterusnya, untuk memberikan kinerja kepemimpinan per dolar per watt untuk aplikasi AI.
Meta merinci bagaimana CPU AMD EPYC dan akselerator AMD Instinct memberi daya pada infrastruktur komputasi di seluruh penerapan dan layanan AI, dengan MI300X yang melayani semua lalu lintas langsung di Llama 405B. Meta juga bermitra dengan AMD untuk mengoptimalkan kinerja AI mulai dari silikon, sistem, dan jaringan hingga perangkat lunak dan aplikasi.
OEM terkemuka Dell, HPE, Lenovo, dan Supermicro mengembangkan jajaran produk berbasis prosesor AMD EPYC yang berkinerja tinggi dan hemat energi dengan platform baru yang dirancang untuk memodernisasi pusat data untuk era AI.
Anda mungkin suka:Spesifikasi Tecno Spark Go 1, Layar 120Hz dan Speaker Stereo Cuma Sejutaan!
Posting Komentar