Membangun Infrastruktur AI-Ready, Strategi Menciptakan Pendekatan Seimbang untuk Gapai Kesuksesan

Membangun Infrastruktur AI-Ready, Strategi Menciptakan Pendekatan Seimbang untuk Gapai Kesuksesan - Seiring dengan terus berkembangnya kecerdasan buatan atau artificial intelligence (AI) yang mendorong kemajuan teknologi dan meningkatkan efisiensi, penghematan biaya, serta potensi pendapatan bagi berbagai organisasi di seluruh dunia, teknologi ini semakin mantap sebagai landasan lanskap bisnis masa kini.

Akan tetapi, keberhasilan penerapan dan pengoperasian sistem AI sangat bergantung pada infrastruktur yang mendasarinya, yang sering kali merupakan komponen yang paling tidak dipahami namun paling penting dari ragam AI.

Menurut Vanguard, infrastruktur merupakan salah satu tantangan terberat bagi pengawasan TI dan merupakan faktor yang paling sering diidentifikasi yang berkontribusi terhadap pengabaian proyek AI di antara berbagai organisasi. Tidak ada pendekatan yang cocok untuk semua orang. Tekanan pada manajer TI saat ini sangat besar saat mereka menavigasi dan mengatasi berbagai pertimbangan yang saling bertentangan dari berbagai pemangku kepentingan.

Pada saat yang sama, permintaan akan lebih banyak dan terus berlanjut pada aplikasi perusahaan. Segala sesuatu mulai dari sistem pemrosesan transaksi online tradisional hingga aplikasi berbasis cloud yang sangat interaktif memproses lebih banyak data dan menuntut lebih banyak daya komputasi CPU.

Baca juga:Review Google Pixel 6a: Masih Kompeten di 2025?

Dengan latar belakang ini, kritis dan relevansi adopsi AI di seluruh organisasi menuntut pendekatan kolaboratif dan holistik terhadap perencanaan – khususnya, fokusnya harus pada apakah infrastruktur yang ada sesuai dengan tujuannya dan apakah peningkatan memberikan pengembalian investasi yang berarti.

Dengan demikian, organisasi dapat menghindari perluasan sumber daya mereka yang terbatas secara berlebihan dan sebagai gantinya, menyalurkan upaya mereka dengan cara yang berarti dan strategis yang sepenuhnya mewujudkan potensi penuh AI.

Mengapa AI perlu dilibatkan

AI tidak mencakup hanya pada satu beban kerja atau kasus penggunaan; AI mencakup berbagai tugas, mulai dari inferensi rutin hingga pelatihan model yang kompleks dan intensif data. AI telah menjadi alat penting bagi banyak organisasi di berbagai industri, yang mendorong inovasi, efisiensi, dan keunggulan kompetitif.

Cara kerja AI mendefinisikan ulang operasi meliputi:

Memperkaya pengambilan keputusan dengan analisis dan wawasan tingkat lanjut serta menambah kemampuan manusia, yang memungkinkan karyawan untuk berfokus pada tugas-tugas yang bernilai lebih tinggi.
Meningkatkan pengalaman pelanggan, daya tanggap, dan akurasi dengan sistem AI interpretatif, chatbot, asisten virtual, dan rekomendasi yang dipersonalisasi.
Memungkinkan pengembangan produk dan layanan baru dengan memanfaatkan wawasan data dan algoritma canggih, serta mempercepat penelitian dan waktu perolehan wawasan menggunakan sistem AI generatif.
Memperkuat manajemen dan mitigasi risiko dengan menganalisis pola dan anomali dalam data di samping meningkatkan deteksi penipuan dan ancaman dunia maya menggunakan sistem machine learning (ML) dalam kasus penggunaan seperti mesin personalisasi dan pengoptimalan harga.

Berbagai macam aplikasi AI ini membutuhkan pengaturan infrastruktur yang berbeda-beda, sehingga penting bagi tim arsitektur perusahaan untuk mengadopsi pendekatan seimbang yang disesuaikan untuk tujuan tertentu.

Lebih jauh lagi, kebutuhan infrastruktur AI mulai melampaui kemampuan organisasi untuk melayani berbagai macam proyek dan kapabilitas AI yang diterapkan pada lingkungan produksi. Kasus penggunaan yang ditargetkan untuk AI beragam, dan banyak organisasi telah memanfaatkan ratusan model.

Vanguard melakukan survei organisasi dengan AI dalam produksi dan menemukan median 125 model yang digunakan dan lebih dari satu petabyte data yang diperlukan untuk melatih model-model tersebut secara agregat – dan sebagian besar memperkirakan persyaratan beban kerja akan meningkat. Dalam lingkungan perluasan beban kerja AI ini, infrastruktur muncul sebagai hambatan kritis.

Infrastruktur sangat penting untuk keberhasilan implementasi AI

Komponen penting untuk mendukung AI meliputi komputasi berdaya tinggi, penanganan data yang efisien, dan jaringan yang andal. Namun, tidak semua beban kerja AI membutuhkan tingkat sumber daya yang sama. Sering kali, prosesor (CPU) dapat mengelola beban kerja AI yang lebih kecil, sementara aplikasi yang lebih terspesialisasi – seperti model pelatihan skala besar – memerlukan akselerator canggih (misalnya, GPU).

Sebagai langkah pertama, para pemimpin TI harus mempertimbangkan poin-poin berikut sebelum memulai perencanaan dan membangun infrastruktur yang siap untuk AI:

Menilai Persyaratan AI Spesifik: Tim arsitektur perusahaan harus mengevaluasi kasus penggunaan AI spesifik yang dibutuhkan bisnis mereka.
Seimbangkan CPU dan GPU: Ciptakan ekosistem CPU dan GPU yang seimbang yang dirancang untuk mencocokkan infrastruktur yang tepat dengan beban kerja.
Prioritaskan Keamanan dan Privasi Data: Tim Infrastructure and Operational (I&O) harus mempertimbangkan penerapan "AI pribadi", menjalankan beban kerja AI di tempat untuk membantu menjaga keamanan data sensitif.

Seiring dengan terus berkembangnya beban kerja AI, bisnis perlu menekankan perlunya strategi infrastruktur yang hemat biaya. Data center yang mengoperasikan beban kerja AI mengonsumsi energi dalam jumlah besar. Tim arsitektur perusahaan harus memilih prosesor hemat energi, berinvestasi dalam solusi pendinginan, dan menerapkan praktik berkelanjutan untuk membantu mengelola biaya operasional.

Baca juga:Review Asus Vivobook Go 14 E1404FA, Laptop Murah Terbaik untuk Pelajar 2025?

Infrastruktur AI yang tangguh memerlukan visibilitas ke sumber daya komputasi, penyimpanan, dan jaringan. Tim I&O harus melengkapi pusat data dengan alat observabilitas untuk membantu bisnis memahami pola penggunaan dan membantu memastikan infrastruktur dapat ditingkatkan seiring dengan meningkatnya permintaan AI.

Landasan infrastruktur yang siap untuk AI

Perusahaan harus mengambil pendekatan pragmatis untuk menciptakan lingkungan infrastruktur yang sesuai dengan kebutuhan beban kerja AI yang terus berkembang dengan mempertimbangkan kerangka kerja tiga pilar berikut yang dirancang untuk meningkatkan efisiensi dan kinerja data center tanpa memerlukan infrastruktur baru yang ekstensif:

Memodernisasi

Mengganti server lama dengan sistem yang lebih baru dan lebih efisien untuk memaksimalkan penghematan ruang dan energi. Misalnya, arsitektur core “Zen 5” yang baru, menyediakan instructions per clock (IPC) hingga 17% lebih baik untuk beban kerja perusahaan dan cloud serta IPC hingga 37% lebih tinggi dalam AI dan high-performance computing (HPC) dibandingkan dengan “Zen 4.”

Manfaatkan Strategi Cloud Hibrida

Untuk beban kerja yang bervariasi dalam intensitas dan skala, lingkungan virtual dan kontainer memberikan solusi yang fleksibel. Dengan memanfaatkan strategi cloud privat dan hibrida, perusahaan dapat meningkatkan skala aplikasi AI sekaligus menghindari alokasi sumber daya yang tidak perlu.

Berinvestasilah pada Sumber Daya Akselerator yang Seimbang

Organisasi harus menyesuaikan investasi mereka pada koprosesor (GPU) agar sesuai dengan kebutuhan beban kerja tertentu. Memasangkan akselerator dengan CPU yang mumpuni membantu memastikan kinerja maksimal tanpa menguras kantong.

Hal ini semakin menggarisbawahi pentingnya memilih CPU dan GPU yang tepat untuk melayani beban kerja AI. Untuk melihat hal ini dalam perspektif dengan menggunakan kinerja komputasi serbaguna SPECrate®2017_int_base sebagai tolok ukur, perusahaan yang memilih prosesor EPYC™ Generasi Kelima terbaru AMD dan akselerator Instinct™ untuk memodernisasi data center, akan memperoleh kemampuan untuk menggunakan daya yang diperkirakan 71% lebih sedikit dan server yang sekitar 87% lebih sedikit dibandingkan dengan melanjutkan dengan prosesor lama dari pesaing.

Hal ini memberi CIO fleksibilitas untuk memanfaatkan penghematan ruang dan daya atau menambah kinerja untuk tugas TI sehari-hari sambil memberikan kinerja AI yang mengesankan.

Pada akhirnya, CIO harus meminta tim dalam mengambil pendekatan yang pragmatis. Pendekatan ini mengharuskan pengakuan bahwa AI bukanlah entitas tunggal. Beban kerja dan kasus penggunaan AI sangat beragam: gabungan dari beban kerja mandiri (baik besar maupun kecil), kasus penggunaan, dan fungsi dalam beban kerja lainnya.

Cara terbaik untuk mengelola penyebaran beban kerja AI secara efektif adalah dengan mengambil pendekatan yang sesuai dengan tujuan yang mengandalkan prosesor dan akselerator, dengan pilihan yang bergantung pada persyaratan khusus tugas. Jalan menuju kesiapan AI memerlukan perencanaan yang matang dan investasi strategis.

Dengan mendidik diri mereka sendiri dan para pemangku kepentingan mereka, organisasi TI dapat membuat keputusan yang tepat tentang infrastruktur AI, yang memungkinkan mereka untuk memilih perpaduan teknologi yang tepat untuk memenuhi kebutuhan beban kerja AI.

Attributed to: Peter Chambers, Managing Director, APAC, AMD