Trendtech, Jakarta – Dalam upaya mendorong adopsi AI generatif (gen AI) yang lebih matang di tingkat enterprise, dua raksasa teknologi, Red Hat dan Amazon Web Services (AWS), memperdalam kemitraan strategis mereka. Kolaborasi ini bertujuan menjawab tantangan klasik dalam menjalankan AI: kinerja tinggi yang harus berjalan beriringan dengan efisiensi biaya.

Fokusnya kini adalah pada fase inferensi AI di AWS, tahap di mana model AI yang telah dilatih digunakan untuk membuat prediksi atau menghasilkan konten dalam skala produksi. Dengan menghadirkan dukungan resmi untuk chip AI khusus AWS, yaitu Trainium dan Inferentia, pada platform Red Hat, kolaborasi ini menjanjikan fleksibilitas, pilihan yang lebih luas, dan yang paling dinanti – penghematan biaya yang signifikan bagi para pelanggan.

Baca juga: Cisco Menuntaskan Akuisisi Splunk

Jawaban Atas Tekanan Biaya dan Kinerja AI

Dunia sedang demam AI, tetapi euforia awal mulai bergeser. Organisasi kini menghadapi realitas: menjalankan model AI generatif berskala besar di tahap produksi memakan biaya yang sangat besar, terutama pada infrastruktur berbasis GPU konvensional. Kebutuhan akan inferensi yang dapat diskalakan sekaligus ekonomis mendorong perusahaan untuk mencari alternatif.

“Situasi ini memicu pergeseran paradigma,” jelas laporan IDC yang dikutip dalam rilis ini. Pada 2027, diprediksi 40% organisasi akan beralih ke custom silicon atau chip khusus seperti ARM atau chip AI/ML untuk mengoptimalkan kinerja dan mengendalikan biaya. Kolaborasi Red Hat dan AWS hadir tepat untuk memenuhi tren ini, menawarkan fondasi yang dioptimalkan untuk siklus inovasi AI yang lebih cepat.

Simfoni Open Source dan Hardware Khusus: Ini Poin Utamanya

Lalu, seperti apa wujud nyata kolaborasi yang digadang-gadang dapat menghemat biaya hingga 30-40% dibandingkan instance GPU biasa ini? Berikut empat pilar utamanya yang dirancang untuk memudahkan perjalanan AI perusahaan:

1. Server Inferensi yang Lebih Cepat dan Hemat: Red Hat AI Inference Server, yang dibangun di atas kerangka kerja open source vLLM populer, kini didukung secara resmi oleh chip AWS Inferentia2 dan Trainium. Ini menciptakan sebuah “lapisan inferensi universal” yang mampu menjalankan berbagai model gen AI dengan kinerja lebih tinggi, latensi lebih rendah, dan tentu saja, efisiensi biaya yang lebih baik untuk deployment skala produksi.

2. AI yang Terintegrasi Mulus di OpenShift: Bagi pelanggan yang sudah menggunakan Red Hat OpenShift, jalan menuju AI menjadi lebih mulus. Red Hat dan AWS bersama-sama mengembangkan operator AWS Neuron untuk platform OpenShift, termasuk Red Hat OpenShift AI dan Red Hat OpenShift Service on AWS. Ini memudahkan tim DevOps dan data scientist untuk menjalankan dan mengelola beban kerja AI mereka langsung di atas akselerator AWS tanpa kerumitan tambahan.

3. Akses Mudah dan Automasi yang Efisien: Kolaborasi ini membuka akses yang lebih optimal ke akselerator AI berkapasitas tinggi dari AWS bagi ekosistem pelanggan Red Hat. Untuk mengatur dan mengotomasi semuanya, Red Hat juga telah merilis koleksi Ansible bersertifikasi amazon.ai untuk Red Hat Ansible Automation Platform, memungkinkan orkestrasi layanan AI di AWS secara lebih terintegrasi.

4. Komitmen pada Open Source: Seperti ciri khas Red Hat, inovasi ini tidak hanya terjadi di belakang pintu tertutup. Red Hat dan AWS berkolaborasi mengoptimalkan plugin untuk chip AWS yang di-upstream-kan ke proyek vLLM. Dengan menjadi kontributor komersial teratas untuk vLLM, Red Hat berkomitmen mempercepat kemampuan inferensi dan pelatihan AI bagi komunitas open source secara luas.

Suara Dukungan dari Para Pemimpin

Joe Fernandes, Wakil Presiden dan General Manager Unit Bisnis AI Red Hat, menekankan filosofi “model apa pun, di hardware apa pun”. “Dengan mengaktifkan Red Hat AI Inference Server kami di atas chip AI AWS, kami memberdayakan organisasi untuk meningkatkan beban kerja AI dengan efisiensi dan fleksibilitas yang lebih besar. Kolaborasi ini bertujuan membuat AI generatif lebih mudah diakses dan hemat biaya di seluruh lingkungan hybrid cloud,” ujarnya.

Colin Brace, Wakil Presiden Annapurna Labs di AWS, menyoroti keinginan pelanggan akan pilihan dan efisiensi. “Kolaborasi dengan Red Hat memberi pelanggan jalur yang didukung penuh untuk menerapkan AI generatif dalam skala besar, menggabungkan fleksibilitas open source dengan infrastruktur dan akselerator AI khusus AWS, untuk mempercepat time-to-value dari percobaan hingga produksi,” kata Brace.

Pendapat analis disampaikan oleh Anurag Agrawal dari Techaisle. “Kolaborasi ini mencerminkan strategi Red Hat dengan menggabungkan platform open hybrid cloud mereka dengan keunggulan ekonomi AWS Trainium dan Inferentia. Hal ini memberdayakan CIO untuk beralih dari eksperimen yang mahal ke produksi yang berkelanjutan.”

Jean-François Gamache dari CAE membagikan pengalaman praktisnya menggunakan Red Hat OpenShift Service on AWS. “Platform ini mendukung pengembang kami untuk fokus pada inisiatif bernilai tinggi – mendorong inovasi produk dan mempercepat integrasi AI di seluruh solusi kami,” tuturnya.

Baca juga: Trend Micro Bantu Lindungi Dunia dari Serangan Ransomware Kelompok LockBit

Masa Depan AI Enterprise yang Lebih Terbuka dan Efisien

Kolaborasi panjang Red Hat dan AWS kini memasuki babak baru yang fokus pada demokratisasi dan efisiensi inferensi AI di AWS. Dengan menyatukan kekuatan platform open source yang fleksibel dengan kinerja hardware khusus yang andal, kemitraan ini tidak hanya sekadar mengumumkan fitur teknis. Ini adalah sebuah respons terhadap kegelisahan nyata di kalangan CIO dan tim IT: bagaimana menghadirkan AI yang cerdas tanpa membebani anggaran secara berlebihan.

Bagi bisnis di Indonesia dan seluruh dunia yang sedang merencanakan atau sudah menjalankan proyek AI generatif, langkah ini menawarkan sebuah jalan alternatif yang lebih menjanjikan. Jalan yang mengarah pada skala produksi yang lebih bertanggung jawab, di mana inovasi tidak harus selalu dibayar dengan biaya yang membengkak.