Trendtech, Jakarta – Red Hat, mengumumkan akuisisi Neural Magic, perusahaan pelopor dalam teknologi percepatan beban kerja inferensi AI generatif.
Dengan keahlian Neural Magic dalam performance engineering dan komitmennya terhadap inovasi open source, langkah ini memperkuat visi Red Hat untuk menghadirkan AI berkinerja tinggi di seluruh hybrid cloud.
Di tengah dominasi teknologi AI generatif, tantangan besar muncul dari kebutuhan daya komputasi dan operasional yang signifikan untuk mendukung model large language models (LLM). Solusi hemat biaya dan andal masih menjadi hambatan bagi sebagian besar perusahaan untuk mengadopsi teknologi ini.
Baca juga: Defend IT360: Solusi Keamanan Siber Menyeluruh untuk Bisnis Indonesia
Melalui akuisisi ini, Red Hat berkomitmen menjadikan AI generatif lebih mudah diakses oleh banyak perusahaan dengan mengintegrasikan inovasi vLLM yang dikembangkan oleh Neural Magic.
Teknologi vLLM, sebuah proyek open source yang dikembangkan oleh UC Berkeley, memungkinkan model AI generatif untuk memecahkan masalah dengan lebih efisien.
Dukungan terhadap berbagai hardware, termasuk AMD GPU, NVIDIA GPU, Google TPU, hingga x86 CPU, menjadikan vLLM solusi lintas platform yang fleksibel.
Dengan kepemimpinan Neural Magic di proyek ini, Red Hat akan memberikan akses terbuka kepada perusahaan untuk membangun strategi AI yang sesuai dengan kebutuhan spesifik mereka, baik di pusat data, cloud publik, maupun edge.
Neural Magic, yang didirikan pada 2018 di MIT, membawa pengalaman mendalam dalam software inferensi untuk deep learning. Integrasi teknologi Neural Magic dengan portofolio hybrid cloud Red Hat akan menawarkan:
- Model AI berlisensi open source dengan skala parameter mulai dari 1B hingga 405B.
- Kemampuan untuk menyesuaikan LLM dengan data privat dan kasus penggunaan unik.
- Optimalisasi infrastruktur dan operasional melalui keahlian performance engineering.
- Ekosistem mitra yang mendukung berbagai hardware, software, dan tooling.
Neural Magic juga telah mengembangkan LLM Compressor, sebuah library untuk optimasi model menggunakan algoritma sparsity dan kuantisasi mutakhir. Ini memungkinkan perusahaan untuk menjalankan model AI dengan efisiensi tinggi di seluruh lingkungan hybrid cloud.
Red Hat memperkuat portofolionya dengan produk dan teknologi yang mendukung implementasi AI, di antaranya:
- Red Hat Enterprise Linux AI (RHEL AI): Platform model dasar untuk pengembangan dan implementasi model IBM Granite.
- Red Hat OpenShift AI: Platform AI berbasis Kubernetes yang mempermudah pengembangan, pelatihan, dan pemantauan model machine learning.
- InstructLab: Proyek komunitas untuk meningkatkan Granite LLM melalui inovasi kolaboratif.
Dengan integrasi teknologi Neural Magic, Red Hat menyediakan inference stack yang optimal untuk mendukung perusahaan dalam menjalankan AI generatif di lingkungan hybrid cloud dengan kontrol penuh terhadap keamanan dan infrastruktur.
Dalam pernyataannya, Matt Hicks, Presiden dan CEO Red Hat, menyatakan bahwa beban kerja AI harus dapat dijalankan di mana saja, dan platform terbuka adalah kunci untuk mendukung kebutuhan operasional perusahaan. Sementara itu, Brian Stevens, CEO Neural Magic, menekankan pentingnya inovasi berbasis kolaborasi komunitas open source untuk transformasi AI.
Baca juga: Tren Pusat Data 2025: Bagaimana AI Mengubah Industri Infrastruktur Digital
Langkah akuisisi ini juga mendapat dukungan dari Dario Gil, Senior Vice President IBM. Menurutnya, LLM yang cloud-native dan berbasis open source akan menjadi standar industri, memberikan kontrol dan fleksibilitas yang diperlukan untuk penerapan AI di lingkungan hybrid cloud.
Akuisisi Neural Magic oleh Red Hat mencerminkan komitmen keduanya terhadap inovasi open source untuk mendemokratisasi akses ke AI generatif. Dengan integrasi ini, Red Hat siap membawa solusi AI yang hemat biaya, aman, dan fleksibel ke lebih banyak perusahaan di seluruh dunia. Transaksi ini masih menunggu tinjauan regulasi dan diharapkan akan selesai dalam waktu dekat.
