Trendtech, Jakarta – Red Hat baru-baru ini mengumumkan peluncuran Red Hat Enterprise Linux AI (RHEL AI), sebuah platform foundation model yang membantu pengguna dalam mengembangkan, menguji, dan menjalankan model AI generatif (GenAI) tanpa hambatan.
RHEL AI menggabungkan large language model (LLM) Granite yang berlisensi open source dari IBM Research, tools untuk model alignment dari InstructLab yang berbasis metodologi LAB (Large-scale Alignment for chatBots), dan pendekatan berbasis komunitas untuk pengembangan model melalui proyek InstructLab.
Keseluruhan solusi dikemas sebagai RHEL image yang dioptimalkan dan bootable, untuk penggunaan di server individual di seluruh hybrid cloud dan juga termasuk bagian dari OpenShift AI, platform machine learning operations (MLOps) hybrid dari Red Hat, untuk menjalankan model dan pengembangan InstructLab di seluruh lingkungan cluster yang tersebar.
Peluncuran ChatGPT telah menimbulkan ketertarikan sangat besar terhadap GenAI, dengan inovasi yang semakin cepat sejak saat itu. Enterprise mulai berpindah dari penilaian awal terhadap layanan GenAI ke fase pengembangan aplikasi dengan AI.
Baca juga: Microsoft dan LinkedIn Luncurkan Indeks Tren Kerja 2024 tentang Kondisi AI di Tempat Kerja
Ekosistem opsi open model yang terus berkembang pesat telah memacu inovasi AI lebih jauh dan menggambarkan bahwa tidak akan ada “satu model yang mengendalikan semua.” Pelanggan akan mendapatkan manfaat dari berbagai pilihan yang ada untuk memenuhi kebutuhan-kebutuhan spesifik, yang semuanya akan semakin dipercepat dengan pendekatan terbuka terhadap inovasi.
Menerapkan strategi AI membutuhkan lebih dari sekadar memilih sebuah model; perusahaan teknologi membutuhkan keahlian untuk menyempurnakan model tertentu untuk kasus penggunaan yang spesifik bagi mereka, serta mengatasi biaya yang besar dalam penerapan AI. Kelangkaan keahlian data science makin dipersulit dengan kebutuhan keuangan yang besar, termasuk:
- Pengadaan infrastruktur AI atau memanfaatkan layanan AI
- Proses yang rumit dalam menyempurnakan model AI untuk kebutuhan bisnis yang spesifik
- Mengintegrasikan AI ke dalam aplikasi enterprise
- Mengelola aplikasi dan lifecycle model
Untuk benar-benar menerobos hambatan dalam inovasi AI, enterprise harus bisa mengumpulkan daftar siapa saja yang bisa bekerja untuk inisiatif AI dan pada saat yang sama berusaha mengontrol biaya. Dengan alignment tools dari InstructLab, model Granite, dan RHEL AI, Red Hat akan memberikan manfaat dari proyek open source yang sebenarnya, yaitu berupa akses gratis dan bisa digunakan kembali, transparan dan terbuka terhadap kontribusi, ke dalam GenAI sebagai upaya untuk menghilangkan penghambat tersebut.
Mengembangkan AI secara terbuka dengan InstructLab
IBM Research menciptakan teknik Large-scale Alignment for chatBots (LAB), sebuah pendekatan model alignment yang menggunakan penciptaan data sintetis yang dipandu oleh taksonomi dan tuning framework multi-fase yang baru. Pendekatan ini menjadikan pengembangan model AI lebih terbuka dan bisa diakses oleh semua pengguna dengan mengurangi ketergantungan terhadap anotasi manusia yang mahal dan model proprietary.
Dengan menggunakan metode LAB, model bisa ditingkatkan dengan melakukan spesifikasi pada keahlian dan pengetahuan yang terkait dengan sebuah taksonomi, sehingga menghasilkan data sintetis dari informasi tersebut pada skala besar untuk memengaruhi model dan menggunakan data yang dihasilkan tersebut untuk pelatihan model.
Setelah melihat bahwa metode LAB bisa membantu memperbaiki kinerja model secara signifikan, IBM dan Red Hat memutuskan untuk meluncurkan InstructLab, komunitas open source yang dibangun di seputar metode LAB dan model Granite open source dari IBM.
Proyek InstructLab bertujuan untuk meletakkan pengembangan LLM di tangan para pengembang dengan membuat, mengembangkan, dan berkontribusi ke sebuah LLM semudah berkontribusi ke proyek open source apapun.
Sebagai bagian dari peluncuran InstructLab, IBM juga merilis satu paket Granite, sebuah code model berbahasa Inggris dan berbasis open source. Model ini diluncurkan di bawah lisensi Apache dengan transparansi pada dataset yang digunakan untuk melatih model tersebut.
Model Granite 7B telah diintegrasikan ke dalam komunitas InstructLab, di mana pengguna akhir bisa menyumbangkan keahlian dan pengetahuan mereka untuk menyempurnakan model tersebut secara kolektif, seperti yang mereka lakukan untuk proyek open source lain. Dukungan yang sama untuk code model Granite di InstructLab akan segera tersedia.
Inovasi AI open source pada tulang punggung Linux tepercaya
RHEL AI membangun pendekatan terbuka ini berdasarkan inovasi AI, yang menggabungkan proyek InstructLab versi yang enterprise-ready dan bahasa serta code model Granite bersama dengan platform Linux enterprise terdepan di dunia untuk menyederhanakan penggunaan di semua lingkungan infrastruktur hybrid. Ini menciptakan sebuah platform foundation model untuk membawa model GenAI berlisensi open source ke enterprise. RHEL AI meliputi:
- Bahasa dan code model Granite berlisensi open source yang didukung dan dilindungi oleh Red Hat
- Distribusi InstructLab yang didukung dan di-lifecycled yang menyediakan solusi yang skalabel dan hemat biaya untuk meningkatkan kemampuan LLM dan membuat lebih banyak orang dapat menyumbangka ilmu serta keterampilan mereka.
- Runtime instance model yang bootable dan dioptimalkan dengan model Granite dan paket tooling InstructLab sebagai RHEL image melalui image mode RHEL, termasuk runtime libraries Pytorch yang dioptimalkan dan akselerator untuk kerangka kerja AMD Instinct MI300X, Intel dan NVIDIA GPUs dan NeMo.
- Dukungan enterprise dan janji lifecycle terlengkap dari Red Hat yang dimulai dengan pendistribusian produk enterprise paling tepercaya, dukungan produksi 24×7 dan dukungan lifecycle yang panjang.
Ketika perusahaan bereksperimen dan menyempurnakan model AI terbaru mereka di RHEL AI, mereka siap untuk menskalakan alur kerja ini dengan Red Hat OpenShift AI, yang akan menyertakan RHEL AI, dan tempat di mana mereka bisa memanfaatkan mesin Kubernetes di OpenShift untuk melatih dan mendukung model AI pada skala besar dan kemampuan MLOps yang terintegrasi di OpenShift AI untuk mengelola model lifecycle.
Enterprise studio watsonx.ai dari IBM yang dibangun di Red Hat OpenShift AI saat ini, akan memetik manfaat dari penyertaan RHEL AI dalam OpenShift AI berdasarkan ketersediaan, sehingga memberikan kemampuan tambahan untuk pengembangan AI enterprise, pengelolaan data, tata kelola model, dan harga yang lebih baik.
Cloud bersifat hybrid. Begitu juga AI
Selama lebih dari 30 tahun, teknologi open source telah menyandingkan inovasi yang pesat dengan penghematan biaya IT yang besar serta mengurangi penghambat inovasi. Red Hat telah memimpin perubahan ini sejak lama, mulai dari menyediakan platform Linux enterprise yang terbuka dengan RHEL pada awal tahun 2000an, hingga mendorong container dan Kubernetes sebagai landasan open hybrid cloud dan komputasi cloud-native dengan Red Hat OpenShift.
Dorongan ini berlanjut dengan Red Hat yang memberdayakan strategi AI/ML di semua open hybrid cloud, sehingga memungkinkan beban kerja AI berjalan di mana data berada, baik di pusat data, di beberapa public cloud atau di edge.
Lebih dari sekadar beban kerja, visi Red Hat untuk AI membawa pelatihan model dan tuning ke jalur yang sama untuk mengatasi batasan di seputar kedaulatan data, kepatuhan dan integritas operasional dengan lebih baik.
Konsistensi platform Red Hat di berbagai lingkungan tersebut, di manapun mereka dijalankan, sangat penting untuk menjaga keberlanjutan inovasi AI.
RHEL AI dan komunitas InstructLab semakin memenuhi visi ini, mendobrak banyak penghalang untuk bereksperimen dan mengembangkan model AI sekaligus menyediakan tools, data dan konsep yang dibutuhkan untuk mendorong gelombang beban kerja cerdas berikutnya.
