Masa Depan AI Enterprise: Pendekatan Hybrid dan Terbuka
Di era digital yang semakin berkembang, masa depan AI enterprise tidak lagi bisa diwakili oleh satu model atau satu teknologi tunggal. Perusahaan kini membutuhkan pendekatan yang lebih fleksibel dan adaptif untuk dapat berinovasi dengan cepat. Red Hat, sebagai salah satu pemimpin dalam ekosistem open source, menekankan pentingnya pendekatan hybrid dan terbuka agar perusahaan bisa lebih lincah dalam menghadapi tantangan teknologi.
Tema utama dalam Red Hat Summit 2025 adalah ‘beban kerja apa pun, aplikasi apa pun, dan di mana pun’. Tema ini mencerminkan perkembangan terkini dalam dunia IT selama dua tahun terakhir. Model apa pun, akselerator apa pun, cloud apa pun—itu adalah pesan utama dari hybrid cloud di era AI. Yang paling menarik adalah bahwa semua inovasi ini ditenagai oleh kekuatan open source, yang telah menjadi fondasi bagi banyak solusi teknologi modern.
Keterbukaan sebagai Kunci Fleksibilitas
Keterbukaan memberikan pilihan, dan pilihan membawa fleksibilitas yang lebih besar. Dari model AI terbaik yang sesuai dengan kebutuhan bisnis hingga akselerator yang mendukung infrastruktur komputasi, strategi AI yang sukses harus mampu mengikuti data di mana pun data itu berada dalam lingkungan hybrid cloud. Inilah mengapa open source menjadi salah satu elemen kunci dalam pengembangan AI enterprise.
Salah satu aspek penting dalam AI adalah inferensi. Tanpa inferensi, model AI hanya akan menjadi kumpulan data yang tidak berdaya. Inferensi adalah seberapa cepat model merespons input pengguna dan seberapa efisien keputusan dibuat. Respons yang lambat dan efisiensi yang buruk akan berdampak pada biaya operasional dan kepercayaan pelanggan. Oleh karena itu, pengembangan teknologi inferensi menjadi fokus utama dalam ekosistem AI open source.
Solusi Open Source untuk Skalabilitas AI
Red Hat mengembangkan solusi seperti AI Inference Server, yang berbasis pada proyek vLLM open source dan teknologi Neural Magic. Server ini dirancang untuk digunakan dalam berbagai kebutuhan AI, termasuk menjalankannya di berbagai platform Linux maupun Kubernetes. Dengan demikian, organisasi bisa mengoptimalkan sumber daya komputasi mereka sesuai dengan lokasi data dan kebutuhan bisnis.
Skalabilitas juga menjadi tantangan utama dalam pengembangan AI. Tidak cukup hanya melakukan scaling, tetapi juga perlu mendistribusikan beban kerja AI yang masif ke sejumlah klaster komputasi terakselerasi. Proyek open source bernama llm-d hadir sebagai solusi untuk tantangan ini. Dengan kolaborasi bersama pemimpin industri AI, llm-d menggabungkan kekuatan orkestrasi Kubernetes dengan vLLM, sehingga memberikan solusi yang sangat nyata.
Teknologi seperti AI-aware network routing dan KV cache offloading turut membantu dalam mendemokratisasi proses inferensi AI. Dengan demikian, organisasi bisa memaksimalkan sumber daya komputasi mereka dengan biaya yang lebih hemat dan efisiensi yang meningkat.
Open Source sebagai Pendorong Inovasi AI
Llm-d dan vLLM, yang tersedia melalui Red Hat AI Inference Server, adalah contoh bagaimana open source bisa menjawab tantangan AI enterprise saat ini. Selain itu, komunitas open source juga terus bergerak untuk menghadapi tantangan jangka panjang. Misalnya, Llama Stack, yang dipimpin oleh Meta, bertujuan menyediakan komponen dasar dan API terstandarisasi untuk lifecycle aplikasi generative AI. Red Hat juga aktif dalam pengembangannya, terutama dalam pengembangan aplikasi agentic AI.
Selain itu, model context protocol (MCP) juga menjadi penting dalam pengembangan AI agent. MCP, yang dikembangkan oleh Anthropic dan tersedia sebagai open source, memberikan protokol standar untuk interaksi antara AI agent dan aplikasi. Hal ini memungkinkan aplikasi lama untuk memiliki kemampuan AI tanpa perlu pengembangan ulang secara besar-besaran.
Dalam beberapa tahun terakhir, model AI proprietary mulai kehilangan dominasinya. Kini, ekosistem open source semakin unggul, terutama dalam hal software yang mendukung model-model AI generasi terbaru. Dengan inovasi seperti vLLM, llm-d, dan produk open source lainnya, masa depan AI terlihat cerah. Apa pun modelnya, akselerator atau cloud-nya, masa depan AI akan didukung oleh inovasi open source yang terus berkembang.
