Akamai Technologies resmi memperkenalkan inovasi terbarunya dalam ekosistem artificial intelligence (AI) melalui peluncuran orkestrasi cerdas berbasis AI Grid. Solusi ini menjadi implementasi global pertama dari desain referensi NVIDIA AI Grid, yang memungkinkan distribusi beban kerja AI secara efisien ke lebih dari 4.400 lokasi edge di seluruh dunia.
Langkah ini menandai evolusi penting dari Akamai Inference Cloud sekaligus membuka jalan bagi pengembangan AI real-time yang lebih cepat, efisien, dan scalable di berbagai industri.
Transformasi dari AI Terpusat ke AI Terdistribusi
Selama ini, infrastruktur AI identik dengan model terpusat atau “AI factory” yang berfokus pada pelatihan model berskala besar. Pendekatan tersebut memang masih relevan untuk kebutuhan training, namun mulai menunjukkan keterbatasan ketika dihadapkan pada kebutuhan inferensi real-time yang menuntut latensi rendah dan respons instan.
Melalui AI Grid, Akamai menghadirkan pendekatan baru dengan menggabungkan kekuatan komputasi edge, regional, dan core dalam satu orkestrasi terpadu. Dengan cara ini, proses inferensi tidak lagi harus bergantung pada pusat data, melainkan dapat dilakukan lebih dekat ke pengguna. Dampaknya, waktu respons menjadi jauh lebih cepat, pengalaman pengguna meningkat, dan biaya operasional dapat ditekan secara signifikan.
Orkestrasi Cerdas untuk Optimasi “Tokenomics”
Di balik AI Grid, terdapat orkestrator cerdas yang berfungsi sebagai pengatur distribusi beban kerja AI secara real-time. Sistem ini dirancang untuk memahami kebutuhan setiap permintaan, lalu secara otomatis mengarahkannya ke sumber daya komputasi yang paling sesuai.
Pendekatan ini memungkinkan optimalisasi yang signifikan terhadap apa yang disebut sebagai “tokenomics”, mulai dari efisiensi biaya per token hingga percepatan waktu respons menuju token pertama. Dengan memanfaatkan teknik seperti semantic caching dan routing cerdas, sistem dapat memastikan bahwa setiap proses berjalan dengan efisien tanpa mengorbankan performa.
Tidak hanya itu, orkestrasi ini juga memberikan fleksibilitas bagi perusahaan untuk menjalankan workload AI dalam berbagai skala, mulai dari kebutuhan ringan di edge hingga komputasi berat di core, semuanya dalam satu ekosistem yang terintegrasi.
Didukung GPU NVIDIA Blackwell Generasi Terbaru
Untuk menopang performanya, Akamai mengintegrasikan ribuan GPU NVIDIA RTX PRO 6000 Blackwell Server Edition ke dalam infrastrukturnya. Dukungan ini menghadirkan kapabilitas komputasi tinggi yang mampu menangani berbagai jenis workload AI, termasuk AI generatif, AI agen, hingga AI fisik.
Dengan fondasi NVIDIA AI Enterprise serta arsitektur Blackwell dan BlueField DPU, sistem ini tidak hanya unggul dalam performa, tetapi juga mampu menjaga stabilitas dan keamanan di berbagai titik jaringan, baik di edge maupun di pusat data.
Use Case Nyata: Gaming hingga Finansial
Pemanfaatan awal Akamai Inference Cloud menunjukkan bagaimana teknologi ini dapat diterapkan secara nyata di berbagai sektor. Dalam industri gaming, misalnya, teknologi ini memungkinkan interaksi NPC berbasis AI dengan waktu respons di bawah 50 milidetik, menciptakan pengalaman bermain yang jauh lebih imersif.
Di sektor keuangan, sistem ini dimanfaatkan untuk mendeteksi potensi penipuan secara real-time sekaligus memberikan rekomendasi yang dipersonalisasi pada momen krusial saat pengguna mengakses layanan. Sementara itu, industri media dan broadcasting dapat memanfaatkan teknologi ini untuk melakukan transkoding dan dubbing secara langsung, menjangkau audiens global tanpa hambatan.
Tidak ketinggalan, sektor ritel juga mulai mengadopsi teknologi ini untuk menghadirkan pengalaman belanja yang lebih cerdas melalui aplikasi AI di dalam toko dan di titik penjualan.
Edge Computing Jadi Kunci AI Masa Depan
Dengan jaringan edge yang tersebar di lebih dari 4.400 lokasi, Akamai menghadirkan pendekatan komputasi terdistribusi yang menjadi kunci dalam pengembangan AI modern. Dengan memproses data lebih dekat ke pengguna, berbagai tantangan seperti latensi tinggi, biaya mahal, dan keterbatasan skalabilitas dapat diatasi secara efektif.
Pendekatan ini memungkinkan perusahaan untuk membangun aplikasi AI-native yang tidak hanya responsif secara real-time, tetapi juga lebih efisien dan siap untuk di-scale secara global.
Menuju Gelombang Baru AI Real-Time
Akamai melihat bahwa masa depan AI akan bergerak menuju model yang lebih terdistribusi, di mana edge dan cloud bekerja secara sinergis. AI Grid menjadi fondasi penting dalam transisi ini, menghadirkan cara baru dalam membangun, mengelola, dan menskalakan aplikasi AI.
Dengan pendekatan ini, AI tidak lagi terbatas pada pusat data, melainkan hadir lebih dekat ke pengguna, membuka peluang baru untuk berbagai aplikasi real-time yang sebelumnya sulit diwujudkan.
