Akamai Luncurkan Inference dan Agent Sandbox untuk Perkuat Ekosistem Cloud AI

Akamai memperkenalkan dua produk baru bernama Inference dan Agent Sandbox yang dirancang untuk memperkuat infrastruktur cloud AI, memberikan solusi inferensi yang lebih cepat serta lingkungan pengujian agen AI yang aman dan terisolasi.

Perusahaan jaringan global Akamai baru saja memperkenalkan dua layanan anyar yang bertujuan memperkuat ekosistem cloud AI mereka. Produk pertama bernama Akamai Inference, dirancang untuk mempercepat proses inferensi model bahasa besar atau large language model (LLM) secara langsung di edge network. Dengan pendekatan ini, latensi respons bisa ditekan sehingga pengalaman pengguna menjadi lebih responsif. Layanan kedua yang diperkenalkan adalah Agent Sandbox. Sesuai namanya, fitur ini menyediakan lingkungan pengujian terisolasi yang memungkinkan pengembang menguji dan mengembangkan agen AI tanpa risiko mengganggu sistem produksi. Lingkungan sandbox tersebut diharapkan bisa mempercepat siklus pengembangan sekaligus menjaga keamanan proses uji coba. Bagaimana Akamai Inference dan Agent Sandbox Bekerja? Akamai Inference bekerja dengan mendistribusikan kemampuan komputasi inferensi ke jaringan edge milik Akamai yang tersebar di berbagai lokasi di seluruh dunia. Pendekatan ini memungkinkan pemrosesan terjadi lebih dekat dengan pengguna akhir, berbeda dengan metode konvensional yang masih bergantung pada server pusat. Dengan demikian, waktu respons bisa berkurang secara signifikan. Sementara itu, Agent Sandbox menawarkan ruang虚拟 yang sepenuhnya terpisah dari lingkungan produksi. Pengembang bisa menjalankan berbagai skenario pengujian, termasuk percakapan multi-agen dan interaksi antar sistem, tanpa khawatir menimbulkan dampak terhadap layanan yang sudah berjalan. Fitur ini juga dilengkapi mekanisme monitoring otomatis untuk mendeteksi potensi anomali selama proses pengujian. Apa Manfaat Utama bagi Pengembang dan Perusahaan? Kedua produk ini memberikan manfaat konkret bagi pengembang yang bekerja dengan teknologi AI generatif. Inference memungkinkan implementasi model AI yang lebih efisien tanpa harus menyediakan infrastruktur server sendiri secara besar-besaran. Agent Sandbox mengurangi risiko kesalahan saat mengembangkan dan menguji agen AI sebelum diterjunkan ke lingkungan produksi. Kedua solusi ini mencerminkan strategi Akamai dalam memperluas layanan mereka beyond content delivery tradisional menuju komputasi edge berbasis AI. Dengan jaringan infrastruktur global yang sudah mapan, Akamai berharap bisa menawarkan nilai tambah bagi perusahaan yang membutuhkan performa tinggi untuk aplikasi AI mereka.

• Inference mendistribusikan pemrosesan ke edge network untuk kurangi latensi secara signifikan.
• Agent Sandbox menyediakan lingkungan pengujian terisolasi guna meminimalkan risiko saat pengembangan.
• Kedua solusi dirancang untuk mendukung pengembang dalam membangun dan menerapkan aplikasi AI generatif secara lebih aman dan efisien.
• Akamai memanfaatkan infrastruktur global yang sudah ada untuk mendukung penerapan AI di edge computing.

Sumber: Medcom.id (medcom.id)