Couchbase Capella Percepat Pengembangan Aplikasi Agentic AI dengan NVIDIA AI

Jakarta, itechmagz.id – Couchbase, Inc. (NASDAQ: BASE), platform data pengembang untuk aplikasi penting di dunia AI, hari ini (27/02/2025) mengumumkan bahwa Capella AI Model Services telah terintegrasi dengan NVIDIA NIM microservices, yang merupakan bagian dari platform perangkat lunak NVIDIA AI Enterprise, untuk menyederhanakan penerapan aplikasi berbasis AI, menyediakan solusi kuat bagi perusahaan untuk menjalankan model AI Generatif secara privat.

Layanan Model AI Capella, yang yang baru saja diperkenalkan sebagai bagian dari penawaran Layanan AI Capella yang komprehensif untuk menyederhanakan pengembangan agentic application, menyediakan endpoint terkelola untuk LLM dan model penyematan yang memungkinkan perusahaan memenuhi persyaratan privasi, kinerja, skalabilitas, dan latensi dalam batasan mereka. Layanan Model AI Capella yang didukung oleh NVIDIA AI Enterprise, meminimalkan latensi dengan mendekatkan AI ke data, menggabungkan kinerja akselerasi GPU dan keamanan level perusahaan untuk memberdayakan perusahaan agar dapat mengoperasikan beban kerja AI mereka dengan lancar. Kolaborasi ini meningkatkan kemampuan Agentic AI dan retrieval-augmented generation (RAG) Capella, memungkinkan pelanggan menggerakkan aplikasi bertenaga AI dengan throughput tinggi secara efisien, sambil mempertahankan fleksibilitas model.

“Perusahaan memerlukan platform data yang terpadu dan berkinerja tinggi untuk mendukung upaya AI mereka dan mengelola siklus hidup aplikasi secara penuh, mulai dari pengembangan hingga penerapan dan optimasi,” kata Matt McDonough, SVP of product and partners Couchbase. “Dengan mengintegrasikan NVIDIA NIM microservices ke dalam Layanan Model AI Capella, kami memberikan fleksibilitas kepada pelanggan untuk menjalankan model AI pilihan mereka dengan cara yang aman dan terkelola, sambil memberikan kinerja yang lebih baik untuk beban kerja AI dan integrasi yang mulus antara AI dengan data transaksional dan analitik. Layanan AI Capella memungkinkan pelanggan mempercepat aplikasi RAG dan agentic dengan percaya diri, sebab mereka tahu bahwa mereka dapat menyesuaikan skala dan mengoptimalkan aplikasi mereka seiring dengan kebutuhan bisnis yang terus berkembang.”

Perusahaan yang membangun dan menerapkan aplikasi AI dengan throughput tinggi dapat menghadapi tantangan dalam memastikan keandalan dan kepatuhan agen, sebab respons AI yang tidak dapat diandalkan dapat merusak reputasi jenama. Kebocoran data PII dapat melanggar regulasi privasi. Mengelola banyak basis data khusus juga dapat menciptakan biaya operasional yang dapat mengancam keberlanjutan. Couchbase membantu mengatasi tantangan ini dengan Layanan Model AI Capella, yang menyederhanakan pengembangan dan operasi aplikasi agen dengan menjaga model dan data tetap berada di platform terpadu, memfasilitasi operasi agentic secara real-time. Sebagai contoh, transkrip percakapan agen harus ditangkap dan dibandingkan secara real-time untuk meningkatkan akurasi respons model. Capella juga menghadirkan kemampuan seperti semantic caching, pembuatan guardrail, dan pemantauan agen dengan alur kerja RAG.

Capella AI Model Services dengan NVIDIA NIM memberikan solusi berbiaya efisien kepada pelanggan Couchbase dengan mempercepat pengiriman agen dan menyederhanakan penerapan model, sekaligus memaksimalkan pemanfaatan serta kinerja sumber daya. Solusi ini memanfaatkan LLM dan alat yang telah diuji sebelumnya termasuk NVIDIA NeMo Guardrails untuk membantu perusahaan mempercepat pengembangan AI sambil menegakkan regulasi dan perlindungan terhadap halusinasi AI. NIM NVIDIA microservices yang telah diuji secara ketat dan siap produksi, dioptimalkan untuk keandalan dan kesesuaiannya dengan kebutuhan bisnis secara spesifik.

“Mengintegrasikan perangkat lunak NVIDIA AI ke dalam Layanan Model AI Capella dari Couchbase memungkinkan pengembang menerapkan, menyesuaikan skala , dan mengoptimalkan aplikasi secara cepat,” kata Anne Hecht, Senior Director of Enterprise Software NVIDIA. “Akses ke NVIDIA NIM microservices semakin mempercepat penerapan AI dengan model yang telah dioptimalkan, sehingga memberikan kinerja dengan latensi rendah dan keamanan untuk aplikasi cerdas secara real-time.”

Couchbase menjadi silver sponsor di NVIDIA GTC, yang berlangsung di San Jose, CA. Untuk mempelajari lebih lanjut tentang bagaimana Couchbase bersama NVIDIA mampu mempercepat pengembangan aplikasi agentic AI, kunjungi stan 2004.