youngster.id - Perusahaan penyedia platform observabilitas dan keamanan berbasis AI untuk aplikasi cloud, Datadog, Inc., menekankan pentingnya penguatan visibilitas dan pengelolaan infrastruktur teknologi guna memastikan investasi kecerdasan artifisial (artificial intelligence/AI) memberikan performa yang dapat diandalkan serta berdampak bagi hasil bisnis.
Penguatan pengelolaan infrastruktur AI menjadi kian mendesak seiring dengan percepatan adopsi AI di Indonesia. Hal ini mencakup rencana pembangunan AI Factory berskala besar dengan kapasitas mencapai 1 gigawatt (GW) dalam tiga tahun ke depan untuk mendukung ekosistem AI tingkat regional. Pada skala ini, elemen komputasi seperti GPU (graphics processing units), jaringan, sistem daya, hingga sistem pendingin (cooling) perlu dikelola sebagai satu kesatuan sistem yang terintegrasi.
Field CTO Asia-Pasifik & Jepang Datadog, Yadi Narayana, menjelaskan bahwa kapasitas komputasi yang besar perlu diimbangi dengan efisiensi dan pemantauan operasional yang terstruktur.
“Skala infrastruktur AI berkembang pesat, tetapi kapasitas komputasi yang lebih besar tidak serta-merta menghasilkan hasil bisnis yang lebih baik. Saat organisasi mulai menjalankan AI ke tahap produksi, mereka perlu memahami bagaimana kinerja lingkungan tersebut, di mana sumber daya dikonsumsi, serta di mana potensi hambatan dapat bermunculan,” ujar Yadi, Selasa (13/10/2026).
Laporan State of AI Engineering 2026 dan Efisiensi Operasional
Berdasarkan laporan State of AI Engineering 2026 dari Datadog yang disusun dari data penggunaan riil ribuan organisasi secara global, hampir 1 dari 20 permintaan (request) AI mengalami kegagalan saat aplikasi memasuki tahap produksi. Sekitar 60% kegagalan tersebut dipicu oleh keterbatasan kapasitas, rate limits, kuota, dan batas konkurensi, alih-alih masalah pada kualitas model AI itu sendiri.
Laporan tersebut juga mencatat lonjakan volume data harian yang dikirim ke model AI. Pada kelompok pengguna reguler, volume data per permintaan tercatat naik lebih dari dua kali lipat dalam satu tahun terakhir. Sementara itu, lonjakan yang lebih signifikan terjadi pada kelompok pengguna tertinggi (top users), di mana volume data mengalami kenaikan hingga empat kali lipat.
Peningkatan volume data dan beban kerja ini berpotensi memicu pembengkakan biaya operasional, terutama mengingat biaya komputasi infrastruktur yang umumnya menggunakan mata uang Dolar AS sementara pendapatan operasional dihasilkan dalam mata uang lokal.
Implementasi Observabilitas Terpadu di Sektor Industri
Guna mengatasi kompleksitas lingkungan digital, platform observabilitas Datadog memungkinkan perusahaan memantau penggunaan GPU, konsumsi token, serta mengaitkannya dengan metrik latensi, tingkat kesalahan (error rate), dan kinerja aplikasi secara real-time.
Di Indonesia, penerapan konsolidasi platform pemantauan telah dilakukan oleh operator telekomunikasi Indosat Ooredoo Hutchison (IOH). IOH menyatukan lebih dari enam perangkat pemantau terpisah di seluruh jaringan, IT, dan platform digitalnya ke dalam satu platform terpadu Datadog guna meningkatkan visibilitas operasional secara menyeluruh.
“Fase berikutnya dari infrastruktur AI tidak hanya ditentukan oleh seberapa besar kapasitas komputasi yang tersedia, melainkan seberapa efektif organisasi dapat mengoperasikan dan mengoptimalkan lingkungan yang berjalan di atasnya,” kata Yadi. (*AMBS)
Discussion about this post