Karena aplikasi kecerdasan buatan (AI) terus berkembang, biaya operasional pusat data juga meningkat. Menurut The Wall Street Journal, beberapa pusat data di Amerika Serikat terpaksa menaikkan harga bagi pelanggan mereka untuk mengatasi biaya tambahan yang ditimbulkan oleh AI. Sementara itu, data menunjukkan bahwa permintaan untuk pusat data skala besar dan pusat data yang dihosting meningkat pesat, sementara permintaan kapasitas untuk pusat data yang dibangun oleh perusahaan relatif menurun.
Pusat data menghadapi tekanan biaya tidak hanya dari konsumsi daya tetapi juga dari kapasitas pemrosesan, chip canggih, tantangan rantai pasokan, dan teknologi AI. The Wall Street Journal melaporkan, "Aplikasi AI mengonsumsi lebih banyak energi daripada perangkat lunak tradisional karena mereka perlu memproses lebih banyak data. Dalam beberapa hari, satu model AI dapat menghabiskan puluhan ribu kilowatt-jam listrik. Model AI generatif, seperti teknologi yang digunakan dalam chatbot ChatGPT OpenAI, mengonsumsi 100 kali lebih banyak daripada alat AI standar." Selain itu, biaya dalam konstruksi, tenaga kerja, dan utilitas terus meningkat.
Sehubungan dengan peningkatan biaya pusat data adalah perluasan pasar layanan cloud yang cepat. Menurut data dari Synergy Research Group, pengeluaran perusahaan untuk layanan cloud telah tumbuh pada tingkat tahunan sekitar 42 persen selama dekade terakhir, naik dari $10 miliar pada tahun 2012 menjadi $227 miliar pada tahun 2022. Sebaliknya, pengeluaran untuk perangkat keras dan perangkat lunak pusat data oleh perusahaan telah tumbuh hanya sekitar 2 persen per tahun.
Synergy Research Group juga menyediakan data distribusi penggunaan kapasitas pusat data global. Pada tahun 2022, pusat data berskala besar menyumbang 37 persen dari total kapasitas pusat data global, dibandingkan dengan hanya 17 persen pada tahun 2017. Pusat data berskala besar mengacu pada fasilitas besar yang dioperasikan atau disewa oleh raksasa layanan cloud seperti Amazon, Microsoft, dan Google. Setengah dari ini adalah pusat data milik sendiri, dan setengah lainnya adalah pusat data sewaan. Fasilitas host non-skala besar menyumbang 23 persen dari pangsa. Sementara itu, pusat data yang dibangun oleh perusahaan memiliki pangsa 40 persen pada tahun 2022, turun signifikan dari 60 persen pada tahun 2017.
Synergy Research Group memperkirakan bahwa selama lima tahun ke depan, "sementara proporsi pusat data yang dibangun oleh perusahaan dalam kapasitas total akan berkurang lebih dari dua poin persentase setiap tahun, kapasitas aktualnya hanya akan sedikit berkurang. Proporsi total fasilitas yang dihosting kapasitas akan tetap relatif stabil." Perusahaan juga memperkirakan bahwa pada tahun 2027, pusat data berskala besar akan mencakup lebih dari 50 persen pangsa kapasitas, sementara pusat data yang dibangun oleh perusahaan akan berkurang menjadi kurang dari 30 persen.