Transparansi algoritma adalah keterbukaan tentang tujuan, struktur, dan tindakan yang mendasari algoritma yang digunakan untuk mencari, memproses, dan menyajikan informasi. Algoritma sendiri adalah serangkaian langkah yang diikuti oleh program komputer untuk mengambil keputusan dalam suatu tindakan tertentu.
Pertanyaan tentang apakah algoritma yang berdampak pada masyarakat umum harus dibuat transparan atau tidak sering menjadi perdebatan. Contohnya, dalam sistem penilaian kredit. Jika seseorang mendapatkan skor kredit yang lebih rendah dari yang mereka kira pantas, mereka memang memiliki hak untuk mengajukan banding, tetapi tidak berhak menuntut agar algoritma yang digunakan dalam penilaian tersebut diungkap ke publik. Hal ini karena perusahaan yang menentukan skor kredit tersebut juga memiliki hak, seperti hak untuk melindungi properti intelektual (IP) mereka.
Salah satu metode yang umum digunakan untuk meningkatkan transparansi dan memastikan akuntabilitas algoritma adalah dengan audit pihak ketiga. Pendekatan ini dikenal sebagai qualified transparency. Misalnya, setelah ada keluhan kepada Federal Trade Commission (FTC) tentang Google, badan pengawas menggunakan algoritma pemantau untuk meneliti bagaimana Google menampilkan hasil pencarian. Audit ini menemukan bahwa algoritma pencarian Google cenderung menampilkan layanannya sendiri lebih tinggi dalam hasil pencarian dibandingkan layanan pesaing. Untuk meningkatkan transparansi, kriteria evaluasi dan hasilnya dirilis serta dijelaskan secara publik. Meskipun FTC memutuskan bahwa tindakan Google tidak bersifat anti-kompetitif, sorotan negatif dari investigasi ini mendorong Google untuk melakukan perubahan.
Keputusan yang dibuat oleh algoritma bisa menjadi tidak transparan karena berbagai alasan, baik teknis maupun sosial, atau bahkan sengaja dibuat tidak transparan untuk melindungi kekayaan intelektual. Misalnya, algoritma bisa jadi terlalu kompleks untuk dijelaskan, atau upaya menjelaskannya memerlukan penggunaan data yang bertentangan dengan regulasi privasi suatu negara. Terlepas dari alasan-alasan tersebut, pemerintah, perusahaan, dan organisasi di seluruh dunia terus mencari cara untuk mengatasi permasalahan ini dan meningkatkan akuntabilitas algoritma agar masyarakat dapat memahami dan mempercayai sistem yang digunakan.