Human-Centered AI: Bagaimana AI Dibangun Agar Tetap Mengutamakan Manusia?

Artificial Intelligence (AI) telah berkembang dari sekadar teknologi pendukung menjadi bagian penting dalam berbagai aspek kehidupan. AI kini digunakan untuk membantu pencarian informasi, menganalisis data dalam jumlah besar, mendukung diagnosis medis, meningkatkan layanan pelanggan, hingga mempercepat proses pengambilan keputusan di dunia bisnis.

Seiring semakin luasnya adopsi AI, muncul pertanyaan yang semakin penting, yaitu bagaimana memastikan bahwa teknologi ini benar-benar bekerja untuk kepentingan manusia?

Pertanyaan tersebut melahirkan konsep Human-Centered AI (HCAI), yaitu pendekatan pengembangan AI yang menempatkan manusia sebagai pusat dari seluruh proses perancangan, implementasi, hingga evaluasi teknologi.

Dalam pendekatan ini, keberhasilan AI tidak hanya diukur dari kecanggihan algoritma atau kecepatan pemrosesan data, tetapi juga dari kemampuannya meningkatkan kualitas hidup, melindungi hak pengguna, serta mendukung pengambilan keputusan yang adil dan bertanggung jawab.

Konsep ini semakin mendapat perhatian di tingkat global. UNESCO, melalui Recommendation on the Ethics of Artificial Intelligence (2021), menegaskan bahwa pengembangan AI harus menghormati hak asasi manusia, menjaga keberagaman, menjunjung keadilan, serta melindungi privasi.

Sementara itu, OECD AI Principles yang telah diadopsi oleh puluhan negara juga menekankan bahwa AI harus memberikan manfaat bagi manusia dan masyarakat, sekaligus dikelola secara transparan, aman, dan akuntabel.

Di Indonesia, arah pengembangan AI juga mengedepankan prinsip serupa. Strategi Nasional Kecerdasan Artifisial (Stranas KA) 2020–2045 yang disusun oleh BRIN bersama berbagai pemangku kepentingan menempatkan etika, tata kelola, dan pembangunan sumber daya manusia sebagai bagian penting dalam pemanfaatan AI.

Hal ini menunjukkan bahwa keberhasilan transformasi digital tidak hanya bergantung pada kecanggihan teknologi, tetapi juga pada bagaimana teknologi tersebut digunakan secara bertanggung jawab.

Lantas, apa sebenarnya Human-Centered AI, dan mengapa konsep ini menjadi fondasi penting dalam pengembangan AI modern?

Baca Juga: AI Observability: Cara Memastikan AI Tetap Akurat dan Dapat Dipercaya

Apa Itu Human-Centered AI?

Human-Centered AI adalah pendekatan dalam pengembangan kecerdasan buatan yang memastikan teknologi dirancang untuk membantu manusia, bukan menggantikannya. Tujuan utamanya adalah menciptakan sistem AI yang mampu meningkatkan produktivitas, mendukung pengambilan keputusan, serta memberikan pengalaman yang aman dan mudah dipahami oleh pengguna.

Berbeda dengan anggapan bahwa AI akan mengambil alih seluruh pekerjaan manusia, Human-Centered AI justru menekankan kolaborasi antara manusia dan mesin. AI bertugas mengolah data, mengenali pola, serta memberikan rekomendasi berdasarkan informasi yang tersedia, sedangkan keputusan akhir tetap berada di tangan manusia, terutama pada situasi yang memiliki konsekuensi besar, seperti layanan kesehatan, keuangan, hukum, atau sektor publik.

Pendekatan ini juga menempatkan kebutuhan pengguna sebagai dasar dalam setiap tahap pengembangan AI. Artinya, sistem tidak hanya harus mampu menghasilkan jawaban yang akurat, tetapi juga mudah digunakan, dapat dijelaskan cara kerjanya, serta mempertimbangkan dampak sosial maupun etika dari setiap keputusan yang dihasilkan.

Menurut Stanford Institute for Human-Centered Artificial Intelligence (Stanford HAI), AI yang berpusat pada manusia bertujuan memperkuat kemampuan manusia melalui kolaborasi antara teknologi dan pengguna. Dengan demikian, AI tidak diposisikan sebagai pengganti manusia, melainkan sebagai alat yang membantu manusia bekerja lebih efektif, kreatif, dan produktif.

Mengapa Human-Centered AI Semakin Penting?

Semakin banyak keputusan yang melibatkan AI, semakin besar pula dampaknya terhadap kehidupan masyarakat. Saat ini, AI telah digunakan untuk membantu proses rekrutmen, memberikan rekomendasi kredit, mendukung diagnosis medis, menyaring konten digital, hingga memberikan rekomendasi produk dan layanan.

Jika sistem tersebut dikembangkan tanpa mempertimbangkan aspek kemanusiaan, risiko seperti bias algoritma, diskriminasi, pelanggaran privasi, maupun keputusan yang sulit dipahami dapat meningkat.

Karena itu, Human-Centered AI berupaya memastikan bahwa setiap sistem AI dikembangkan secara transparan, dapat diawasi, serta memberikan ruang bagi manusia untuk melakukan evaluasi.

Pendekatan ini juga membantu membangun kepercayaan terhadap AI, karena pengguna memahami bahwa teknologi tidak bekerja secara sepenuhnya otonom, melainkan tetap berada dalam pengawasan manusia.

Di tengah pesatnya perkembangan AI generatif dan model multimodal, prinsip Human-Centered AI menjadi semakin relevan. Organisasi tidak lagi hanya dituntut menghadirkan teknologi yang canggih, tetapi juga memastikan bahwa inovasi tersebut memberikan manfaat nyata bagi pengguna, menghormati hak individu, serta mematuhi regulasi yang berlaku.

Prinsip Utama Human-Centered AI

Agar benar-benar memberikan manfaat bagi manusia, pengembangan AI perlu berlandaskan sejumlah prinsip yang telah diakui secara internasional. OECD AI Principles, UNESCO Recommendation on the Ethics of Artificial Intelligence, serta NIST AI Risk Management Framework sama-sama menekankan, AI harus dikembangkan secara aman, transparan, dan bertanggung jawab.

Salah satu prinsip terpenting adalah transparansi. Pengguna perlu memahami alasan di balik rekomendasi atau keputusan yang dihasilkan AI, terutama ketika teknologi tersebut digunakan dalam proses yang berdampak besar, seperti seleksi tenaga kerja, layanan kesehatan, atau pemberian kredit. Transparansi membantu meningkatkan kepercayaan sekaligus memudahkan proses evaluasi apabila sistem menghasilkan keputusan yang kurang tepat.

Prinsip berikutnya adalah keadilan (fairness). Model AI belajar dari data yang tersedia sehingga kualitas data sangat mempengaruhi hasil yang diberikan. Jika data pelatihan mengandung bias, AI berpotensi menghasilkan keputusan yang merugikan kelompok tertentu. Oleh karena itu, pengembang perlu melakukan pengujian dan pemantauan secara berkala untuk meminimalkan bias serta memastikan sistem memberikan hasil yang adil bagi seluruh pengguna.

Perlindungan terhadap privasi dan keamanan data juga menjadi bagian yang tidak dapat dipisahkan dari Human-Centered AI. Di Indonesia, pengelolaan data pribadi diatur melalui Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP).

Regulasi tersebut menegaskan bahwa setiap organisasi yang mengumpulkan dan mengolah data pribadi harus menerapkan langkah-langkah yang memadai untuk menjaga keamanan informasi. Karena itu, implementasi AI perlu disertai tata kelola data (data governance) yang baik agar manfaat teknologi tidak mengorbankan hak pengguna.

Selain itu, Human-Centered AI menempatkan kendali manusia (human oversight) sebagai prinsip utama. AI dapat memberikan rekomendasi berdasarkan analisis data, tetapi keputusan yang memiliki konsekuensi hukum, finansial, atau sosial tetap memerlukan penilaian manusia. Pendekatan ini membantu mengurangi risiko apabila sistem mengalami kesalahan atau menghasilkan rekomendasi yang tidak sesuai dengan kondisi nyata.

Tidak kalah penting adalah kemudahan penggunaan dan inklusivitas. Sistem AI sebaiknya dirancang agar mudah dipahami oleh pengguna dari berbagai latar belakang, termasuk mereka yang tidak memiliki kemampuan teknis. Antarmuka yang sederhana, penjelasan yang jelas, serta desain yang mempertimbangkan kebutuhan pengguna akan meningkatkan kepercayaan sekaligus memperluas manfaat AI bagi masyarakat.

Baca Juga: AI Governance: Mengapa Perusahaan Perlu Mengatur Cara AI Bekerja?

Penerapan Human-Centered AI di Berbagai Sektor

Kolaborasi Manusia dan AI dalam Praktik

Pendekatan Human-Centered AI telah diterapkan di berbagai sektor dengan tujuan membantu manusia mengambil keputusan yang lebih baik, bukan menggantikan perannya.

Bidang Kesehatan

Di sektor kesehatan, AI digunakan untuk membantu menganalisis hasil pencitraan medis, rekam medis elektronik, maupun data laboratorium. Analisis tersebut dapat mempercepat proses identifikasi kondisi pasien, tetapi keputusan diagnosis dan tindakan medis tetap berada di tangan dokter yang mempertimbangkan kondisi pasien secara menyeluruh.

Layanan Pelanggan

Dalam layanan pelanggan, perusahaan memanfaatkan chatbot berbasis AI untuk menjawab pertanyaan umum selama 24 jam. Namun, ketika pelanggan menghadapi masalah yang lebih kompleks atau membutuhkan pertimbangan khusus, percakapan dapat dialihkan kepada petugas layanan. Model kolaborasi ini membuat pelayanan menjadi lebih cepat tanpa menghilangkan sentuhan manusia.

Bidang Pendidikan

Di bidang pendidikan, AI membantu menyediakan materi pembelajaran yang lebih personal sesuai kemampuan peserta didik, sementara guru tetap berperan sebagai fasilitator yang membimbing proses belajar, mengevaluasi hasil pembelajaran, dan membangun interaksi yang tidak dapat digantikan oleh teknologi.

Bidang Keuangan

Sementara itu, pada sektor keuangan, AI dimanfaatkan untuk mendeteksi transaksi yang berpotensi mengandung unsur penipuan, membantu analisis risiko, serta mendukung proses layanan kepada nasabah. Namun, keputusan strategis yang berkaitan dengan persetujuan pembiayaan atau investigasi tetap memerlukan evaluasi dari tenaga profesional.

Tantangan dalam Menerapkan Human-Centered AI

Meskipun menawarkan banyak manfaat, penerapan Human-Centered AI masih menghadapi berbagai tantangan. Salah satunya adalah memastikan bahwa model AI tetap transparan ketika tingkat kompleksitasnya semakin tinggi.

Seiring berkembangnya model AI generatif dan multimodal, menjelaskan bagaimana sistem menghasilkan suatu keputusan menjadi semakin sulit, sehingga pendekatan explainable AI terus dikembangkan untuk meningkatkan keterbukaan.

Tantangan lain berkaitan dengan kualitas data. AI hanya akan menghasilkan keluaran yang baik apabila dilatih menggunakan data yang representatif dan berkualitas. Data yang tidak lengkap, tidak seimbang, atau mengandung bias dapat mempengaruhi akurasi sekaligus menciptakan keputusan yang tidak adil.

Organisasi juga perlu memastikan bahwa implementasi AI mematuhi regulasi yang berlaku, termasuk perlindungan data pribadi dan tata kelola informasi. Hal ini menjadi semakin penting karena AI sering memproses data dalam jumlah besar yang bersifat sensitif. Oleh sebab itu, keberhasilan implementasi Human-Centered AI tidak hanya ditentukan oleh kecanggihan teknologi, tetapi juga oleh kesiapan organisasi dalam menerapkan tata kelola, pengawasan, dan manajemen risiko secara berkelanjutan.

Human-Centered AI sebagai Fondasi Transformasi Digital yang Bertanggung Jawab

Perkembangan AI menunjukkan bahwa teknologi dan manusia tidak perlu diposisikan sebagai pihak yang saling menggantikan. Sebaliknya, Human-Centered AI menegaskan bahwa kecerdasan buatan akan memberikan manfaat terbesar ketika dirancang untuk memperkuat kemampuan manusia, membantu pengambilan keputusan, serta meningkatkan produktivitas tanpa mengabaikan aspek etika, transparansi, dan perlindungan data.

Bagi organisasi, penerapan Human-Centered AI bukan hanya tentang mengadopsi teknologi terbaru, tetapi juga membangun ekosistem digital yang aman, terpercaya, dan berorientasi pada pengguna. Hal tersebut mencakup kesiapan infrastruktur, tata kelola data, keamanan siber, serta pengembangan sumber daya manusia yang mampu memanfaatkan AI secara bertanggung jawab.

Sebagai bagian dari percepatan transformasi digital di Indonesia, Enterprise Solutions Telkom menghadirkan berbagai solusi digital terintegrasi, mulai dari layanan konektivitas, cloud, data center, hingga cybersecurity, yang dapat menjadi fondasi bagi organisasi dalam mengembangkan dan mengimplementasikan solusi berbasis Artificial Intelligence.

Dengan dukungan infrastruktur yang andal dan tata kelola teknologi yang tepat, perusahaan dapat memanfaatkan AI untuk meningkatkan efisiensi, mempercepat inovasi, dan tetap menempatkan manusia sebagai pusat dari setiap transformasi digital.

Baca Juga: Agentic AI: Saat Kecerdasan Buatan Mulai Mengambil Keputusan Sendiri