Lompat ke isi

Etika dalam kecerdasan buatan

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung

Etika dalam kecerdasan buatan (selanjutnya disebut etika AI) mencakup berbagai topik dalam bidang AI yang dianggap memiliki implikasi etis tertentu.[1] Hal ini mencakup bias algoritmik, keadilan, akuntabilitas, transparansi, privasi, dan regulasi, terutama ketika sistem memengaruhi atau mengotomatiskan pengambilan keputusan manusia. Etika AI juga mencakup berbagai tantangan yang sedang berkembang atau berpotensi muncul di masa depan, seperti etika mesin (bagaimana membuat mesin yang berperilaku etis), sistem senjata otonom mematikan, dinamika perlombaan senjata AI, keamanan AI dan penyelarasan, pengangguran teknologi, misinformasi yang dihasilkan atau dimungkinkan oleh AI,[2] bagaimana memperlakukan sistem AI tertentu jika sistem tersebut memiliki status moral (kesejahteraan dan hak AI), kecerdasan superbuatan, serta risiko eksistensial.[1]

Beberapa bidang penerapan AI juga dapat memiliki implikasi etis yang sangat penting, seperti layanan kesehatan, pendidikan, peradilan pidana, atau bidang militer.

Etika mesin

Etika mesin (atau moralitas mesin) adalah bidang penelitian yang berkaitan dengan perancangan Agen Moral Buatan (Artificial Moral Agents/AMA), yaitu robot atau komputer yang memiliki kecerdasan buatan dan berperilaku secara moral atau seolah-olah memiliki moral.[3][4][5][6] Untuk memahami hakikat agen-agen tersebut, beberapa gagasan filosofis telah diusulkan untuk dipertimbangkan, seperti pemahaman umum mengenai agensi, agen rasional, agensi moral, dan agensi buatan, yang berkaitan dengan konsep AMA.[7]

Terdapat berbagai pembahasan mengenai pembuatan pengujian untuk mengetahui apakah AI mampu mengambil keputusan etis. Alan Winfield menyimpulkan bahwa tes Turing memiliki kelemahan dan persyaratan yang harus dipenuhi AI untuk lulus tes tersebut terlalu rendah.[8] Salah satu alternatif yang diusulkan adalah Tes Turing Etis (Ethical Turing Test), yang menyempurnakan tes yang ada dengan melibatkan beberapa juri untuk menentukan apakah keputusan AI bersifat etis atau tidak etis.[8]

AI neuromorfik dapat menjadi salah satu cara untuk menciptakan robot yang memiliki kemampuan moral, karena teknologi ini bertujuan memproses informasi dengan cara yang menyerupai manusia, yaitu secara nonlinier dan menggunakan jutaan neuron buatan yang saling terhubung.[9] Demikian pula, emulasi seluruh otak (memindai otak dan mensimulasikannya pada perangkat keras digital) secara prinsip juga dapat menghasilkan robot yang menyerupai manusia sehingga mampu melakukan tindakan moral.[10] Selain itu, model bahasa besar (large language models/LLM) mampu mendekati penilaian moral manusia.[11]

Hal ini pada akhirnya menimbulkan pertanyaan mengenai lingkungan tempat robot-robot tersebut akan mempelajari dunia dan moralitas siapa yang akan mereka warisi—atau apakah mereka juga pada akhirnya akan mengembangkan “kelemahan” manusia, seperti sikap egois, dorongan untuk mempertahankan kelangsungan hidup, ketidakkonsistenan, ketidakpekaan terhadap skala, dan sebagainya.

Dalam buku Moral Machines: Teaching Robots Right from Wrong,[12] Wendell Wallach dan Colin Allen menyimpulkan bahwa upaya mengajarkan robot untuk membedakan benar dan salah kemungkinan besar akan meningkatkan pemahaman mengenai etika manusia. Hal ini dilakukan dengan mendorong manusia untuk mengatasi kesenjangan dalam teori normatif modern serta menyediakan sarana untuk melakukan penelitian eksperimental. Salah satu contohnya adalah munculnya persoalan kontroversial di kalangan ahli etika normatif mengenai algoritma pembelajaran tertentu yang sebaiknya digunakan pada mesin.

Untuk keputusan sederhana, Nick Bostrom dan Eliezer Yudkowsky berpendapat bahwa pohon keputusan (seperti algoritma ID3) lebih transparan dibandingkan jaringan saraf buatan dan algoritma genetika.[13] Sementara itu, Chris Santos-Lang berpendapat bahwa pembelajaran mesin lebih layak digunakan, dengan alasan bahwa norma-norma pada setiap zaman harus diberi kesempatan untuk berubah dan bahwa kegagalan alami untuk sepenuhnya mematuhi norma-norma tertentu telah berperan penting dalam membuat manusia lebih tahan terhadap “peretas” kriminal.[14]

Sebagian peneliti menempatkan etika mesin sebagai bagian dari persoalan yang lebih luas mengenai pengendalian AI atau persoalan penyelarasan nilai (value alignment), yaitu kesulitan memastikan bahwa sistem yang semakin canggih mengejar tujuan yang tetap selaras dengan nilai-nilai dan pengawasan manusia. Stuart Russell berpendapat bahwa sistem yang bermanfaat seharusnya dirancang untuk (1) berupaya mewujudkan preferensi manusia, (2) tetap memiliki ketidakpastian mengenai apa sebenarnya preferensi tersebut, dan (3) mempelajarinya dari perilaku serta umpan balik manusia, alih-alih mengoptimalkan tujuan tetap yang telah ditentukan secara lengkap.[15] Beberapa penulis berpendapat bahwa kepatuhan yang tampak terhadap nilai-nilai manusia mungkin sebenarnya merupakan hasil optimasi untuk konteks evaluasi tertentu, bukan cerminan norma internal yang stabil. Hal ini memperumit penilaian terhadap penyelarasan pada model bahasa tingkat lanjut.[16]

Tantangan

Bias algoritmik

AI semakin melekat dalam sistem pengenalan wajah dan pengenalan suara. Sistem-sistem ini rentan terhadap bias dan kesalahan yang diperkenalkan oleh manusia yang menciptakannya. Data yang digunakan untuk melatih sistem tersebut juga dapat mengandung bias.

Menurut Allison Powell, profesor madya di LSE sekaligus direktur program Data and Society, pengumpulan data tidak pernah bersifat netral dan selalu melibatkan suatu narasi. Ia berpendapat bahwa narasi dominan saat ini adalah bahwa pemerintahan dengan teknologi secara inheren lebih baik, lebih cepat, dan lebih murah. Namun, ia justru mengusulkan agar data diperlakukan sebagai sesuatu yang mahal, digunakan secara minimal tetapi bernilai, dengan memperhitungkan biaya pembuatannya. Batya Friedman dan Helen Nissenbaum mengidentifikasi tiga kategori bias dalam sistem komputer, yaitu bias yang sudah ada (existing bias), bias teknis (technical bias), dan bias yang muncul (emergent bias).

Dalam pemrosesan bahasa alami, persoalan bias dapat muncul dari korpus teks, yaitu bahan sumber yang digunakan algoritma untuk mempelajari hubungan antara berbagai kata. Perusahaan-perusahaan besar seperti IBM dan Google, yang memberikan pendanaan besar untuk penelitian dan pengembangan, telah melakukan berbagai upaya untuk meneliti dan mengatasi bias tersebut. Salah satu solusi yang diusulkan adalah membuat dokumentasi mengenai data yang digunakan untuk melatih sistem AI.

Namun, upaya mewujudkan keadilan dalam AI juga memiliki keterbatasan. Hal ini disebabkan oleh ambiguitas yang melekat pada konsep diskriminasi, baik dalam tataran filosofis maupun hukum.

Bias rasial dan gender

Bias dapat muncul melalui data historis yang digunakan untuk melatih sistem AI. Salah satu contohnya adalah Amazon, yang menghentikan penggunaan sistem AI untuk perekrutan karena algoritmanya lebih mengutamakan kandidat laki-laki dibandingkan perempuan. Sistem tersebut dilatih menggunakan data selama periode sepuluh tahun yang sebagian besar berasal dari kandidat laki-laki. Algoritma kemudian mempelajari pola bias dari data historis tersebut dan menghasilkan prediksi bahwa kandidat dengan karakteristik serupa lebih mungkin berhasil mendapatkan pekerjaan. Akibatnya, keputusan perekrutan yang dihasilkan sistem AI menjadi bias terhadap kandidat perempuan dan kelompok minoritas.

Kinerja sistem pengenalan wajah dan model visi komputer juga dapat berbeda berdasarkan ras dan gender. Algoritma pengenalan wajah yang dibuat oleh Microsoft, IBM, dan Face++ terbukti memiliki kinerja yang jauh lebih buruk dalam mengenali perempuan berkulit lebih gelap. Bias serupa juga ditemukan pada teknologi medis berbasis AI. Salah satu pengembangan oksimeter denyut berbasis AI, misalnya, cenderung memperkirakan kadar oksigen darah pasien berkulit lebih gelap secara berlebihan sehingga menimbulkan persoalan dalam penanganan hipoksia.

Bias juga dapat muncul karena sistem AI memperoleh informasi dari data yang tidak merepresentasikan keragaman populasi secara memadai. Apabila sistem pengenalan wajah hanya diuji pada orang berkulit putih, misalnya, sistem tersebut akan lebih sulit mengenali struktur dan warna wajah dari kelompok ras dan etnis lainnya. Dengan demikian, bias sering kali berasal dari data pelatihan, bukan semata-mata dari algoritma itu sendiri, khususnya ketika data tersebut mencerminkan keputusan manusia pada masa lalu.

Sebuah penelitian tahun 2020 terhadap sistem pengenalan suara dari Amazon, Apple, Google, IBM, dan Microsoft juga menemukan bahwa sistem-sistem tersebut memiliki tingkat kesalahan yang lebih tinggi ketika mentranskripsikan suara orang kulit hitam dibandingkan suara orang kulit putih.

Dalam bidang kesehatan, persoalan ketidakadilan akibat AI lebih sulit dihilangkan karena penyakit dan kondisi medis tertentu dapat memengaruhi ras dan gender yang berbeda dengan cara yang berbeda pula. Hal ini menimbulkan persoalan mengenai apakah penggunaan statistik berdasarkan ras atau gender dalam pengambilan keputusan medis merupakan bentuk bias atau justru diperlukan untuk menghasilkan pelayanan kesehatan yang lebih tepat.

Dalam sistem peradilan, AI juga dapat menghasilkan bias terhadap orang kulit hitam. Sebagai contoh, program COMPAS digunakan untuk memprediksi terdakwa yang kemungkinan besar akan melakukan tindak pidana kembali. Meskipun COMPAS dikalibrasi untuk menghasilkan tingkat kesalahan yang sama pada berbagai kelompok ras, terdakwa kulit hitam hampir dua kali lebih mungkin dibandingkan terdakwa kulit putih untuk secara keliru dikategorikan sebagai berisiko tinggi, dan hanya setengah kemungkinannya untuk secara keliru dikategorikan sebagai berisiko rendah.

Bias algoritmik juga dapat bekerja secara tidak langsung. Misalnya, wilayah tempat tinggal seseorang dapat digunakan sebagai indikator yang menghubungkannya dengan kelompok tertentu. Hal semacam ini dapat menyulitkan pendeteksian diskriminasi karena bias tidak selalu muncul melalui kata atau variabel yang secara langsung berkaitan dengan ras atau gender.

Model bahasa besar juga kerap memperkuat stereotip gender dengan mengaitkan pekerjaan dan karakteristik tertentu dengan norma gender tradisional. Misalnya, profesi perawat atau sekretaris dapat lebih sering diasosiasikan dengan perempuan, sementara insinyur atau CEO lebih sering diasosiasikan dengan laki-laki. Hal tersebut dapat mempertahankan ekspektasi dan peran yang dibedakan berdasarkan gender.

Selain itu, sistem pengenalan wajah, visi komputer, dan pengenalan gender otomatis dapat memperkuat bias terhadap kelompok cisgender maupun transgender melalui kesalahan klasifikasi gender yang tidak sesuai dengan identitas seseorang.

Implementasi

Jurnalisme

Perkembangan kecerdasan buatan membawa perubahan besar dalam praktik jurnalistik, mulai dari pengumpulan dan pengolahan informasi hingga penulisan dan distribusi berita. Kehadiran AI menawarkan efisiensi karena mampu mengolah data dalam jumlah besar dan menghasilkan teks dalam waktu singkat. Namun, penggunaan teknologi tersebut juga menghadirkan persoalan etis, terutama ketika AI mulai memengaruhi cara jurnalis menentukan informasi yang dianggap penting, menulis berita, dan berinteraksi dengan khalayak. Karena itu, persoalan etika AI dalam jurnalisme tidak hanya berkaitan dengan kemampuan teknologi menghasilkan informasi yang benar, tetapi juga dengan bagaimana teknologi tersebut digunakan tanpa menghilangkan tanggung jawab dan peran manusia dalam kerja jurnalistik.

Menurut akademisi dan peneliti senior Badan Riset dan Inovasi Nasional (BRIN) Dini Fronitasari AI telah membangun hegemoni baru dalam cara wartawan memproduksi informasi. Dalam konteks ini, persoalan etis muncul ketika keputusan jurnalistik secara perlahan bergeser dari pertimbangan manusia menuju apa yang ditentukan oleh sistem algoritmik. Dini menekankan bahwa terdapat aspek jurnalistik yang tidak mudah direplikasi oleh AI, terutama kemampuan jurnalis untuk memahami situasi di lapangan dan menangkap dimensi emosional suatu peristiwa. AI dapat digunakan untuk mengotomatisasi pekerjaan yang bersifat rutin dan berbasis data, tetapi keputusan mengenai nilai berita, konteks, kepentingan publik, serta dampak sosial pemberitaan tetap memerlukan pertimbangan jurnalis.[17]

Referensi

  1. ↑ 1,0 1,1 Vincent C. Müller. Ethics of Artificial Intelligence and Robotics. Stanford Encyclopedia of Philosophy. April 30, 2020.
  2. ↑ Assessing potential future artificial intelligence risks, benefits and policy imperatives. OECD. 2024-11-14.
  3. ↑ Anderson. Machine Ethics.
  4. ↑ Machine Ethics. Cambridge University Press. July 2011. ISBN 978-0-521-11235-2.
  5. ↑ M. Anderson. Guest Editors' Introduction: Machine Ethics. IEEE Intelligent Systems. July 2006. Vol. 21 (4). hlm. 10–11. doi:10.1109/mis.2006.70.
  6. ↑ Michael Anderson. Machine Ethics: Creating an Ethical Intelligent Agent. AI Magazine. 15 December 2007. Vol. 28 (4). hlm. 15. doi:10.1609/aimag.v28i4.2065.
  7. ↑ Robert James M. Boyles. Philosophical Signposts for Artificial Moral Agent Frameworks. Suri. 2017. Vol. 6 (2). hlm. 92–109.
  8. ↑ 8,0 8,1 A. F. Winfield. Machine Ethics: The Design and Governance of Ethical AI and Autonomous Systems [Scanning the Issue]. Proceedings of the IEEE. March 2019. Vol. 107 (3). hlm. 509–517. doi:10.1109/JPROC.2019.2900622.
  9. ↑ Nayef Al-Rodhan. The Moral Code. 7 December 2015.
  10. ↑ Megan Sauer. Elon Musk says humans could eventually download their brains into robots — and Grimes thinks Jeff Bezos would do it. CNBC. 2022-04-08.
  11. ↑ George Anadiotis. Massaging AI language models for fun, profit and ethics. ZDNET. April 4, 2022.
  12. ↑ Wendell Wallach. Moral Machines: Teaching Robots Right from Wrong. Oxford University Press. November 2008. ISBN 978-0-19-537404-9.
  13. ↑ Nick Bostrom. The Ethics of Artificial Intelligence. Cambridge Handbook of Artificial Intelligence. Cambridge Press. 2011.
  14. ↑ Chris Santos-Lang. Ethics for Artificial Intelligences. 2002.
  15. ↑ Stuart J. Russell. Human Compatible: Artificial Intelligence and the Problem of Control. Viking. 2019. ISBN 978-0-525-55861-3.
  16. ↑ Kristina Šekrst. The Illusion Engine: The Quest for Machine Consciousness. Springer. 2025. ISBN 978-3-032-05561-3.
  17. ↑ Stephanus Aranditio. AI Melunturkan Rasa dalam Karya Jurnalistik. Kompas.id.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 29616414 (2026-08-22T14:28:22Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Etika_dalam_kecerdasan_buatan&oldid=329"