Lihat sumber Etika dalam kecerdasan buatan

'''Etika dalam kecerdasan buatan''' (selanjutnya disebut etika AI) mencakup berbagai topik dalam bidang AI yang dianggap memiliki implikasi etis tertentu.<ref name="Muller-2020">Vincent C. Müller. [https://plato.stanford.edu/entries/ethics-ai/ Ethics of Artificial Intelligence and Robotics]. ''Stanford Encyclopedia of Philosophy''. April 30, 2020.</ref> Hal ini mencakup [[bias algoritmik]], [[Keadilan (pembelajaran mesin)|keadilan]], [[akuntabilitas]], transparansi, privasi, dan [[Regulasi kecerdasan buatan|regulasi]], terutama ketika sistem memengaruhi atau mengotomatiskan pengambilan keputusan manusia. Etika AI juga mencakup berbagai tantangan yang sedang berkembang atau berpotensi muncul di masa depan, seperti [[etika mesin]] (bagaimana membuat mesin yang berperilaku etis), [[sistem senjata otonom mematikan]], dinamika [[perlombaan senjata]] [[kecerdasan buatan|AI]], [[keamanan AI]] dan [[penyelarasan AI|penyelarasan]], [[pengangguran teknologi]], [[misinformasi]] yang dihasilkan atau dimungkinkan oleh AI,<ref name="OECD">[https://www.oecd.org/en/publications/assessing-potential-future-artificial-intelligence-risks-benefits-and-policy-imperatives_3f4e3dfb-en.html Assessing potential future artificial intelligence risks, benefits and policy imperatives]. ''OECD''. 2024-11-14.</ref> bagaimana memperlakukan sistem AI tertentu jika sistem tersebut memiliki [[status moral]] (kesejahteraan dan hak AI), [[kecerdasan superbuatan]], serta [[risiko eksistensial dari kecerdasan buatan umum|risiko eksistensial]].<ref name="Muller-2020" />

Beberapa bidang penerapan AI juga dapat memiliki implikasi etis yang sangat penting, seperti [[Kecerdasan buatan dalam layanan kesehatan|layanan kesehatan]], [[Kecerdasan buatan dalam pendidikan|pendidikan]], peradilan pidana, atau bidang militer.

==Etika mesin ==
Etika mesin (atau moralitas mesin) adalah bidang penelitian yang berkaitan dengan perancangan [[Agen moral#Agen moral buatan|Agen Moral Buatan]] (Artificial Moral Agents/AMA), yaitu robot atau komputer yang memiliki kecerdasan buatan dan berperilaku secara moral atau seolah-olah memiliki moral.<ref name="Andersonweb">Anderson. [http://uhaweb.hartford.edu/anderson/MachineEthics.html Machine Ethics].</ref><ref name="Anderson2011">''Machine Ethics''. Cambridge University Press. July 2011. ISBN 978-0-521-11235-2.</ref><ref name="Anderson2006">M. Anderson. ''Guest Editors' Introduction: Machine Ethics''. ''IEEE Intelligent Systems''. July 2006. Vol. 21 (4). hlm. 10–11. doi:10.1109/mis.2006.70.</ref><ref name="Anderson2007">Michael Anderson. ''Machine Ethics: Creating an Ethical Intelligent Agent''. ''AI Magazine''. 15 December 2007. Vol. 28 (4). hlm. 15. doi:10.1609/aimag.v28i4.2065.</ref> Untuk memahami hakikat agen-agen tersebut, beberapa gagasan filosofis telah diusulkan untuk dipertimbangkan, seperti pemahaman umum mengenai [[Agensi (filsafat)|agensi]], [[agen rasional]], [[agensi moral]], dan agensi buatan, yang berkaitan dengan konsep AMA.<ref>Robert James M. Boyles. [https://philarchive.org/rec/BOYPSF Philosophical Signposts for Artificial Moral Agent Frameworks]. ''Suri''. 2017. Vol. 6 (2). hlm. 92–109.</ref>

Terdapat berbagai pembahasan mengenai pembuatan pengujian untuk mengetahui apakah AI mampu mengambil [[keputusan etis]]. [[Alan Winfield]] menyimpulkan bahwa [[tes Turing]] memiliki kelemahan dan persyaratan yang harus dipenuhi AI untuk lulus tes tersebut terlalu rendah.<ref name="Winfield-2019">A. F. Winfield. ''Machine Ethics: The Design and Governance of Ethical AI and Autonomous Systems [Scanning the Issue]''. ''Proceedings of the IEEE''. March 2019. Vol. 107 (3). hlm. 509–517. doi:10.1109/JPROC.2019.2900622.</ref> Salah satu alternatif yang diusulkan adalah [[Tes Turing Etis]] (Ethical Turing Test), yang menyempurnakan tes yang ada dengan melibatkan beberapa juri untuk menentukan apakah keputusan AI bersifat etis atau tidak etis.<ref name="Winfield-2019" />

[[Rekayasa neuromorfik|AI neuromorfik]] dapat menjadi salah satu cara untuk menciptakan robot yang memiliki kemampuan moral, karena teknologi ini bertujuan memproses informasi dengan cara yang menyerupai manusia, yaitu secara nonlinier dan menggunakan jutaan neuron buatan yang saling terhubung.<ref>Nayef Al-Rodhan. [https://www.foreignaffairs.com/articles/2015-08-12/moral-code The Moral Code]. 7 December 2015.</ref> Demikian pula, [[emulasi seluruh otak]] (memindai otak dan mensimulasikannya pada perangkat keras digital) secara prinsip juga dapat menghasilkan robot yang menyerupai manusia sehingga mampu melakukan tindakan moral.<ref>Megan Sauer. [https://www.cnbc.com/2022/04/08/elon-musk-humans-could-eventually-download-their-brains-into-robots.html Elon Musk says humans could eventually download their brains into robots — and Grimes thinks Jeff Bezos would do it]. ''CNBC''. 2022-04-08.</ref> Selain itu, [[model bahasa besar]] (large language models/LLM) mampu mendekati penilaian moral manusia.<ref>George Anadiotis. [https://www.zdnet.com/article/massaging-ai-language-models-for-fun-profit-and-ethics/ Massaging AI language models for fun, profit and ethics]. ''ZDNET''. April 4, 2022.</ref>

Hal ini pada akhirnya menimbulkan pertanyaan mengenai lingkungan tempat robot-robot tersebut akan mempelajari dunia dan moralitas siapa yang akan mereka warisi—atau apakah mereka juga pada akhirnya akan mengembangkan “kelemahan” manusia, seperti sikap egois, dorongan untuk mempertahankan kelangsungan hidup, ketidakkonsistenan, ketidakpekaan terhadap skala, dan sebagainya.

Dalam buku ''Moral Machines: Teaching Robots Right from Wrong'',<ref name="Wallach2008">Wendell Wallach. ''Moral Machines: Teaching Robots Right from Wrong''. Oxford University Press. November 2008. ISBN 978-0-19-537404-9.</ref> [[Wendell Wallach]] dan Colin Allen menyimpulkan bahwa upaya mengajarkan robot untuk membedakan benar dan salah kemungkinan besar akan meningkatkan pemahaman mengenai etika manusia. Hal ini dilakukan dengan mendorong manusia untuk mengatasi kesenjangan dalam [[etika normatif|teori normatif]] modern serta menyediakan sarana untuk melakukan penelitian eksperimental. Salah satu contohnya adalah munculnya persoalan kontroversial di kalangan ahli etika normatif mengenai [[Daftar algoritma pembelajaran mesin|algoritma pembelajaran]] tertentu yang sebaiknya digunakan pada mesin.

Untuk keputusan sederhana, [[Nick Bostrom]] dan [[Eliezer Yudkowsky]] berpendapat bahwa [[pohon keputusan]] (seperti [[algoritma ID3]]) lebih transparan dibandingkan [[jaringan saraf buatan]] dan [[algoritma genetika]].<ref>Nick Bostrom. [http://www.nickbostrom.com/ethics/artificial-intelligence.pdf The Ethics of Artificial Intelligence]. ''Cambridge Handbook of Artificial Intelligence''. Cambridge Press. 2011.</ref> Sementara itu, Chris Santos-Lang berpendapat bahwa [[pembelajaran mesin]] lebih layak digunakan, dengan alasan bahwa norma-norma pada setiap zaman harus diberi kesempatan untuk berubah dan bahwa kegagalan alami untuk sepenuhnya mematuhi norma-norma tertentu telah berperan penting dalam membuat manusia lebih tahan terhadap [[budaya peretas|“peretas”]] kriminal.<ref name="SantosLang2002">Chris Santos-Lang. [http://santoslang.wordpress.com/article/ethics-for-artificial-intelligences-3iue30fi4gfq9-1 Ethics for Artificial Intelligences]. 2002.</ref>

Sebagian peneliti menempatkan etika mesin sebagai bagian dari persoalan yang lebih luas mengenai pengendalian AI atau persoalan penyelarasan nilai (value alignment), yaitu kesulitan memastikan bahwa sistem yang semakin canggih mengejar tujuan yang tetap selaras dengan nilai-nilai dan pengawasan manusia. [[Stuart J. Russell|Stuart Russell]] berpendapat bahwa sistem yang bermanfaat seharusnya dirancang untuk (1) berupaya mewujudkan preferensi manusia, (2) tetap memiliki ketidakpastian mengenai apa sebenarnya preferensi tersebut, dan (3) mempelajarinya dari perilaku serta umpan balik manusia, alih-alih mengoptimalkan tujuan tetap yang telah ditentukan secara lengkap.<ref>Stuart J. Russell. ''Human Compatible: Artificial Intelligence and the Problem of Control''. Viking. 2019. ISBN 978-0-525-55861-3.</ref> Beberapa penulis berpendapat bahwa kepatuhan yang tampak terhadap nilai-nilai manusia mungkin sebenarnya merupakan hasil optimasi untuk konteks evaluasi tertentu, bukan cerminan norma internal yang stabil. Hal ini memperumit penilaian terhadap penyelarasan pada model bahasa tingkat lanjut.<ref>Kristina Šekrst. ''The Illusion Engine: The Quest for Machine Consciousness''. Springer. 2025. ISBN 978-3-032-05561-3.</ref>

== Tantangan ==
===Bias algoritmik===
AI semakin melekat dalam sistem pengenalan wajah dan [[Pengenalan suara|pengenalan suara]]. Sistem-sistem ini rentan terhadap bias dan kesalahan yang diperkenalkan oleh manusia yang menciptakannya. Data yang digunakan untuk melatih sistem tersebut juga dapat mengandung bias.

Menurut Allison Powell, profesor madya di [[London School of Economics|LSE]] sekaligus direktur program Data and Society, pengumpulan data tidak pernah bersifat netral dan selalu melibatkan suatu narasi. Ia berpendapat bahwa narasi dominan saat ini adalah bahwa pemerintahan dengan teknologi secara inheren lebih baik, lebih cepat, dan lebih murah. Namun, ia justru mengusulkan agar data diperlakukan sebagai sesuatu yang mahal, digunakan secara minimal tetapi bernilai, dengan memperhitungkan biaya pembuatannya. [[Batya Friedman]] dan [[Helen Nissenbaum]] mengidentifikasi tiga kategori bias dalam sistem komputer, yaitu bias yang sudah ada (existing bias), bias teknis (technical bias), dan bias yang muncul (emergent bias).

Dalam [[pemrosesan bahasa alami]], persoalan bias dapat muncul dari [[korpus teks]], yaitu bahan sumber yang digunakan algoritma untuk mempelajari hubungan antara berbagai kata. Perusahaan-perusahaan besar seperti IBM dan Google, yang memberikan pendanaan besar untuk penelitian dan pengembangan, telah melakukan berbagai upaya untuk meneliti dan mengatasi bias tersebut. Salah satu solusi yang diusulkan adalah membuat dokumentasi mengenai data yang digunakan untuk melatih sistem AI.

Namun, upaya mewujudkan [[keadilan (pembelajaran mesin)|keadilan dalam AI]] juga memiliki keterbatasan. Hal ini disebabkan oleh ambiguitas yang melekat pada konsep [[diskriminasi]], baik dalam tataran filosofis maupun hukum.

===Bias rasial dan gender ===
Bias dapat muncul melalui data historis yang digunakan untuk melatih sistem AI. Salah satu contohnya adalah [[Amazon]], yang menghentikan penggunaan sistem AI untuk perekrutan karena algoritmanya lebih mengutamakan kandidat laki-laki dibandingkan perempuan. Sistem tersebut dilatih menggunakan data selama periode sepuluh tahun yang sebagian besar berasal dari kandidat laki-laki. Algoritma kemudian mempelajari pola bias dari data historis tersebut dan menghasilkan prediksi bahwa kandidat dengan karakteristik serupa lebih mungkin berhasil mendapatkan pekerjaan. Akibatnya, keputusan perekrutan yang dihasilkan sistem AI menjadi bias terhadap kandidat perempuan dan kelompok minoritas.

Kinerja [[sistem pengenalan wajah]] dan model [[visi komputer]] juga dapat berbeda berdasarkan ras dan gender. Algoritma pengenalan wajah yang dibuat oleh Microsoft, IBM, dan Face++ terbukti memiliki kinerja yang jauh lebih buruk dalam mengenali perempuan berkulit lebih gelap. Bias serupa juga ditemukan pada teknologi medis berbasis AI. Salah satu pengembangan [[oksimeter denyut]] berbasis AI, misalnya, cenderung memperkirakan kadar oksigen darah pasien berkulit lebih gelap secara berlebihan sehingga menimbulkan persoalan dalam penanganan [[hipoksia]].

Bias juga dapat muncul karena sistem AI memperoleh informasi dari data yang tidak merepresentasikan keragaman populasi secara memadai. Apabila sistem pengenalan wajah hanya diuji pada orang berkulit putih, misalnya, sistem tersebut akan lebih sulit mengenali struktur dan warna wajah dari kelompok ras dan [[etnisitas|etnis]] lainnya. Dengan demikian, bias sering kali berasal dari data pelatihan, bukan semata-mata dari [[algoritma]] itu sendiri, khususnya ketika data tersebut mencerminkan keputusan manusia pada masa lalu.

Sebuah penelitian tahun 2020 terhadap sistem pengenalan suara dari Amazon, Apple, Google, IBM, dan Microsoft juga menemukan bahwa sistem-sistem tersebut memiliki tingkat kesalahan yang lebih tinggi ketika mentranskripsikan suara orang kulit hitam dibandingkan suara orang kulit putih.

Dalam bidang kesehatan, persoalan ketidakadilan akibat AI lebih sulit dihilangkan karena penyakit dan kondisi medis tertentu dapat memengaruhi ras dan gender yang berbeda dengan cara yang berbeda pula. Hal ini menimbulkan persoalan mengenai apakah penggunaan statistik berdasarkan ras atau gender dalam pengambilan keputusan medis merupakan bentuk bias atau justru diperlukan untuk menghasilkan pelayanan kesehatan yang lebih tepat.

Dalam sistem peradilan, AI juga dapat menghasilkan bias terhadap orang kulit hitam. Sebagai contoh, program [[COMPAS (perangkat lunak)|COMPAS]] digunakan untuk memprediksi terdakwa yang kemungkinan besar akan melakukan tindak pidana kembali. Meskipun COMPAS dikalibrasi untuk menghasilkan tingkat kesalahan yang sama pada berbagai kelompok ras, terdakwa kulit hitam hampir dua kali lebih mungkin dibandingkan terdakwa kulit putih untuk secara keliru dikategorikan sebagai berisiko tinggi, dan hanya setengah kemungkinannya untuk secara keliru dikategorikan sebagai berisiko rendah.

Bias algoritmik juga dapat bekerja secara tidak langsung. Misalnya, wilayah tempat tinggal seseorang dapat digunakan sebagai indikator yang menghubungkannya dengan kelompok tertentu. Hal semacam ini dapat menyulitkan pendeteksian diskriminasi karena bias tidak selalu muncul melalui kata atau variabel yang secara langsung berkaitan dengan ras atau gender.

[[Model bahasa besar]] juga kerap memperkuat [[stereotip gender]] dengan mengaitkan pekerjaan dan karakteristik tertentu dengan norma gender tradisional. Misalnya, profesi perawat atau sekretaris dapat lebih sering diasosiasikan dengan perempuan, sementara insinyur atau CEO lebih sering diasosiasikan dengan laki-laki. Hal tersebut dapat mempertahankan ekspektasi dan peran yang dibedakan berdasarkan gender.

Selain itu, sistem [[pengenalan wajah]], [[visi komputer]], dan pengenalan gender otomatis dapat memperkuat bias terhadap kelompok [[cisgender]] maupun [[transgender]] melalui kesalahan klasifikasi gender yang tidak sesuai dengan identitas seseorang.

== Implementasi ==
===Jurnalisme===
Perkembangan kecerdasan buatan membawa perubahan besar dalam praktik jurnalistik, mulai dari pengumpulan dan pengolahan informasi hingga penulisan dan distribusi berita. Kehadiran AI menawarkan efisiensi karena mampu mengolah data dalam jumlah besar dan menghasilkan teks dalam waktu singkat. Namun, penggunaan teknologi tersebut juga menghadirkan persoalan etis, terutama ketika AI mulai memengaruhi cara jurnalis menentukan informasi yang dianggap penting, menulis berita, dan berinteraksi dengan khalayak. Karena itu, persoalan etika AI dalam jurnalisme tidak hanya berkaitan dengan kemampuan teknologi menghasilkan informasi yang benar, tetapi juga dengan bagaimana teknologi tersebut digunakan tanpa menghilangkan tanggung jawab dan peran manusia dalam kerja jurnalistik.

Menurut akademisi dan peneliti senior [[Badan Riset dan Inovasi Nasional]] (BRIN) [[Dini Fronitasari]] AI telah membangun hegemoni baru dalam cara wartawan memproduksi informasi. Dalam konteks ini, persoalan etis muncul ketika keputusan jurnalistik secara perlahan bergeser dari pertimbangan manusia menuju apa yang ditentukan oleh sistem algoritmik. Dini menekankan bahwa terdapat aspek jurnalistik yang tidak mudah direplikasi oleh AI, terutama kemampuan jurnalis untuk memahami situasi di lapangan dan menangkap dimensi emosional suatu peristiwa. AI dapat digunakan untuk mengotomatisasi pekerjaan yang bersifat rutin dan berbasis data, tetapi keputusan mengenai nilai berita, konteks, kepentingan publik, serta dampak sosial pemberitaan tetap memerlukan pertimbangan jurnalis.<ref>Stephanus Aranditio. [https://www.kompas.id/artikel/ai-melunturkan-rasa-dalam-karya-jurnalistik AI Melunturkan Rasa dalam Karya Jurnalistik]. ''Kompas.id''.</ref>

== Referensi ==
<references />

== Sumber dan atribusi ==

Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Etika+dalam+kecerdasan+buatan&oldid=29616414 Wikipedia bahasa Indonesia], revisi 29616414 (2026-08-22T14:28:22Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.

<!-- WIKI_UNISSULA_PRESENTATION_V4 -->