Lompat ke isi

Algoritma bias: Perbedaan antara revisi

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung

Maintenance script (bicara | kontrib)

37.956 suntingan
Maintenance script (bicara | kontrib)
37.956 suntingan
Impor teks terkontrol dari Wikipedia bahasa Indonesia; revisi 29305060; atribusi sumber disertakan.
 
Maintenance script (bicara | kontrib)
37.956 suntingan
Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi
 
Baris 1: Baris 1:
[[File:02-Sandvig-Seeing-the-Sort-2014-WEB.png|thumb|right|280px|Sebuah flow chart menunjukkan keputusan yang dibuat oleh mesin rekomendasi,]]
'''Algoritma bias''' menggambarkan [[galat]] sistematis dan berulang dalam [[sistem komputer]] yang menciptakan hasil “[[#Mendefinisikan keadilan|tidak adil]]”, seperti “mengistimewakan” satu kategori di atas kategori lainnya dengan cara yang berbeda dari fungsi yang dimaksudkan dari algoritma.
'''Algoritma bias''' menggambarkan [[galat]] sistematis dan berulang dalam [[sistem komputer]] yang menciptakan hasil “[[#Mendefinisikan keadilan|tidak adil]]”, seperti “mengistimewakan” satu kategori di atas kategori lainnya dengan cara yang berbeda dari fungsi yang dimaksudkan dari algoritma.


Banyak faktor dapat menyebabkan bias, seperti desain algoritma atau penggunaan yang tidak disengaja atau tidak terduga; serta keputusan tentang cara data dikodekan, dikumpulkan, dipilih, atau digunakan untuk melatih algoritma. Sebagai contoh, hasil [[mesin pencari]] dan [[Media sosial|platform media sosial]] telah diamati memiliki algoritma bias. Bias ini dapat berdampak dari pelanggaran privasi yang tidak disengaja hingga memperkuat [[Bias|bias sosial]] terkait ras, gender, orientasi seksual, dan etnisitas. Studi tentang bias algoritmik terutama berfokus pada algoritma yang mencerminkan diskriminasi yang "sistematis dan tidak adil". [[Regulasi Umum Perlindungan Data|Peraturan Perlindungan Data Umum]] [[Uni Eropa]] yang diusulkan pada tahun 2018 dan Undang-Undang Kecerdasan Buatan yang diusulkan pada tahun 2021 dan disetujui pada tahun 2024 adalah beberapa contoh undang-undang baru yang baru saja mulai menangani bias ini.
Banyak faktor dapat menyebabkan bias, seperti desain algoritma atau penggunaan yang tidak disengaja atau tidak terduga; serta keputusan tentang cara data dikodekan, dikumpulkan, dipilih, atau digunakan untuk melatih algoritma. Sebagai contoh, hasil [[mesin pencari]] dan [[Media sosial|platform media sosial]] telah diamati memiliki algoritma bias. Bias ini dapat berdampak dari pelanggaran privasi yang tidak disengaja hingga memperkuat [[Bias|bias sosial]] terkait ras, gender, orientasi seksual, dan etnisitas. Studi tentang bias algoritmik terutama berfokus pada algoritma yang mencerminkan diskriminasi yang "sistematis dan tidak adil".<ref name=":1">Marco Marabelli. [https://link.springer.com/book/10.1007/978-3-031-53919-0 AI, Ethics, and Discrimination in Business]. ''Palgrave Studies in Equity, Diversity, Inclusion, and Indigenization in Business''. 2024. doi:10.1007/978-3-031-53919-0.</ref> [[Regulasi Umum Perlindungan Data|Peraturan Perlindungan Data Umum]] [[Uni Eropa]] yang diusulkan pada tahun 2018 dan Undang-Undang Kecerdasan Buatan yang diusulkan pada tahun 2021 dan disetujui pada tahun 2024 adalah beberapa contoh undang-undang baru yang baru saja mulai menangani bias ini.


Semakin banyak algoritma yang dapat mengontrol perilaku, politik, institusi, dan masyarakat, [[Sosiologi|sosiolog]] mulai khawatir tentang bagaimana hasil yang tidak terduga dan manipulasi data dapat memengaruhi dunia fisik. Sebagai akibat dari fenomena psikologis yang dikenal sebagai bias otomatisasi, algoritma dapat secara keliru menunjukkan otoritas yang lebih besar daripada keahlian manusia. Ini terjadi karena algoritma umumnya dianggap netral dan bebas bias. Dalam beberapa situasi, ketergantungan pada algoritma dapat berfungsi sebagai pengganti orang yang bertanggung jawab atas hasil yang dihasilkan. Ada kemungkinan bias masuk ke dalam sistem algoritmik karena ekspektasi sosial, budaya, atau institusional yang sudah ada sebelumnya; cara fitur dan label dipilih; kendala teknis dalam desain; atau penggunaan dalam situasi yang tidak terduga atau oleh audiens yang tidak diperhitungkan saat desain perangkat lunak dibuat.
Semakin banyak algoritma yang dapat mengontrol perilaku, politik, institusi, dan masyarakat, [[Sosiologi|sosiolog]] mulai khawatir tentang bagaimana hasil yang tidak terduga dan manipulasi data dapat memengaruhi dunia fisik. Sebagai akibat dari fenomena psikologis yang dikenal sebagai bias otomatisasi, algoritma dapat secara keliru menunjukkan otoritas yang lebih besar daripada keahlian manusia. Ini terjadi karena algoritma umumnya dianggap netral dan bebas bias. Dalam beberapa situasi, ketergantungan pada algoritma dapat berfungsi sebagai pengganti orang yang bertanggung jawab atas hasil yang dihasilkan. Ada kemungkinan bias masuk ke dalam sistem algoritmik karena ekspektasi sosial, budaya, atau institusional yang sudah ada sebelumnya; cara fitur dan label dipilih; kendala teknis dalam desain; atau penggunaan dalam situasi yang tidak terduga atau oleh audiens yang tidak diperhitungkan saat desain perangkat lunak dibuat.<ref>Harini Suresh. [https://dl.acm.org/doi/10.1145/3465416.3483305 A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle]. ''Proceedings of the 1st ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization''. Association for Computing Machinery. 2021-11-04. hlm. 1–9. doi:10.1145/3465416.3483305. ISBN 978-1-4503-8553-4.</ref>


Dalam berbagai situasi, mulai dari hasil pemilu hingga penyebaran [[Ujaran kebencian di dunia maya|ujaran kebencian secara daring]], algoritma bias telah disebutkan. Selain itu, bias ini muncul di bidang peradilan pidana, layanan kesehatan, dan perekrutan, memperparah ketidaksetaraan rasial, sosial-ekonomi, dan gender yang sudah ada. Beberapa kasus penangkapan salah pria kulit hitam telah dikaitkan dengan teknologi pengenalan wajah yang kurang akurat untuk mengidentifikasi wajah berkulit gelap. Masalah ini berasal dari kumpulan data yang tidak seimbang. Karena sifat algoritma yang rahasia dan biasanya dianggap sebagai [[rahasia dagang]], sulit untuk memahami, meneliti, dan mengungkap biasnya. Bahkan jika transparansi penuh diberikan, kompleksitas algoritma tertentu membuatnya sulit dipahami. Selain itu, algoritma memiliki kemampuan untuk mengubah atau merespons masukan atau keluaran dengan cara yang mudah direplikasi atau tidak dapat diprediksi. Bahkan antara pengguna layanan yang sama, sering kali tidak ada satu "algoritma" tunggal yang dapat diperiksa, melainkan jaringan program dan input data yang saling terkait.
Dalam berbagai situasi, mulai dari hasil pemilu hingga penyebaran [[Ujaran kebencian di dunia maya|ujaran kebencian secara daring]], algoritma bias telah disebutkan. Selain itu, bias ini muncul di bidang peradilan pidana, layanan kesehatan, dan perekrutan, memperparah ketidaksetaraan rasial, sosial-ekonomi, dan gender yang sudah ada. Beberapa kasus penangkapan salah pria kulit hitam telah dikaitkan dengan teknologi pengenalan wajah yang kurang akurat untuk mengidentifikasi wajah berkulit gelap. Masalah ini berasal dari kumpulan data yang tidak seimbang. Karena sifat algoritma yang rahasia dan biasanya dianggap sebagai [[rahasia dagang]], sulit untuk memahami, meneliti, dan mengungkap biasnya. Bahkan jika transparansi penuh diberikan, kompleksitas algoritma tertentu membuatnya sulit dipahami. Selain itu, algoritma memiliki kemampuan untuk mengubah atau merespons masukan atau keluaran dengan cara yang mudah direplikasi atau tidak dapat diprediksi. Bahkan antara pengguna layanan yang sama, sering kali tidak ada satu "algoritma" tunggal yang dapat diperiksa, melainkan jaringan program dan input data yang saling terkait.


== Definisi ==
== Definisi ==
Meskipun definisi algoritma sulit ditemukan,<ref name=":0">[https://culturedigitally.org/2012/02/what-is-an-algorithm/ What is an Algorithm? – Culture Digitally]. 2012-02-01.</ref> algoritma dapat digambarkan sebagai rangkaian prosedur yang digunakan oleh program untuk membaca, mengumpulkan, memproses, dan menganalisis [[data]] untuk menghasilkan keluaran.<ref>Thomas H Cormen. ''Introduction to Algorithms''. ''Cambridge''. 2009. Vol. 5. ISBN 9780262033848.</ref> Lihat [[Algoritma]] untuk pengenalan teknis yang lebih mendalam. Kemampuan untuk memproses, menyimpan, dan mengirimkan data telah ditingkatkan berkat kemajuan [[Perangkat keras|perangkat keras komputer]]. Ini pada gilirannya mendorong pengembangan dan adopsi teknologi seperti [[Pemelajaran mesin|pembelajaran mesin]] dan [[kecerdasan buatan]].<ref>Rob Kitchin. [https://www.tandfonline.com/doi/full/10.1080/1369118X.2016.1154087 Thinking critically about and researching algorithms]. ''Information, Communication & Society''. 2017-01-02. doi:10.1080/1369118x.2016.1154087.</ref> Algoritma adalah inti dari mesin pencari,<ref>[https://www.google.com/search/howsearchworks/how-search-works/ranking-results/ Menentukan Peringkat Hasil – Cara Kerja Google Penelusuran]. ''Google Penelusuran - Ketahui Cara Kerja Google Penelusuran''.</ref> situs media sosial,<ref>Victor Luckerson. [https://time.com/collection-post/3950525/facebook-news-feed-algorithm/ Here's How Your Facebook News Feed Actually Works]. ''TIME.com''. 2015-07-09.</ref> mesin rekomendasi,<ref>Tom Vanderbilt. [https://www.wired.com/2013/08/qq-netflix-algorithm/ The Science Behind the Netflix Algorithms That Decide What You'll Watch Next]. ''Wired''.</ref> ritel daring,<ref>Julia Angwin,Surya Mattu. [https://www.propublica.org/article/amazon-says-it-puts-customers-first-but-its-pricing-algorithm-doesnt Amazon Says It Puts Customers First. But Its Pricing Algorithm Doesn’t]. ''ProPublica''. 2016-09-20.</ref> [[iklan daring]],<ref>Rob Livingstone. [https://theconversation.com/the-future-of-online-advertising-is-big-data-and-algorithms-69297 The future of online advertising is big data and algorithms]. ''The Conversation''. 2017-03-13.</ref> dan banyak lagi berkat analisis dan pemrosesan data.<ref>Leo Hickman. [https://www.theguardian.com/science/2013/jul/01/how-algorithms-rule-world-nsa How algorithms rule the world]. ''The Guardian''. 2013-07-01.</ref>


Meskipun definisi algoritma sulit ditemukan, algoritma dapat digambarkan sebagai rangkaian prosedur yang digunakan oleh program untuk membaca, mengumpulkan, memproses, dan menganalisis [[data]] untuk menghasilkan keluaran. Lihat [[Algoritma]] untuk pengenalan teknis yang lebih mendalam. Kemampuan untuk memproses, menyimpan, dan mengirimkan data telah ditingkatkan berkat kemajuan [[Perangkat keras|perangkat keras komputer]]. Ini pada gilirannya mendorong pengembangan dan adopsi teknologi seperti [[Pemelajaran mesin|pembelajaran mesin]] dan [[kecerdasan buatan]]. Algoritma adalah inti dari mesin pencari, situs media sosial, mesin rekomendasi, ritel daring, [[iklan daring]], dan banyak lagi berkat analisis dan pemrosesan data.
[[Ilmu sosial|Ilmuwan sosial]] saat ini memperhatikan proses algoritmik yang tertanam dalam perangkat keras dan aplikasi perangkat lunak karena efeknya terhadap politik dan sosial. Mereka juga mempertanyakan asumsi netralitas yang mendasari algoritma.<ref>Nick Seaver. [https://web.archive.org/web/20171201012555/https://static1.squarespace.com/static/55eb004ee4b0518639d59d9b/t/55ece1bfe4b030b2e8302e1e/1441587647177/seaverMiT8.pdf Knowing Algorithms]. ''Media in Transition 8''. 2013.</ref><ref>Stephen D.N. Graham. [http://dro.dur.ac.uk/194/1/194.pdf Software-sorted geographies]. ''Progress in Human Geography''. 2016. Vol. 29. doi:10.1191/0309132505ph568oa.</ref><ref>Eamon Tewell. [http://muse.jhu.edu/article/613843 Toward the Resistant Reading of Information: Google, Resistant Spectatorship, and Critical Information Literacy]. ''portal: Libraries and the Academy''. 2016. Vol. 16 (2). hlm. 289–310.</ref><ref>Kate Crawford. [https://hbr.org/2013/04/the-hidden-biases-in-big-data The Hidden Biases in Big Data]. ''Harvard Business Review''. 2013-04-01.</ref> ''Algorithmic bias'' adalah istilah yang digunakan untuk menggambarkan kesalahan yang berulang dan sistematis yang menghasilkan hasil yang tidak adil, seperti memberikan preferensi khusus kepada kelompok pengguna tertentu secara arbitrer daripada kelompok pengguna lainnya. Sebagai contoh, algoritma [[skor kredit]] dapat menolak pinjaman tanpa menjadi tidak adil jika secara konsisten menimbang kriteria keuangan yang relevan. Namun, jika algoritma merekomendasikan pinjaman kepada kelompok pengguna tertentu tetapi menolak kelompok pengguna lain yang hampir identik berdasarkan kriteria yang tidak relevan, perilaku ini dapat diulangi dalam banyak kasus.<ref>Batya Friedman. [https://nissenbaum.tech.cornell.edu/papers/biasincomputers.pdf Bias in Computer Sytems]. ''ACM Transactions on Information Systems''. 1996. Vol. 14 (3). doi:10.1145/230538.230561.</ref> Ada kemungkinan bias ini terjadi secara sengaja atau tidak sengaja. Misalnya, mereka dapat berasal dari data yang bias yang dikumpulkan dari pekerja yang sebelumnya melakukan tugas yang akan diambil alih oleh algoritma.
 
[[Ilmu sosial|Ilmuwan sosial]] saat ini memperhatikan proses algoritmik yang tertanam dalam perangkat keras dan aplikasi perangkat lunak karena efeknya terhadap politik dan sosial. Mereka juga mempertanyakan asumsi netralitas yang mendasari algoritma. ''Algorithmic bias'' adalah istilah yang digunakan untuk menggambarkan kesalahan yang berulang dan sistematis yang menghasilkan hasil yang tidak adil, seperti memberikan preferensi khusus kepada kelompok pengguna tertentu secara arbitrer daripada kelompok pengguna lainnya. Sebagai contoh, algoritma [[skor kredit]] dapat menolak pinjaman tanpa menjadi tidak adil jika secara konsisten menimbang kriteria keuangan yang relevan. Namun, jika algoritma merekomendasikan pinjaman kepada kelompok pengguna tertentu tetapi menolak kelompok pengguna lain yang hampir identik berdasarkan kriteria yang tidak relevan, perilaku ini dapat diulangi dalam banyak kasus. Ada kemungkinan bias ini terjadi secara sengaja atau tidak sengaja. Misalnya, mereka dapat berasal dari data yang bias yang dikumpulkan dari pekerja yang sebelumnya melakukan tugas yang akan diambil alih oleh algoritma.


== Metode ==
== Metode ==
Ketika kumpulan data disusun, data dapat dikumpulkan, didigitalisasi, disesuaikan, dan dimasukkan ke dalam [[basis data]] sesuai dengan standar pengkatalogan yang dirancang oleh manusia. Ada banyak cara bias dapat masuk ke dalam algoritma. Selanjutnya, programmer menetapkan prioritas atau [[hierarki]] untuk menilai dan mengurutkan data. Proses ini memerlukan keputusan manusia tentang bagaimana data dikategorikan dan mana yang akan dimasukkan atau diabaikan. Algoritma tertentu dapat memperkuat stereotip dan preferensi saat memproses dan menampilkan data "relevan" untuk pengguna manusia, misalnya dengan memilih informasi berdasarkan pilihan pengguna sebelumnya atau kelompok pengguna yang sebanding. Algoritma lainnya mengumpulkan data mereka sendiri berdasarkan kriteria yang dipilih oleh manusia, yang dapat menunjukkan bias perancangnya.
Ketika kumpulan data disusun, data dapat dikumpulkan, didigitalisasi, disesuaikan, dan dimasukkan ke dalam [[basis data]] sesuai dengan standar pengkatalogan yang dirancang oleh manusia.<ref name=":3">Tarleton Gillespie. ''Media Technologies''. ''Cambridge: MIT Press''. 2014. Vol. 1-30. ISBN 9780262525374.</ref> Ada banyak cara bias dapat masuk ke dalam algoritma. Selanjutnya, programmer menetapkan prioritas atau [[hierarki]] untuk menilai dan mengurutkan data. Proses ini memerlukan keputusan manusia tentang bagaimana data dikategorikan dan mana yang akan dimasukkan atau diabaikan. Algoritma tertentu dapat memperkuat stereotip dan preferensi saat memproses dan menampilkan data "relevan" untuk pengguna manusia, misalnya dengan memilih informasi berdasarkan pilihan pengguna sebelumnya atau kelompok pengguna yang sebanding. Algoritma lainnya mengumpulkan data mereka sendiri berdasarkan kriteria yang dipilih oleh manusia, yang dapat menunjukkan bias perancangnya.<ref name=":3" />


Bias dapat berasal dari desain selain dari pengumpulan dan pemrosesan data. Sebagai contoh, algoritma yang mengatur alokasi sumber daya atau pengawasan (seperti yang menentukan lokasi sekolah) dapat secara tidak sengaja mendiskriminasi suatu kategori saat menentukan risiko berdasarkan karakteristik pengguna yang sebanding (seperti skor kredit). Meskipun demikian, mesin rekomendasi yang menggunakan ciri pemasaran yang disimpulkan atau mengasosiasikan pengguna dengan orang yang serupa mungkin bergantung pada hubungan yang tidak akurat yang mencerminkan stereotip etnis, gender, sosial-ekonomi, atau rasial yang luas. Contoh tambahan berasal dari proses menentukan standar untuk menentukan apa yang dimasukkan dan dikecualikan dari hasil pencarian. Perangkat lunak rekomendasi penerbangan dapat mengabaikan penerbangan yang tidak mengikuti jalur penerbangan maskapai yang mensponsori karena kriteria ini dapat menghasilkan hasil yang tidak dapat diprediksi. Bias ketidakpastian, yang memungkinkan penilaian yang lebih yakin ketika kumpulan data yang lebih besar tersedia, dapat memiringkan proses algoritma menuju hasil yang lebih sesuai dengan sampel yang lebih besar, yang mungkin mengabaikan data populasi yang lebih kecil.
Bias dapat berasal dari desain selain dari pengumpulan dan pemrosesan data.<ref name=":2">[https://towcenter.columbia.edu Tow Center]. ''towcenter.columbia.edu''.</ref> Sebagai contoh, algoritma yang mengatur alokasi sumber daya atau pengawasan (seperti yang menentukan lokasi sekolah) dapat secara tidak sengaja mendiskriminasi suatu kategori saat menentukan risiko berdasarkan karakteristik pengguna yang sebanding (seperti skor kredit).<ref>Kenneth Lipartito. [https://mpra.ub.uni-muenchen.de/28142/1/MPRA_paper_28142.pdf The Narrative and the Algorithm: Genres of Credit Reporting from the Nineteenth Century to Today]. ''MPRA''. 2011.</ref> Meskipun demikian, mesin rekomendasi yang menggunakan ciri pemasaran yang disimpulkan atau mengasosiasikan pengguna dengan orang yang serupa mungkin bergantung pada hubungan yang tidak akurat yang mencerminkan stereotip etnis, gender, sosial-ekonomi, atau rasial yang luas. Contoh tambahan berasal dari proses menentukan standar untuk menentukan apa yang dimasukkan dan dikecualikan dari hasil pencarian. Perangkat lunak rekomendasi penerbangan dapat mengabaikan penerbangan yang tidak mengikuti jalur penerbangan maskapai yang mensponsori karena kriteria ini dapat menghasilkan hasil yang tidak dapat diprediksi.<ref name=":2" /> Bias ketidakpastian, yang memungkinkan penilaian yang lebih yakin ketika kumpulan data yang lebih besar tersedia, dapat memiringkan proses algoritma menuju hasil yang lebih sesuai dengan sampel yang lebih besar, yang mungkin mengabaikan data populasi yang lebih kecil.<ref>Bryce Goodman. [https://onlinelibrary.wiley.com/doi/10.1609/aimag.v38i3.2741 European Union Regulations on Algorithmic Decision Making and a “Right to Explanation”]. ''AI Magazine''. 2017. Vol. 38 (3). hlm. 50–57. doi:10.1609/aimag.v38i3.2741.</ref>


== Regulasi ==
== Regulasi ==
=== Eropa ===
=== Eropa ===
"Pengambilan keputusan individu otomatis, termasuk pemprofilan" diatur dalam Pasal 22 [[Regulasi Umum Perlindungan Data|Peraturan Perlindungan Data Umum]] (GDPR), yang diubah dan diterapkan oleh [[Uni Eropa]] pada tahun 2018. Aturan ini melarang keputusan otomatis yang "semata-mata" yang berdampak "signifikan" atau "hukum" terhadap individu kecuali jika secara eksplisit diizinkan melalui persetujuan, kontrak, atau hukum [[Uni Eropa|negara anggota]]. Perlindungan yang memadai harus ada di mana keputusan tersebut dapat dilakukan, seperti hak untuk melibatkan orang lain dalam proses dan hak yang tidak mengikat untuk mendapatkan penjelasan tentang keputusan yang dibuat. Meskipun peraturan ini sering dianggap baru, Pasal 15 dari Arahan Perlindungan Data dari 1995 telah menetapkan peraturan yang hampir identik di seluruh Eropa. Perlindungan keputusan otomatis pertama kali ditemukan dalam hukum [[Prancis]] pada akhir 1970-an.
"Pengambilan keputusan individu otomatis, termasuk pemprofilan" diatur dalam Pasal 22 [[Regulasi Umum Perlindungan Data|Peraturan Perlindungan Data Umum]] (GDPR), yang diubah dan diterapkan oleh [[Uni Eropa]] pada tahun 2018. Aturan ini melarang keputusan otomatis yang "semata-mata" yang berdampak "signifikan" atau "hukum" terhadap individu kecuali jika secara eksplisit diizinkan melalui persetujuan, kontrak, atau hukum [[Uni Eropa|negara anggota]]. Perlindungan yang memadai harus ada di mana keputusan tersebut dapat dilakukan, seperti hak untuk melibatkan orang lain dalam proses dan hak yang tidak mengikat untuk mendapatkan penjelasan tentang keputusan yang dibuat. Meskipun peraturan ini sering dianggap baru, Pasal 15 dari Arahan Perlindungan Data dari 1995 telah menetapkan peraturan yang hampir identik di seluruh Eropa. Perlindungan keputusan otomatis pertama kali ditemukan dalam hukum [[Prancis]] pada akhir 1970-an.<ref>Lee A Bygrave. [https://linkinghub.elsevier.com/retrieve/pii/S0267364901001042 AUTOMATED PROFILING: MINDING THE MACHINE: ARTICLE 15 OF THE EC DATA PROTECTION DIRECTIVE AND AUTOMATED PROFILING]. ''Computer Law & Security Review''. 2001-01-01. Vol. 17 (1). hlm. 17–24. doi:10.1016/S0267-3649(01)00104-2.</ref>


GDPR juga membahas bias algoritmik sistem pemprofilan dan metode statistik yang dapat digunakan untuk membersihkannya, secara langsung dalam [[Resital|recital]] 71, yang menyatakan:<blockquote>Pengendali harus menerapkan prosedur teknis dan organisasi yang sesuai untuk pemprofilan, dan menggunakan prosedur matematis atau statistik yang sesuai untuk mencegah dampak diskriminatif terhadap individu berdasarkan asal ras atau etnis, opini politik, agama atau keyakinan, keanggotaan serikat pekerja, status genetik atau kesehatan, atau orientasi seksual, atau yang mengakibatkan tindakan yang memiliki dampak tersebut.</blockquote>Sifat tidak mengikat dari recital 71 sama dengan hak yang tidak mengikat untuk mendapatkan penjelasan. Meskipun Kelompok Kerja Pasal 29, yang memberikan rekomendasi tentang bagaimana menggunakan hukum perlindungan data, menganggap hal ini sebagai keharusan, aspek praktisnya masih tidak jelas. Ada pendapat bahwa Penilaian Dampak Perlindungan Data untuk pemprofilan data berisiko tinggi, bersama dengan langkah-langkah pencegahan lainnya untuk perlindungan data, mungkin merupakan pendekatan yang lebih baik untuk memecahkan masalah diskriminasi algoritmik karena membatasi tindakan algoritma yang digunakan, daripada mengharuskan pelanggan mengajukan keluhan atau meminta perubahan.
GDPR juga membahas bias algoritmik sistem pemprofilan dan metode statistik yang dapat digunakan untuk membersihkannya, secara langsung dalam [[Resital|recital]] 71,<ref name=":4">Michael Veale. [http://discovery.ucl.ac.uk/10046182/1/Veale%201-s2.0-S026736491730376X-main%281%29.pdf Clarity, Surprises, and Further Questions in the Article 29 Working Party Draft Guidance on Automated Decision-Making and Profiling]. ''Computer Law & Security Review''. 2018. Vol. 34. doi:10.1016/j.clsr.2017.12.002.</ref> yang menyatakan:<blockquote>Pengendali harus menerapkan prosedur teknis dan organisasi yang sesuai untuk pemprofilan, dan menggunakan prosedur matematis atau statistik yang sesuai untuk mencegah dampak diskriminatif terhadap individu berdasarkan asal ras atau etnis, opini politik, agama atau keyakinan, keanggotaan serikat pekerja, status genetik atau kesehatan, atau orientasi seksual, atau yang mengakibatkan tindakan yang memiliki dampak tersebut.</blockquote>Sifat tidak mengikat dari recital 71 sama dengan hak yang tidak mengikat untuk mendapatkan penjelasan.<ref>Sandra Wachter. [https://academic.oup.com/idpl/article/7/2/76/3860948 Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation]. ''International Data Privacy Law''. 2017-05-01. Vol. 7 (2). hlm. 76–99. doi:10.1093/idpl/ipx005.</ref> Meskipun Kelompok Kerja Pasal 29, yang memberikan rekomendasi tentang bagaimana menggunakan hukum perlindungan data,<ref name=":4" /> menganggap hal ini sebagai keharusan, aspek praktisnya masih tidak jelas. Ada pendapat bahwa Penilaian Dampak Perlindungan Data untuk pemprofilan data berisiko tinggi, bersama dengan langkah-langkah pencegahan lainnya untuk perlindungan data, mungkin merupakan pendekatan yang lebih baik untuk memecahkan masalah diskriminasi algoritmik karena membatasi tindakan algoritma yang digunakan, daripada mengharuskan pelanggan mengajukan keluhan atau meminta perubahan.<ref>Lilian Edwards. ''Slave to the Algorithm? Why a Right to an Explanation Is Probably Not the Remedy You Are Looking For''. ''Duke Law & Technology Review''. 2017. Vol. 16.</ref>


=== India ===
=== India ===
Sebuah rancangan Undang-Undang Perlindungan Data Pribadi dirilis pada 31 Juli 2018. Konsep untuk penyimpanan, pemrosesan, dan pengiriman data diusulkan dalam rancangan tersebut. Rancangan ini mencakup ketentuan untuk "kerugian yang diakibatkan oleh pemrosesan atau jenis pemrosesan yang dilakukan oleh pihak yang bertanggung jawab", meskipun tidak menggunakan istilah algoritma. Kerugian yang dapat disebabkan oleh penggunaan data yang tidak tepat disebut sebagai "penolakan atau pencabutan layanan, manfaat, atau barang yang diakibatkan oleh keputusan evaluatif tentang data subjek" atau "perlakuan diskriminatif". Selain itu, ketentuan khusus untuk individu dengan "status [[interseks]]" juga dimasukkan dalam rancangan ini.
Sebuah rancangan Undang-Undang Perlindungan Data Pribadi dirilis pada 31 Juli 2018.<ref>Saritha Rai. [https://www.insurancejournal.com/news/international/2018/07/31/496489.htm India Weighs Comprehensive Data Privacy Bill, Similar to EU's GDPR]. ''Insurance Journal''. 2018-07-31.</ref> Konsep untuk penyimpanan, pemrosesan, dan pengiriman data diusulkan dalam rancangan tersebut. Rancangan ini mencakup ketentuan untuk "kerugian yang diakibatkan oleh pemrosesan atau jenis pemrosesan yang dilakukan oleh pihak yang bertanggung jawab", meskipun tidak menggunakan istilah algoritma. Kerugian yang dapat disebabkan oleh penggunaan data yang tidak tepat disebut sebagai "penolakan atau pencabutan layanan, manfaat, atau barang yang diakibatkan oleh keputusan evaluatif tentang data subjek" atau "perlakuan diskriminatif". Selain itu, ketentuan khusus untuk individu dengan "status [[interseks]]" juga dimasukkan dalam rancangan ini.<ref>[https://meity.gov.in/writereaddata/files/Personal_Data_Protection_Bill,2018.pdf The Personal Data Protection Bill, 2018]. ''Ministry of Electronics & Information Technology, Government of India''. 2018.</ref>


== Referensi ==
== Referensi ==
<references />


== Sumber dan atribusi ==
== Sumber dan atribusi ==


Artikel ini diadaptasi dalam mode teks dari
Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Algoritma+bias&oldid=29305060 Wikipedia bahasa Indonesia], revisi 29305060 (2026-06-01T20:14:15Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Gambar pada artikel ini bersumber dari Wikimedia Commons dan mengikuti ketentuan lisensi masing-masing berkas. Mohon gunakan konten dan media secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.
[https://id.wikipedia.org/w/index.php?title=Algoritma_bias&oldid=29305060 Wikipedia bahasa Indonesia],
 
revisi 29305060 (2026-06-01T20:14:15Z).
<!-- WIKI_UNISSULA_PRESENTATION_V4 -->
Gambar, media, infobox, templat navigasi, dan kategori sumber
tidak diimpor ke Wiki Unissula.
Atribusi dan lisensi mengikuti ketentuan Creative Commons
Atribusi-BerbagiSerupa (CC BY-SA) pada sumber Wikipedia.

Revisi terkini sejak 23 Agustus 2026 03.05

Sebuah flow chart menunjukkan keputusan yang dibuat oleh mesin rekomendasi,

Algoritma bias menggambarkan galat sistematis dan berulang dalam sistem komputer yang menciptakan hasil “tidak adil”, seperti “mengistimewakan” satu kategori di atas kategori lainnya dengan cara yang berbeda dari fungsi yang dimaksudkan dari algoritma.

Banyak faktor dapat menyebabkan bias, seperti desain algoritma atau penggunaan yang tidak disengaja atau tidak terduga; serta keputusan tentang cara data dikodekan, dikumpulkan, dipilih, atau digunakan untuk melatih algoritma. Sebagai contoh, hasil mesin pencari dan platform media sosial telah diamati memiliki algoritma bias. Bias ini dapat berdampak dari pelanggaran privasi yang tidak disengaja hingga memperkuat bias sosial terkait ras, gender, orientasi seksual, dan etnisitas. Studi tentang bias algoritmik terutama berfokus pada algoritma yang mencerminkan diskriminasi yang "sistematis dan tidak adil".[1] Peraturan Perlindungan Data Umum Uni Eropa yang diusulkan pada tahun 2018 dan Undang-Undang Kecerdasan Buatan yang diusulkan pada tahun 2021 dan disetujui pada tahun 2024 adalah beberapa contoh undang-undang baru yang baru saja mulai menangani bias ini.

Semakin banyak algoritma yang dapat mengontrol perilaku, politik, institusi, dan masyarakat, sosiolog mulai khawatir tentang bagaimana hasil yang tidak terduga dan manipulasi data dapat memengaruhi dunia fisik. Sebagai akibat dari fenomena psikologis yang dikenal sebagai bias otomatisasi, algoritma dapat secara keliru menunjukkan otoritas yang lebih besar daripada keahlian manusia. Ini terjadi karena algoritma umumnya dianggap netral dan bebas bias. Dalam beberapa situasi, ketergantungan pada algoritma dapat berfungsi sebagai pengganti orang yang bertanggung jawab atas hasil yang dihasilkan. Ada kemungkinan bias masuk ke dalam sistem algoritmik karena ekspektasi sosial, budaya, atau institusional yang sudah ada sebelumnya; cara fitur dan label dipilih; kendala teknis dalam desain; atau penggunaan dalam situasi yang tidak terduga atau oleh audiens yang tidak diperhitungkan saat desain perangkat lunak dibuat.[2]

Dalam berbagai situasi, mulai dari hasil pemilu hingga penyebaran ujaran kebencian secara daring, algoritma bias telah disebutkan. Selain itu, bias ini muncul di bidang peradilan pidana, layanan kesehatan, dan perekrutan, memperparah ketidaksetaraan rasial, sosial-ekonomi, dan gender yang sudah ada. Beberapa kasus penangkapan salah pria kulit hitam telah dikaitkan dengan teknologi pengenalan wajah yang kurang akurat untuk mengidentifikasi wajah berkulit gelap. Masalah ini berasal dari kumpulan data yang tidak seimbang. Karena sifat algoritma yang rahasia dan biasanya dianggap sebagai rahasia dagang, sulit untuk memahami, meneliti, dan mengungkap biasnya. Bahkan jika transparansi penuh diberikan, kompleksitas algoritma tertentu membuatnya sulit dipahami. Selain itu, algoritma memiliki kemampuan untuk mengubah atau merespons masukan atau keluaran dengan cara yang mudah direplikasi atau tidak dapat diprediksi. Bahkan antara pengguna layanan yang sama, sering kali tidak ada satu "algoritma" tunggal yang dapat diperiksa, melainkan jaringan program dan input data yang saling terkait.

Definisi

Meskipun definisi algoritma sulit ditemukan,[3] algoritma dapat digambarkan sebagai rangkaian prosedur yang digunakan oleh program untuk membaca, mengumpulkan, memproses, dan menganalisis data untuk menghasilkan keluaran.[4] Lihat Algoritma untuk pengenalan teknis yang lebih mendalam. Kemampuan untuk memproses, menyimpan, dan mengirimkan data telah ditingkatkan berkat kemajuan perangkat keras komputer. Ini pada gilirannya mendorong pengembangan dan adopsi teknologi seperti pembelajaran mesin dan kecerdasan buatan.[5] Algoritma adalah inti dari mesin pencari,[6] situs media sosial,[7] mesin rekomendasi,[8] ritel daring,[9] iklan daring,[10] dan banyak lagi berkat analisis dan pemrosesan data.[11]

Ilmuwan sosial saat ini memperhatikan proses algoritmik yang tertanam dalam perangkat keras dan aplikasi perangkat lunak karena efeknya terhadap politik dan sosial. Mereka juga mempertanyakan asumsi netralitas yang mendasari algoritma.[12][13][14][15] Algorithmic bias adalah istilah yang digunakan untuk menggambarkan kesalahan yang berulang dan sistematis yang menghasilkan hasil yang tidak adil, seperti memberikan preferensi khusus kepada kelompok pengguna tertentu secara arbitrer daripada kelompok pengguna lainnya. Sebagai contoh, algoritma skor kredit dapat menolak pinjaman tanpa menjadi tidak adil jika secara konsisten menimbang kriteria keuangan yang relevan. Namun, jika algoritma merekomendasikan pinjaman kepada kelompok pengguna tertentu tetapi menolak kelompok pengguna lain yang hampir identik berdasarkan kriteria yang tidak relevan, perilaku ini dapat diulangi dalam banyak kasus.[16] Ada kemungkinan bias ini terjadi secara sengaja atau tidak sengaja. Misalnya, mereka dapat berasal dari data yang bias yang dikumpulkan dari pekerja yang sebelumnya melakukan tugas yang akan diambil alih oleh algoritma.

Metode

Ketika kumpulan data disusun, data dapat dikumpulkan, didigitalisasi, disesuaikan, dan dimasukkan ke dalam basis data sesuai dengan standar pengkatalogan yang dirancang oleh manusia.[17] Ada banyak cara bias dapat masuk ke dalam algoritma. Selanjutnya, programmer menetapkan prioritas atau hierarki untuk menilai dan mengurutkan data. Proses ini memerlukan keputusan manusia tentang bagaimana data dikategorikan dan mana yang akan dimasukkan atau diabaikan. Algoritma tertentu dapat memperkuat stereotip dan preferensi saat memproses dan menampilkan data "relevan" untuk pengguna manusia, misalnya dengan memilih informasi berdasarkan pilihan pengguna sebelumnya atau kelompok pengguna yang sebanding. Algoritma lainnya mengumpulkan data mereka sendiri berdasarkan kriteria yang dipilih oleh manusia, yang dapat menunjukkan bias perancangnya.[17]

Bias dapat berasal dari desain selain dari pengumpulan dan pemrosesan data.[18] Sebagai contoh, algoritma yang mengatur alokasi sumber daya atau pengawasan (seperti yang menentukan lokasi sekolah) dapat secara tidak sengaja mendiskriminasi suatu kategori saat menentukan risiko berdasarkan karakteristik pengguna yang sebanding (seperti skor kredit).[19] Meskipun demikian, mesin rekomendasi yang menggunakan ciri pemasaran yang disimpulkan atau mengasosiasikan pengguna dengan orang yang serupa mungkin bergantung pada hubungan yang tidak akurat yang mencerminkan stereotip etnis, gender, sosial-ekonomi, atau rasial yang luas. Contoh tambahan berasal dari proses menentukan standar untuk menentukan apa yang dimasukkan dan dikecualikan dari hasil pencarian. Perangkat lunak rekomendasi penerbangan dapat mengabaikan penerbangan yang tidak mengikuti jalur penerbangan maskapai yang mensponsori karena kriteria ini dapat menghasilkan hasil yang tidak dapat diprediksi.[18] Bias ketidakpastian, yang memungkinkan penilaian yang lebih yakin ketika kumpulan data yang lebih besar tersedia, dapat memiringkan proses algoritma menuju hasil yang lebih sesuai dengan sampel yang lebih besar, yang mungkin mengabaikan data populasi yang lebih kecil.[20]

Regulasi

Eropa

"Pengambilan keputusan individu otomatis, termasuk pemprofilan" diatur dalam Pasal 22 Peraturan Perlindungan Data Umum (GDPR), yang diubah dan diterapkan oleh Uni Eropa pada tahun 2018. Aturan ini melarang keputusan otomatis yang "semata-mata" yang berdampak "signifikan" atau "hukum" terhadap individu kecuali jika secara eksplisit diizinkan melalui persetujuan, kontrak, atau hukum negara anggota. Perlindungan yang memadai harus ada di mana keputusan tersebut dapat dilakukan, seperti hak untuk melibatkan orang lain dalam proses dan hak yang tidak mengikat untuk mendapatkan penjelasan tentang keputusan yang dibuat. Meskipun peraturan ini sering dianggap baru, Pasal 15 dari Arahan Perlindungan Data dari 1995 telah menetapkan peraturan yang hampir identik di seluruh Eropa. Perlindungan keputusan otomatis pertama kali ditemukan dalam hukum Prancis pada akhir 1970-an.[21]

GDPR juga membahas bias algoritmik sistem pemprofilan dan metode statistik yang dapat digunakan untuk membersihkannya, secara langsung dalam recital 71,[22] yang menyatakan:

Pengendali harus menerapkan prosedur teknis dan organisasi yang sesuai untuk pemprofilan, dan menggunakan prosedur matematis atau statistik yang sesuai untuk mencegah dampak diskriminatif terhadap individu berdasarkan asal ras atau etnis, opini politik, agama atau keyakinan, keanggotaan serikat pekerja, status genetik atau kesehatan, atau orientasi seksual, atau yang mengakibatkan tindakan yang memiliki dampak tersebut.

Sifat tidak mengikat dari recital 71 sama dengan hak yang tidak mengikat untuk mendapatkan penjelasan.[23] Meskipun Kelompok Kerja Pasal 29, yang memberikan rekomendasi tentang bagaimana menggunakan hukum perlindungan data,[22] menganggap hal ini sebagai keharusan, aspek praktisnya masih tidak jelas. Ada pendapat bahwa Penilaian Dampak Perlindungan Data untuk pemprofilan data berisiko tinggi, bersama dengan langkah-langkah pencegahan lainnya untuk perlindungan data, mungkin merupakan pendekatan yang lebih baik untuk memecahkan masalah diskriminasi algoritmik karena membatasi tindakan algoritma yang digunakan, daripada mengharuskan pelanggan mengajukan keluhan atau meminta perubahan.[24]

India

Sebuah rancangan Undang-Undang Perlindungan Data Pribadi dirilis pada 31 Juli 2018.[25] Konsep untuk penyimpanan, pemrosesan, dan pengiriman data diusulkan dalam rancangan tersebut. Rancangan ini mencakup ketentuan untuk "kerugian yang diakibatkan oleh pemrosesan atau jenis pemrosesan yang dilakukan oleh pihak yang bertanggung jawab", meskipun tidak menggunakan istilah algoritma. Kerugian yang dapat disebabkan oleh penggunaan data yang tidak tepat disebut sebagai "penolakan atau pencabutan layanan, manfaat, atau barang yang diakibatkan oleh keputusan evaluatif tentang data subjek" atau "perlakuan diskriminatif". Selain itu, ketentuan khusus untuk individu dengan "status interseks" juga dimasukkan dalam rancangan ini.[26]

Referensi

  1. ↑ Marco Marabelli. AI, Ethics, and Discrimination in Business. Palgrave Studies in Equity, Diversity, Inclusion, and Indigenization in Business. 2024. doi:10.1007/978-3-031-53919-0.
  2. ↑ Harini Suresh. A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle. Proceedings of the 1st ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization. Association for Computing Machinery. 2021-11-04. hlm. 1–9. doi:10.1145/3465416.3483305. ISBN 978-1-4503-8553-4.
  3. ↑ What is an Algorithm? – Culture Digitally. 2012-02-01.
  4. ↑ Thomas H Cormen. Introduction to Algorithms. Cambridge. 2009. Vol. 5. ISBN 9780262033848.
  5. ↑ Rob Kitchin. Thinking critically about and researching algorithms. Information, Communication & Society. 2017-01-02. doi:10.1080/1369118x.2016.1154087.
  6. ↑ Menentukan Peringkat Hasil – Cara Kerja Google Penelusuran. Google Penelusuran - Ketahui Cara Kerja Google Penelusuran.
  7. ↑ Victor Luckerson. Here's How Your Facebook News Feed Actually Works. TIME.com. 2015-07-09.
  8. ↑ Tom Vanderbilt. The Science Behind the Netflix Algorithms That Decide What You'll Watch Next. Wired.
  9. ↑ Julia Angwin,Surya Mattu. Amazon Says It Puts Customers First. But Its Pricing Algorithm Doesn’t. ProPublica. 2016-09-20.
  10. ↑ Rob Livingstone. The future of online advertising is big data and algorithms. The Conversation. 2017-03-13.
  11. ↑ Leo Hickman. How algorithms rule the world. The Guardian. 2013-07-01.
  12. ↑ Nick Seaver. Knowing Algorithms. Media in Transition 8. 2013.
  13. ↑ Stephen D.N. Graham. Software-sorted geographies. Progress in Human Geography. 2016. Vol. 29. doi:10.1191/0309132505ph568oa.
  14. ↑ Eamon Tewell. Toward the Resistant Reading of Information: Google, Resistant Spectatorship, and Critical Information Literacy. portal: Libraries and the Academy. 2016. Vol. 16 (2). hlm. 289–310.
  15. ↑ Kate Crawford. The Hidden Biases in Big Data. Harvard Business Review. 2013-04-01.
  16. ↑ Batya Friedman. Bias in Computer Sytems. ACM Transactions on Information Systems. 1996. Vol. 14 (3). doi:10.1145/230538.230561.
  17. ↑ 17,0 17,1 Tarleton Gillespie. Media Technologies. Cambridge: MIT Press. 2014. Vol. 1-30. ISBN 9780262525374.
  18. ↑ 18,0 18,1 Tow Center. towcenter.columbia.edu.
  19. ↑ Kenneth Lipartito. The Narrative and the Algorithm: Genres of Credit Reporting from the Nineteenth Century to Today. MPRA. 2011.
  20. ↑ Bryce Goodman. European Union Regulations on Algorithmic Decision Making and a “Right to Explanation”. AI Magazine. 2017. Vol. 38 (3). hlm. 50–57. doi:10.1609/aimag.v38i3.2741.
  21. ↑ Lee A Bygrave. AUTOMATED PROFILING: MINDING THE MACHINE: ARTICLE 15 OF THE EC DATA PROTECTION DIRECTIVE AND AUTOMATED PROFILING. Computer Law & Security Review. 2001-01-01. Vol. 17 (1). hlm. 17–24. doi:10.1016/S0267-3649(01)00104-2.
  22. ↑ 22,0 22,1 Michael Veale. Clarity, Surprises, and Further Questions in the Article 29 Working Party Draft Guidance on Automated Decision-Making and Profiling. Computer Law & Security Review. 2018. Vol. 34. doi:10.1016/j.clsr.2017.12.002.
  23. ↑ Sandra Wachter. Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law. 2017-05-01. Vol. 7 (2). hlm. 76–99. doi:10.1093/idpl/ipx005.
  24. ↑ Lilian Edwards. Slave to the Algorithm? Why a Right to an Explanation Is Probably Not the Remedy You Are Looking For. Duke Law & Technology Review. 2017. Vol. 16.
  25. ↑ Saritha Rai. India Weighs Comprehensive Data Privacy Bill, Similar to EU's GDPR. Insurance Journal. 2018-07-31.
  26. ↑ The Personal Data Protection Bill, 2018. Ministry of Electronics & Information Technology, Government of India. 2018.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 29305060 (2026-06-01T20:14:15Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Gambar pada artikel ini bersumber dari Wikimedia Commons dan mengikuti ketentuan lisensi masing-masing berkas. Mohon gunakan konten dan media secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Algoritma_bias&oldid=331"