Lompat ke isi

Pembelajaran mesin adversarial

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung
Revisi sejak 23 Agustus 2026 04.21 oleh Maintenance script (bicara | kontrib) (Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi)
(beda) ← Revisi sebelumnya | Revisi terkini (beda) | Revisi selanjutnya → (beda)
Dall-e 3 (jan '24) artificial intelligence icon

Pembelajaran mesin adversarial (AI) merupakan teknologi yang sangat berkembang pesat, dan berkembang pada berbagai sektor bidang kehidupan masyarakat sosial. Kemajuan AI genaratif teks dan gambar juga memengaruhi perkembangan kecerdasan buatan (AI) karena peranannya sangat penting dalam kehidupan. Di mana AI sangat dibutuhkan karena kecerdasan buatan ini dianggap oleh masyarakat sebagai tempat yang aman, andal dan tangguh untuk penyedia berbagai informasi.[1][2] Kecerdasan buatan sangat berkembang pesat dan berpengaruh besar, namun sangat rentan terhadap kegagalan sistem, kebocoran data dan ancaman keamanan. Sehingga diperlukan pengawasan yang lebih terhadap pengembangan sistem model kecerdasan buatan ini. Serangan ini dikenal dengan istilah adversarial machine learning.[3] Hal ini dapat mengeksploitasi kelemahan dalam model AI sehingga, dapat memanipulasi data yang berpotensi kesalahan dalam klasifikasi yang disenga hal ini sangat berbahaya bagi sistem AI sendiri.[4][5]

Adversarial Machine Learning sering kali menambahkann distorsi yang tidak terlihat oleh pengamat manusia. Di mana ia mengubah label prediksi dan dikaitan dengan sumber data atau gambar yang diambil. Dengan adanya adversarial machine learning ini dapat membantu manusia untuk menjelaskan sesuatu pembelajaran mesin yang terawasi dan tidak terawasi oleh manusia. Serta juga dapat memprediksi berbagai macam serangan yang akan terjadi dengan teknik algoritmanya.[6][7]

Cara kerja Adversarial

Serangan adversarial ini memanfaatkan cara kerja kecerdasan buatan (AI),[8] karena kerentanan dan keterbatasan yang melekat pada sistem model AI. Sistem ini bekerja dengan cara memaipulasi data masuk sehingga menghasilkan suatu model yang salah atau keliru. Pada sistem ini biasanya dimanfaatkan dengan beberapa langkah yaitu pemahaman sistem, manipulasi model dan ekspoilitasi sistem target.[9][10]

Pertama mereka mengalisis model penyerangan dengan cara mempelajari algoritma, proses pemerolehan data, serta menggunakan rekayasa balik model yang nanti akan memecah model AI dan mengidentifikasi kelemahan sistem. Kedua merancang input yang akan disalah artikan oleh sistem dan memodifikasi data yang masuk dalam pemerolahan bahasa alami sistem. Ketiga membuat sistem berperilaku tidak terduga dengan tujuan dapat meretas keamanan sistem. Setelah sistem rusak maka keaman sistem sulit untuk diketahui begitulah adversarial bekerja.[11]

Jenis-Jenis Serangan Adversarial

White box attacks memanfaatkan sistem informasi untuk perubahan kata. Selain itu ada juga serangan dengan cara merusak proses pembuatan model, yang bertujuan untuk penurunan akurasi dan kerentanan yang disengaja.[12] Black box attacks adalah serangan dengan memanfaatkan output dan input suatu sistem, hal ini bisa dengan serangan model tiruan. Dan juga sering kali mereka menebak model arah perubahan input yang memengaruhi output. Selanjutnya ada rondomized smoothing yang bekerja dengan cara menambahkan noise acak dalam proses inferensi. Teknik ini dapat memitigasi serangan adversarial terhadap prediksi model yang lebih stabil.[13] Jenis- jenis serangan seperti ini sangat bahaya karena penyerangan tidak butuh akses internal model sehingga lebih realistis serta dapat menargetkan pelayanan komersial kecerdasan buatan (AI).[14][15]

Keuntungan dan Kekurangan

Kelebihan

Adversarial training [16] sangat menguntungkan, karena cara sistemnya bekerja dengan menipu model. Sistem tujuan ini sangat bisa kita gunakan dalam hal meningkatan kualitas model sistem yang sedang kita kembangkan. Sistem training ini juga melatih sistem kita untuk tahan terhadap serangan dan kesalahan. Dengan mempelajari adversarial ini dapat kita ketahui bagaimana cara menjaga kemampuan generalisasi serta kalibrasi dan kepercayaan model yang lebih baik.[17]

Kekurangan

Kekurangan utama dalam Pembelajaran Mesin Adversarial, terutama terkait dengan Generative Adversarial Networks (GANs) dan kerentanan model terhadap serangan, adalah ketidakstabilan dan kesulitan pelatihan, di mana GAN sering mengalami Mode Collapse yaitu Generator hanya menghasilkan variasi data yang terbatas dan proses pelatihannya rentan terhadap gradien yang menghilang; selain itu, model Deep Learning secara umum menunjukkan kerentanan yang signifikan terhadap Adversarial Attacks, di mana manipulasi kecil pada data input, yang tidak terdeteksi oleh manusia, dapat menyebabkan kesalahan klasifikasi yang fatal dengan tingkat keyakinan tinggi, menyoroti kurangnya ketahanan (robustness) model dalam menghadapi gangguan, dan seringkali membutuhkan biaya komputasi yang tinggi untuk implementasi teknik pertahanan yang efektif.[18][19]

Galeri

Referensi

  1. ↑ Alina Alina Oprea. Adversarial Machine Learning A Taxonomy and Terminology of Attacks and Mitigations. NIST Technical Series Policies Copyright, Use, and Licensing Statements NIST Technical Series Publication Identifier Synta. March 08, 2023 - September 30, 2023. hlm. 74. ISBN NIST AI 100-2e2023 ipd.
  2. ↑ Jonas Geiping. Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching. 2020-10-02.
  3. ↑ Pembelajaran Mesin Bermusuhan: Konsep, Jenis Serangan, Strategi & Pertahanan - Devzv. www.devzv.com.
  4. ↑ Adversarial Machine Learning: Menyerang dan Memperkuat Sistem Kecerdasan Buatan SoalTekno.com. 2024-07-09.
  5. ↑ Peva Blanchard. Machine Learning with Adversaries: Byzantine Tolerant Gradient Descent. Advances in Neural Information Processing Systems. Curran Associates, Inc. 2017. Vol. 30.
  6. ↑ Yevgeniy Vorobeychik. Adversarial Machine Learning. Morgan & Claypool Publishers. 2018-08-08. ISBN 978-1-68173-396-8.
  7. ↑ El Mahdi El-Mhamdi. Collaborative Learning in the Jungle (Decentralized, Byzantine, Heterogeneous, Asynchronous and Nonconvex Learning). Advances in Neural Information Processing Systems. Curran Associates, Inc. 2021. Vol. 34. hlm. 25044–25057.
  8. ↑ What Are Adversarial AI Attacks on Machine Learning?. Palo Alto Networks.
  9. ↑ Ian Goodfellow. Making machine learning robust against adversarial inputs. Commun. ACM. 2018-06-25. Vol. 61 (7). hlm. 56–66. doi:10.1145/3134599.
  10. ↑ Pembelajaran Mesin Bermusuhan: Konsep, Jenis Serangan, Strategi & Pertahanan - Devzv. www.devzv.com.
  11. ↑ How Does Adversarial Training Create More Robust AI Agents?. www.getmonetizely.com.
  12. ↑ What Are Adversarial AI Attacks on Machine Learning?. Palo Alto Networks.
  13. ↑ Hesmi Aria Yanti. ARTIFICIAL INTELLIGENCE AND CYBERSECURITY: FOUNDATIONS, APPLICATIONS, AND FUTURE PERSPECTIVES. Penerbit Widina. 2025-08-27. ISBN 978-634-246-188-4.
  14. ↑ How to beat an adaptive/Bayesian spam filter (2004).
  15. ↑ El Mahdi El-Mhamdi. Collaborative Learning in the Jungle (Decentralized, Byzantine, Heterogeneous, Asynchronous and Nonconvex Learning). Advances in Neural Information Processing Systems. Curran Associates, Inc. 2021. Vol. 34. hlm. 25044–25057.
  16. ↑ How Does Adversarial Training Create More Robust AI Agents?. www.getmonetizely.com.
  17. ↑ Lingjiao Chen. DRACO: Byzantine-resilient Distributed Training via Redundant Gradients. Proceedings of the 35th International Conference on Machine Learning. PMLR. 2018-07-03. hlm. 903–912.
  18. ↑ Peva Blanchard. Machine Learning with Adversaries: Byzantine Tolerant Gradient Descent. Advances in Neural Information Processing Systems. Curran Associates, Inc. 2017. Vol. 30.
  19. ↑ El Mahdi El-Mhamdi. Collaborative Learning in the Jungle (Decentralized, Byzantine, Heterogeneous, Asynchronous and Nonconvex Learning). Advances in Neural Information Processing Systems. Curran Associates, Inc. 2021. Vol. 34. hlm. 25044–25057.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 29317180 (2026-06-06T01:39:31Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Gambar pada artikel ini bersumber dari Wikimedia Commons dan mengikuti ketentuan lisensi masing-masing berkas. Mohon gunakan konten dan media secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Pembelajaran_mesin_adversarial&oldid=1291"