Lihat sumber Pembelajaran mesin adversarial

[[File:Dall-e_3_(jan_'24)_artificial_intelligence_icon.png|thumb|right|280px|Dall-e 3 (jan '24) artificial intelligence icon]]

'''Pembelajaran mesin adversarial''' (AI) merupakan teknologi yang sangat berkembang pesat, dan berkembang pada berbagai sektor bidang kehidupan masyarakat sosial. Kemajuan [[AI genaratif]]  teks dan gambar juga memengaruhi perkembangan kecerdasan buatan (AI) karena peranannya sangat penting dalam kehidupan. Di mana AI sangat dibutuhkan karena kecerdasan buatan ini dianggap oleh masyarakat sebagai tempat yang aman, andal dan tangguh untuk penyedia berbagai [[informasi]].<ref>Alina Alina Oprea. [https://manuals.plus/m/3c4a96df6acfc0a360c97d9f924125fa3cab18978e3a14dcc7ac565ec95b9e01.pdf Adversarial Machine Learning A Taxonomy and Terminology of Attacks and Mitigations]. NIST Technical Series Policies Copyright, Use, and Licensing Statements NIST Technical Series Publication Identifier Synta. March 08, 2023 - September 30, 2023. hlm. 74. ISBN NIST AI 100-2e2023 ipd.</ref><ref>Jonas Geiping. [https://openreview.net/forum?id=01olnfLIbD Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching]. 2020-10-02.</ref> Kecerdasan buatan sangat berkembang pesat dan berpengaruh besar, namun sangat rentan terhadap kegagalan sistem, kebocoran data dan ancaman keamanan. Sehingga diperlukan pengawasan yang lebih terhadap [[Pengembangan sistem peluncur pakai ulang SpaceX|pengembangan sistem]] model kecerdasan buatan ini. Serangan ini dikenal dengan istilah [[Adversarial Machine Learning|''adversarial machine learning'']].<ref>[https://www.devzv.com/id/adversarial-machine-learning.html Pembelajaran Mesin Bermusuhan: Konsep, Jenis Serangan, Strategi & Pertahanan - Devzv]. ''www.devzv.com''.</ref> Hal ini dapat [[mengeksploitasi]] kelemahan dalam model AI sehingga, dapat [[Manipulasi data|memanipulasi data]] yang berpotensi kesalahan dalam [[klasifikasi]] yang disenga hal ini sangat berbahaya bagi sistem AI sendiri.<ref>[https://soaltekno.lokercepat.id/pengertian-adversarial-machine-learning/ Adversarial Machine Learning: Menyerang dan Memperkuat Sistem Kecerdasan Buatan SoalTekno.com]. 2024-07-09.</ref><ref>Peva Blanchard. [https://proceedings.neurips.cc/paper/2017/hash/f4b9ec30ad9f68f89b29639786cb62ef-Abstract.html Machine Learning with Adversaries: Byzantine Tolerant Gradient Descent]. ''Advances in Neural Information Processing Systems''. Curran Associates, Inc. 2017. Vol. 30.</ref>

''Adversarial Machine Learning'' sering kali menambahkann [[Distorsi kognitif|distorsi]] yang tidak terlihat oleh pengamat manusia. Di mana ia mengubah label prediksi dan dikaitan dengan sumber data atau gambar yang diambil. Dengan adanya ''adversarial machine learning'' ini dapat membantu manusia untuk menjelaskan sesuatu pembelajaran mesin yang terawasi dan tidak terawasi oleh manusia. Serta juga dapat memprediksi berbagai macam serangan yang akan terjadi dengan teknik ''[[Algoritma Frank–Wolfe|algoritmanya.]]''<ref>Yevgeniy Vorobeychik. [https://books.google.co.id/books?hl=id&lr=&id=Lw5pDwAAQBAJ&oi=fnd&pg=PP2&dq=Adversarial+Machine+Learning&ots=CH5XLbY5Ng&sig=Z1vFSNg2_0R_O6FqsqpYJG4Untw&redir_esc=y#v=onepage&q=Adversarial%20Machine%20Learning&f=false Adversarial Machine Learning]. Morgan & Claypool Publishers. 2018-08-08. ISBN 978-1-68173-396-8.</ref><ref>El Mahdi El-Mhamdi. [https://proceedings.neurips.cc/paper/2021/hash/d2cd33e9c0236a8c2d8bd3fa91ad3acf-Abstract.html Collaborative Learning in the Jungle (Decentralized, Byzantine, Heterogeneous, Asynchronous and Nonconvex Learning)]. ''Advances in Neural Information Processing Systems''. Curran Associates, Inc. 2021. Vol. 34. hlm. 25044–25057.</ref>

== Cara kerja Adversarial ==
Serangan ''adversarial'' ini memanfaatkan cara kerja [[Kecerdasan buatan|kecerdasan buatan (AI)]],<ref>[https://www.paloaltonetworks.com/cyberpedia/what-are-adversarial-attacks-on-AI-Machine-Learning What Are Adversarial AI Attacks on Machine Learning?]. ''Palo Alto Networks''.</ref> karena kerentanan dan keterbatasan yang melekat pada sistem model AI. Sistem ini bekerja dengan cara memaipulasi data masuk sehingga menghasilkan suatu model yang salah atau keliru. Pada sistem ini biasanya dimanfaatkan dengan beberapa langkah yaitu pemahaman sistem, [[manipulasi model]] dan [[ekspoilitasi sistem target.]]<ref>Ian Goodfellow. [https://dl.acm.org/doi/10.1145/3134599 Making machine learning robust against adversarial inputs]. ''Commun. ACM''. 2018-06-25. Vol. 61 (7). hlm. 56–66. doi:10.1145/3134599.</ref><ref>[https://www.devzv.com/id/adversarial-machine-learning.html Pembelajaran Mesin Bermusuhan: Konsep, Jenis Serangan, Strategi & Pertahanan - Devzv]. ''www.devzv.com''.</ref>

Pertama mereka mengalisis model penyerangan dengan cara mempelajari ''[[algoritma]]'', proses pemerolehan data, serta menggunakan [[rekayasa]] balik model yang nanti akan memecah model AI dan mengidentifikasi kelemahan sistem. Kedua merancang ''[[input]]'' yang akan disalah artikan oleh sistem dan [[memodifikasi]] data yang masuk dalam pemerolahan bahasa alami sistem. Ketiga membuat sistem berperilaku tidak terduga dengan tujuan dapat meretas keamanan sistem. Setelah sistem rusak maka keaman sistem sulit untuk diketahui begitulah ''adversarial'' bekerja.<ref>[https://www.getmonetizely.com/articles/how-does-adversarial-training-create-more-robust-ai-agents How Does Adversarial Training Create More Robust AI Agents?]. ''www.getmonetizely.com''.</ref>

== Jenis-Jenis Serangan Adversarial ==
''[[White box attacks]]'' memanfaatkan sistem informasi untuk perubahan kata. Selain itu ada juga serangan dengan cara merusak proses pembuatan model, yang bertujuan untuk penurunan akurasi dan kerentanan yang disengaja.<ref>[https://www.paloaltonetworks.com/cyberpedia/what-are-adversarial-attacks-on-AI-Machine-Learning What Are Adversarial AI Attacks on Machine Learning?]. ''Palo Alto Networks''.</ref> ''[[Black box attacks]]'' adalah serangan dengan memanfaatkan [[Output Protection Management|''output'']] dan ''[[input]]'' suatu sistem, hal ini bisa dengan serangan model tiruan. Dan juga sering kali mereka menebak model arah perubahan [[Masukan/keluaran|''input'']] yang memengaruhi [[Output Protection Management|''output'']]. Selanjutnya ada ''[[rondomized smoothing]]'' yang bekerja dengan cara menambahkan ''[[noise]]'' acak dalam proses [[Inferensi|''inferens'']]<nowiki/>i. Teknik ini dapat memitigasi serangan adversarial terhadap prediksi model yang lebih stabil.<ref>Hesmi Aria Yanti. [https://www.google.co.id/books/edition/ARTIFICIAL_INTELLIGENCE_AND_CYBERSECURIT/_ZSBEQAAQBAJ?hl=id&gbpv=1&dq=jenis+jenis+Adversarial&pg=PA146&printsec=frontcover ARTIFICIAL INTELLIGENCE AND CYBERSECURITY: FOUNDATIONS, APPLICATIONS, AND FUTURE PERSPECTIVES]. Penerbit Widina. 2025-08-27. ISBN 978-634-246-188-4.</ref>  Jenis- jenis serangan seperti ini sangat bahaya karena penyerangan tidak butuh akses [[Internal Revenue Service|''internal'']] model sehingga lebih ''[[Realistis/Idealis|realistis]]'' serta dapat menargetkan pelayanan komersial [[Kecerdasan buatan|kecerdasan buatan (AI)]].<ref>[http://blog.jgc.org/2023/07/how-to-beat-adaptivebayesian-spam.html How to beat an adaptive/Bayesian spam filter (2004)].</ref><ref>El Mahdi El-Mhamdi. [https://proceedings.neurips.cc/paper/2021/hash/d2cd33e9c0236a8c2d8bd3fa91ad3acf-Abstract.html Collaborative Learning in the Jungle (Decentralized, Byzantine, Heterogeneous, Asynchronous and Nonconvex Learning)]. ''Advances in Neural Information Processing Systems''. Curran Associates, Inc. 2021. Vol. 34. hlm. 25044–25057.</ref>

== Keuntungan dan Kekurangan ==
=== Kelebihan ===
''[[Adversarial training]]'' <ref>[https://www.getmonetizely.com/articles/how-does-adversarial-training-create-more-robust-ai-agents How Does Adversarial Training Create More Robust AI Agents?]. ''www.getmonetizely.com''.</ref> sangat menguntungkan, karena cara sistemnya bekerja dengan menipu model. Sistem tujuan ini sangat bisa kita gunakan dalam hal meningkatan kualitas model sistem yang sedang kita kembangkan. Sistem [[Training Season|''training'']] ini juga melatih sistem kita untuk tahan terhadap serangan dan kesalahan. Dengan mempelajari ''adversarial'' ini dapat kita ketahui bagaimana cara menjaga kemampuan [[General Salipada K. Pendatun|generalisasi]] serta [[kalibrasi]] dan kepercayaan model yang lebih baik.<ref>Lingjiao Chen. [https://proceedings.mlr.press/v80/chen18l.html DRACO: Byzantine-resilient Distributed Training via Redundant Gradients]. ''Proceedings of the 35th International Conference on Machine Learning''. PMLR. 2018-07-03. hlm. 903–912.</ref>

=== Kekurangan ===
Kekurangan utama dalam Pembelajaran Mesin Adversarial, terutama terkait dengan Generative Adversarial Networks (GANs) dan kerentanan model terhadap serangan, adalah ketidakstabilan dan kesulitan pelatihan, di mana GAN sering mengalami Mode Collapse yaitu Generator hanya menghasilkan variasi data yang terbatas dan proses pelatihannya rentan terhadap gradien yang menghilang; selain itu, model Deep Learning secara umum menunjukkan kerentanan yang signifikan terhadap ''Adversarial Attacks'', di mana manipulasi kecil pada data input, yang tidak terdeteksi oleh manusia, dapat menyebabkan kesalahan klasifikasi yang fatal dengan tingkat keyakinan tinggi, menyoroti kurangnya ketahanan (''robustness'') model dalam menghadapi gangguan, dan seringkali membutuhkan biaya komputasi yang tinggi untuk implementasi teknik pertahanan yang efektif.<ref>Peva Blanchard. [https://proceedings.neurips.cc/paper/2017/hash/f4b9ec30ad9f68f89b29639786cb62ef-Abstract.html Machine Learning with Adversaries: Byzantine Tolerant Gradient Descent]. ''Advances in Neural Information Processing Systems''. Curran Associates, Inc. 2017. Vol. 30.</ref><ref>El Mahdi El-Mhamdi. [https://proceedings.neurips.cc/paper/2021/hash/d2cd33e9c0236a8c2d8bd3fa91ad3acf-Abstract.html Collaborative Learning in the Jungle (Decentralized, Byzantine, Heterogeneous, Asynchronous and Nonconvex Learning)]. ''Advances in Neural Information Processing Systems''. Curran Associates, Inc. 2021. Vol. 34. hlm. 25044–25057.</ref>

== Galeri ==

== Referensi ==
<references />

== Sumber dan atribusi ==

Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Pembelajaran+mesin+adversarial&oldid=29317180 Wikipedia bahasa Indonesia], revisi 29317180 (2026-06-06T01:39:31Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Gambar pada artikel ini bersumber dari Wikimedia Commons dan mengikuti ketentuan lisensi masing-masing berkas. Mohon gunakan konten dan media secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.

<!-- WIKI_UNISSULA_PRESENTATION_V4 -->