Pemelajaran swabimbing: Perbedaan antara revisi
Impor teks terkontrol dari Wikipedia bahasa Indonesia; revisi 29061487; atribusi sumber disertakan. |
Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi |
||
| Baris 1: | Baris 1: | ||
'''Pemelajaran swabimbing''' atau '''pemelajaran terawasi mandiri''' ([[bahasa Inggris]]: '''''self-supervised learning''''' (SSL)) adalah suatu paradigma dalam bidang [[pemelajaran mesin]] yang sebuah model dilatih pada sebuah tugas dengan menggunakan data itu tersendiri untuk menghasilkan sinyal-sinyal pengawasan, tanpa harus bergantung pada label-label eksternal yang diberikan oleh manusia. Dalam konteks ini, model belajar secara otomatis dari struktur internal data, menciptakan representasi yang bermakna tanpa memerlukan anotasi label tambahan. Pendekatan ini memungkinkan model untuk mengekstrak pola dan fitur yang berguna secara mandiri dari data yang ada, meningkatkan kemampuan adaptasi dan generalisasi model pada berbagai tugas tanpa memerlukan bimbingan eksternal yang intensif. | '''Pemelajaran swabimbing''' atau '''pemelajaran terawasi mandiri''' ([[bahasa Inggris]]: '''''self-supervised learning''''' (SSL)) adalah suatu paradigma dalam bidang [[pemelajaran mesin]] yang sebuah model dilatih pada sebuah tugas dengan menggunakan data itu tersendiri untuk menghasilkan sinyal-sinyal pengawasan, tanpa harus bergantung pada label-label eksternal yang diberikan oleh manusia. Dalam konteks ini, model belajar secara otomatis dari struktur internal data, menciptakan representasi yang bermakna tanpa memerlukan anotasi label tambahan. Pendekatan ini memungkinkan model untuk mengekstrak pola dan fitur yang berguna secara mandiri dari data yang ada, meningkatkan kemampuan adaptasi dan generalisasi model pada berbagai tugas tanpa memerlukan bimbingan eksternal yang intensif. | ||
Dalam konteks [[Jaringan saraf tiruan|jaringan saraf]], pemelajaran terawasi mandiri bertujuan untuk memanfaatkan struktur atau hubungan bawaan dalam data masukan untuk menciptakan sinyal pelatihan yang bermakna. Tugas pemelajaran terawasi mandiri (SSL) didesain agar pemecahannya memerlukan penangkapan fitur atau hubungan esensial dalam data. Data masukan umumnya diperluas atau diubah dengan cara tertentu yang menciptakan pasangan sampel yang saling terkait. Satu sampel berfungsi sebagai masukan, dan yang lainnya digunakan untuk merumuskan sinyal pengawasan. Augmentasi ini dapat melibatkan penambahan [[noise|derau]], pemotongan, rotasi, atau transformasi lainnya. Pemelajaran terawasi mandiri lebih mirip dengan cara manusia belajar mengklasifikasikan objek. | Dalam konteks [[Jaringan saraf tiruan|jaringan saraf]], pemelajaran terawasi mandiri bertujuan untuk memanfaatkan struktur atau hubungan bawaan dalam data masukan untuk menciptakan sinyal pelatihan yang bermakna. Tugas pemelajaran terawasi mandiri (SSL) didesain agar pemecahannya memerlukan penangkapan fitur atau hubungan esensial dalam data. Data masukan umumnya diperluas atau diubah dengan cara tertentu yang menciptakan pasangan sampel yang saling terkait. Satu sampel berfungsi sebagai masukan, dan yang lainnya digunakan untuk merumuskan sinyal pengawasan. Augmentasi ini dapat melibatkan penambahan [[noise|derau]], pemotongan, rotasi, atau transformasi lainnya. Pemelajaran terawasi mandiri lebih mirip dengan cara manusia belajar mengklasifikasikan objek. <ref>Louis Bouchard. [https://medium.com/what-is-artificial-intelligence/what-is-self-supervised-learning-will-machines-be-able-to-learn-like-humans-d9160f40cdd1 What is Self-Supervised Learning? Will machines ever be able to learn like humans?]. ''Medium''. 2020-11-25.</ref> | ||
== Label-Semu == | == Label-Semu == | ||
Label semu adalah label yang dihasilkan secara otomatis yang ditetapkan oleh model untuk data tak berlabel berdasarkan prediksinya sendiri. Label ini banyak digunakan dalam pembelajaran terawasi mandiri dan semi-terawasi, di mana anotasi kebenaran dasar terbatas atau tidak tersedia. Dengan memperlakukan label yang diprediksi sebagai pengganti kebenaran dasar, algoritma pembelajaran dapat memanfaatkan data tak berlabel dalam jumlah besar dalam proses pelatihan. | Label semu adalah label yang dihasilkan secara otomatis yang ditetapkan oleh model untuk data tak berlabel berdasarkan prediksinya sendiri. Label ini banyak digunakan dalam pembelajaran terawasi mandiri dan semi-terawasi, di mana anotasi kebenaran dasar terbatas atau tidak tersedia. Dengan memperlakukan label yang diprediksi sebagai pengganti kebenaran dasar, algoritma pembelajaran dapat memanfaatkan data tak berlabel dalam jumlah besar dalam proses pelatihan.<ref>Jihee Kim. [https://doi.org/10.1145/3589572.3589596 An Efficient Noisy Label Learning Method with Semi-supervised Learning]. ''Proceedings of the 2023 6th International Conference on Machine Vision and Applications''. ACM. 2023-03-10. hlm. 161–166. doi:10.1145/3589572.3589596.</ref> | ||
Pelabelan semu juga memainkan peran penting dalam sistem yang harus beradaptasi dengan pergeseran konsep, di mana sifat statistik data berubah seiring waktu. Dalam skenario ini, model dapat mendeteksi bahwa suatu instans yang masuk menyimpang dari perilaku yang dipelajari sebelumnya. Sistem kemudian menghasilkan hasil klasifikasi untuk instans tersebut, dan kelas yang diprediksi ini digunakan sebagai label semu untuk memperbarui atau melatih ulang komponen model yang sudah usang. Pendekatan ini memungkinkan adaptasi berkelanjutan dalam lingkungan dinamis tanpa memerlukan anotasi manual. | Pelabelan semu juga memainkan peran penting dalam sistem yang harus beradaptasi dengan pergeseran konsep, di mana sifat statistik data berubah seiring waktu. Dalam skenario ini, model dapat mendeteksi bahwa suatu instans yang masuk menyimpang dari perilaku yang dipelajari sebelumnya. Sistem kemudian menghasilkan hasil klasifikasi untuk instans tersebut, dan kelas yang diprediksi ini digunakan sebagai label semu untuk memperbarui atau melatih ulang komponen model yang sudah usang. Pendekatan ini memungkinkan adaptasi berkelanjutan dalam lingkungan dinamis tanpa memerlukan anotasi manual.<ref>João Gama. [https://dl.acm.org/doi/10.1145/2523813 A survey on concept drift adaptation]. ''ACM Computing Surveys''. 2014-04. Vol. 46 (4). hlm. 1–37. doi:10.1145/2523813.</ref><ref>Ke Xu. [https://ieeexplore.ieee.org/document/8806731/ DroidEvolver: Self-Evolving Android Malware Detection System]. IEEE. 2019-06. hlm. 47–62. doi:10.1109/EuroSP.2019.00014. ISBN 978-1-7281-1148-3.</ref> | ||
Dalam banyak alur pembelajaran adaptif, pseudo-label dipilih ketika pengklasifikasi menghasilkan prediksi yang cukup meyakinkan, sehingga mengurangi risiko kesalahan propagasi. Instansi pseudo-label ini kemudian dimasukkan ke dalam pelatihan untuk menyegarkan atau mengembangkan pemahaman model tentang pola data yang muncul, terutama ketika komponen yang ada menunjukkan tanda-tanda "penuaan" akibat pergeseran atau pergeseran distribusi. Strategi ini mengurangi ketergantungan pada pelabelan manual sekaligus membantu mempertahankan kinerja model jangka panjang. | Dalam banyak alur pembelajaran adaptif, pseudo-label dipilih ketika pengklasifikasi menghasilkan prediksi yang cukup meyakinkan, sehingga mengurangi risiko kesalahan propagasi. Instansi pseudo-label ini kemudian dimasukkan ke dalam pelatihan untuk menyegarkan atau mengembangkan pemahaman model tentang pola data yang muncul, terutama ketika komponen yang ada menunjukkan tanda-tanda "penuaan" akibat pergeseran atau pergeseran distribusi. Strategi ini mengurangi ketergantungan pada pelabelan manual sekaligus membantu mempertahankan kinerja model jangka panjang. | ||
== Contoh == | == Contoh == | ||
Pembelajaran mandiri (self-supervised learning) sangat cocok untuk pengenalan suara. Misalnya, Facebook mengembangkan wav2vec, sebuah algoritma mandiri, untuk melakukan pengenalan suara menggunakan dua jaringan saraf konvolusional dalam yang saling membangun. | Pembelajaran mandiri (self-supervised learning) sangat cocok untuk pengenalan suara. Misalnya, Facebook mengembangkan wav2vec, sebuah algoritma mandiri, untuk melakukan pengenalan suara menggunakan dua jaringan saraf konvolusional dalam yang saling membangun.<ref>Leonardo Pepino. [https://doi.org/10.21437/interspeech.2021-703 Emotion Recognition from Speech Using wav2vec 2.0 Embeddings]. ''Interspeech 2021''. ISCA. 2021-08-30. doi:10.21437/interspeech.2021-703.</ref> | ||
Model Bidirectional Encoder Representations from Transformers (BERT) milik Google digunakan untuk lebih memahami konteks kueri penelusuran. | Model Bidirectional Encoder Representations from Transformers (BERT) milik Google digunakan untuk lebih memahami konteks kueri penelusuran.<ref>Yi-Chia Chen. [https://doi.org/10.1109/icip51287.2024.10647459 Open-Vocabulary Panoptic Segmentation Using Bert Pre-Training of Vision-Language Multiway Transformer Model]. ''2024 IEEE International Conference on Image Processing (ICIP)''. IEEE. 2024-10-27. hlm. 2494–2500. doi:10.1109/icip51287.2024.10647459.</ref> | ||
GPT-3 milik OpenAI adalah model bahasa autoregresif yang dapat digunakan dalam pemrosesan bahasa. Model ini dapat digunakan untuk menerjemahkan teks atau menjawab pertanyaan, antara lain. | GPT-3 milik OpenAI adalah model bahasa autoregresif yang dapat digunakan dalam pemrosesan bahasa. Model ini dapat digunakan untuk menerjemahkan teks atau menjawab pertanyaan, antara lain.<ref>Ethan Wilcox. [https://doi.org/10.18653/v1/2020.emnlp-main.375 Structural Supervision Improves Few-Shot Learning and Syntactic Generalization in Neural Language Models]. ''Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP)''. Association for Computational Linguistics. 2020. hlm. 4640–4652. doi:10.18653/v1/2020.emnlp-main.375.</ref> | ||
Bootstrap Your Own Latent (BYOL) adalah NCSSL yang menghasilkan hasil yang sangat baik pada ImageNet dan pada uji transfer serta semi-supervised. | Bootstrap Your Own Latent (BYOL) adalah NCSSL yang menghasilkan hasil yang sangat baik pada ImageNet dan pada uji transfer serta semi-supervised.<ref>Adria Recasens. [https://doi.org/10.1109/iccv48922.2021.00129 Broaden Your Views for Self-Supervised Video Learning]. ''2021 IEEE/CVF International Conference on Computer Vision (ICCV)''. IEEE. 2021-10. hlm. 1235–1245. doi:10.1109/iccv48922.2021.00129.</ref> | ||
Algoritma Yarowsky adalah contoh pembelajaran mandiri dalam pemrosesan bahasa alami (NLP). Dari sejumlah kecil contoh berlabel, algoritma ini belajar memprediksi makna kata dari kata polisemi yang sedang digunakan pada titik tertentu dalam teks. | Algoritma Yarowsky adalah contoh pembelajaran mandiri dalam pemrosesan bahasa alami (NLP). Dari sejumlah kecil contoh berlabel, algoritma ini belajar memprediksi makna kata dari kata polisemi yang sedang digunakan pada titik tertentu dalam teks. | ||
| Baris 23: | Baris 23: | ||
DirectPred adalah NCSSL yang secara langsung menetapkan bobot prediktor, alih-alih mempelajarinya melalui penurunan gradien biasa.[12] | DirectPred adalah NCSSL yang secara langsung menetapkan bobot prediktor, alih-alih mempelajarinya melalui penurunan gradien biasa.[12] | ||
Self-GenomeNet adalah contoh pembelajaran mandiri dalam genomika. | Self-GenomeNet adalah contoh pembelajaran mandiri dalam genomika.<ref>Hüseyin Anil Gündüz. [https://www.nature.com/articles/s42003-023-05310-2 A self-supervised deep learning method for data-efficient training in genomics]. ''Communications Biology''. 2023-09-11. Vol. 6 (1). doi:10.1038/s42003-023-05310-2.</ref> | ||
Pembelajaran mandiri terus menjadi semakin populer sebagai pendekatan baru di berbagai bidang. Kemampuannya untuk memanfaatkan data tak berlabel secara efektif membuka kemungkinan baru untuk kemajuan dalam pembelajaran mesin, terutama dalam domain aplikasi berbasis data. | Pembelajaran mandiri terus menjadi semakin populer sebagai pendekatan baru di berbagai bidang. Kemampuannya untuk memanfaatkan data tak berlabel secara efektif membuka kemungkinan baru untuk kemajuan dalam pembelajaran mesin, terutama dalam domain aplikasi berbasis data. | ||
==Bacaan lanjutan== | ==Bacaan lanjutan== | ||
* | * | ||
== Pranala luar == | == Pranala luar == | ||
* | |||
* | * | ||
* | * | ||
* | |||
* | * | ||
== Referensi == | |||
<references /> | |||
== Sumber dan atribusi == | == Sumber dan atribusi == | ||
Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Pemelajaran+swabimbing&oldid=29061487 Wikipedia bahasa Indonesia], revisi 29061487 (2026-03-23T06:22:20Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku. | Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Pemelajaran+swabimbing&oldid=29061487 Wikipedia bahasa Indonesia], revisi 29061487 (2026-03-23T06:22:20Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku. | ||
<!-- WIKI_UNISSULA_PRESENTATION_V4 --> | |||
Revisi terkini sejak 23 Agustus 2026 04.21
Pemelajaran swabimbing atau pemelajaran terawasi mandiri (bahasa Inggris: self-supervised learning (SSL)) adalah suatu paradigma dalam bidang pemelajaran mesin yang sebuah model dilatih pada sebuah tugas dengan menggunakan data itu tersendiri untuk menghasilkan sinyal-sinyal pengawasan, tanpa harus bergantung pada label-label eksternal yang diberikan oleh manusia. Dalam konteks ini, model belajar secara otomatis dari struktur internal data, menciptakan representasi yang bermakna tanpa memerlukan anotasi label tambahan. Pendekatan ini memungkinkan model untuk mengekstrak pola dan fitur yang berguna secara mandiri dari data yang ada, meningkatkan kemampuan adaptasi dan generalisasi model pada berbagai tugas tanpa memerlukan bimbingan eksternal yang intensif.
Dalam konteks jaringan saraf, pemelajaran terawasi mandiri bertujuan untuk memanfaatkan struktur atau hubungan bawaan dalam data masukan untuk menciptakan sinyal pelatihan yang bermakna. Tugas pemelajaran terawasi mandiri (SSL) didesain agar pemecahannya memerlukan penangkapan fitur atau hubungan esensial dalam data. Data masukan umumnya diperluas atau diubah dengan cara tertentu yang menciptakan pasangan sampel yang saling terkait. Satu sampel berfungsi sebagai masukan, dan yang lainnya digunakan untuk merumuskan sinyal pengawasan. Augmentasi ini dapat melibatkan penambahan derau, pemotongan, rotasi, atau transformasi lainnya. Pemelajaran terawasi mandiri lebih mirip dengan cara manusia belajar mengklasifikasikan objek. [1]
Label-Semu
Label semu adalah label yang dihasilkan secara otomatis yang ditetapkan oleh model untuk data tak berlabel berdasarkan prediksinya sendiri. Label ini banyak digunakan dalam pembelajaran terawasi mandiri dan semi-terawasi, di mana anotasi kebenaran dasar terbatas atau tidak tersedia. Dengan memperlakukan label yang diprediksi sebagai pengganti kebenaran dasar, algoritma pembelajaran dapat memanfaatkan data tak berlabel dalam jumlah besar dalam proses pelatihan.[2]
Pelabelan semu juga memainkan peran penting dalam sistem yang harus beradaptasi dengan pergeseran konsep, di mana sifat statistik data berubah seiring waktu. Dalam skenario ini, model dapat mendeteksi bahwa suatu instans yang masuk menyimpang dari perilaku yang dipelajari sebelumnya. Sistem kemudian menghasilkan hasil klasifikasi untuk instans tersebut, dan kelas yang diprediksi ini digunakan sebagai label semu untuk memperbarui atau melatih ulang komponen model yang sudah usang. Pendekatan ini memungkinkan adaptasi berkelanjutan dalam lingkungan dinamis tanpa memerlukan anotasi manual.[3][4]
Dalam banyak alur pembelajaran adaptif, pseudo-label dipilih ketika pengklasifikasi menghasilkan prediksi yang cukup meyakinkan, sehingga mengurangi risiko kesalahan propagasi. Instansi pseudo-label ini kemudian dimasukkan ke dalam pelatihan untuk menyegarkan atau mengembangkan pemahaman model tentang pola data yang muncul, terutama ketika komponen yang ada menunjukkan tanda-tanda "penuaan" akibat pergeseran atau pergeseran distribusi. Strategi ini mengurangi ketergantungan pada pelabelan manual sekaligus membantu mempertahankan kinerja model jangka panjang.
Contoh
Pembelajaran mandiri (self-supervised learning) sangat cocok untuk pengenalan suara. Misalnya, Facebook mengembangkan wav2vec, sebuah algoritma mandiri, untuk melakukan pengenalan suara menggunakan dua jaringan saraf konvolusional dalam yang saling membangun.[5]
Model Bidirectional Encoder Representations from Transformers (BERT) milik Google digunakan untuk lebih memahami konteks kueri penelusuran.[6]
GPT-3 milik OpenAI adalah model bahasa autoregresif yang dapat digunakan dalam pemrosesan bahasa. Model ini dapat digunakan untuk menerjemahkan teks atau menjawab pertanyaan, antara lain.[7]
Bootstrap Your Own Latent (BYOL) adalah NCSSL yang menghasilkan hasil yang sangat baik pada ImageNet dan pada uji transfer serta semi-supervised.[8]
Algoritma Yarowsky adalah contoh pembelajaran mandiri dalam pemrosesan bahasa alami (NLP). Dari sejumlah kecil contoh berlabel, algoritma ini belajar memprediksi makna kata dari kata polisemi yang sedang digunakan pada titik tertentu dalam teks.
DirectPred adalah NCSSL yang secara langsung menetapkan bobot prediktor, alih-alih mempelajarinya melalui penurunan gradien biasa.[12]
Self-GenomeNet adalah contoh pembelajaran mandiri dalam genomika.[9]
Pembelajaran mandiri terus menjadi semakin populer sebagai pendekatan baru di berbagai bidang. Kemampuannya untuk memanfaatkan data tak berlabel secara efektif membuka kemungkinan baru untuk kemajuan dalam pembelajaran mesin, terutama dalam domain aplikasi berbasis data.
Bacaan lanjutan
Pranala luar
Referensi
- ↑ Louis Bouchard. What is Self-Supervised Learning? Will machines ever be able to learn like humans?. Medium. 2020-11-25.
- ↑ Jihee Kim. An Efficient Noisy Label Learning Method with Semi-supervised Learning. Proceedings of the 2023 6th International Conference on Machine Vision and Applications. ACM. 2023-03-10. hlm. 161–166. doi:10.1145/3589572.3589596.
- ↑ João Gama. A survey on concept drift adaptation. ACM Computing Surveys. 2014-04. Vol. 46 (4). hlm. 1–37. doi:10.1145/2523813.
- ↑ Ke Xu. DroidEvolver: Self-Evolving Android Malware Detection System. IEEE. 2019-06. hlm. 47–62. doi:10.1109/EuroSP.2019.00014. ISBN 978-1-7281-1148-3.
- ↑ Leonardo Pepino. Emotion Recognition from Speech Using wav2vec 2.0 Embeddings. Interspeech 2021. ISCA. 2021-08-30. doi:10.21437/interspeech.2021-703.
- ↑ Yi-Chia Chen. Open-Vocabulary Panoptic Segmentation Using Bert Pre-Training of Vision-Language Multiway Transformer Model. 2024 IEEE International Conference on Image Processing (ICIP). IEEE. 2024-10-27. hlm. 2494–2500. doi:10.1109/icip51287.2024.10647459.
- ↑ Ethan Wilcox. Structural Supervision Improves Few-Shot Learning and Syntactic Generalization in Neural Language Models. Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP). Association for Computational Linguistics. 2020. hlm. 4640–4652. doi:10.18653/v1/2020.emnlp-main.375.
- ↑ Adria Recasens. Broaden Your Views for Self-Supervised Video Learning. 2021 IEEE/CVF International Conference on Computer Vision (ICCV). IEEE. 2021-10. hlm. 1235–1245. doi:10.1109/iccv48922.2021.00129.
- ↑ Hüseyin Anil Gündüz. A self-supervised deep learning method for data-efficient training in genomics. Communications Biology. 2023-09-11. Vol. 6 (1). doi:10.1038/s42003-023-05310-2.
Sumber dan atribusi
Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 29061487 (2026-03-23T06:22:20Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.