Lompat ke isi

Optimasi multitugas

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung
Revisi sejak 23 Agustus 2026 04.19 oleh Maintenance script (bicara | kontrib) (Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi)
(beda) ← Revisi sebelumnya | Revisi terkini (beda) | Revisi selanjutnya → (beda)

Optimasi multi-tugas (bahasa Inggris: multi-task optimization) adalah suatu paradigma dalam literatur optimasi yang berfokus pada penyelesaian beberapa tugas mandiri secara bersamaan.[1][2] Paradigma ini terinspirasi oleh konsep pembelajaran transfer [3] dan pembelajaran multi-tugas [4] yang telah lama dikenal dalam analitik prediktif.

Motivasi utama di balik optimasi multitugas adalah jika tugas-tugas optimasi saling terkait satu sama lain dari segi solusi optimalnya atau karakteristik umum dari lanskap fungsinya,[5] kemajuan pencarian pada suatu tugas dapat dialihkan untuk mempercepat pencarian pada tugas lainnya secara signifikan.

Keberhasilan paradigma ini tidak mesti terbatas pada transfer pengetahuan satu arah dari tugas yang lebih sederhana ke tugas yang lebih kompleks. Dalam praktiknya,upaya untuk menyelesaikan tugas yang lebih sulit justru dapat secara tidak langsung memecahkan beberapa permasalahan yang lebih kecil.[6]

Terdapat hubungan langsung antara optimasi multitugas dan optimasi multiobjektif . [7]

Metode

Ada beberapa pendekatan umum untuk optimasi multi-tugas: optimasi Bayesian, komputasi evolusioner, dan pendekatan berdasarkan teori permainan.[8]

Optimasi Bayesian multitugas

Optimasi Bayesian multitugas (atau multi-task Bayesian optimization) adalah pendekatan modern berbasis model yang memanfaatkan konsep transfer pengetahuan untuk mempercepat proses optimasi hiperparameter secara otomatis pada algoritma pemelajaran mesin. Metode ini membangun model proses Gaussian multitugas menggunakan data yang berasal dari pencarian berbeda yang berlangsung secara bersamaan. Ketergantungan antar-tugas yang teridentifikasi selanjutnya dimanfaatkan untuk memberikan informasi yang lebih baik dalam pengambilan sampel solusi kandidat berikutnya pada masing-masing ruang pencarian.

Multitugas berbasis evolusioner

Multitasking evolusioner (atau evolutionary multi-tasking) telah diteliti sebagai cara untuk memanfaatkan paralelisme implisit dari algoritma pencarian berbasis populasi untuk menyelesaikan beberapa tugas optimasi yang berbeda secara bersamaan. Dengan memetakan semua tugas ke dalam satu ruang pencarian yang terpadu, populasi kandidat solusi yang berkembang dapat memanfaatkan hubungan tersembunyi di antara tugas-tugas tersebut melalui transfer genetik yang berkesinambungan. Proses ini terjadi ketika solusi yang terkait dengan tugas yang berbeda melakukan crossover (persilangan).[9] Baru-baru ini, beberapa metode transfer pengetahuan selain perpindahan langsung juga telah dieksplorasi.[10][11]

Optimasi berdasarkan teori permainan

Pendekatan teori permainan dalam optimasi multitugas memandang permasalahan optimasi sebagai sebuah permainan yang setiap tugasnya dianggap sebagai pemain. Semua pemain bersaing melalui matriks imbalan (reward matrix) dan berusaha mencapai solusi yang dapat memuaskan semua pemain (semua tugas). Perspektif ini memberikan wawasan tentang bagaimana membangun algoritma yang efisien berdasarkan optimasi penurunan gradien (Gradient descent atau GD), yang sangat penting untuk melatih jaringan saraf dalam atau deep neural networks.[12]

Dalam GD untuk MTL (Multi-task learning), setiap tugas menghasilkan nilai kerugiannya (loss) sendiri, sehingga menjadi tidak jelas bagaimana menggabungkan semua kerugian tersebut untuk membentuk satu gradien terpadu. Masalah agregasi ini memunculkan berbagai strategi penggabungan.[13] [14] [15] Permasalahan ini dapat diatasi dengan mendefinisikan matriks permainan, di mana imbalan setiap pemain ditentukan oleh seberapa besar kesesuaian gradiennya dengan gradien bersama. Gradien bersama ini kemudian ditetapkan menggunakan konsep Nash Cooperative Bargaining, sehingga menghasilkan solusi yang adil bagi seluruh tugas dalam sistem tersebut.

Penerapan

Algoritma untuk optimasi multitugas mencakup berbagai macam penerapan di dunia nyata. Penelitian terkini menyoroti potensi percepatan optimasi parameter desain rekayasa dengan melakukan perancangan terkait secara bersamaan melalui pendekatan multitugas. Dalam pemelajaran mesin, transfer fitur yang telah dioptimalkan antar dataset yang saling terkait dapat meningkatkan efisiensi proses pelatihan serta memperkuat kemampuan generalisasi model yang dipelajari. Selain itu, konsep multitugas juga telah menghasilkan kemajuan dalam optimasi hiperparameter otomatis untuk model pemelajaran mesin dan pemelajaran ensemble.[16][17]

Penerapan lainnya juga telah dilaporkan dalam bidang komputasi awan,[18] dengan pengembangan ke depan yang diarahkan pada layanan optimasi berbasis cloud berdasarkan permintaan yang dapat melayani banyak pelanggan secara bersamaan.[19] Penelitian terbaru juga menunjukkan adanya penerapan dalam bidang kimia.[20] Selain itu, beberapa studi terbaru juga telah menerapkan algoritma optimasi multitugas dalam proses manufaktur industri.[21][22]

Lihat juga

Referensi

  1. ↑ Abhishek Gupta. Insights on Transfer Optimization: Because Experience is the Best Teacher. IEEE Transactions on Emerging Topics in Computational Intelligence. 2018. Vol. 2. hlm. 51–64. doi:10.1109/TETCI.2017.2769104.
  2. ↑ Abhishek Gupta. Multifactorial Evolution: Toward Evolutionary Multitasking. IEEE Transactions on Evolutionary Computation. 2016. Vol. 20 (3). hlm. 343–357. doi:10.1109/TEVC.2015.2458037.
  3. ↑ Sinno Jialin Pan. A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering. 2010. Vol. 22 (10). hlm. 1345–1359. doi:10.1109/TKDE.2009.191.
  4. ↑ Caruana, R., "Multitask Learning", pp. 95-134 in Sebastian Thrun, Lorien Pratt (eds.) Learning to Learn, (1998) Springer
  5. ↑ Mei-Ying Cheng. Coevolutionary multitasking for concurrent global optimization: With case studies in complex engineering design. Engineering Applications of Artificial Intelligence. 2017. Vol. 64. hlm. 13–24. doi:10.1016/j.engappai.2017.05.008.
  6. ↑ The Intentional Unintentional Agent: Learning to Solve Many Continuous Control Tasks Simultaneously.
  7. ↑ J. -Y. Li, Z. -H. Zhan, Y. Li and J. Zhang, "Multiple Tasks for Multiple Objectives: A New Multiobjective Optimization Method via Multitask Optimization," in IEEE Transactions on Evolutionary Computation,
  8. ↑ Abhishek Gupta. Insights on Transfer Optimization: Because Experience is the Best Teacher. IEEE Transactions on Emerging Topics in Computational Intelligence. 2018. Vol. 2. hlm. 51–64. doi:10.1109/TETCI.2017.2769104. Gupta, Abhishek; Ong, Yew-Soon; Feng, Liang (2018). "Insights on Transfer Optimization: Because Experience is the Best Teacher". IEEE Transactions on Emerging Topics in Computational Intelligence. 2: 51– 64. doi:10.1109/TETCI.2017.2769104. hdl: 10356/147980 . S2CID 11510470.
  9. ↑ Abhishek Gupta. Multifactorial Evolution: Toward Evolutionary Multitasking. IEEE Transactions on Evolutionary Computation. 2016. Vol. 20 (3). hlm. 343–357. doi:10.1109/TEVC.2015.2458037. Gupta, Abhishek; Ong, Yew-Soon; Feng, Liang (2016). "Multifactorial Evolution: Toward Evolutionary Multitasking". IEEE Transactions on Evolutionary Computation. 20 (3): 343– 357. doi:10.1109/TEVC.2015.2458037. hdl: 10356/148174 . S2CID 13767012.
  10. ↑ Liang Feng. Evolutionary Multitasking via Explicit Autoencoding. IEEE Transactions on Cybernetics. 2019. Vol. 49 (9). hlm. 3457–3470. doi:10.1109/TCYB.2018.2845361.
  11. ↑ Yi Jiang. Block-Level Knowledge Transfer for Evolutionary Multitask Optimization. IEEE Transactions on Cybernetics. January 2024. Vol. 54 (1). hlm. 558–571. doi:10.1109/TCYB.2023.3273625.
  12. ↑ Ian Goodfellow. Deep Learning. MIT Press. 2016. ISBN 978-0-262-03561-3.
  13. ↑ L. Liu. Towards Impartial Multi-task Learning. In: Proceedings of the International Conference on Learning Representations (ICLR 2021). ICLR: Virtual event. (2021). 2021-05-04.
  14. ↑ Yu Tianhe. Gradient Surgery for Multi-Task Learning. Advances in Neural Information Processing Systems. 2020. Vol. 33.
  15. ↑ Bo Liu. Conflict-Averse Gradient Descent for Multi-task Learning. 2021-10-26.
  16. ↑ Yu-Wei Wen. 2016 IEEE Congress on Evolutionary Computation (CEC). 2016. hlm. 5293–5300. doi:10.1109/CEC.2016.7748363. ISBN 978-1-5090-0623-6.
  17. ↑ Boyu Zhang. Proceedings of the Genetic and Evolutionary Computation Conference. 2018. hlm. 577–584. doi:10.1145/3205455.3205638. ISBN 978-1-4503-5618-3.
  18. ↑ Liang Bao. Services – SERVICES 2018. 2018. Vol. 10975. hlm. 130–144. doi:10.1007/978-3-319-94472-2_10. ISBN 978-3-319-94471-5.
  19. ↑ Abhishek Gupta. Multifactorial Evolution: Toward Evolutionary Multitasking. IEEE Transactions on Evolutionary Computation. 2016. Vol. 20 (3). hlm. 343–357. doi:10.1109/TEVC.2015.2458037. Gupta, Abhishek; Ong, Yew-Soon; Feng, Liang (2016). "Multifactorial Evolution: Toward Evolutionary Multitasking". IEEE Transactions on Evolutionary Computation. 20 (3): 343– 357. doi:10.1109/TEVC.2015.2458037. hdl: 10356/148174 . S2CID 13767012.
  20. ↑ Kobi Felton. Multi-task Bayesian Optimization of Chemical Reactions. chemRxiv. 2021. doi:10.26434/chemrxiv.13250216.v2.
  21. ↑ Yi Jiang. A Bi-Objective Knowledge Transfer Framework for Evolutionary Many-Task Optimization. IEEE Transactions on Evolutionary Computation. October 2023. Vol. 27 (5). hlm. 1514–1528. doi:10.1109/TEVC.2022.3210783.
  22. ↑ Yi Jiang. Knowledge Structure Preserving-Based Evolutionary Many-Task Optimization. IEEE Transactions on Evolutionary Computation. 2024. hlm. 1–1. doi:10.1109/TEVC.2024.3355781.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 27230869 (2025-05-05T01:12:26Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Optimasi_multitugas&oldid=1247"