Lompat ke isi

Keamanan kecerdasan buatan

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung

Keamanan kecerdasan buatan adalah sebuah bidang interdisipliner yang berfokus pada pencegahan kecelakaan, penyalahgunaan, atau konsekuensi berbahaya lainnya yang mungkin timbul dari sistem kecerdasan buatan. Bidang ini mencakup penyelarasan kecerdasan buatan (yang bertujuan memastikan sistem kecerdasan buatan bertindak sesuai dengan maksud yang diharapkan), pemantauan risiko dari sistem kecerdasan buatan, serta peningkatan ketahanannya. Perhatian utama dalam bidang ini tertuju pada risiko eksistensial yang berpotensi ditimbulkan oleh model kecerdasan buatan tingkat lanjut.[1][2]

Selain penelitian teknis, keamanan kecerdasan buatan juga mencakup pengembangan norma serta kebijakan yang mendukung keselamatan. Bidang ini memperoleh perhatian luas pada tahun 2023, seiring dengan kemajuan pesat dalam kecerdasan buatan generatif dan meningkatnya kekhawatiran publik yang disuarakan oleh para peneliti maupun CEO mengenai potensi bahayanya. Pada KTT Keamanan Kecerdasan Buatan tahun 2023, Amerika Serikat dan Britania Raya masing-masing membentuk Institut Keamanan Kecerdasan Buatan mereka sendiri. Namun demikian, sejumlah peneliti menyampaikan kekhawatiran bahwa langkah-langkah keamanan kecerdasan buatan masih belum sejalan dengan kecepatan perkembangan kapabilitas kecerdasan buatan.[3]

Motivasi

Para ilmuwan mendiskusikan risiko terkini dari kegagalan sistem kritis,[4] bias,[5] dan pengawasan yang didukung AI,[6] as well as emerging risks like technological unemployment, digital manipulation,[7] weaponization,[8] AI-enabled cyberattacks[9] and bioterrorism.[10] Mereka juga membahas risiko spekulatif dari hilangnya kendali atas agen kecerdasan umum buatan (AGI) di masa depan.,[11] atau dari AI yang memungkinkan kediktatoran yang selalu stabil.[12]

Keamanan eksistensial

Beberapa pihak mengkritik kekhawatiran mengenai AGI, seperti Andrew Ng yang membandingkannya pada tahun 2015 dengan “kekhawatiran mengenai kelebihan populasi di Mars padahal kita bahkan belum menginjakkan kaki di planet tersebut”.[13] Stuart J. Russell di sisi lain mendesak kehati-hatian, dengan menyatakan bahwa "lebih baik mengantisipasi kecerdikan manusia daripada meremehkannya".[14]

Para peneliti AI memiliki pendapat yang sangat berbeda tentang tingkat keparahan dan sumber utama risiko yang ditimbulkan oleh teknologi AI.[15][16][17] – Meskipun survei menunjukkan bahwa para ahli menganggap serius risiko dengan konsekuensi tinggi. Dalam dua survei peneliti AI, responden median optimis terhadap AI secara keseluruhan, tetapi menempatkan probabilitas 5% pada hasil "sangat buruk (misalnya kepunahan manusia)" dari AI tingkat lanjut..[15] Dalam survei komunitas pemrosesan bahasa alami tahun 2022, 37% setuju atau agak setuju bahwa masuk akal jika keputusan AI dapat menyebabkan bencana yang "setidaknya seburuk perang nuklir besar-besaran".[18]

Pranala luar

Referensi

  1. ↑ Shazeda Ahmed. Field-building and the epistemic culture of AI safety. First Monday. 2024-04-14. doi:10.5210/fm.v29i4.13626.
  2. ↑ Dan Hendrycks. Unsolved Problems in ML Safety. 2022-06-16.
  3. ↑ Billy Perrigo. U.K.'s AI Safety Summit Ends With Limited, but Meaningful, Progress. 2023-11-02.
  4. ↑ Maria De-Arteaga. Machine Learning in High-Stakes Settings: Risks and Opportunities. Carnegie Mellon University. 2020-05-13.
  5. ↑ Ninareh Mehrabi. A Survey on Bias and Fairness in Machine Learning. ACM Computing Surveys. 2021. Vol. 54 (6). hlm. 1–35. doi:10.1145/3457607.
  6. ↑ Steven Feldstein. The Global Expansion of AI Surveillance. Carnegie Endowment for International Peace. 2019.
  7. ↑ Beth Barnes. Risks from AI persuasion. Lesswrong. 2021.
  8. ↑ Miles Brundage. The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. Apollo - University of Cambridge Repository. 2018-04-30. doi:10.17863/cam.22520.
  9. ↑ Pascale Davies. How NATO is preparing for a new era of AI cyber attacks. euronews. December 26, 2022.
  10. ↑ Anjana Ahuja. AI's bioterrorism potential should not be ruled out. Financial Times. February 7, 2024.
  11. ↑ Joseph Carlsmith. Is Power-Seeking AI an Existential Risk?. 2022-06-16.
  12. ↑ Di Minardi. The grim fate that could be 'worse than extinction'. BBC. 16 October 2020.
  13. ↑ AGI Expert Peter Voss Says AI Alignment Problem is Bogus NextBigFuture.com. 2023-04-04.
  14. ↑ Allan Dafoe. Yes, We Are Worried About the Existential Risk of Artificial Intelligence. MIT Technology Review. 2016.
  15. ↑ 15,0 15,1 Katja Grace. Viewpoint: When Will AI Exceed Human Performance? Evidence from AI Experts. Journal of Artificial Intelligence Research. 2018-07-31. Vol. 62. hlm. 729–754. doi:10.1613/jair.1.11222.
  16. ↑ Baobao Zhang. Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers. Journal of Artificial Intelligence Research. 2021-05-05. Vol. 71. doi:10.1613/jair.1.12895.
  17. ↑ Zach Stein-Perlman. 2022 Expert Survey on Progress in AI. AI Impacts. 2022-08-04.
  18. ↑ Julian Michael. What Do NLP Researchers Believe? Results of the NLP Community Metasurvey. Association for Computational Linguistics. 2022-08-26.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 29490263 (2026-07-24T06:01:51Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Keamanan_kecerdasan_buatan&oldid=383"