Lompat ke isi

Keamanan kecerdasan buatan: Perbedaan antara revisi

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung

Maintenance script (bicara | kontrib)

37.956 suntingan
Maintenance script (bicara | kontrib)
37.956 suntingan
Impor teks terkontrol dari Wikipedia bahasa Indonesia; revisi 29490263; atribusi sumber disertakan.
 
Maintenance script (bicara | kontrib)
37.956 suntingan
Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi
 
Baris 1: Baris 1:
'''Keamanan kecerdasan buatan''' adalah sebuah bidang interdisipliner yang berfokus pada pencegahan kecelakaan, penyalahgunaan, atau konsekuensi berbahaya lainnya yang mungkin timbul dari sistem [[kecerdasan buatan]]. Bidang ini mencakup [[penyelarasan kecerdasan buatan]] (yang bertujuan memastikan sistem kecerdasan buatan bertindak sesuai dengan maksud yang diharapkan), pemantauan risiko dari sistem kecerdasan buatan, serta peningkatan ketahanannya. Perhatian utama dalam bidang ini tertuju pada [[Risiko eksistensial kecerdasan buatan umum|risiko eksistensial]] yang berpotensi ditimbulkan oleh model kecerdasan buatan tingkat lanjut.
'''Keamanan kecerdasan buatan''' adalah sebuah bidang interdisipliner yang berfokus pada pencegahan kecelakaan, penyalahgunaan, atau konsekuensi berbahaya lainnya yang mungkin timbul dari sistem [[kecerdasan buatan]]. Bidang ini mencakup [[penyelarasan kecerdasan buatan]] (yang bertujuan memastikan sistem kecerdasan buatan bertindak sesuai dengan maksud yang diharapkan), pemantauan risiko dari sistem kecerdasan buatan, serta peningkatan ketahanannya. Perhatian utama dalam bidang ini tertuju pada [[Risiko eksistensial kecerdasan buatan umum|risiko eksistensial]] yang berpotensi ditimbulkan oleh model kecerdasan buatan tingkat lanjut.<ref>Shazeda Ahmed. [https://firstmonday.org/ojs/index.php/fm/article/view/13626 Field-building and the epistemic culture of AI safety]. ''First Monday''. 2024-04-14. doi:10.5210/fm.v29i4.13626.</ref><ref name="Hendrycks2022">Dan Hendrycks. ''Unsolved Problems in ML Safety''. 2022-06-16.</ref>


Selain penelitian teknis, keamanan kecerdasan buatan juga mencakup pengembangan norma serta kebijakan yang mendukung keselamatan. Bidang ini memperoleh perhatian luas pada tahun 2023, seiring dengan kemajuan pesat dalam [[kecerdasan buatan generatif]] dan meningkatnya kekhawatiran publik yang disuarakan oleh para peneliti maupun CEO mengenai potensi bahayanya. Pada [[KTT Keamanan Kecerdasan Buatan]] tahun 2023, [[Amerika Serikat]] dan [[Britania Raya]] masing-masing membentuk [[Institut Keamanan Kecerdasan Buatan]] mereka sendiri. Namun demikian, sejumlah peneliti menyampaikan kekhawatiran bahwa langkah-langkah keamanan kecerdasan buatan masih belum sejalan dengan kecepatan perkembangan kapabilitas kecerdasan buatan.
Selain penelitian teknis, keamanan kecerdasan buatan juga mencakup pengembangan norma serta kebijakan yang mendukung keselamatan. Bidang ini memperoleh perhatian luas pada tahun 2023, seiring dengan kemajuan pesat dalam [[kecerdasan buatan generatif]] dan meningkatnya kekhawatiran publik yang disuarakan oleh para peneliti maupun CEO mengenai potensi bahayanya. Pada [[KTT Keamanan Kecerdasan Buatan]] tahun 2023, [[Amerika Serikat]] dan [[Britania Raya]] masing-masing membentuk [[Institut Keamanan Kecerdasan Buatan]] mereka sendiri. Namun demikian, sejumlah peneliti menyampaikan kekhawatiran bahwa langkah-langkah keamanan kecerdasan buatan masih belum sejalan dengan kecepatan perkembangan kapabilitas kecerdasan buatan.<ref>Billy Perrigo. [https://time.com/6330877/uk-ai-safety-summit/ U.K.'s AI Safety Summit Ends With Limited, but Meaningful, Progress]. 2023-11-02.</ref>


== Motivasi ==
== Motivasi ==
Para ilmuwan mendiskusikan risiko terkini dari kegagalan [[sistem kritis]], [[Algorithmic bias|bias]], dan pengawasan yang didukung AI, as well as emerging risks like [[technological unemployment]], digital manipulation, weaponization, AI-enabled [[cyberattack]]s and [[bioterrorism]]. Mereka juga membahas risiko spekulatif dari hilangnya kendali atas agen [[kecerdasan umum buatan]] (AGI) di masa depan., atau dari AI yang memungkinkan kediktatoran yang selalu stabil.
Para ilmuwan mendiskusikan risiko terkini dari kegagalan [[sistem kritis]],<ref>Maria De-Arteaga. ''Machine Learning in High-Stakes Settings: Risks and Opportunities''. Carnegie Mellon University. 2020-05-13.</ref> [[Algorithmic bias|bias]],<ref name=":3">Ninareh Mehrabi. [https://dl.acm.org/doi/10.1145/3457607 A Survey on Bias and Fairness in Machine Learning]. ''ACM Computing Surveys''. 2021. Vol. 54 (6). hlm. 1–35. doi:10.1145/3457607.</ref> dan pengawasan yang didukung AI,<ref>Steven Feldstein. ''The Global Expansion of AI Surveillance''. Carnegie Endowment for International Peace. 2019.</ref> as well as emerging risks like [[technological unemployment]], digital manipulation,<ref>Beth Barnes. [https://www.lesswrong.com/posts/5cWtwATHL6KyzChck/risks-from-ai-persuasion Risks from AI persuasion]. ''Lesswrong''. 2021.</ref> weaponization,<ref name=":13">Miles Brundage. [https://www.repository.cam.ac.uk/handle/1810/275332 The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation]. Apollo - University of Cambridge Repository. 2018-04-30. doi:10.17863/cam.22520.</ref> AI-enabled [[cyberattack]]s<ref>Pascale Davies. [https://www.euronews.com/next/2022/12/26/ai-cyber-attacks-are-a-critical-threat-this-is-how-nato-is-countering-them How NATO is preparing for a new era of AI cyber attacks]. ''euronews''. December 26, 2022.</ref> and [[bioterrorism]].<ref>Anjana Ahuja. [https://www.ft.com/content/e2a28b73-9831-4e7e-be7c-a599d2498f24 AI's bioterrorism potential should not be ruled out]. ''Financial Times''. February 7, 2024.</ref> Mereka juga membahas risiko spekulatif dari hilangnya kendali atas agen [[kecerdasan umum buatan]] (AGI) di masa depan.,<ref>Joseph Carlsmith. ''Is Power-Seeking AI an Existential Risk?''. 2022-06-16.</ref> atau dari AI yang memungkinkan kediktatoran yang selalu stabil.<ref>Di Minardi. [https://www.bbc.com/future/article/20201014-totalitarian-world-in-chains-artificial-intelligence The grim fate that could be 'worse than extinction']. ''BBC''. 16 October 2020.</ref>


=== Keamanan eksistensial ===
=== Keamanan eksistensial ===
Beberapa pihak mengkritik kekhawatiran mengenai AGI, seperti [[Andrew Ng]] yang membandingkannya pada tahun 2015 dengan “kekhawatiran mengenai kelebihan populasi di Mars padahal kita bahkan belum menginjakkan kaki di planet tersebut”.<ref>[https://www.nextbigfuture.com/2023/04/agi-expert-peter-voss-says-ai-alignment-problem-is-bogus.html AGI Expert Peter Voss Says AI Alignment Problem is Bogus NextBigFuture.com]. 2023-04-04.</ref> [[Stuart J. Russell]] di sisi lain mendesak kehati-hatian, dengan menyatakan bahwa "lebih baik mengantisipasi kecerdikan manusia daripada meremehkannya".<ref>Allan Dafoe. [https://www.technologyreview.com/2016/11/02/156285/yes-we-are-worried-about-the-existential-risk-of-artificial-intelligence/ Yes, We Are Worried About the Existential Risk of Artificial Intelligence]. ''MIT Technology Review''. 2016.</ref>


Beberapa pihak mengkritik kekhawatiran mengenai AGI, seperti [[Andrew Ng]] yang membandingkannya pada tahun 2015 dengan “kekhawatiran mengenai kelebihan populasi di Mars padahal kita bahkan belum menginjakkan kaki di planet tersebut”. [[Stuart J. Russell]] di sisi lain mendesak kehati-hatian, dengan menyatakan bahwa "lebih baik mengantisipasi kecerdikan manusia daripada meremehkannya".
Para peneliti AI memiliki pendapat yang sangat berbeda tentang tingkat keparahan dan sumber utama risiko yang ditimbulkan oleh teknologi AI.<ref name=":1">Katja Grace. [https://jair.org/index.php/jair/article/view/11222/26431 Viewpoint: When Will AI Exceed Human Performance? Evidence from AI Experts]. ''Journal of Artificial Intelligence Research''. 2018-07-31. Vol. 62. hlm. 729–754. doi:10.1613/jair.1.11222.</ref><ref>Baobao Zhang. ''Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers''. ''Journal of Artificial Intelligence Research''. 2021-05-05. Vol. 71. doi:10.1613/jair.1.12895.</ref><ref>Zach Stein-Perlman. [https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/ 2022 Expert Survey on Progress in AI]. ''AI Impacts''. 2022-08-04.</ref> – Meskipun survei menunjukkan bahwa para ahli menganggap serius risiko dengan konsekuensi tinggi. Dalam dua survei peneliti AI, responden median optimis terhadap AI secara keseluruhan, tetapi menempatkan probabilitas 5% pada hasil "sangat buruk (misalnya [[kepunahan manusia]])" dari AI tingkat lanjut..<ref name=":1" /> Dalam survei komunitas [[pemrosesan bahasa alami]] tahun 2022, 37% setuju atau agak setuju bahwa masuk akal jika keputusan AI dapat menyebabkan bencana yang "setidaknya seburuk [[perang nuklir]] besar-besaran".<ref>Julian Michael. ''What Do NLP Researchers Believe? Results of the NLP Community Metasurvey''. ''Association for Computational Linguistics''. 2022-08-26.</ref>
 
Para peneliti AI memiliki pendapat yang sangat berbeda tentang tingkat keparahan dan sumber utama risiko yang ditimbulkan oleh teknologi AI. – Meskipun survei menunjukkan bahwa para ahli menganggap serius risiko dengan konsekuensi tinggi. Dalam dua survei peneliti AI, responden median optimis terhadap AI secara keseluruhan, tetapi menempatkan probabilitas 5% pada hasil "sangat buruk (misalnya [[kepunahan manusia]])" dari AI tingkat lanjut.. Dalam survei komunitas [[pemrosesan bahasa alami]] tahun 2022, 37% setuju atau agak setuju bahwa masuk akal jika keputusan AI dapat menyebabkan bencana yang "setidaknya seburuk [[perang nuklir]] besar-besaran".
 
== Referensi ==
 


== Pranala luar ==
== Pranala luar ==
Baris 21: Baris 17:
* [https://cset.georgetown.edu/publication/ai-accidents-an-emerging-threat/ AI Accidents: An Emerging Threat]
* [https://cset.georgetown.edu/publication/ai-accidents-an-emerging-threat/ AI Accidents: An Emerging Threat]
* [https://mitpress.mit.edu/9780262533690/engineering-a-safer-world/ Engineering a Safer World]
* [https://mitpress.mit.edu/9780262533690/engineering-a-safer-world/ Engineering a Safer World]
== Referensi ==
<references />


== Sumber dan atribusi ==
== Sumber dan atribusi ==


Artikel ini diadaptasi dalam mode teks dari
Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Keamanan+kecerdasan+buatan&oldid=29490263 Wikipedia bahasa Indonesia], revisi 29490263 (2026-07-24T06:01:51Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.
[https://id.wikipedia.org/w/index.php?title=Keamanan_kecerdasan_buatan&oldid=29490263 Wikipedia bahasa Indonesia],
 
revisi 29490263 (2026-07-24T06:01:51Z).
<!-- WIKI_UNISSULA_PRESENTATION_V4 -->
Gambar, media, infobox, templat navigasi, dan kategori sumber
tidak diimpor ke Wiki Unissula.
Atribusi dan lisensi mengikuti ketentuan Creative Commons
Atribusi-BerbagiSerupa (CC BY-SA) pada sumber Wikipedia.

Revisi terkini sejak 23 Agustus 2026 03.08

Keamanan kecerdasan buatan adalah sebuah bidang interdisipliner yang berfokus pada pencegahan kecelakaan, penyalahgunaan, atau konsekuensi berbahaya lainnya yang mungkin timbul dari sistem kecerdasan buatan. Bidang ini mencakup penyelarasan kecerdasan buatan (yang bertujuan memastikan sistem kecerdasan buatan bertindak sesuai dengan maksud yang diharapkan), pemantauan risiko dari sistem kecerdasan buatan, serta peningkatan ketahanannya. Perhatian utama dalam bidang ini tertuju pada risiko eksistensial yang berpotensi ditimbulkan oleh model kecerdasan buatan tingkat lanjut.[1][2]

Selain penelitian teknis, keamanan kecerdasan buatan juga mencakup pengembangan norma serta kebijakan yang mendukung keselamatan. Bidang ini memperoleh perhatian luas pada tahun 2023, seiring dengan kemajuan pesat dalam kecerdasan buatan generatif dan meningkatnya kekhawatiran publik yang disuarakan oleh para peneliti maupun CEO mengenai potensi bahayanya. Pada KTT Keamanan Kecerdasan Buatan tahun 2023, Amerika Serikat dan Britania Raya masing-masing membentuk Institut Keamanan Kecerdasan Buatan mereka sendiri. Namun demikian, sejumlah peneliti menyampaikan kekhawatiran bahwa langkah-langkah keamanan kecerdasan buatan masih belum sejalan dengan kecepatan perkembangan kapabilitas kecerdasan buatan.[3]

Motivasi

Para ilmuwan mendiskusikan risiko terkini dari kegagalan sistem kritis,[4] bias,[5] dan pengawasan yang didukung AI,[6] as well as emerging risks like technological unemployment, digital manipulation,[7] weaponization,[8] AI-enabled cyberattacks[9] and bioterrorism.[10] Mereka juga membahas risiko spekulatif dari hilangnya kendali atas agen kecerdasan umum buatan (AGI) di masa depan.,[11] atau dari AI yang memungkinkan kediktatoran yang selalu stabil.[12]

Keamanan eksistensial

Beberapa pihak mengkritik kekhawatiran mengenai AGI, seperti Andrew Ng yang membandingkannya pada tahun 2015 dengan “kekhawatiran mengenai kelebihan populasi di Mars padahal kita bahkan belum menginjakkan kaki di planet tersebut”.[13] Stuart J. Russell di sisi lain mendesak kehati-hatian, dengan menyatakan bahwa "lebih baik mengantisipasi kecerdikan manusia daripada meremehkannya".[14]

Para peneliti AI memiliki pendapat yang sangat berbeda tentang tingkat keparahan dan sumber utama risiko yang ditimbulkan oleh teknologi AI.[15][16][17] – Meskipun survei menunjukkan bahwa para ahli menganggap serius risiko dengan konsekuensi tinggi. Dalam dua survei peneliti AI, responden median optimis terhadap AI secara keseluruhan, tetapi menempatkan probabilitas 5% pada hasil "sangat buruk (misalnya kepunahan manusia)" dari AI tingkat lanjut..[15] Dalam survei komunitas pemrosesan bahasa alami tahun 2022, 37% setuju atau agak setuju bahwa masuk akal jika keputusan AI dapat menyebabkan bencana yang "setidaknya seburuk perang nuklir besar-besaran".[18]

Pranala luar

Referensi

  1. ↑ Shazeda Ahmed. Field-building and the epistemic culture of AI safety. First Monday. 2024-04-14. doi:10.5210/fm.v29i4.13626.
  2. ↑ Dan Hendrycks. Unsolved Problems in ML Safety. 2022-06-16.
  3. ↑ Billy Perrigo. U.K.'s AI Safety Summit Ends With Limited, but Meaningful, Progress. 2023-11-02.
  4. ↑ Maria De-Arteaga. Machine Learning in High-Stakes Settings: Risks and Opportunities. Carnegie Mellon University. 2020-05-13.
  5. ↑ Ninareh Mehrabi. A Survey on Bias and Fairness in Machine Learning. ACM Computing Surveys. 2021. Vol. 54 (6). hlm. 1–35. doi:10.1145/3457607.
  6. ↑ Steven Feldstein. The Global Expansion of AI Surveillance. Carnegie Endowment for International Peace. 2019.
  7. ↑ Beth Barnes. Risks from AI persuasion. Lesswrong. 2021.
  8. ↑ Miles Brundage. The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. Apollo - University of Cambridge Repository. 2018-04-30. doi:10.17863/cam.22520.
  9. ↑ Pascale Davies. How NATO is preparing for a new era of AI cyber attacks. euronews. December 26, 2022.
  10. ↑ Anjana Ahuja. AI's bioterrorism potential should not be ruled out. Financial Times. February 7, 2024.
  11. ↑ Joseph Carlsmith. Is Power-Seeking AI an Existential Risk?. 2022-06-16.
  12. ↑ Di Minardi. The grim fate that could be 'worse than extinction'. BBC. 16 October 2020.
  13. ↑ AGI Expert Peter Voss Says AI Alignment Problem is Bogus NextBigFuture.com. 2023-04-04.
  14. ↑ Allan Dafoe. Yes, We Are Worried About the Existential Risk of Artificial Intelligence. MIT Technology Review. 2016.
  15. ↑ 15,0 15,1 Katja Grace. Viewpoint: When Will AI Exceed Human Performance? Evidence from AI Experts. Journal of Artificial Intelligence Research. 2018-07-31. Vol. 62. hlm. 729–754. doi:10.1613/jair.1.11222.
  16. ↑ Baobao Zhang. Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers. Journal of Artificial Intelligence Research. 2021-05-05. Vol. 71. doi:10.1613/jair.1.12895.
  17. ↑ Zach Stein-Perlman. 2022 Expert Survey on Progress in AI. AI Impacts. 2022-08-04.
  18. ↑ Julian Michael. What Do NLP Researchers Believe? Results of the NLP Community Metasurvey. Association for Computational Linguistics. 2022-08-26.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 29490263 (2026-07-24T06:01:51Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Keamanan_kecerdasan_buatan&oldid=383"