PauseAI: Perbedaan antara revisi
Impor teks terkontrol dari Wikipedia bahasa Indonesia; revisi 28773252; atribusi sumber disertakan. |
Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi |
||
| Baris 1: | Baris 1: | ||
'''PauseAI''' adalah [[gerakan politik]] internasional yang didirikan di [[Belanda]] pada tahun 2023. Gerakan ini berfokus pada upaya menghentikan pengembangan sistem [[Kecerdasan buatan|kecerdasan]] [[Kecerdasan buatan|buatan]] yang memiliki kemampuan melampaui [[GPT-4]], setidaknya sampai tersedia pemahaman teknis yang memadai mengenai pembangunan sistem yang aman serta mekanisme pengawasan demokratis. PauseAI didirikan di [[Utrecht (provinsi)|Utrecht]] oleh wirausahawan perangkat lunak [[Joep Meindertsma]] pada Mei 2023. Keberadaan gerakan ini berkaitan dengan meningkatnya perhatian global terhadap keselamatan kecerdasan buatan dan berkembangnya diskusi mengenai implikasi teknologi berkemampuan tinggi. PauseAI memposisikan diri sebagai [[organisasi]] yang mengadvokasi koordinasi kebijakan internasional dalam mengelola perkembangan kecerdasan buatan tingkat lanjut. | '''PauseAI''' adalah [[gerakan politik]] internasional yang didirikan di [[Belanda]] pada tahun 2023. Gerakan ini berfokus pada upaya menghentikan pengembangan sistem [[Kecerdasan buatan|kecerdasan]] [[Kecerdasan buatan|buatan]] yang memiliki kemampuan melampaui [[GPT-4]], setidaknya sampai tersedia pemahaman teknis yang memadai mengenai pembangunan sistem yang aman serta mekanisme pengawasan demokratis.<ref name=":0">[https://pauseai.info/proposal PauseAI Proposal]. ''PauseAI''.</ref> PauseAI didirikan di [[Utrecht (provinsi)|Utrecht]] oleh wirausahawan perangkat lunak [[Joep Meindertsma]] pada Mei 2023.<ref name=":1">Morgan Meaker. [https://www.wired.com/story/pause-ai-existential-risk/ Meet the AI Protest Group Campaigning Against Human Extinction]. ''Wired''.</ref><ref name=":2">Matt Reynolds. [https://www.wired.com/story/protesters-pause-ai-split-stop/ Protesters Are Fighting to Stop AI, but They’re Split on How to Do It]. ''Wired''.</ref><ref name=":3">[https://www.politico.eu/article/microsoft-brussels-elon-musk-anti-ai-protesters-well-five-of-them-descend-on-brussels/ The rag-tag group trying to pause AI in Brussels]. ''POLITICO''. 2023-05-24.</ref> Keberadaan gerakan ini berkaitan dengan meningkatnya perhatian global terhadap keselamatan kecerdasan buatan dan berkembangnya diskusi mengenai implikasi teknologi berkemampuan tinggi. PauseAI memposisikan diri sebagai [[organisasi]] yang mengadvokasi koordinasi kebijakan internasional dalam mengelola perkembangan kecerdasan buatan tingkat lanjut.<ref>Morgan Meaker. [https://www.wired.com/story/pause-ai-existential-risk/ Meet the AI Protest Group Campaigning Against Human Extinction]. ''Wired''.</ref> | ||
== Proposal == | == Proposal == | ||
PauseAI menyampaikan sejumlah usulan yang bertujuan membatasi pelatihan dan penerapan sistem kecerdasan buatan pada tingkat kemampuan di atas GPT-4. Usulan tersebut mencakup pembentukan lembaga keselamatan AI internasional dengan fungsi serupa lembaga pengawas teknologi global lain seperti [[Badan Tenaga Atom Internasional]] atau IAEA, pembatasan pelatihan model AI umum yang memiliki kemampuan melebihi GPT-4 kecuali terdapat verifikasi keamanan yang dapat diandalkan, serta penerapan aturan bahwa model hanya dapat digunakan setelah evaluasi menunjukkan tidak adanya kemampuan berbahaya. Rangkaian usulan ini disusun sebagai kerangka regulasi yang dapat diterapkan oleh berbagai negara dalam menangani perkembangan teknologi AI yang semakin kompleks. | PauseAI menyampaikan sejumlah usulan yang bertujuan membatasi pelatihan dan penerapan sistem kecerdasan buatan pada tingkat kemampuan di atas GPT-4. Usulan tersebut mencakup pembentukan lembaga keselamatan AI internasional dengan fungsi serupa lembaga pengawas teknologi global lain seperti [[Badan Tenaga Atom Internasional]] atau IAEA, pembatasan pelatihan model AI umum yang memiliki kemampuan melebihi GPT-4 kecuali terdapat verifikasi keamanan yang dapat diandalkan, serta penerapan aturan bahwa model hanya dapat digunakan setelah evaluasi menunjukkan tidak adanya kemampuan berbahaya. Rangkaian usulan ini disusun sebagai kerangka regulasi yang dapat diterapkan oleh berbagai negara dalam menangani perkembangan teknologi AI yang semakin kompleks.<ref name=":0" /> | ||
== Latar Belakang == | == Latar Belakang == | ||
Lonjakan perkembangan kemampuan model kecerdasan buatan yang terjadi pada akhir 2010-an dan awal 2020-an menjadi konteks utama kemunculan PauseAI. Periode tersebut ditandai oleh peluncuran [[model bahasa besar]] seperti [[GPT-3]] dan GPT-4, serta model pembangkit gambar seperti [[Midjourney]] dan [[DALL-E]]. Kemajuan ini mendorong bertambahnya perhatian internasional terhadap potensi risiko dari sistem kecerdasan buatan yang semakin berkembang. Pada tahun 2023, ''[[Future of Life Institute]]'' mengeluarkan [[Hentikan Eksperimen Kecerdasan Buatan Besar: Surat Terbuka|surat terbuka]] yang menyerukan penghentian sementara pelatihan sistem yang lebih kuat dari GPT-4. Surat tersebut ditandatangani oleh sejumlah peneliti kecerdasan buatan dan tokoh industri termasuk [[Yoshua Bengio]], [[Stuart Russell]], dan [[Elon Musk]]. | Lonjakan perkembangan kemampuan model kecerdasan buatan yang terjadi pada akhir 2010-an dan awal 2020-an menjadi konteks utama kemunculan PauseAI. Periode tersebut ditandai oleh peluncuran [[model bahasa besar]] seperti [[GPT-3]] dan GPT-4, serta model pembangkit gambar seperti [[Midjourney]] dan [[DALL-E]]. Kemajuan ini mendorong bertambahnya perhatian internasional terhadap potensi risiko dari sistem kecerdasan buatan yang semakin berkembang. Pada tahun 2023, ''[[Future of Life Institute]]'' mengeluarkan [[Hentikan Eksperimen Kecerdasan Buatan Besar: Surat Terbuka|surat terbuka]] yang menyerukan penghentian sementara pelatihan sistem yang lebih kuat dari GPT-4. Surat tersebut ditandatangani oleh sejumlah peneliti kecerdasan buatan dan tokoh industri termasuk [[Yoshua Bengio]], [[Stuart Russell]], dan [[Elon Musk]].<ref>Alex Hern. [https://www.theguardian.com/technology/2023/mar/29/elon-musk-joins-call-for-pause-in-creation-of-giant-ai-digital-minds Elon Musk joins call for pause in creation of giant AI ‘digital minds’]. ''The Guardian''. 2023-03-29.</ref><ref>[https://www.nytimes.com/2023/03/29/technology/ai-artificial-intelligence-musk-risks.html Elon Musk and Others Call for Pause on A.I., Citing ‘Profound Risks to Society’ (Published 2023)]. 2023-03-29.</ref><ref>[https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pause Giant AI Experiments: An Open Letter]. ''Future of Life Institute''.</ref> | ||
== Sejarah == | == Sejarah == | ||
Joep Meindertsma mulai mempelajari [[risiko eksistensial dari kecerdasan buatan]] setelah membaca buku ''[[Superintelligence: Paths, Dangers, Strategies]]'' karya [[Nick Bostrom]] yang terbit pada tahun 2014. Ia mendirikan PauseAI pada Mei 2023 dan menghentikan sementara pekerjaannya sebagai CEO sebuah perusahaan perangkat lunak. Meindertsma menyatakan bahwa laju perkembangan penelitian [[Masalah pengendalian kecerdasan buatan|penyelarasan]] [[Masalah pengendalian kecerdasan buatan|kecerdasan buatan]] berada di belakang laju kemajuan kemampuan AI, serta menyatakan bahwa terdapat kemungkinan terjadinya ancaman dalam kurun waktu yang relatif singkat. Kondisi tersebut mendorongnya untuk membentuk sebuah organisasi yang dapat menyatukan upaya terkait isu kecerdasan buatan. | Joep Meindertsma mulai mempelajari [[risiko eksistensial dari kecerdasan buatan]] setelah membaca buku ''[[Superintelligence: Paths, Dangers, Strategies]]'' karya [[Nick Bostrom]] yang terbit pada tahun 2014. Ia mendirikan PauseAI pada Mei 2023 dan menghentikan sementara pekerjaannya sebagai CEO sebuah perusahaan perangkat lunak. Meindertsma menyatakan bahwa laju perkembangan penelitian [[Masalah pengendalian kecerdasan buatan|penyelarasan]] [[Masalah pengendalian kecerdasan buatan|kecerdasan buatan]] berada di belakang laju kemajuan kemampuan AI, serta menyatakan bahwa terdapat kemungkinan terjadinya ancaman dalam kurun waktu yang relatif singkat. Kondisi tersebut mendorongnya untuk membentuk sebuah organisasi yang dapat menyatukan upaya terkait isu kecerdasan buatan.<ref name=":1" /><ref name=":3" /><ref>[http://www.euronews.com/next/2023/06/14/could-ai-lead-us-to-extinction-this-brussels-based-group-believes-so Could AI lead us to extinction? This activist group believes so]. ''euronews''. 2023-06-14.</ref> | ||
Aksi publik pertama PauseAI berlangsung di depan kantor [[Microsoft]] di [[Brussel]] pada Mei 2023 bertepatan dengan sebuah acara mengenai kecerdasan buatan. Pada November di tahun yang sama, gerakan ini melakukan aksi protes di luar [[Kongres Keamanan Kecerdasan Buatan]] pertama yang diadakan di [[Bletchley Park]].Deklarasi Bletchley yang ditandatangani pada pertemuan tersebut memuat pengakuan terhadap potensi risiko berskala besar yang berasal dari kecerdasan buatan. Deklarasi ini disebut sebagai langkah awal dalam upaya mengatur [[keamanan kecerdasan buatan]]. Pernyataan tersebut juga menekankan perlunya perjanjian internasional yang mengikat, dengan [[Protokol Montreal]] dan [[perjanjian yang melarang senjata laser pembutaan]] menjadi contoh kesepakatan global yang telah diterapkan. | Aksi publik pertama PauseAI berlangsung di depan kantor [[Microsoft]] di [[Brussel]] pada Mei 2023 bertepatan dengan sebuah acara mengenai kecerdasan buatan.<ref name=":3" /> Pada November di tahun yang sama, gerakan ini melakukan aksi protes di luar [[Kongres Keamanan Kecerdasan Buatan]] pertama yang diadakan di [[Bletchley Park]].<ref>[https://www.islingtontribune.co.uk/article/what-happens-in-bletchley-stays-in What happens in Bletchley, stays in…]. ''Camden New Journal''.</ref>Deklarasi Bletchley yang ditandatangani pada pertemuan tersebut memuat pengakuan terhadap potensi risiko berskala besar yang berasal dari kecerdasan buatan. Deklarasi ini disebut sebagai langkah awal dalam upaya mengatur [[keamanan kecerdasan buatan]]. Pernyataan tersebut juga menekankan perlunya perjanjian internasional yang mengikat, dengan [[Protokol Montreal]] dan [[perjanjian yang melarang senjata laser pembutaan]] menjadi contoh kesepakatan global yang telah diterapkan.<ref name=":2" /> | ||
Pada Februari 2024 anggota PauseAI mengadakan aksi di depan kantor pusat [[OpenAI]] di [[San Francisco]] sebagai respons terhadap perubahan kebijakan penggunaan model kecerdasan buatan yang sebelumnya melarang pemanfaatan untuk tujuan militer. Pada 13 Mei 2024, aksi protes digelar di tiga belas negara menjelang [[Kongres Kecerdasan Buatan Seoul]], termasuk di [[Amerika Serikat]], [[Inggris]], [[Brasil]], [[Jerman]], [[Australia]], dan [[Norwegia]]. Meindertsma menyampaikan bahwa peserta pertemuan tersebut memiliki peran dalam menghentikan percepatan kompetisi pengembangan kecerdasan buatan. Di San Francisco, peserta aksi membawa poster dengan tulisan ''“When in doubt, pause”'' dan ''“Quit your job at OpenAI. Trust your conscience”''. Dua hari setelah rangkaian aksi tersebut, Jan Leike kepala tim ''superalignment'' (penyelarasan kecerdasan artifisial tingkat lanjut) di OpenAI mengundurkan diri dengan alasan bahwa keselamatan tidak mendapat prioritas yang setara dibandingkan dengan pengembangan produk. | Pada Februari 2024 anggota PauseAI mengadakan aksi di depan kantor pusat [[OpenAI]] di [[San Francisco]] sebagai respons terhadap perubahan kebijakan penggunaan model kecerdasan buatan yang sebelumnya melarang pemanfaatan untuk tujuan militer.<ref>Michael Nuñez. [https://venturebeat.com/ai/protesters-gather-outside-openai-office-opposing-military-ai-and-agi/ Protesters gather outside OpenAI office, opposing military AI and AGI]. ''VentureBeat''. 2024-02-13.</ref> Pada 13 Mei 2024, aksi protes digelar di tiga belas negara menjelang [[Kongres Kecerdasan Buatan Seoul]], termasuk di [[Amerika Serikat]], [[Inggris]], [[Brasil]], [[Jerman]], [[Australia]], dan [[Norwegia]]. Meindertsma menyampaikan bahwa peserta pertemuan tersebut memiliki peran dalam menghentikan percepatan kompetisi pengembangan kecerdasan buatan. Di San Francisco, peserta aksi membawa poster dengan tulisan ''“When in doubt, pause”'' dan ''“Quit your job at OpenAI. Trust your conscience”''.<ref>Anna Gordon. [https://time.com/6977680/ai-protests-international/ Why Protesters Are Demanding Pause on AI Development]. ''TIME''.</ref><ref>Joe Fitzgerald Rodriguez. [https://www.kqed.org/news/11985949/as-openai-unveils-big-update-protesters-call-for-pause-in-risky-frontier-tech As OpenAI Unveils Big Update, Protesters Call for Pause in Risky 'Frontier' Tech KQED]. ''www.kqed.org''. 2024-05-13.</ref><ref>[https://abc7news.com/post/openai-launches-new-ai-model-gpt-4o/14809989/ OpenAI launches new AI model GPT-4o, a conversational digital personal assistant]. ''ABC7 San Francisco''. 2024-05-14.</ref> Dua hari setelah rangkaian aksi tersebut, Jan Leike kepala tim ''superalignment'' (penyelarasan kecerdasan artifisial tingkat lanjut) di OpenAI mengundurkan diri dengan alasan bahwa keselamatan tidak mendapat prioritas yang setara dibandingkan dengan pengembangan produk.<ref>Kylie Robison. [https://www.theverge.com/2024/5/17/24159095/openai-jan-leike-superalignment-sam-altman-ai-safety OpenAI researcher resigns, claiming safety has taken “a backseat to shiny products”]. ''The Verge''. 2024-05-17.</ref> | ||
== Referensi == | == Referensi == | ||
<references /> | |||
== Sumber dan atribusi == | == Sumber dan atribusi == | ||
Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=PauseAI&oldid=28773252 Wikipedia bahasa Indonesia], revisi 28773252 (2026-01-03T08:21:45Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku. | |||
[https://id.wikipedia.org/w/index.php?title=PauseAI&oldid=28773252 Wikipedia bahasa Indonesia], | |||
revisi 28773252 (2026-01-03T08:21:45Z) | <!-- WIKI_UNISSULA_PRESENTATION_V4 --> | ||
Atribusi-BerbagiSerupa (CC BY-SA) | |||
Revisi terkini sejak 23 Agustus 2026 03.08
PauseAI adalah gerakan politik internasional yang didirikan di Belanda pada tahun 2023. Gerakan ini berfokus pada upaya menghentikan pengembangan sistem kecerdasan buatan yang memiliki kemampuan melampaui GPT-4, setidaknya sampai tersedia pemahaman teknis yang memadai mengenai pembangunan sistem yang aman serta mekanisme pengawasan demokratis.[1] PauseAI didirikan di Utrecht oleh wirausahawan perangkat lunak Joep Meindertsma pada Mei 2023.[2][3][4] Keberadaan gerakan ini berkaitan dengan meningkatnya perhatian global terhadap keselamatan kecerdasan buatan dan berkembangnya diskusi mengenai implikasi teknologi berkemampuan tinggi. PauseAI memposisikan diri sebagai organisasi yang mengadvokasi koordinasi kebijakan internasional dalam mengelola perkembangan kecerdasan buatan tingkat lanjut.[5]
Proposal
PauseAI menyampaikan sejumlah usulan yang bertujuan membatasi pelatihan dan penerapan sistem kecerdasan buatan pada tingkat kemampuan di atas GPT-4. Usulan tersebut mencakup pembentukan lembaga keselamatan AI internasional dengan fungsi serupa lembaga pengawas teknologi global lain seperti Badan Tenaga Atom Internasional atau IAEA, pembatasan pelatihan model AI umum yang memiliki kemampuan melebihi GPT-4 kecuali terdapat verifikasi keamanan yang dapat diandalkan, serta penerapan aturan bahwa model hanya dapat digunakan setelah evaluasi menunjukkan tidak adanya kemampuan berbahaya. Rangkaian usulan ini disusun sebagai kerangka regulasi yang dapat diterapkan oleh berbagai negara dalam menangani perkembangan teknologi AI yang semakin kompleks.[1]
Latar Belakang
Lonjakan perkembangan kemampuan model kecerdasan buatan yang terjadi pada akhir 2010-an dan awal 2020-an menjadi konteks utama kemunculan PauseAI. Periode tersebut ditandai oleh peluncuran model bahasa besar seperti GPT-3 dan GPT-4, serta model pembangkit gambar seperti Midjourney dan DALL-E. Kemajuan ini mendorong bertambahnya perhatian internasional terhadap potensi risiko dari sistem kecerdasan buatan yang semakin berkembang. Pada tahun 2023, Future of Life Institute mengeluarkan surat terbuka yang menyerukan penghentian sementara pelatihan sistem yang lebih kuat dari GPT-4. Surat tersebut ditandatangani oleh sejumlah peneliti kecerdasan buatan dan tokoh industri termasuk Yoshua Bengio, Stuart Russell, dan Elon Musk.[6][7][8]
Sejarah
Joep Meindertsma mulai mempelajari risiko eksistensial dari kecerdasan buatan setelah membaca buku Superintelligence: Paths, Dangers, Strategies karya Nick Bostrom yang terbit pada tahun 2014. Ia mendirikan PauseAI pada Mei 2023 dan menghentikan sementara pekerjaannya sebagai CEO sebuah perusahaan perangkat lunak. Meindertsma menyatakan bahwa laju perkembangan penelitian penyelarasan kecerdasan buatan berada di belakang laju kemajuan kemampuan AI, serta menyatakan bahwa terdapat kemungkinan terjadinya ancaman dalam kurun waktu yang relatif singkat. Kondisi tersebut mendorongnya untuk membentuk sebuah organisasi yang dapat menyatukan upaya terkait isu kecerdasan buatan.[2][4][9]
Aksi publik pertama PauseAI berlangsung di depan kantor Microsoft di Brussel pada Mei 2023 bertepatan dengan sebuah acara mengenai kecerdasan buatan.[4] Pada November di tahun yang sama, gerakan ini melakukan aksi protes di luar Kongres Keamanan Kecerdasan Buatan pertama yang diadakan di Bletchley Park.[10]Deklarasi Bletchley yang ditandatangani pada pertemuan tersebut memuat pengakuan terhadap potensi risiko berskala besar yang berasal dari kecerdasan buatan. Deklarasi ini disebut sebagai langkah awal dalam upaya mengatur keamanan kecerdasan buatan. Pernyataan tersebut juga menekankan perlunya perjanjian internasional yang mengikat, dengan Protokol Montreal dan perjanjian yang melarang senjata laser pembutaan menjadi contoh kesepakatan global yang telah diterapkan.[3]
Pada Februari 2024 anggota PauseAI mengadakan aksi di depan kantor pusat OpenAI di San Francisco sebagai respons terhadap perubahan kebijakan penggunaan model kecerdasan buatan yang sebelumnya melarang pemanfaatan untuk tujuan militer.[11] Pada 13 Mei 2024, aksi protes digelar di tiga belas negara menjelang Kongres Kecerdasan Buatan Seoul, termasuk di Amerika Serikat, Inggris, Brasil, Jerman, Australia, dan Norwegia. Meindertsma menyampaikan bahwa peserta pertemuan tersebut memiliki peran dalam menghentikan percepatan kompetisi pengembangan kecerdasan buatan. Di San Francisco, peserta aksi membawa poster dengan tulisan “When in doubt, pause” dan “Quit your job at OpenAI. Trust your conscience”.[12][13][14] Dua hari setelah rangkaian aksi tersebut, Jan Leike kepala tim superalignment (penyelarasan kecerdasan artifisial tingkat lanjut) di OpenAI mengundurkan diri dengan alasan bahwa keselamatan tidak mendapat prioritas yang setara dibandingkan dengan pengembangan produk.[15]
Referensi
- ↑ 1,0 1,1 PauseAI Proposal. PauseAI.
- ↑ 2,0 2,1 Morgan Meaker. Meet the AI Protest Group Campaigning Against Human Extinction. Wired.
- ↑ 3,0 3,1 Matt Reynolds. Protesters Are Fighting to Stop AI, but They’re Split on How to Do It. Wired.
- ↑ 4,0 4,1 4,2 The rag-tag group trying to pause AI in Brussels. POLITICO. 2023-05-24.
- ↑ Morgan Meaker. Meet the AI Protest Group Campaigning Against Human Extinction. Wired.
- ↑ Alex Hern. Elon Musk joins call for pause in creation of giant AI ‘digital minds’. The Guardian. 2023-03-29.
- ↑ Elon Musk and Others Call for Pause on A.I., Citing ‘Profound Risks to Society’ (Published 2023). 2023-03-29.
- ↑ Pause Giant AI Experiments: An Open Letter. Future of Life Institute.
- ↑ Could AI lead us to extinction? This activist group believes so. euronews. 2023-06-14.
- ↑ What happens in Bletchley, stays in…. Camden New Journal.
- ↑ Michael Nuñez. Protesters gather outside OpenAI office, opposing military AI and AGI. VentureBeat. 2024-02-13.
- ↑ Anna Gordon. Why Protesters Are Demanding Pause on AI Development. TIME.
- ↑ Joe Fitzgerald Rodriguez. As OpenAI Unveils Big Update, Protesters Call for Pause in Risky 'Frontier' Tech KQED. www.kqed.org. 2024-05-13.
- ↑ OpenAI launches new AI model GPT-4o, a conversational digital personal assistant. ABC7 San Francisco. 2024-05-14.
- ↑ Kylie Robison. OpenAI researcher resigns, claiming safety has taken “a backseat to shiny products”. The Verge. 2024-05-17.
Sumber dan atribusi
Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 28773252 (2026-01-03T08:21:45Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.