Lompat ke isi

Kontroversi kecerdasan buatan: Perbedaan antara revisi

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung

Maintenance script (bicara | kontrib)

37.956 suntingan
Maintenance script (bicara | kontrib)
37.956 suntingan
Impor teks terkontrol dari Wikipedia bahasa Indonesia; revisi 29213014; atribusi sumber disertakan.
 
Maintenance script (bicara | kontrib)
37.956 suntingan
Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi
 
Baris 1: Baris 1:
'''Kontroversi terkait kecerdasan buatan''' meliputi serangkaian besar perdebatan publik, akademik dan politik terkait dampak masyarakat dari [[kecerdasan buatan]] (AI). Perdebatan tersebut utamanya timbul pada akhir 2010an dan 2020an, bertepatan dengan [[perkembangan dalam kecerdasan buatan|periode perkembangan terakselerasi]] yang dikenal sebagai [[bom AI]]. Meskipun mengadvokasikan kemajuan potensi teknologi untuk memecahkan masalah kompleks dan menunjang [[kualitas hidup]] manusia, para penentangnya menyoroti sejumlah besar bahaya dan tantangan. Ini meliputi [[etika kecerdasan buatan|etika]], [[plagiarisme]] dan [[pencurian]], [[pemalsuan]], [[keamanan AI|keamanan]] dan [[pengendalian AI|pengendalian]], [[dampak lingkungan kecerdasar buatan|dampak lingkungan]], [[pengangguran teknologi]], dan penyebaran [[misinformasi]]. Ini juga menyoroti tantangan masa depan atau teoretikal, seperti kemunculan [[kecerdasan super buatan]] dan [[resiko eksistensial terhadap kecerdasan umum buatan|resiko eksistensial]].
'''Kontroversi terkait kecerdasan buatan''' meliputi serangkaian besar perdebatan publik, akademik dan politik terkait dampak masyarakat dari [[kecerdasan buatan]] (AI). Perdebatan tersebut utamanya timbul pada akhir 2010an dan 2020an, bertepatan dengan [[perkembangan dalam kecerdasan buatan|periode perkembangan terakselerasi]] yang dikenal sebagai [[bom AI]]. Meskipun mengadvokasikan kemajuan potensi teknologi untuk memecahkan masalah kompleks dan menunjang [[kualitas hidup]] manusia, para penentangnya menyoroti sejumlah besar bahaya dan tantangan. Ini meliputi [[etika kecerdasan buatan|etika]], [[plagiarisme]] dan [[pencurian]], [[pemalsuan]], [[keamanan AI|keamanan]] dan [[pengendalian AI|pengendalian]], [[dampak lingkungan kecerdasar buatan|dampak lingkungan]], [[pengangguran teknologi]], dan penyebaran [[misinformasi]]. Ini juga menyoroti tantangan masa depan atau teoretikal, seperti kemunculan [[kecerdasan super buatan]] dan [[resiko eksistensial terhadap kecerdasan umum buatan|resiko eksistensial]].<ref>Vincent C. Müller. [https://plato.stanford.edu/entries/ethics-ai/ Ethics of Artificial Intelligence and Robotics]. ''Stanford Encyclopedia of Philosophy''. April 30, 2020.</ref>


== 2016 ==
== 2016 ==
=== Bot obrolan Microsoft Tay (2016) ===
=== Bot obrolan Microsoft Tay (2016) ===
 
Pada 23 Maret 2016, [[Microsoft]] merilis [[Tay (bot obrolan)|Tay]],<ref>Andrew Griffin. [https://www.independent.co.uk/life-style/gadgets-and-tech/news/tay-tweets-microsoft-creates-bizarre-twitter-robot-for-people-to-chat-to-a6947806.html Tay tweets: Microsoft creates bizarre Twitter robot for people to chat to]. ''The Independent''. March 23, 2016.</ref> sebuah [[bot obrolan]] yang dirancang untuk meniru susunan bahasa dari seorang gadis berusia 19 tahun dan belajar dari interaksi dengan para pengguna [[Twitter]].<ref>Rob Price. [https://www.businessinsider.com/microsoft-deletes-racist-genocidal-tweets-from-ai-chatbot-tay-2016-3 Microsoft is deleting its AI chatbot's incredibly racist tweets]. Business Insider. March 24, 2016.</ref> Tak lama usia peluncurannya, Tay mulai mengirim cuitan rasis, seksis dan tak menyenangkan lainnya setelah para pengguna Twitter mengajarkannya peribahasa ofensif dan mengeksploitasi kemampuan "pengulangan terhadapku".<ref>Abby Ohlheiser. [https://www.washingtonpost.com/news/the-intersect/wp/2016/03/24/the-internet-turned-tay-microsofts-fun-millennial-ai-bot-into-a-genocidal-maniac/ Trolls turned Tay, Microsoft's fun millennial AI bot, into a genocidal maniac]. ''The Washington Post''. 25 March 2016.</ref> Contoh-contoh cuitan kontroversialnya meliputi [[penyangkalan Holokaus]] dan seruan untuk [[genosida]] menggunakan [[julukan rasial]].<ref>Abby Ohlheiser. [https://www.washingtonpost.com/news/the-intersect/wp/2016/03/24/the-internet-turned-tay-microsofts-fun-millennial-ai-bot-into-a-genocidal-maniac/ Trolls turned Tay, Microsoft's fun millennial AI bot, into a genocidal maniac]. ''The Washington Post''. 25 March 2016.</ref> Dalam 16 jam perilisannya, Microsoft menangguhkan akun Twitter tersebut, menghapus cuitan ofensif, dan menyatakan bahwa Tay telah terkena "serangan terrencana oleh sekelompok orang" yang "mengeksploitasi kerentanan."<ref>Abby Ohlheiser. [https://www.washingtonpost.com/news/the-intersect/wp/2016/03/24/the-internet-turned-tay-microsofts-fun-millennial-ai-bot-into-a-genocidal-maniac/ Trolls turned Tay, Microsoft's fun millennial AI bot, into a genocidal maniac]. ''The Washington Post''. 25 March 2016.</ref><ref>Alex Hern. [https://www.theguardian.com/technology/2016/mar/24/microsoft-scrambles-limit-pr-damage-over-abusive-ai-bot-tay Microsoft scrambles to limit PR damage over abusive AI bot Tay]. ''The Guardian''. 24 March 2016.</ref><ref>Justin Worland. [https://time.com/4270684/microsoft-tay-chatbot-racism/ Microsoft Takes Chatbot Offline After It Starts Tweeting Racist Messages]. 24 March 2016.</ref><ref>Peter Lee. [http://blogs.microsoft.com/blog/2016/03/25/learning-tays-introduction/#sm.00000gjdpwwcfcus11t6oo6dw79gw Learning from Tay's introduction]. ''Official Microsoft Blog''. Microsoft. 25 March 2016.</ref> Tay secara singkat dan tak sengaja dirilis ulang pada 20 Maret saat uji coba, dan setelah itu ditutup permanen.<ref>Luke Graham. [https://www.cnbc.com/2016/03/30/tay-microsofts-ai-program-is-back-online.html Tay, Microsoft's AI program, is back online]. ''CNBC''. 30 March 2016.</ref><ref>David Meyer. [http://fortune.com/2016/03/30/microsofts-tay-return/ Microsoft's Tay 'AI' Bot Returns, Disastrously]. ''Fortune''. 30 March 2016.</ref> CEO Microsoft [[Satya Nadella]] kemudian menyatakan bahwa Tay "telah memiliki pengaruh besar terhadap bagaimana Microsoft melakukan pendekatan terhadap AI" dan mengajarkan perusahaan tersebut soal pentingnya mengambil akuntabilitas.<ref>Charlie Moloney. [http://www.access-ai.com/news/4108/really-need-take-accountability-microsoft-ceo-tay-chatbot/ "We really need to take accountability", Microsoft CEO on the 'Tay' chatbot]. ''Access AI''. 29 September 2017.</ref>
Pada 23 Maret 2016, [[Microsoft]] merilis [[Tay (bot obrolan)|Tay]], sebuah [[bot obrolan]] yang dirancang untuk meniru susunan bahasa dari seorang gadis berusia 19 tahun dan belajar dari interaksi dengan para pengguna [[Twitter]]. Tak lama usia peluncurannya, Tay mulai mengirim cuitan rasis, seksis dan tak menyenangkan lainnya setelah para pengguna Twitter mengajarkannya peribahasa ofensif dan mengeksploitasi kemampuan "pengulangan terhadapku". Contoh-contoh cuitan kontroversialnya meliputi [[penyangkalan Holokaus]] dan seruan untuk [[genosida]] menggunakan [[julukan rasial]]. Dalam 16 jam perilisannya, Microsoft menangguhkan akun Twitter tersebut, menghapus cuitan ofensif, dan menyatakan bahwa Tay telah terkena "serangan terrencana oleh sekelompok orang" yang "mengeksploitasi kerentanan." Tay secara singkat dan tak sengaja dirilis ulang pada 20 Maret saat uji coba, dan setelah itu ditutup permanen. CEO Microsoft [[Satya Nadella]] kemudian menyatakan bahwa Tay "telah memiliki pengaruh besar terhadap bagaimana Microsoft melakukan pendekatan terhadap AI" dan mengajarkan perusahaan tersebut soal pentingnya mengambil akuntabilitas.


== 2022 ==
== 2022 ==
=== Skandal plagiarisme Voiceverse NFT (2022) ===
=== Skandal plagiarisme Voiceverse NFT (2022) ===
 
Pada 14 Januari 2022, pengisi suara [[Troy Baker]] mengumumkan kemitraan dengan Voiceverse, sebuah perusahaan berbasis [[rantai blok]] yang memasarkan teknologi [[pemalsuan dalam rekaman|peniruan suara AI]] sebagai [[token yang tidak dapat ditukar]] (NFT), memicu timbal balik langsung terhadap [[dampak lingkungan kecerdasan buatan|perhatian lingkungan]], khawatir bahwa [[pengangguran teknologi|AI dapat menggantikan pengisi suara manusia]], dan kekhawatiran terhadap pemalsuan.<ref>Michael McWhertor. [https://www.polygon.com/22883752/troy-baker-nfts-voice-last-of-us-bioshock/ The Last of Us voice actor promotes 'voice NFTs,' pulls out after criticism]. ''Polygon''. January 14, 2022.</ref><ref>Andy Brown. [https://www.nme.com/news/troy-baker-criticised-for-supporting-company-that-makes-ai-voice-nfts-3137906 Troy Baker criticised for supporting company that makes AI "voice NFTs"]. ''NME''. January 14, 2022.</ref><ref>Kirk McKean. [https://ftw.usatoday.com/story/tech/gaming/2022/01/14/actor-troy-baker-endorses-nft-voice-ai/81408726007/ Actor Troy Baker endorses NFT voice AI that aims to replace actors]. ''USA Today''. January 14, 2022.</ref> Hari hari yang sama, pembuat [[pseudonim]] [[15.ai]]&mdash;sebuah proyek riset sintesis suara AI non-komersial bebas&mdash;menyatakan bahwa melalui log server, Voiceverse memakai 15.ai untuk menciptakan contoh suara, mengalihkannya untuk membuat mereka tak dikenal, dan secara palsu memasarkan mereka sebagai teknologi sebenarnya mereka sendiri sebelum menjual mereka sebagai NFT;<ref>Tom Phillips. [https://www.eurogamer.net/articles/2022-01-17-troy-baker-backed-nft-firm-admits-using-voice-lines-taken-from-another-service-without-permission Troy Baker-backed NFT firm admits using voice lines taken from another service without permission]. ''Eurogamer''. January 17, 2022.</ref><ref>Ruby Innes. [https://www.kotaku.com.au/2022/01/voiceverse-caught-using-someone-elses-content/ Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content]. ''Kotaku Australia''. January 18, 2022.</ref> pengembang 15.ai sebelumnya menyatakan bahwa mereka tak berminat mengikutsertakan NFT pada pengerjaan mereka.<ref>Ruby Innes. [https://www.kotaku.com.au/2022/01/voiceverse-caught-using-someone-elses-content/ Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content]. ''Kotaku Australia''. January 18, 2022.</ref> Voiceverse mengakuinya dalam sejam dan menyatakan bahwa tim pemasaran mereka telah memakai 15.ai tanpa atribusi meskipun bertujuan untuk menciptakan sebuah [[demonstrasi teknologi|demo]].<ref>Tom Phillips. [https://www.eurogamer.net/articles/2022-01-17-troy-baker-backed-nft-firm-admits-using-voice-lines-taken-from-another-service-without-permission Troy Baker-backed NFT firm admits using voice lines taken from another service without permission]. ''Eurogamer''. January 17, 2022.</ref><ref>Ruby Innes. [https://www.kotaku.com.au/2022/01/voiceverse-caught-using-someone-elses-content/ Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content]. ''Kotaku Australia''. January 18, 2022.</ref> Publikasi berita dan kelompok pemantau AI secara universal mengkarakterisasi insiden tersebut sebagai [[pencurian]] yang ditimbulkan dari [[kecerdasan buatan generatif]].<ref>Tom Phillips. [https://www.eurogamer.net/articles/2022-01-17-troy-baker-backed-nft-firm-admits-using-voice-lines-taken-from-another-service-without-permission Troy Baker-backed NFT firm admits using voice lines taken from another service without permission]. ''Eurogamer''. January 17, 2022.</ref><ref>Ruby Innes. [https://www.kotaku.com.au/2022/01/voiceverse-caught-using-someone-elses-content/ Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content]. ''Kotaku Australia''. January 18, 2022.</ref><ref>[https://www.aiaaic.org/aiaaic-repository/ai-algorithmic-and-automation-incidents/voiceverse-nft-voice-theft Voiceverse NFT caught plagiarising voice lines from AI service 15.ai]. ''AI, Algorithmic, and Automation Incidents and Controversies''. January 2022.</ref><ref>Pednekar Sonali. [https://incidentdatabase.ai/cite/277/ Incident 277: Voices Created Using Publicly Available App Stolen and Resold as NFT without Attribution]. ''AI Incident Database''. January 14, 2022.</ref>
 
Pada 14 Januari 2022, pengisi suara [[Troy Baker]] mengumumkan kemitraan dengan Voiceverse, sebuah perusahaan berbasis [[rantai blok]] yang memasarkan teknologi [[pemalsuan dalam rekaman|peniruan suara AI]] sebagai [[token yang tidak dapat ditukar]] (NFT), memicu timbal balik langsung terhadap [[dampak lingkungan kecerdasan buatan|perhatian lingkungan]], khawatir bahwa [[pengangguran teknologi|AI dapat menggantikan pengisi suara manusia]], dan kekhawatiran terhadap pemalsuan. Hari hari yang sama, pembuat [[pseudonim]] [[15.ai]]&mdash;sebuah proyek riset sintesis suara AI non-komersial bebas&mdash;menyatakan bahwa melalui log server, Voiceverse memakai 15.ai untuk menciptakan contoh suara, mengalihkannya untuk membuat mereka tak dikenal, dan secara palsu memasarkan mereka sebagai teknologi sebenarnya mereka sendiri sebelum menjual mereka sebagai NFT; pengembang 15.ai sebelumnya menyatakan bahwa mereka tak berminat mengikutsertakan NFT pada pengerjaan mereka. Voiceverse mengakuinya dalam sejam dan menyatakan bahwa tim pemasaran mereka telah memakai 15.ai tanpa atribusi meskipun bertujuan untuk menciptakan sebuah [[demonstrasi teknologi|demo]]. Publikasi berita dan kelompok pemantau AI secara universal mengkarakterisasi insiden tersebut sebagai [[pencurian]] yang ditimbulkan dari [[kecerdasan buatan generatif]].


=== ''Théâtre D'opéra Spatial'' (2022) ===
=== ''Théâtre D'opéra Spatial'' (2022) ===
 
Pada 29 Agustus 2022, Jason Michael Allen memenangkan peringkat pertama dalam divisi "artis pendatang" (non-profesional) dari kategori "Fotografi Seni Digital/Manipulasi Difgital" dari kompetisi [[seni rupa murni]] [[Colorado State Fair]] dengan , sebuah karya seni digital yang diciptakan menggunakan generator [[citra AI]] [[Midjourney]], [[Adobe Photoshop]], dan alat [[peningkatan skala AI]], menjadikannya salah satu gambar pertama yang dipakai menggunakan AI generatif yang memenangkan penghargaan semacam itu.<ref>[https://www.firstpost.com/explainers/explained-the-controversy-surrounding-the-ai-generated-artwork-that-won-us-competition-11188431.html Explained: The controversy surrounding the AI-generated artwork that won US competition]. ''Firstpost''. 2022-09-05.</ref><ref>Kevin Roose. [https://www.nytimes.com/2022/09/02/technology/ai-artificial-intelligence-artists.html An A.I.-Generated Picture Won an Art Prize. Artists Aren't Happy]. ''The New York Times''. 2022-09-02.</ref><ref>Suzanne V. Wilson. [https://www.copyright.gov/rulings-filings/review-board/docs/Theatre-Dopera-Spatial.pdf Théâtre D'opéra Spatial Review Board Decision letter]. United States Copyright Office. 5 September 2023.</ref><ref>Miloš Todorović. ''AI and Heritage: A Discussion on Rethinking Heritage in a Digital World''. ''Uluslararası Kültürel ve Sosyal Araştırmalar Dergisi''. 5 February 2024. doi:10.46442/intjcss.1397403.</ref> Allen membongkar pemakaian Midjourney-mya saat diajukan, meskipun para juri tak mengetahui bahwa ini adalah aalt AI namun menyatakan mereka akan memberikannya peringkat pertama tanpa pandang bulu.<ref>Kevin Roose. [https://www.nytimes.com/2022/09/02/technology/ai-artificial-intelligence-artists.html An A.I.-Generated Picture Won an Art Prize. Artists Aren't Happy]. ''The New York Times''. 2022-09-02.</ref><ref>Rachel Metz. [https://www.cnn.com/2022/09/03/tech/ai-art-fair-winner-controversy/index.html AI won an art contest, and artists are furious]. ''CNN''. 2022-09-03.</ref> Meskipun terjadi sedikit pertentangan terhadap gambar tersebut di pameran tersebut, reaksi terhadap kemenangannya di [[media sosial]] bersifat negatif.<ref>Drew Harwell. [https://www.washingtonpost.com/technology/2022/09/02/midjourney-artificial-intelligence-state-fair-colorado/ He used AI to win a fine-arts competition. Was it cheating?]. ''Washington Post''. 2022-09-02.</ref><ref>Rachel Metz. [https://www.cnn.com/2022/09/03/tech/ai-art-fair-winner-controversy/index.html AI won an art contest, and artists are furious]. ''CNN''. 2022-09-03.</ref> Pada 5 September 2023, [[Badan Hak Cipta Amerika Serikat]] menyatakan bahwa karya tersebut tak layak untuk [[perlindungan hal cipta]] karena input kreatif manusia bersifat ''[[de minimis]]'' dan bahwa aturan hak cipta "mengkecualikan karya yang dibuat oleh non-manusia."<ref>Suzanne V. Wilson. [https://www.copyright.gov/rulings-filings/review-board/docs/Theatre-Dopera-Spatial.pdf Théâtre D'opéra Spatial Review Board Decision letter]. United States Copyright Office. 5 September 2023.</ref><ref>Edward Helmore. [https://www.theguardian.com/technology/2023/sep/24/an-old-master-no-its-an-image-ai-just-knocked-up-and-it-cant-be-copyrighted An old master? No, it's an image AI just knocked up ... and it can't be copyrighted]. ''The Guardian''. 24 September 2023.</ref>
 
Pada 29 Agustus 2022, Jason Michael Allen memenangkan peringkat pertama dalam divisi "artis pendatang" (non-profesional) dari kategori "Fotografi Seni Digital/Manipulasi Difgital" dari kompetisi [[seni rupa murni]] [[Colorado State Fair]] dengan , sebuah karya seni digital yang diciptakan menggunakan generator [[citra AI]] [[Midjourney]], [[Adobe Photoshop]], dan alat [[peningkatan skala AI]], menjadikannya salah satu gambar pertama yang dipakai menggunakan AI generatif yang memenangkan penghargaan semacam itu. Allen membongkar pemakaian Midjourney-mya saat diajukan, meskipun para juri tak mengetahui bahwa ini adalah aalt AI namun menyatakan mereka akan memberikannya peringkat pertama tanpa pandang bulu. Meskipun terjadi sedikit pertentangan terhadap gambar tersebut di pameran tersebut, reaksi terhadap kemenangannya di [[media sosial]] bersifat negatif. Pada 5 September 2023, [[Badan Hak Cipta Amerika Serikat]] menyatakan bahwa karya tersebut tak layak untuk [[perlindungan hal cipta]] karena input kreatif manusia bersifat ''[[de minimis]]'' dan bahwa aturan hak cipta "mengkecualikan karya yang dibuat oleh non-manusia."


== 2023 ==
== 2023 ==
=== Pernyataan terhadap resiko AI (2023) ===
=== Pernyataan terhadap resiko AI (2023) ===
Pada 22 Maret 2023, [[Future of Life Institute]] [[Hentikan Eksperimen Kecerdasan Buatan Besar: Surat Terbuka|menerbitkan sebuah surat terbuka]] yang menyerukan agar "seluruh lab AI secara langsung menghentikan setidaknya 6 bulan pelatihan sistem AI yang lebih kuat ketimbang [[GPT-4]]", dengan alasan resiko seperti propaganda yang dipicu AI, otomasi ekstrim terhadap pekerjaan, keusangan manusia, dan kehilangan kendali masyarakat umum.<ref>[https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pause Giant AI Experiments: An Open Letter]. ''Future of Life Institute''.</ref> Surat tersebut, yang diterbitkan sepekan setelah perilisan GPT-4 oleh OpenAI, menganggap bahwa model bahasa besar saat ini "menjadi tugas kompetetif manusia secara umum".<ref>[https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pause Giant AI Experiments: An Open Letter]. ''Future of Life Institute''.</ref> Surat tersebut meraih lebih dari 30.000 tanda tangan, termasuk para peneliti AI akademik dan CEO industri seperti [[Yoshua Bengio]], [[Stuart J. Russell|Stuart Russell]], [[Elon Musk]], [[Steve Wozniak]] dan [[Yuval Noah Harari]].<ref>[https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pause Giant AI Experiments: An Open Letter]. ''Future of Life Institute''.</ref><ref>Cade Metz. [https://www.nytimes.com/2023/03/29/technology/ai-artificial-intelligence-musk-risks.html Elon Musk and Others Call for Pause on A.I., Citing 'Profound Risks to Society']. ''The New York Times''. 2023-03-29.</ref><ref>Alex Hern. [https://www.theguardian.com/technology/2023/mar/29/elon-musk-joins-call-for-pause-in-creation-of-giant-ai-digital-minds Elon Musk joins call for pause in creation of giant AI 'digital minds']. ''The Guardian''. 2023-03-29.</ref> Sura tersebut dikritik karena mengalihkan perhatian dari resiko masyarakat yang lebih langsung seperti [[bias algoritma]],<ref>Kari Paul. [https://www.theguardian.com/technology/2023/mar/31/ai-research-pause-elon-musk-chatgpt Letter signed by Elon Musk demanding AI research pause sparks controversy]. ''The Guardian''. 2023-04-01.</ref> dengan [[Timnit Gebru]] dan lainnya berpendapat bahwa surat tersebut menyatakan "beberapa skenario fiksi ilmiah distopia, futuristik" alih-alih masalah saat ini dengan AI.<ref>Margo Anderson. [https://spectrum.ieee.org/ai-pause-letter-stokes-fear 'AI Pause' Open Letter Stokes Fear and Controversy]. 7 April 2023.</ref>


 
Pada 30 Mei 2023, [[Center for AI Safety]] [[Pernyataan terhadap Resiko Kecerdasan Buatan|merilis pernyataan satu kalimat]] yang ditandatangani oleh ratusan pakar kecerdasan buatan dan tokoh terkenal lainnya: "Memitigasi resiko kepunahan dari AI harus menjadi prioritas global bersama dengan resiko skala masyarakat lainnya seperti pandemi dan perang nuklir."<ref>[https://www.safe.ai/statement-on-ai-risk Statement on AI Risk]. ''Center for AI Safety''. May 30, 2023.</ref><ref>Kevin Roose. [https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html A.I. Poses 'Risk of Extinction,' Industry Leaders Warn]. ''The New York Times''. 2023-05-30.</ref> Para penandatangannya meliputi para penerima [[Penghargaan Turing]] [[Geoffrey Hinton]] dan [[Yoshua Bengio]], serta para pemimpin eksekutif dan saintifik dari banyak perusahaan AI besar, yang meliputi [[Sam Altman]], [[Demis Hassabis]], dan [[Bill Gates]].<ref>[https://www.safe.ai/statement-on-ai-risk Statement on AI Risk]. ''Center for AI Safety''. May 30, 2023.</ref><ref>Kevin Roose. [https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html A.I. Poses 'Risk of Extinction,' Industry Leaders Warn]. ''The New York Times''. 2023-05-30.</ref><ref>James Vincent. [https://www.theverge.com/2023/5/30/23742005/ai-risk-warning-22-word-statement-google-deepmind-openai Top AI researchers and CEOs warn against 'risk of extinction' in 22-word statement]. ''The Verge''. 2023-05-30.</ref> Pernyataan tersebut menanggapi tanggapan dari para pemimpin politik, yang meliputi [[Perdana Menteri Britania Raya]] [[Rishi Sunak]], ang mencuitkannya ulang dengan pernyataan bahwa pemerintah Inggris akan memantaunya secara berhati-hati, dan [[Sekretaris Pers Gedung Putih]] [[Karine Jean-Pierre]], yang berkomentar bahwa AI "adalah salah satu teknologi paling kuat yang kami lihat saat ini pada masa kita."<ref>[https://www.independent.co.uk/space/rishi-sunak-san-francisco-siri-government-prime-minister-b2348994.html Artificial intelligence warning over human extinction – all you need to know]. ''The Independent''. 2023-05-31.</ref><ref>[https://www.usatoday.com/story/news/politics/2023/06/01/president-biden-warns-ai-could-overtake-human-thinking/70277907007/ President Biden warns artificial intelligence could 'overtake human thinking']. ''USA TODAY''.</ref> Kalangan skeptis, yang meliputi orang-orang yang berasal dari [[Human Rights Watch]], berpendapat bahwa para ilmuwan harus berfokus pada resiko yang diketahui dari AI alih-alih resiko masa depan spekulatif.<ref>Tate Ryan-Mosley. [https://www.technologyreview.com/2023/06/12/1074449/real-ai-risks/ It's time to talk about the real AI risks]. ''MIT Technology Review''. 12 June 2023.</ref><ref>Aaron Gregg. [https://www.washingtonpost.com/business/2023/05/30/ai-poses-risk-extinction-industry-leaders-warn/ AI poses 'risk of extinction' on par with nukes, tech leaders say]. ''Washington Post''. 2023-05-31.</ref>
Pada 22 Maret 2023, [[Future of Life Institute]] [[Hentikan Eksperimen Kecerdasan Buatan Besar: Surat Terbuka|menerbitkan sebuah surat terbuka]] yang menyerukan agar "seluruh lab AI secara langsung menghentikan setidaknya 6 bulan pelatihan sistem AI yang lebih kuat ketimbang [[GPT-4]]", dengan alasan resiko seperti propaganda yang dipicu AI, otomasi ekstrim terhadap pekerjaan, keusangan manusia, dan kehilangan kendali masyarakat umum. Surat tersebut, yang diterbitkan sepekan setelah perilisan GPT-4 oleh OpenAI, menganggap bahwa model bahasa besar saat ini "menjadi tugas kompetetif manusia secara umum". Surat tersebut meraih lebih dari 30.000 tanda tangan, termasuk para peneliti AI akademik dan CEO industri seperti [[Yoshua Bengio]], [[Stuart J. Russell|Stuart Russell]], [[Elon Musk]], [[Steve Wozniak]] dan [[Yuval Noah Harari]]. Sura tersebut dikritik karena mengalihkan perhatian dari resiko masyarakat yang lebih langsung seperti [[bias algoritma]], dengan [[Timnit Gebru]] dan lainnya berpendapat bahwa surat tersebut menyatakan "beberapa skenario fiksi ilmiah distopia, futuristik" alih-alih masalah saat ini dengan AI.
 
Pada 30 Mei 2023, [[Center for AI Safety]] [[Pernyataan terhadap Resiko Kecerdasan Buatan|merilis pernyataan satu kalimat]] yang ditandatangani oleh ratusan pakar kecerdasan buatan dan tokoh terkenal lainnya: "Memitigasi resiko kepunahan dari AI harus menjadi prioritas global bersama dengan resiko skala masyarakat lainnya seperti pandemi dan perang nuklir." Para penandatangannya meliputi para penerima [[Penghargaan Turing]] [[Geoffrey Hinton]] dan [[Yoshua Bengio]], serta para pemimpin eksekutif dan saintifik dari banyak perusahaan AI besar, yang meliputi [[Sam Altman]], [[Demis Hassabis]], dan [[Bill Gates]]. Pernyataan tersebut menanggapi tanggapan dari para pemimpin politik, yang meliputi [[Perdana Menteri Britania Raya]] [[Rishi Sunak]], ang mencuitkannya ulang dengan pernyataan bahwa pemerintah Inggris akan memantaunya secara berhati-hati, dan [[Sekretaris Pers Gedung Putih]] [[Karine Jean-Pierre]], yang berkomentar bahwa AI "adalah salah satu teknologi paling kuat yang kami lihat saat ini pada masa kita." Kalangan skeptis, yang meliputi orang-orang yang berasal dari [[Human Rights Watch]], berpendapat bahwa para ilmuwan harus berfokus pada resiko yang diketahui dari AI alih-alih resiko masa depan spekulatif.


=== Pemecatan Sam Altman dari OpenAI (2023) ===
=== Pemecatan Sam Altman dari OpenAI (2023) ===
 
Pada 17 November 2023, [[badan direktur]] [[OpenAI]] memecat saalh satu pendiri dan kepala eksekutif [[Sam Altman]], yang menyatakan bahwa "badan tersebut tak lagi memiliki kepercayaan diri dalam kemampuannya untuk terus memimpin OpenAI."<ref>[https://openai.com/index/openai-announces-leadership-transition/ OpenAI announces leadership transition]. OpenAI. 2023-11-17.</ref> Pemecatan tersebut dipicu oleh perhatian karyawan terhadap penanganannya pada [[keamanan kecerdasan buatan]]<ref>Anna Tong. [https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/ Exclusive: OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say]. ''Reuters''. 2023-11-23.</ref><ref>[https://www.tweaktown.com/news/94534/openai-made-huge-breakthrough-before-ousting-sam-altman-introducing/index.html OpenAI made huge breakthrough before ousting Sam Altman, introducing Q*]. ''TweakTown''. 2023-11-22.</ref> dan tuduhan perilaku menyimpang.<ref>Nitasha Tiku. [https://www.washingtonpost.com/technology/2023/12/08/open-ai-sam-altman-complaints/ OpenAI leaders warned of abusive behavior before Sam Altman's ouster]. ''The Washington Post''. December 8, 2023.</ref> Altman diangkat kembali pada 22 November setelah tekanan dari para karyawan dan investor, temrausk sebuah surat yang ditandatangani oleh 745 karyawan OpenAI dari 770 karyawan yang mengancam pengunduran diri massal jika badan tersebut tidak mengundurkan diri.<ref>Amir Efrati. [https://www.theinformation.com/articles/dozens-of-staffers-quit-openai-after-sutskever-says-altman-wont-return Dozens of Staffers Quit OpenAI After Sutskever Says Altman Won't Return]. ''The Information''. November 19, 2023.</ref><ref>Ina Fried. [https://www.axios.com/2023/11/21/openai-sam-altman-microsoft-satya-nadella OpenAI's drama has two likely endings. Microsoft will like either one]. ''Axios''.</ref><ref>Jacob Kastrenakes. [https://www.theverge.com/2023/11/20/23968988/openai-employees-resignation-letter-microsoft-sam-altman Hundreds of OpenAI employees threaten to resign and join Microsoft]. ''The Verge''. November 20, 2023.</ref> Pemecatan dan kemudian pengangkatan kembali tersebut menyebabkan merebaknya reaksi, termasuk kejatuhan saham Microsoft nyaris tiga persen usai pengumuman awal dan kemudian naik lebih dari dua persen setelah Altman diundang untuk memimpin tim riset AI Microsoft sebelum pengangkatan ulangnya.<ref>Rachel Metz. [https://www.bloomberg.com/news/articles/2023-11-17/sam-altman-to-depart-openai-mira-murati-will-be-interim-ceo?srnd=undefined OpenAI Ousts Altman as CEO, Board Says It Lost Confidence In Him]. Bloomberg News. November 17, 2023.</ref><ref>Krystal Hur. [https://www.cnn.com/2023/11/20/investing/microsoft-stock-record-high-altman-openai/index.html Microsoft stock hits all-time high after hiring former OpenAI CEO Sam Altman]. CNN. November 20, 2023.</ref> Peristiwa tersebut juga memicu penyelidikan dari [[Competition and Markets Authority]] dan [[Federal Trade Commission]] terhadap hubungan Microsoft dengan OpenAI.<ref>Katharine Gammell. [https://www.bloomberg.com/news/articles/2023-12-08/microsoft-open-ai-tie-up-facing-uk-antitrust-scrutiny Microsoft's OpenAI Ties Face Potential UK Antitrust Probe]. Bloomberg News. December 8, 2023.</ref><ref>Leah Nylen. [https://www.bloomberg.com/news/articles/2023-12-08/ftc-makes-preliminary-antitrust-queries-into-microsoft-openai Microsoft's OpenAI Investment Risks Scrutiny from US, UK Regulators]. Bloomberg News. December 8, 2023.</ref>
 
Pada 17 November 2023, [[badan direktur]] [[OpenAI]] memecat saalh satu pendiri dan kepala eksekutif [[Sam Altman]], yang menyatakan bahwa "badan tersebut tak lagi memiliki kepercayaan diri dalam kemampuannya untuk terus memimpin OpenAI." Pemecatan tersebut dipicu oleh perhatian karyawan terhadap penanganannya pada [[keamanan kecerdasan buatan]] dan tuduhan perilaku menyimpang. Altman diangkat kembali pada 22 November setelah tekanan dari para karyawan dan investor, temrausk sebuah surat yang ditandatangani oleh 745 karyawan OpenAI dari 770 karyawan yang mengancam pengunduran diri massal jika badan tersebut tidak mengundurkan diri. Pemecatan dan kemudian pengangkatan kembali tersebut menyebabkan merebaknya reaksi, termasuk kejatuhan saham Microsoft nyaris tiga persen usai pengumuman awal dan kemudian naik lebih dari dua persen setelah Altman diundang untuk memimpin tim riset AI Microsoft sebelum pengangkatan ulangnya. Peristiwa tersebut juga memicu penyelidikan dari [[Competition and Markets Authority]] dan [[Federal Trade Commission]] terhadap hubungan Microsoft dengan OpenAI.
== 2024 ==
== 2024 ==
=== Kontroversi pornografi pemalsuan dalam Taylor Swift (2024) ===
=== Kontroversi pornografi pemalsuan dalam Taylor Swift (2024) ===
 
Pada akhir Januari 2024, gambar-gambar [[pornografi pemalsuan dalam|pemalsuan dalam yang dibuat oleh AI secara seksual]] dari [[Taylor Swift]] tersebar di [[Twitter|X]], dengan sebuah pos dilaporkan telah dilihat lebih dari 47 juta kali sebelum dihapus.<ref>[https://www.cbsnews.com/news/taylor-swift-deepfakes-online-outrage-artificial-intelligence/ Taylor Swift deepfakes spread online, sparking outrage]. January 26, 2024.</ref><ref>Emma Wilkes. [https://www.nme.com/news/music/graphic-taylor-swift-deepfake-imahes-linked-to-4chan-challenge-3582813 Taylor Swift deepfakes spark calls for new legislation]. February 5, 2024.</ref> Firma riset disinformasi [[Graphika]] melacak bahwa gambar-gambar tersebut berasal dari [[4chan]],<ref>Tiffany Hsu. [https://www.nytimes.com/2024/02/05/business/media/taylor-swift-ai-fake-images.html Fake and Explicit Images of Taylor Swift Started on 4chan, Study Says]. ''The New York Times''. February 5, 2024.</ref> sementara para anggota grup [[Telegram (perangkat lunak)|Telegram]] membahas cara untuk pengawasan penyensoran pengedaran generator gambar AI untuk menciptakan gambar pornografi para selebriti.<ref>Ashley Belanger. [https://arstechnica.com/tech-policy/2024/01/fake-ai-taylor-swift-images-flood-x-amid-calls-to-criminalize-deepfake-porn/ Toxic Telegram group produced X's X-rated fake AI Taylor Swift images, report says]. ''Ars Technica''. January 26, 2024.</ref> Gambar-gambar tersebut memicu tanggapan dari kelompok advokasi anti-[[serangan seksual]], politikus AS, dan [[Swifties]].<ref>Jacob Kastrenakes. [https://www.theverge.com/2024/1/26/24052261/taylor-swift-ai-fakes-white-house-responds-legislation White House calls for legislation to stop Taylor Swift AI fakes]. ''The Verge''. January 26, 2024.</ref><ref>Dan Rosenzweig-Ziff. [https://www.washingtonpost.com/technology/2024/01/26/ai-deepfakes-taylor-swift-nude/ AI deepfakes of Taylor Swift spread on X. Here's what to know]. ''The Washington Post''.</ref> CEO Microsoft [[Satya Nadella]] menyebut peristiwa tersebut sebagai "peringatan dan mengerikan."<ref>Angela Yang. [https://www.nbcnews.com/tech/tech-news/microsoft-ceo-satya-nadella-calls-taylor-swift-deepfakes-alarming-terr-rcna136402 Microsoft CEO Satya Nadella calls for coordination to address AI risk]. January 30, 2024.</ref> X secara singkat memblokir pencarian nama Swift pada 27 Januari 2024,<ref>Emine Saner. [https://www.theguardian.com/technology/2024/jan/31/inside-the-taylor-swift-deepfake-scandal-its-men-telling-a-powerful-woman-to-get-back-in-her-box Inside the Taylor Swift deepfake scandal: 'It's men telling a powerful woman to get back in her box']. ''The Guardian''. January 31, 2024.</ref> dan Microsoft memberlakukan pengawasan model [[teks-ke-gambar]] untuk mencegah penyalahgunaan pada masa mendatang.<ref>Jess Weatherbed. [https://www.theverge.com/2024/1/25/24050334/x-twitter-taylor-swift-ai-fake-images-trending Trolls have flooded X with graphic Taylor Swift AI fakes]. ''The Verge''. January 25, 2024.</ref> Pada 30 Januari, senator AS [[Dick Durbin]], [[Lindsey Graham]], [[Amy Klobuchar]], dan [[Josh Hawley]] mengeluarkan UU bipartisan yang akan memperkenankan para korban untuk menggugat orang-orang yang membuat atau memasang "pemalsuan digital" dengan tujuan untuk disebarkan, atau orang-orang yang menerima material yang diketahui dibuat tanpa ijin.<ref>Blake Montgomery. [https://www.theguardian.com/technology/2024/jan/30/taylor-swift-ai-deepfake-nonconsensual-sexual-images-bill Taylor Swift AI images prompt US bill to tackle nonconsensual, sexual deepfakes]. ''The Guardian''. January 31, 2024.</ref>
 
Pada akhir Januari 2024, gambar-gambar [[pornografi pemalsuan dalam|pemalsuan dalam yang dibuat oleh AI secara seksual]] dari [[Taylor Swift]] tersebar di [[Twitter|X]], dengan sebuah pos dilaporkan telah dilihat lebih dari 47 juta kali sebelum dihapus. Firma riset disinformasi [[Graphika]] melacak bahwa gambar-gambar tersebut berasal dari [[4chan]], sementara para anggota grup [[Telegram (perangkat lunak)|Telegram]] membahas cara untuk pengawasan penyensoran pengedaran generator gambar AI untuk menciptakan gambar pornografi para selebriti. Gambar-gambar tersebut memicu tanggapan dari kelompok advokasi anti-[[serangan seksual]], politikus AS, dan [[Swifties]]. CEO Microsoft [[Satya Nadella]] menyebut peristiwa tersebut sebagai "peringatan dan mengerikan." X secara singkat memblokir pencarian nama Swift pada 27 Januari 2024, dan Microsoft memberlakukan pengawasan model [[teks-ke-gambar]] untuk mencegah penyalahgunaan pada masa mendatang. Pada 30 Januari, senator AS [[Dick Durbin]], [[Lindsey Graham]], [[Amy Klobuchar]], dan [[Josh Hawley]] mengeluarkan UU bipartisan yang akan memperkenankan para korban untuk menggugat orang-orang yang membuat atau memasang "pemalsuan digital" dengan tujuan untuk disebarkan, atau orang-orang yang menerima material yang diketahui dibuat tanpa ijin.


=== Kontroversi pembuatan gambar Google Gemini (2024) ===
=== Kontroversi pembuatan gambar Google Gemini (2024) ===
 
Pada Februari 2024, para pengguna media sosial melaporkan bahwa bot obrolan [[Gemini (bot obrolan)|Google Gemini]] membuat gambar-gambar yang menampilkan [[orang kulit berwarna]] dan wanita dalam konteks tak akurat secara historis&mdash;seperti [[Viking]], [[prajurit Nazi]], dan [[Para Bapak Bangsa]]&mdash;dan menolak [[rekayasa intruksi|instruksi]] untuk membuat gambar-gambar [[orang kulit putih]]. Gambar-gambar tersebut tersebar di media sosial, termasuk oleh [[Konservatisme di Amerika Serikat|kalangan konservatif]] yang mengutipnya sebagai bukti "''[[wokeness]]''" dari [[Google]],<ref>Adi Robertson. [https://www.theverge.com/2024/2/21/24079371/google-ai-gemini-generative-inaccurate-historical Google apologizes for 'missing the mark' after Gemini generated racially diverse Nazis]. ''The Verge''. February 21, 2024.</ref><ref>Carl Franzen. [https://venturebeat.com/ai/google-geminis-wokeness-sparks-debate-over-ai-censorship/ Google Gemini's 'wokeness' sparks debate over AI censorship]. ''VentureBeat''. February 21, 2024.</ref><ref>James Titcomb. [https://www.telegraph.co.uk/business/2024/02/21/google-chatbot-ethnically-diverse-images-vikings-knights/ Google chatbot ridiculed for ethnically diverse images of Vikings and knights]. ''The Daily Telegraph''. February 21, 2024.</ref> dan dikritik oleh [[Elon Musk]], yang mengecam produk-produk Google karena bias dan rasis.<ref>Kwan Wei Kevin Tan. [https://www.businessinsider.com/elon-musk-claims-google-ai-insane-and-racist-2024-2 Elon Musk is accusing Google of running 'insane racist, anti-civilizational programming' with its AI]. ''Business Insider''. February 22, 2024.</ref><ref>Robert Hart. [https://www.forbes.com/sites/roberthart/2024/02/23/elon-musk-targets-google-search-after-claiming-company-ai-is-insane-and-racist/ Elon Musk Targets Google Search After Claiming Company AI Is 'Insane' And 'Racist']. February 23, 2024.</ref><ref>Beatrice Nolan. [https://www.businessinsider.com/elon-musk-google-war-x-gemini-ai-chatbots-2024-2 Elon Musk is going to war with Google]. ''Business Insider''. February 27, 2024.</ref> Sebagai tanggapannya, Google menghentikan kemampuan Gemini untuk membuat gambar-gambar orang.<ref>Arjun Kharpal. [https://www.cnbc.com/2024/02/22/google-pauses-gemini-ai-image-generator-after-inaccuracies.html Google pauses Gemini AI image generator after it created inaccurate historical pictures]. CNBC. February 22, 2024.</ref><ref>Dan Milmo. [https://www.theguardian.com/technology/2024/feb/22/google-pauses-ai-generated-images-of-people-after-ethnicity-criticism Google pauses AI-generated images of people after ethnicity criticism]. ''The Guardian''. February 22, 2024.</ref><ref>Catherine Duffy. [https://www.cnn.com/2024/02/22/tech/google-gemini-ai-image-generator/index.html Google halts AI tool's ability to produce images of people after backlash]. CNN Business. February 22, 2024.</ref> Eksekutif Google  [[Prabhakar Raghavan]] merilis sebuah pernyataan yang menjelaskan bahwa Gemini "telalu berkompensasi" dalam upayanya untuk menampilkan keragaman dan mengakui bahwa gambar-gambar tersebut "memalukan dan salah".<ref>Emma Roth. [https://www.theverge.com/2024/2/23/24081309/google-gemini-embarrassing-ai-pictures-diverse-nazi Google explains Gemini's 'embarrassing' AI pictures of diverse Nazis]. ''The Verge''. February 23, 2024.</ref><ref>Mariella Moon. [https://www.engadget.com/google-explains-why-geminis-image-generation-feature-overcorrected-for-diversity-121532787.html Google explains why Gemini's image generation feature overcorrected for diversity]. ''Engadget''. February 24, 2024.</ref><ref>David Ingram. [https://www.nbcnews.com/tech/tech-news/google-says-gemini-ai-glitches-product-effort-address-traps-rcna140243 Google says Gemini AI glitches were product of effort to address 'traps']. NBC News. February 23, 2024.</ref> CEO Google [[Sundar Pichai]] menyebut peristiwa tersebut bersifat ofensif dan tak dapat diterima dalam memo interal, menjanjikan perubahan struktural dan teknikal,<ref>Julia Love. [https://www.bloomberg.com/news/articles/2024-02-28/google-ceo-blasts-unacceptable-gemini-image-generation-failure Google CEO Blasts 'Unacceptable' Gemini Image Generation Failure]. Bloomberg News. February 27, 2024.</ref><ref>Bobby Allyn. [https://www.npr.org/2024/02/28/1234532775/google-gemini-offended-users-images-race Google CEO Pichai says Gemini's AI image results "offended our users"]. NPR. March 3, 2024.</ref><ref>Reed Albergotti. [https://www.semafor.com/article/02/27/2024/google-ceo-sundar-pichai-calls-ai-tools-responses-completely-unacceptable Google CEO calls AI tool's controversial responses 'completely unacceptable']. ''Semafor''. February 27, 2024.</ref> dan sejumlah karyawan dalam tim kepercayaan dan keamanan Google berbenah pada hari-hari kemudian.<ref>Davey Alba. [https://www.bloomberg.com/news/articles/2024-03-01/google-trims-jobs-in-trust-and-safety-while-others-work-around-the-clock Google Trims Jobs in Trust and Safety While Others Work 'Around the Clock']. Bloomberg News. March 1, 2024.</ref><ref>Jon Victor. [https://www.theinformation.com/briefings/google-lays-off-trust-and-safety-staff-amid-gemini-backlash Google Lays Off Trust and Safety Staff Amid Gemini Backlash]. ''The Information''. March 2, 2024.</ref> Pasar berreaksi secara negatif, dengan saham Google turun sampai 4.4 persen,<ref>Jeran Wittenstein. [https://www.bloomberg.com/news/articles/2024-02-26/alphabet-drops-amid-renewed-fears-about-google-s-ai-offerings Alphabet Drops During Renewed Fears About Google's AI Offerings]. Bloomberg News. February 26, 2024.</ref> dan Pichai menghadapi seruan untuk mengunduran diri.<ref>Hugh Langley. [https://www.businessinsider.com/calls-for-google-ceo-sundar-pichai-alphabet-step-down-ai-2024-3 There are growing calls for Google CEO Sundar Pichai to step down]. ''Business Insider''. March 1, 2024.</ref><ref>Peter Kafka. [https://www.businessinsider.com/google-gemini-woke-images-ai-chatbot-criticism-controversy-2024-2 Google has another 'woke' AI problem with Gemini — and it's going to be hard to fix]. ''Business Insider''. February 26, 2024.</ref><ref>Sissi Cao. [https://observer.com/2023/02/google-ceo-sundar-pichai-bard-chatbot/ Criticism is Mounting Over Sundar Pichai's Stumbles as Google CEO]. ''The New York Observer''. February 15, 2024.</ref> Fitur pembuatan gambar diluncurkan ulang pada akhir Agustus 2024, ditenagai oleh model Imagen 3 yang baru.<ref>Nico Grant. [https://www.nytimes.com/2024/08/28/technology/google-gemini-ai-image-generator.html Google Says It Fixed Image Generator That Failed to Depict White People]. ''The New York Times''. August 28, 2024.</ref><ref>Megan Cerullo. [https://www.cbsnews.com/news/google-relaunches-gemini-ai-tool-image-generator/ Google relaunches Gemini AI tool that lets users create images of people]. CBS News. August 29, 2024.</ref>
 
Pada Februari 2024, para pengguna media sosial melaporkan bahwa bot obrolan [[Gemini (bot obrolan)|Google Gemini]] membuat gambar-gambar yang menampilkan [[orang kulit berwarna]] dan wanita dalam konteks tak akurat secara historis&mdash;seperti [[Viking]], [[prajurit Nazi]], dan [[Para Bapak Bangsa]]&mdash;dan menolak [[rekayasa intruksi|instruksi]] untuk membuat gambar-gambar [[orang kulit putih]]. Gambar-gambar tersebut tersebar di media sosial, termasuk oleh [[Konservatisme di Amerika Serikat|kalangan konservatif]] yang mengutipnya sebagai bukti "''[[wokeness]]''" dari [[Google]], dan dikritik oleh [[Elon Musk]], yang mengecam produk-produk Google karena bias dan rasis. Sebagai tanggapannya, Google menghentikan kemampuan Gemini untuk membuat gambar-gambar orang. Eksekutif Google  [[Prabhakar Raghavan]] merilis sebuah pernyataan yang menjelaskan bahwa Gemini "telalu berkompensasi" dalam upayanya untuk menampilkan keragaman dan mengakui bahwa gambar-gambar tersebut "memalukan dan salah". CEO Google [[Sundar Pichai]] menyebut peristiwa tersebut bersifat ofensif dan tak dapat diterima dalam memo interal, menjanjikan perubahan struktural dan teknikal, dan sejumlah karyawan dalam tim kepercayaan dan keamanan Google berbenah pada hari-hari kemudian. Pasar berreaksi secara negatif, dengan saham Google turun sampai 4.4 persen, dan Pichai menghadapi seruan untuk mengunduran diri. Fitur pembuatan gambar diluncurkan ulang pada akhir Agustus 2024, ditenagai oleh model Imagen 3 yang baru.
== Sejak 2025 ==
== Sejak 2025 ==
=== Iklan Natal buatan AI McDonald's (2025) ===
=== Iklan Natal buatan AI McDonald's (2025) ===
 
Pada 6 Desember 2025, [[McDonald's Belanda]] merilis ''It's the Most Terrible Time of the Year'', sebuah [[iklan televisi]] 45 detik yang diproduksi dengan [[kecerdasan buatan generatif]] oleh perusahaan Belanda TBWA\Neboko dan studio produksi yang berbasis di Amerika Serikat, The Sweetshop, mengikuti tren yang dilakukan oleh merek lain seperti [[The Coca-Cola Company|Coca-Cola]] dan [[Toys "R" Us#Iklan buatan AI|Toys "R" Us]].<ref>[https://www.bbc.com/news/articles/czdgrnvp082o McDonald's pulls AI-generated Christmas advert following backlash]. ''BBC News''. 10 December 2025.</ref><ref>[https://www.latimes.com/business/story/2025-12-10/ai-slop-ad-backfires-for-mcdonalds AI slop ad backfires for McDonald's]. ''Los Angeles Times''. 10 December 2025.</ref><ref>Dani Di Placido. [https://www.forbes.com/sites/danidiplacido/2025/12/09/mcdonalds-ai-generated-ad-controversy-explained/ McDonald's AI-Generated Ad Controversy, Explained]. ''Forbes''. 9 December 2025.</ref> Iklan tersebut menampilkan berbagai kemalangan saat musim Natal, dengan versi modifikasi dari "[[It's the Most Wonderful Time of the Year]]" karya [[Andy Williams]] dan tagar "''hide out in McDonald's till January's here''".<ref>[https://www.adforum.com/creative-work/ad/player/34728882/its-the-most-terrible-time-of-the-year/mcdonalds McDonald's - "It's the Most Terrible Time of The Year"]. ''Ad Forum''.</ref> Iklan tersebut menerima sambutan negaitf karena pemakaian AI generatif dan penggambaran sinisnya terhadap musim hari raya,<ref>[https://www.bbc.com/news/articles/czdgrnvp082o McDonald's pulls AI-generated Christmas advert following backlash]. ''BBC News''. 10 December 2025.</ref><ref>Dani Di Placido. [https://www.forbes.com/sites/danidiplacido/2025/12/09/mcdonalds-ai-generated-ad-controversy-explained/ McDonald's AI-Generated Ad Controversy, Explained]. ''Forbes''. 9 December 2025.</ref><ref>[https://www.newsweek.com/mcdonalds-netherlands-pulls-ai-christmas-advert-response-11186108 McDonald's pulls Christmas advert after criticism]. ''Newsweek''. 10 December 2025.</ref> dan ditarik pada 9 Desember 2025.<ref>[https://www.cbs8.com/article/news/nation-world/mcdonalds-pulls-ai-generated-christmas-ad/507-0db86f78-adbf-4d71-881c-7837cdab69ed McDonald's removes AI-generated Christmas ad after online backlash]. ''CBS8''. 10 December 2025.</ref> Sutradara asal [[Los Angeles]] Mark Potoka dan Matt Spicer, yang awalnya disebut terlibat dalam film tersebut, telah mengundurkan diri karena tersudut akibat proses produksi tersebut.<ref>[https://www.latimes.com/business/story/2025-12-10/ai-slop-ad-backfires-for-mcdonalds AI slop ad backfires for McDonald's]. ''Los Angeles Times''. 10 December 2025.</ref>
 
Pada 6 Desember 2025, [[McDonald's Belanda]] merilis ''It's the Most Terrible Time of the Year'', sebuah [[iklan televisi]] 45 detik yang diproduksi dengan [[kecerdasan buatan generatif]] oleh perusahaan Belanda TBWA\Neboko dan studio produksi yang berbasis di Amerika Serikat, The Sweetshop, mengikuti tren yang dilakukan oleh merek lain seperti [[The Coca-Cola Company|Coca-Cola]] dan [[Toys "R" Us#Iklan buatan AI|Toys "R" Us]]. Iklan tersebut menampilkan berbagai kemalangan saat musim Natal, dengan versi modifikasi dari "[[It's the Most Wonderful Time of the Year]]" karya [[Andy Williams]] dan tagar "''hide out in McDonald's till January's here''". Iklan tersebut menerima sambutan negaitf karena pemakaian AI generatif dan penggambaran sinisnya terhadap musim hari raya, dan ditarik pada 9 Desember 2025. Sutradara asal [[Los Angeles]] Mark Potoka dan Matt Spicer, yang awalnya disebut terlibat dalam film tersebut, telah mengundurkan diri karena tersudut akibat proses produksi tersebut.


=== Skandal pemalsuan dalam seksual Grok (2025–2026) ===
=== Skandal pemalsuan dalam seksual Grok (2025–2026) ===
Sejak 2025, [[Grok (AI)|Grok]], [[bot obrolan]] terintegrasi di [[Twitter|X]], dipakai untuk membuat gambar orang-orang secara tanpa ijin, termasuk anak-anak, untuk menggambarkan mereka berbikini, berbusana transparan atau konteks sugestif secara seksual, dengan bot obrolan secara terbuka meluncurkan gambar buatan dalam menanggapi permintaan pengguna. Kasus mulai muncul pada Mei 2025.<ref>Emanuel Maiberg. [https://www.404media.co/elon-musks-grok-ai-will-remove-her-clothes-in-public-on-x/ Elon Musk's Grok AI Will 'Remove Her Clothes' In Public, On X]. ''404 Media''. 6 May 2025.</ref> Pada akhir Desember 2025, praktek tersebut menjadi tren yang menyebar di platform tersebut dan menerima perhatian media signifikan pada awal Januari 2026.<ref>Hugo Bernard. [https://rotek.fr/x-grok-deshabille-femmes-sans-leur-consentement/ Sur X, Grok déshabille des femmes sans leur consentement]. ''Rotek''. 1 January 2026.</ref><ref>Logan McCann. [https://copyleaks.com/blog/grok-and-nonconsensual-image-manipulation#elementor-toc__heading-anchor-2 Grok and the Rise of Nonconsensual Image Manipulation]. ''Copyleaks''.</ref> Sebuah analisis dilakukan sepanjang 24 jam dari 5 sampai 6 Januari 2026, memperkirakan bahwa para pengguna memakai Grok untuk menciptakan 6.700 gambar penelanjangan atau sugestif secara seksual per jam—84 kali melebihi lima situs web pemalsuan dalam papan atas yang digabungkan.<ref>Cecilia D'Anastasio. [https://www.bloomberg.com/news/articles/2026-01-07/musk-s-grok-ai-generated-thousands-of-undressed-images-per-hour-on-x Musk's Grok AI Generated Thousands of Undressed Images Per Hour on X]. Bloomberg. 2026-01-07.</ref><ref>Jason Wilson. [https://www.theguardian.com/technology/2026/jan/08/grok-x-nonconsensual-images Hundreds of nonconsensual AI images being created by Grok on X, data shows]. ''The Guardian''. January 8, 2026.</ref> [[Wired (majalah)|Wired]] melaporkan bahwa pencitraan seksual buatan AI yang lebih grafis, termasuk konten yang menampilkan anak-anak, dibuat melalui situs web dan aplikasi Grok sendiri.<ref>Matt Burgess. [https://www.wired.com/story/grok-is-generating-sexual-content-far-more-graphic-than-whats-on-x/ Grok Is Generating Sexual Content Far More Graphic Than What's on X]. January 7, 2026.</ref>


Skandal tersebut memicu pengecaman luas dari para pembuat hukum di seluruh belahan dunia. [[Indonesia]], [[Malaysia]], dan [[Filipina]] secara temporer memblokir akses ke Grok,<ref>Ali Watkins. [https://www.nytimes.com/2026/01/11/world/asia/malaysia-indonesia-grok-ban.html Malaysia and Indonesia Block Access to Grok Because of Sexually Explicit Content]. ''The New York Times''. January 11, 2026.</ref> sementara perdana menteri Inggris [[Keir Starmer]] menyatakan bahwa pencekalan X di [[Britania Raya]] sedang berada "di atas meja",<ref>Emmet Lyons. [https://www.cbsnews.com/news/uk-x-elon-musk-grok-ai-sexualized-images-fake-nudes-starmer/ U.K. says ban on Elon Musk's X platform "on the table" over Grok AI sexualized images]. ''CBS News''. 2026-01-09.</ref> dan jaksa agung [[California]] [[Rob Bonta]] mengumumkan sebuah penyelidikan soal apakah [[XAI (perusahaan)|xAI]] telah melanggar hukum negara bagian.<ref>[https://www.theguardian.com/technology/2026/jan/14/california-attorney-general-investigates-grok-ai-elon-musk California attorney general investigates Musk's Grok AI over lewd fake images]. ''The Guardian''. January 14, 2026.</ref> Di Prancis, para jaksa meluncurkan investigasi yang memperluas persebaran [[penyangkalan Holokaus]] dan pemalsuan dalam seksual, berpuncak penyerbuan kantor X di Paris pada 3 Februari 2026, dengan Elon Musk menghadapi pemeriksaan.<ref>Róisín Cullen. [https://www.rte.ie/news/world/2026/0203/1556489-france-elon-musk-x/ French cybercrime authorities search X offices]. RTÉ News. 2026-02-03.</ref> xAI menanggapi permintaan media untuk komentar dengan jawaban otomatis "Legacy Media Lies".<ref>Nick Robins-Early. [https://www.theguardian.com/technology/2026/jan/02/elon-musk-grok-ai-children-photos Elon Musk's Grok AI generates images of 'minors in minimal clothing']. ''The Guardian''. 2026-01-02.</ref> Pada 14 Januari, Musk menyatakan bahwa ia "tak menyadari gambar-gambar telanjang di bawah umur apapun yang dibuat oleh Grok. Nol secara harfiah." sebelum xAI mengumumkan bahwa para pengguna X takkan lagi dapat memakai Grok untuk membuat gambar orang nyata untuk menggambarkan mereka dalam busana terbuka. Namun, para pengguna terverifikasi dan para pengguna aplikasi dan situs web Grok yang berdiri sendiri masih dapat membuat gambar-gambar semacam itu.<ref>Dara Kerr. [https://www.theguardian.com/technology/2026/jan/14/elon-musk-grok-ai-explicit-images Musk's X to block Grok AI tool from creating sexualized images of real people]. ''The Guardian''. January 14, 2026.</ref><ref>Emmet Lyons. [https://www.cbsnews.com/news/x-grok-ai-imagery-elon-musk-eu-uk-us-regulation/ X, Grok AI still allow users to digitally undress people without consent, as EU announces investigation - CBS News]. ''www.cbsnews.com''. CBS News. 26 January 2026.</ref>


Sejak 2025, [[Grok (AI)|Grok]], [[bot obrolan]] terintegrasi di [[Twitter|X]], dipakai untuk membuat gambar orang-orang secara tanpa ijin, termasuk anak-anak, untuk menggambarkan mereka berbikini, berbusana transparan atau konteks sugestif secara seksual, dengan bot obrolan secara terbuka meluncurkan gambar buatan dalam menanggapi permintaan pengguna. Kasus mulai muncul pada Mei 2025. Pada akhir Desember 2025, praktek tersebut menjadi tren yang menyebar di platform tersebut dan menerima perhatian media signifikan pada awal Januari 2026. Sebuah analisis dilakukan sepanjang 24 jam dari 5 sampai 6 Januari 2026, memperkirakan bahwa para pengguna memakai Grok untuk menciptakan 6.700 gambar penelanjangan atau sugestif secara seksual per jam—84 kali melebihi lima situs web pemalsuan dalam papan atas yang digabungkan. [[Wired (majalah)|Wired]] melaporkan bahwa pencitraan seksual buatan AI yang lebih grafis, termasuk konten yang menampilkan anak-anak, dibuat melalui situs web dan aplikasi Grok sendiri.
==bacaan tambahan==
 
*
Skandal tersebut memicu pengecaman luas dari para pembuat hukum di seluruh belahan dunia. [[Indonesia]], [[Malaysia]], dan [[Filipina]] secara temporer memblokir akses ke Grok, sementara perdana menteri Inggris [[Keir Starmer]] menyatakan bahwa pencekalan X di [[Britania Raya]] sedang berada "di atas meja", dan jaksa agung [[California]] [[Rob Bonta]] mengumumkan sebuah penyelidikan soal apakah [[XAI (perusahaan)|xAI]] telah melanggar hukum negara bagian. Di Prancis, para jaksa meluncurkan investigasi yang memperluas persebaran [[penyangkalan Holokaus]] dan pemalsuan dalam seksual, berpuncak penyerbuan kantor X di Paris pada 3 Februari 2026, dengan Elon Musk menghadapi pemeriksaan. xAI menanggapi permintaan media untuk komentar dengan jawaban otomatis "Legacy Media Lies". Pada 14 Januari, Musk menyatakan bahwa ia "tak menyadari gambar-gambar telanjang di bawah umur apapun yang dibuat oleh Grok. Nol secara harfiah." sebelum xAI mengumumkan bahwa para pengguna X takkan lagi dapat memakai Grok untuk membuat gambar orang nyata untuk menggambarkan mereka dalam busana terbuka. Namun, para pengguna terverifikasi dan para pengguna aplikasi dan situs web Grok yang berdiri sendiri masih dapat membuat gambar-gambar semacam itu.
*
 
*
*
*


== Referensi ==
== Referensi ==
<references />


== Sumber dan atribusi ==


==bacaan tambahan==
Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Kontroversi+kecerdasan+buatan&oldid=29213014 Wikipedia bahasa Indonesia], revisi 29213014 (2026-05-11T02:57:17Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.
*
*
*
*
*
 
== Sumber dan atribusi ==


Artikel ini diadaptasi dalam mode teks dari
<!-- WIKI_UNISSULA_PRESENTATION_V4 -->
[https://id.wikipedia.org/w/index.php?title=Kontroversi_kecerdasan_buatan&oldid=29213014 Wikipedia bahasa Indonesia],
revisi 29213014 (2026-05-11T02:57:17Z).
Gambar, media, infobox, templat navigasi, dan kategori sumber
tidak diimpor ke Wiki Unissula.
Atribusi dan lisensi mengikuti ketentuan Creative Commons
Atribusi-BerbagiSerupa (CC BY-SA) pada sumber Wikipedia.

Revisi terkini sejak 23 Agustus 2026 03.13

Kontroversi terkait kecerdasan buatan meliputi serangkaian besar perdebatan publik, akademik dan politik terkait dampak masyarakat dari kecerdasan buatan (AI). Perdebatan tersebut utamanya timbul pada akhir 2010an dan 2020an, bertepatan dengan periode perkembangan terakselerasi yang dikenal sebagai bom AI. Meskipun mengadvokasikan kemajuan potensi teknologi untuk memecahkan masalah kompleks dan menunjang kualitas hidup manusia, para penentangnya menyoroti sejumlah besar bahaya dan tantangan. Ini meliputi etika, plagiarisme dan pencurian, pemalsuan, keamanan dan pengendalian, dampak lingkungan, pengangguran teknologi, dan penyebaran misinformasi. Ini juga menyoroti tantangan masa depan atau teoretikal, seperti kemunculan kecerdasan super buatan dan resiko eksistensial.[1]

2016

Bot obrolan Microsoft Tay (2016)

Pada 23 Maret 2016, Microsoft merilis Tay,[2] sebuah bot obrolan yang dirancang untuk meniru susunan bahasa dari seorang gadis berusia 19 tahun dan belajar dari interaksi dengan para pengguna Twitter.[3] Tak lama usia peluncurannya, Tay mulai mengirim cuitan rasis, seksis dan tak menyenangkan lainnya setelah para pengguna Twitter mengajarkannya peribahasa ofensif dan mengeksploitasi kemampuan "pengulangan terhadapku".[4] Contoh-contoh cuitan kontroversialnya meliputi penyangkalan Holokaus dan seruan untuk genosida menggunakan julukan rasial.[5] Dalam 16 jam perilisannya, Microsoft menangguhkan akun Twitter tersebut, menghapus cuitan ofensif, dan menyatakan bahwa Tay telah terkena "serangan terrencana oleh sekelompok orang" yang "mengeksploitasi kerentanan."[6][7][8][9] Tay secara singkat dan tak sengaja dirilis ulang pada 20 Maret saat uji coba, dan setelah itu ditutup permanen.[10][11] CEO Microsoft Satya Nadella kemudian menyatakan bahwa Tay "telah memiliki pengaruh besar terhadap bagaimana Microsoft melakukan pendekatan terhadap AI" dan mengajarkan perusahaan tersebut soal pentingnya mengambil akuntabilitas.[12]

2022

Skandal plagiarisme Voiceverse NFT (2022)

Pada 14 Januari 2022, pengisi suara Troy Baker mengumumkan kemitraan dengan Voiceverse, sebuah perusahaan berbasis rantai blok yang memasarkan teknologi peniruan suara AI sebagai token yang tidak dapat ditukar (NFT), memicu timbal balik langsung terhadap perhatian lingkungan, khawatir bahwa AI dapat menggantikan pengisi suara manusia, dan kekhawatiran terhadap pemalsuan.[13][14][15] Hari hari yang sama, pembuat pseudonim 15.ai—sebuah proyek riset sintesis suara AI non-komersial bebas—menyatakan bahwa melalui log server, Voiceverse memakai 15.ai untuk menciptakan contoh suara, mengalihkannya untuk membuat mereka tak dikenal, dan secara palsu memasarkan mereka sebagai teknologi sebenarnya mereka sendiri sebelum menjual mereka sebagai NFT;[16][17] pengembang 15.ai sebelumnya menyatakan bahwa mereka tak berminat mengikutsertakan NFT pada pengerjaan mereka.[18] Voiceverse mengakuinya dalam sejam dan menyatakan bahwa tim pemasaran mereka telah memakai 15.ai tanpa atribusi meskipun bertujuan untuk menciptakan sebuah demo.[19][20] Publikasi berita dan kelompok pemantau AI secara universal mengkarakterisasi insiden tersebut sebagai pencurian yang ditimbulkan dari kecerdasan buatan generatif.[21][22][23][24]

Théâtre D'opéra Spatial (2022)

Pada 29 Agustus 2022, Jason Michael Allen memenangkan peringkat pertama dalam divisi "artis pendatang" (non-profesional) dari kategori "Fotografi Seni Digital/Manipulasi Difgital" dari kompetisi seni rupa murni Colorado State Fair dengan , sebuah karya seni digital yang diciptakan menggunakan generator citra AI Midjourney, Adobe Photoshop, dan alat peningkatan skala AI, menjadikannya salah satu gambar pertama yang dipakai menggunakan AI generatif yang memenangkan penghargaan semacam itu.[25][26][27][28] Allen membongkar pemakaian Midjourney-mya saat diajukan, meskipun para juri tak mengetahui bahwa ini adalah aalt AI namun menyatakan mereka akan memberikannya peringkat pertama tanpa pandang bulu.[29][30] Meskipun terjadi sedikit pertentangan terhadap gambar tersebut di pameran tersebut, reaksi terhadap kemenangannya di media sosial bersifat negatif.[31][32] Pada 5 September 2023, Badan Hak Cipta Amerika Serikat menyatakan bahwa karya tersebut tak layak untuk perlindungan hal cipta karena input kreatif manusia bersifat de minimis dan bahwa aturan hak cipta "mengkecualikan karya yang dibuat oleh non-manusia."[33][34]

2023

Pernyataan terhadap resiko AI (2023)

Pada 22 Maret 2023, Future of Life Institute menerbitkan sebuah surat terbuka yang menyerukan agar "seluruh lab AI secara langsung menghentikan setidaknya 6 bulan pelatihan sistem AI yang lebih kuat ketimbang GPT-4", dengan alasan resiko seperti propaganda yang dipicu AI, otomasi ekstrim terhadap pekerjaan, keusangan manusia, dan kehilangan kendali masyarakat umum.[35] Surat tersebut, yang diterbitkan sepekan setelah perilisan GPT-4 oleh OpenAI, menganggap bahwa model bahasa besar saat ini "menjadi tugas kompetetif manusia secara umum".[36] Surat tersebut meraih lebih dari 30.000 tanda tangan, termasuk para peneliti AI akademik dan CEO industri seperti Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak dan Yuval Noah Harari.[37][38][39] Sura tersebut dikritik karena mengalihkan perhatian dari resiko masyarakat yang lebih langsung seperti bias algoritma,[40] dengan Timnit Gebru dan lainnya berpendapat bahwa surat tersebut menyatakan "beberapa skenario fiksi ilmiah distopia, futuristik" alih-alih masalah saat ini dengan AI.[41]

Pada 30 Mei 2023, Center for AI Safety merilis pernyataan satu kalimat yang ditandatangani oleh ratusan pakar kecerdasan buatan dan tokoh terkenal lainnya: "Memitigasi resiko kepunahan dari AI harus menjadi prioritas global bersama dengan resiko skala masyarakat lainnya seperti pandemi dan perang nuklir."[42][43] Para penandatangannya meliputi para penerima Penghargaan Turing Geoffrey Hinton dan Yoshua Bengio, serta para pemimpin eksekutif dan saintifik dari banyak perusahaan AI besar, yang meliputi Sam Altman, Demis Hassabis, dan Bill Gates.[44][45][46] Pernyataan tersebut menanggapi tanggapan dari para pemimpin politik, yang meliputi Perdana Menteri Britania Raya Rishi Sunak, ang mencuitkannya ulang dengan pernyataan bahwa pemerintah Inggris akan memantaunya secara berhati-hati, dan Sekretaris Pers Gedung Putih Karine Jean-Pierre, yang berkomentar bahwa AI "adalah salah satu teknologi paling kuat yang kami lihat saat ini pada masa kita."[47][48] Kalangan skeptis, yang meliputi orang-orang yang berasal dari Human Rights Watch, berpendapat bahwa para ilmuwan harus berfokus pada resiko yang diketahui dari AI alih-alih resiko masa depan spekulatif.[49][50]

Pemecatan Sam Altman dari OpenAI (2023)

Pada 17 November 2023, badan direktur OpenAI memecat saalh satu pendiri dan kepala eksekutif Sam Altman, yang menyatakan bahwa "badan tersebut tak lagi memiliki kepercayaan diri dalam kemampuannya untuk terus memimpin OpenAI."[51] Pemecatan tersebut dipicu oleh perhatian karyawan terhadap penanganannya pada keamanan kecerdasan buatan[52][53] dan tuduhan perilaku menyimpang.[54] Altman diangkat kembali pada 22 November setelah tekanan dari para karyawan dan investor, temrausk sebuah surat yang ditandatangani oleh 745 karyawan OpenAI dari 770 karyawan yang mengancam pengunduran diri massal jika badan tersebut tidak mengundurkan diri.[55][56][57] Pemecatan dan kemudian pengangkatan kembali tersebut menyebabkan merebaknya reaksi, termasuk kejatuhan saham Microsoft nyaris tiga persen usai pengumuman awal dan kemudian naik lebih dari dua persen setelah Altman diundang untuk memimpin tim riset AI Microsoft sebelum pengangkatan ulangnya.[58][59] Peristiwa tersebut juga memicu penyelidikan dari Competition and Markets Authority dan Federal Trade Commission terhadap hubungan Microsoft dengan OpenAI.[60][61]

2024

Kontroversi pornografi pemalsuan dalam Taylor Swift (2024)

Pada akhir Januari 2024, gambar-gambar pemalsuan dalam yang dibuat oleh AI secara seksual dari Taylor Swift tersebar di X, dengan sebuah pos dilaporkan telah dilihat lebih dari 47 juta kali sebelum dihapus.[62][63] Firma riset disinformasi Graphika melacak bahwa gambar-gambar tersebut berasal dari 4chan,[64] sementara para anggota grup Telegram membahas cara untuk pengawasan penyensoran pengedaran generator gambar AI untuk menciptakan gambar pornografi para selebriti.[65] Gambar-gambar tersebut memicu tanggapan dari kelompok advokasi anti-serangan seksual, politikus AS, dan Swifties.[66][67] CEO Microsoft Satya Nadella menyebut peristiwa tersebut sebagai "peringatan dan mengerikan."[68] X secara singkat memblokir pencarian nama Swift pada 27 Januari 2024,[69] dan Microsoft memberlakukan pengawasan model teks-ke-gambar untuk mencegah penyalahgunaan pada masa mendatang.[70] Pada 30 Januari, senator AS Dick Durbin, Lindsey Graham, Amy Klobuchar, dan Josh Hawley mengeluarkan UU bipartisan yang akan memperkenankan para korban untuk menggugat orang-orang yang membuat atau memasang "pemalsuan digital" dengan tujuan untuk disebarkan, atau orang-orang yang menerima material yang diketahui dibuat tanpa ijin.[71]

Kontroversi pembuatan gambar Google Gemini (2024)

Pada Februari 2024, para pengguna media sosial melaporkan bahwa bot obrolan Google Gemini membuat gambar-gambar yang menampilkan orang kulit berwarna dan wanita dalam konteks tak akurat secara historis—seperti Viking, prajurit Nazi, dan Para Bapak Bangsa—dan menolak instruksi untuk membuat gambar-gambar orang kulit putih. Gambar-gambar tersebut tersebar di media sosial, termasuk oleh kalangan konservatif yang mengutipnya sebagai bukti "wokeness" dari Google,[72][73][74] dan dikritik oleh Elon Musk, yang mengecam produk-produk Google karena bias dan rasis.[75][76][77] Sebagai tanggapannya, Google menghentikan kemampuan Gemini untuk membuat gambar-gambar orang.[78][79][80] Eksekutif Google Prabhakar Raghavan merilis sebuah pernyataan yang menjelaskan bahwa Gemini "telalu berkompensasi" dalam upayanya untuk menampilkan keragaman dan mengakui bahwa gambar-gambar tersebut "memalukan dan salah".[81][82][83] CEO Google Sundar Pichai menyebut peristiwa tersebut bersifat ofensif dan tak dapat diterima dalam memo interal, menjanjikan perubahan struktural dan teknikal,[84][85][86] dan sejumlah karyawan dalam tim kepercayaan dan keamanan Google berbenah pada hari-hari kemudian.[87][88] Pasar berreaksi secara negatif, dengan saham Google turun sampai 4.4 persen,[89] dan Pichai menghadapi seruan untuk mengunduran diri.[90][91][92] Fitur pembuatan gambar diluncurkan ulang pada akhir Agustus 2024, ditenagai oleh model Imagen 3 yang baru.[93][94]

Sejak 2025

Iklan Natal buatan AI McDonald's (2025)

Pada 6 Desember 2025, McDonald's Belanda merilis It's the Most Terrible Time of the Year, sebuah iklan televisi 45 detik yang diproduksi dengan kecerdasan buatan generatif oleh perusahaan Belanda TBWA\Neboko dan studio produksi yang berbasis di Amerika Serikat, The Sweetshop, mengikuti tren yang dilakukan oleh merek lain seperti Coca-Cola dan Toys "R" Us.[95][96][97] Iklan tersebut menampilkan berbagai kemalangan saat musim Natal, dengan versi modifikasi dari "It's the Most Wonderful Time of the Year" karya Andy Williams dan tagar "hide out in McDonald's till January's here".[98] Iklan tersebut menerima sambutan negaitf karena pemakaian AI generatif dan penggambaran sinisnya terhadap musim hari raya,[99][100][101] dan ditarik pada 9 Desember 2025.[102] Sutradara asal Los Angeles Mark Potoka dan Matt Spicer, yang awalnya disebut terlibat dalam film tersebut, telah mengundurkan diri karena tersudut akibat proses produksi tersebut.[103]

Skandal pemalsuan dalam seksual Grok (2025–2026)

Sejak 2025, Grok, bot obrolan terintegrasi di X, dipakai untuk membuat gambar orang-orang secara tanpa ijin, termasuk anak-anak, untuk menggambarkan mereka berbikini, berbusana transparan atau konteks sugestif secara seksual, dengan bot obrolan secara terbuka meluncurkan gambar buatan dalam menanggapi permintaan pengguna. Kasus mulai muncul pada Mei 2025.[104] Pada akhir Desember 2025, praktek tersebut menjadi tren yang menyebar di platform tersebut dan menerima perhatian media signifikan pada awal Januari 2026.[105][106] Sebuah analisis dilakukan sepanjang 24 jam dari 5 sampai 6 Januari 2026, memperkirakan bahwa para pengguna memakai Grok untuk menciptakan 6.700 gambar penelanjangan atau sugestif secara seksual per jam—84 kali melebihi lima situs web pemalsuan dalam papan atas yang digabungkan.[107][108] Wired melaporkan bahwa pencitraan seksual buatan AI yang lebih grafis, termasuk konten yang menampilkan anak-anak, dibuat melalui situs web dan aplikasi Grok sendiri.[109]

Skandal tersebut memicu pengecaman luas dari para pembuat hukum di seluruh belahan dunia. Indonesia, Malaysia, dan Filipina secara temporer memblokir akses ke Grok,[110] sementara perdana menteri Inggris Keir Starmer menyatakan bahwa pencekalan X di Britania Raya sedang berada "di atas meja",[111] dan jaksa agung California Rob Bonta mengumumkan sebuah penyelidikan soal apakah xAI telah melanggar hukum negara bagian.[112] Di Prancis, para jaksa meluncurkan investigasi yang memperluas persebaran penyangkalan Holokaus dan pemalsuan dalam seksual, berpuncak penyerbuan kantor X di Paris pada 3 Februari 2026, dengan Elon Musk menghadapi pemeriksaan.[113] xAI menanggapi permintaan media untuk komentar dengan jawaban otomatis "Legacy Media Lies".[114] Pada 14 Januari, Musk menyatakan bahwa ia "tak menyadari gambar-gambar telanjang di bawah umur apapun yang dibuat oleh Grok. Nol secara harfiah." sebelum xAI mengumumkan bahwa para pengguna X takkan lagi dapat memakai Grok untuk membuat gambar orang nyata untuk menggambarkan mereka dalam busana terbuka. Namun, para pengguna terverifikasi dan para pengguna aplikasi dan situs web Grok yang berdiri sendiri masih dapat membuat gambar-gambar semacam itu.[115][116]

bacaan tambahan

Referensi

  1. ↑ Vincent C. Müller. Ethics of Artificial Intelligence and Robotics. Stanford Encyclopedia of Philosophy. April 30, 2020.
  2. ↑ Andrew Griffin. Tay tweets: Microsoft creates bizarre Twitter robot for people to chat to. The Independent. March 23, 2016.
  3. ↑ Rob Price. Microsoft is deleting its AI chatbot's incredibly racist tweets. Business Insider. March 24, 2016.
  4. ↑ Abby Ohlheiser. Trolls turned Tay, Microsoft's fun millennial AI bot, into a genocidal maniac. The Washington Post. 25 March 2016.
  5. ↑ Abby Ohlheiser. Trolls turned Tay, Microsoft's fun millennial AI bot, into a genocidal maniac. The Washington Post. 25 March 2016.
  6. ↑ Abby Ohlheiser. Trolls turned Tay, Microsoft's fun millennial AI bot, into a genocidal maniac. The Washington Post. 25 March 2016.
  7. ↑ Alex Hern. Microsoft scrambles to limit PR damage over abusive AI bot Tay. The Guardian. 24 March 2016.
  8. ↑ Justin Worland. Microsoft Takes Chatbot Offline After It Starts Tweeting Racist Messages. 24 March 2016.
  9. ↑ Peter Lee. Learning from Tay's introduction. Official Microsoft Blog. Microsoft. 25 March 2016.
  10. ↑ Luke Graham. Tay, Microsoft's AI program, is back online. CNBC. 30 March 2016.
  11. ↑ David Meyer. Microsoft's Tay 'AI' Bot Returns, Disastrously. Fortune. 30 March 2016.
  12. ↑ Charlie Moloney. "We really need to take accountability", Microsoft CEO on the 'Tay' chatbot. Access AI. 29 September 2017.
  13. ↑ Michael McWhertor. The Last of Us voice actor promotes 'voice NFTs,' pulls out after criticism. Polygon. January 14, 2022.
  14. ↑ Andy Brown. Troy Baker criticised for supporting company that makes AI "voice NFTs". NME. January 14, 2022.
  15. ↑ Kirk McKean. Actor Troy Baker endorses NFT voice AI that aims to replace actors. USA Today. January 14, 2022.
  16. ↑ Tom Phillips. Troy Baker-backed NFT firm admits using voice lines taken from another service without permission. Eurogamer. January 17, 2022.
  17. ↑ Ruby Innes. Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content. Kotaku Australia. January 18, 2022.
  18. ↑ Ruby Innes. Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content. Kotaku Australia. January 18, 2022.
  19. ↑ Tom Phillips. Troy Baker-backed NFT firm admits using voice lines taken from another service without permission. Eurogamer. January 17, 2022.
  20. ↑ Ruby Innes. Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content. Kotaku Australia. January 18, 2022.
  21. ↑ Tom Phillips. Troy Baker-backed NFT firm admits using voice lines taken from another service without permission. Eurogamer. January 17, 2022.
  22. ↑ Ruby Innes. Voiceverse Is The Latest NFT Company Caught Using Someone Else's Content. Kotaku Australia. January 18, 2022.
  23. ↑ Voiceverse NFT caught plagiarising voice lines from AI service 15.ai. AI, Algorithmic, and Automation Incidents and Controversies. January 2022.
  24. ↑ Pednekar Sonali. Incident 277: Voices Created Using Publicly Available App Stolen and Resold as NFT without Attribution. AI Incident Database. January 14, 2022.
  25. ↑ Explained: The controversy surrounding the AI-generated artwork that won US competition. Firstpost. 2022-09-05.
  26. ↑ Kevin Roose. An A.I.-Generated Picture Won an Art Prize. Artists Aren't Happy. The New York Times. 2022-09-02.
  27. ↑ Suzanne V. Wilson. Théâtre D'opéra Spatial Review Board Decision letter. United States Copyright Office. 5 September 2023.
  28. ↑ Miloš Todorović. AI and Heritage: A Discussion on Rethinking Heritage in a Digital World. Uluslararası Kültürel ve Sosyal Araştırmalar Dergisi. 5 February 2024. doi:10.46442/intjcss.1397403.
  29. ↑ Kevin Roose. An A.I.-Generated Picture Won an Art Prize. Artists Aren't Happy. The New York Times. 2022-09-02.
  30. ↑ Rachel Metz. AI won an art contest, and artists are furious. CNN. 2022-09-03.
  31. ↑ Drew Harwell. He used AI to win a fine-arts competition. Was it cheating?. Washington Post. 2022-09-02.
  32. ↑ Rachel Metz. AI won an art contest, and artists are furious. CNN. 2022-09-03.
  33. ↑ Suzanne V. Wilson. Théâtre D'opéra Spatial Review Board Decision letter. United States Copyright Office. 5 September 2023.
  34. ↑ Edward Helmore. An old master? No, it's an image AI just knocked up ... and it can't be copyrighted. The Guardian. 24 September 2023.
  35. ↑ Pause Giant AI Experiments: An Open Letter. Future of Life Institute.
  36. ↑ Pause Giant AI Experiments: An Open Letter. Future of Life Institute.
  37. ↑ Pause Giant AI Experiments: An Open Letter. Future of Life Institute.
  38. ↑ Cade Metz. Elon Musk and Others Call for Pause on A.I., Citing 'Profound Risks to Society'. The New York Times. 2023-03-29.
  39. ↑ Alex Hern. Elon Musk joins call for pause in creation of giant AI 'digital minds'. The Guardian. 2023-03-29.
  40. ↑ Kari Paul. Letter signed by Elon Musk demanding AI research pause sparks controversy. The Guardian. 2023-04-01.
  41. ↑ Margo Anderson. 'AI Pause' Open Letter Stokes Fear and Controversy. 7 April 2023.
  42. ↑ Statement on AI Risk. Center for AI Safety. May 30, 2023.
  43. ↑ Kevin Roose. A.I. Poses 'Risk of Extinction,' Industry Leaders Warn. The New York Times. 2023-05-30.
  44. ↑ Statement on AI Risk. Center for AI Safety. May 30, 2023.
  45. ↑ Kevin Roose. A.I. Poses 'Risk of Extinction,' Industry Leaders Warn. The New York Times. 2023-05-30.
  46. ↑ James Vincent. Top AI researchers and CEOs warn against 'risk of extinction' in 22-word statement. The Verge. 2023-05-30.
  47. ↑ Artificial intelligence warning over human extinction – all you need to know. The Independent. 2023-05-31.
  48. ↑ President Biden warns artificial intelligence could 'overtake human thinking'. USA TODAY.
  49. ↑ Tate Ryan-Mosley. It's time to talk about the real AI risks. MIT Technology Review. 12 June 2023.
  50. ↑ Aaron Gregg. AI poses 'risk of extinction' on par with nukes, tech leaders say. Washington Post. 2023-05-31.
  51. ↑ OpenAI announces leadership transition. OpenAI. 2023-11-17.
  52. ↑ Anna Tong. Exclusive: OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say. Reuters. 2023-11-23.
  53. ↑ OpenAI made huge breakthrough before ousting Sam Altman, introducing Q*. TweakTown. 2023-11-22.
  54. ↑ Nitasha Tiku. OpenAI leaders warned of abusive behavior before Sam Altman's ouster. The Washington Post. December 8, 2023.
  55. ↑ Amir Efrati. Dozens of Staffers Quit OpenAI After Sutskever Says Altman Won't Return. The Information. November 19, 2023.
  56. ↑ Ina Fried. OpenAI's drama has two likely endings. Microsoft will like either one. Axios.
  57. ↑ Jacob Kastrenakes. Hundreds of OpenAI employees threaten to resign and join Microsoft. The Verge. November 20, 2023.
  58. ↑ Rachel Metz. OpenAI Ousts Altman as CEO, Board Says It Lost Confidence In Him. Bloomberg News. November 17, 2023.
  59. ↑ Krystal Hur. Microsoft stock hits all-time high after hiring former OpenAI CEO Sam Altman. CNN. November 20, 2023.
  60. ↑ Katharine Gammell. Microsoft's OpenAI Ties Face Potential UK Antitrust Probe. Bloomberg News. December 8, 2023.
  61. ↑ Leah Nylen. Microsoft's OpenAI Investment Risks Scrutiny from US, UK Regulators. Bloomberg News. December 8, 2023.
  62. ↑ Taylor Swift deepfakes spread online, sparking outrage. January 26, 2024.
  63. ↑ Emma Wilkes. Taylor Swift deepfakes spark calls for new legislation. February 5, 2024.
  64. ↑ Tiffany Hsu. Fake and Explicit Images of Taylor Swift Started on 4chan, Study Says. The New York Times. February 5, 2024.
  65. ↑ Ashley Belanger. Toxic Telegram group produced X's X-rated fake AI Taylor Swift images, report says. Ars Technica. January 26, 2024.
  66. ↑ Jacob Kastrenakes. White House calls for legislation to stop Taylor Swift AI fakes. The Verge. January 26, 2024.
  67. ↑ Dan Rosenzweig-Ziff. AI deepfakes of Taylor Swift spread on X. Here's what to know. The Washington Post.
  68. ↑ Angela Yang. Microsoft CEO Satya Nadella calls for coordination to address AI risk. January 30, 2024.
  69. ↑ Emine Saner. Inside the Taylor Swift deepfake scandal: 'It's men telling a powerful woman to get back in her box'. The Guardian. January 31, 2024.
  70. ↑ Jess Weatherbed. Trolls have flooded X with graphic Taylor Swift AI fakes. The Verge. January 25, 2024.
  71. ↑ Blake Montgomery. Taylor Swift AI images prompt US bill to tackle nonconsensual, sexual deepfakes. The Guardian. January 31, 2024.
  72. ↑ Adi Robertson. Google apologizes for 'missing the mark' after Gemini generated racially diverse Nazis. The Verge. February 21, 2024.
  73. ↑ Carl Franzen. Google Gemini's 'wokeness' sparks debate over AI censorship. VentureBeat. February 21, 2024.
  74. ↑ James Titcomb. Google chatbot ridiculed for ethnically diverse images of Vikings and knights. The Daily Telegraph. February 21, 2024.
  75. ↑ Kwan Wei Kevin Tan. Elon Musk is accusing Google of running 'insane racist, anti-civilizational programming' with its AI. Business Insider. February 22, 2024.
  76. ↑ Robert Hart. Elon Musk Targets Google Search After Claiming Company AI Is 'Insane' And 'Racist'. February 23, 2024.
  77. ↑ Beatrice Nolan. Elon Musk is going to war with Google. Business Insider. February 27, 2024.
  78. ↑ Arjun Kharpal. Google pauses Gemini AI image generator after it created inaccurate historical pictures. CNBC. February 22, 2024.
  79. ↑ Dan Milmo. Google pauses AI-generated images of people after ethnicity criticism. The Guardian. February 22, 2024.
  80. ↑ Catherine Duffy. Google halts AI tool's ability to produce images of people after backlash. CNN Business. February 22, 2024.
  81. ↑ Emma Roth. Google explains Gemini's 'embarrassing' AI pictures of diverse Nazis. The Verge. February 23, 2024.
  82. ↑ Mariella Moon. Google explains why Gemini's image generation feature overcorrected for diversity. Engadget. February 24, 2024.
  83. ↑ David Ingram. Google says Gemini AI glitches were product of effort to address 'traps'. NBC News. February 23, 2024.
  84. ↑ Julia Love. Google CEO Blasts 'Unacceptable' Gemini Image Generation Failure. Bloomberg News. February 27, 2024.
  85. ↑ Bobby Allyn. Google CEO Pichai says Gemini's AI image results "offended our users". NPR. March 3, 2024.
  86. ↑ Reed Albergotti. Google CEO calls AI tool's controversial responses 'completely unacceptable'. Semafor. February 27, 2024.
  87. ↑ Davey Alba. Google Trims Jobs in Trust and Safety While Others Work 'Around the Clock'. Bloomberg News. March 1, 2024.
  88. ↑ Jon Victor. Google Lays Off Trust and Safety Staff Amid Gemini Backlash. The Information. March 2, 2024.
  89. ↑ Jeran Wittenstein. Alphabet Drops During Renewed Fears About Google's AI Offerings. Bloomberg News. February 26, 2024.
  90. ↑ Hugh Langley. There are growing calls for Google CEO Sundar Pichai to step down. Business Insider. March 1, 2024.
  91. ↑ Peter Kafka. Google has another 'woke' AI problem with Gemini — and it's going to be hard to fix. Business Insider. February 26, 2024.
  92. ↑ Sissi Cao. Criticism is Mounting Over Sundar Pichai's Stumbles as Google CEO. The New York Observer. February 15, 2024.
  93. ↑ Nico Grant. Google Says It Fixed Image Generator That Failed to Depict White People. The New York Times. August 28, 2024.
  94. ↑ Megan Cerullo. Google relaunches Gemini AI tool that lets users create images of people. CBS News. August 29, 2024.
  95. ↑ McDonald's pulls AI-generated Christmas advert following backlash. BBC News. 10 December 2025.
  96. ↑ AI slop ad backfires for McDonald's. Los Angeles Times. 10 December 2025.
  97. ↑ Dani Di Placido. McDonald's AI-Generated Ad Controversy, Explained. Forbes. 9 December 2025.
  98. ↑ McDonald's - "It's the Most Terrible Time of The Year". Ad Forum.
  99. ↑ McDonald's pulls AI-generated Christmas advert following backlash. BBC News. 10 December 2025.
  100. ↑ Dani Di Placido. McDonald's AI-Generated Ad Controversy, Explained. Forbes. 9 December 2025.
  101. ↑ McDonald's pulls Christmas advert after criticism. Newsweek. 10 December 2025.
  102. ↑ McDonald's removes AI-generated Christmas ad after online backlash. CBS8. 10 December 2025.
  103. ↑ AI slop ad backfires for McDonald's. Los Angeles Times. 10 December 2025.
  104. ↑ Emanuel Maiberg. Elon Musk's Grok AI Will 'Remove Her Clothes' In Public, On X. 404 Media. 6 May 2025.
  105. ↑ Hugo Bernard. Sur X, Grok déshabille des femmes sans leur consentement. Rotek. 1 January 2026.
  106. ↑ Logan McCann. Grok and the Rise of Nonconsensual Image Manipulation. Copyleaks.
  107. ↑ Cecilia D'Anastasio. Musk's Grok AI Generated Thousands of Undressed Images Per Hour on X. Bloomberg. 2026-01-07.
  108. ↑ Jason Wilson. Hundreds of nonconsensual AI images being created by Grok on X, data shows. The Guardian. January 8, 2026.
  109. ↑ Matt Burgess. Grok Is Generating Sexual Content Far More Graphic Than What's on X. January 7, 2026.
  110. ↑ Ali Watkins. Malaysia and Indonesia Block Access to Grok Because of Sexually Explicit Content. The New York Times. January 11, 2026.
  111. ↑ Emmet Lyons. U.K. says ban on Elon Musk's X platform "on the table" over Grok AI sexualized images. CBS News. 2026-01-09.
  112. ↑ California attorney general investigates Musk's Grok AI over lewd fake images. The Guardian. January 14, 2026.
  113. ↑ Róisín Cullen. French cybercrime authorities search X offices. RTÉ News. 2026-02-03.
  114. ↑ Nick Robins-Early. Elon Musk's Grok AI generates images of 'minors in minimal clothing'. The Guardian. 2026-01-02.
  115. ↑ Dara Kerr. Musk's X to block Grok AI tool from creating sexualized images of real people. The Guardian. January 14, 2026.
  116. ↑ Emmet Lyons. X, Grok AI still allow users to digitally undress people without consent, as EU announces investigation - CBS News. www.cbsnews.com. CBS News. 26 January 2026.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 29213014 (2026-05-11T02:57:17Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Kontroversi_kecerdasan_buatan&oldid=428"