Kontroversi kecerdasan buatan

Kontroversi terkait kecerdasan buatan meliputi serangkaian besar perdebatan publik, akademik dan politik terkait dampak masyarakat dari kecerdasan buatan (AI). Perdebatan tersebut utamanya timbul pada akhir 2010an dan 2020an, bertepatan dengan periode perkembangan terakselerasi yang dikenal sebagai bom AI. Meskipun mengadvokasikan kemajuan potensi teknologi untuk memecahkan masalah kompleks dan menunjang kualitas hidup manusia, para penentangnya menyoroti sejumlah besar bahaya dan tantangan. Ini meliputi etika, plagiarisme dan pencurian, pemalsuan, keamanan dan pengendalian, dampak lingkungan, pengangguran teknologi, dan penyebaran misinformasi. Ini juga menyoroti tantangan masa depan atau teoretikal, seperti kemunculan kecerdasan super buatan dan resiko eksistensial.

2016

Bot obrolan Microsoft Tay (2016)

Pada 23 Maret 2016, Microsoft merilis Tay, sebuah bot obrolan yang dirancang untuk meniru susunan bahasa dari seorang gadis berusia 19 tahun dan belajar dari interaksi dengan para pengguna Twitter. Tak lama usia peluncurannya, Tay mulai mengirim cuitan rasis, seksis dan tak menyenangkan lainnya setelah para pengguna Twitter mengajarkannya peribahasa ofensif dan mengeksploitasi kemampuan "pengulangan terhadapku". Contoh-contoh cuitan kontroversialnya meliputi penyangkalan Holokaus dan seruan untuk genosida menggunakan julukan rasial. Dalam 16 jam perilisannya, Microsoft menangguhkan akun Twitter tersebut, menghapus cuitan ofensif, dan menyatakan bahwa Tay telah terkena "serangan terrencana oleh sekelompok orang" yang "mengeksploitasi kerentanan." Tay secara singkat dan tak sengaja dirilis ulang pada 20 Maret saat uji coba, dan setelah itu ditutup permanen. CEO Microsoft Satya Nadella kemudian menyatakan bahwa Tay "telah memiliki pengaruh besar terhadap bagaimana Microsoft melakukan pendekatan terhadap AI" dan mengajarkan perusahaan tersebut soal pentingnya mengambil akuntabilitas.

2022

Skandal plagiarisme Voiceverse NFT (2022)

Pada 14 Januari 2022, pengisi suara Troy Baker mengumumkan kemitraan dengan Voiceverse, sebuah perusahaan berbasis rantai blok yang memasarkan teknologi peniruan suara AI sebagai token yang tidak dapat ditukar (NFT), memicu timbal balik langsung terhadap perhatian lingkungan, khawatir bahwa AI dapat menggantikan pengisi suara manusia, dan kekhawatiran terhadap pemalsuan. Hari hari yang sama, pembuat pseudonim 15.ai—sebuah proyek riset sintesis suara AI non-komersial bebas—menyatakan bahwa melalui log server, Voiceverse memakai 15.ai untuk menciptakan contoh suara, mengalihkannya untuk membuat mereka tak dikenal, dan secara palsu memasarkan mereka sebagai teknologi sebenarnya mereka sendiri sebelum menjual mereka sebagai NFT; pengembang 15.ai sebelumnya menyatakan bahwa mereka tak berminat mengikutsertakan NFT pada pengerjaan mereka. Voiceverse mengakuinya dalam sejam dan menyatakan bahwa tim pemasaran mereka telah memakai 15.ai tanpa atribusi meskipun bertujuan untuk menciptakan sebuah demo. Publikasi berita dan kelompok pemantau AI secara universal mengkarakterisasi insiden tersebut sebagai pencurian yang ditimbulkan dari kecerdasan buatan generatif.

Théâtre D'opéra Spatial (2022)

Pada 29 Agustus 2022, Jason Michael Allen memenangkan peringkat pertama dalam divisi "artis pendatang" (non-profesional) dari kategori "Fotografi Seni Digital/Manipulasi Difgital" dari kompetisi seni rupa murni Colorado State Fair dengan , sebuah karya seni digital yang diciptakan menggunakan generator citra AI Midjourney, Adobe Photoshop, dan alat peningkatan skala AI, menjadikannya salah satu gambar pertama yang dipakai menggunakan AI generatif yang memenangkan penghargaan semacam itu. Allen membongkar pemakaian Midjourney-mya saat diajukan, meskipun para juri tak mengetahui bahwa ini adalah aalt AI namun menyatakan mereka akan memberikannya peringkat pertama tanpa pandang bulu. Meskipun terjadi sedikit pertentangan terhadap gambar tersebut di pameran tersebut, reaksi terhadap kemenangannya di media sosial bersifat negatif. Pada 5 September 2023, Badan Hak Cipta Amerika Serikat menyatakan bahwa karya tersebut tak layak untuk perlindungan hal cipta karena input kreatif manusia bersifat de minimis dan bahwa aturan hak cipta "mengkecualikan karya yang dibuat oleh non-manusia."

2023

Pernyataan terhadap resiko AI (2023)

Pada 22 Maret 2023, Future of Life Institute menerbitkan sebuah surat terbuka yang menyerukan agar "seluruh lab AI secara langsung menghentikan setidaknya 6 bulan pelatihan sistem AI yang lebih kuat ketimbang GPT-4", dengan alasan resiko seperti propaganda yang dipicu AI, otomasi ekstrim terhadap pekerjaan, keusangan manusia, dan kehilangan kendali masyarakat umum. Surat tersebut, yang diterbitkan sepekan setelah perilisan GPT-4 oleh OpenAI, menganggap bahwa model bahasa besar saat ini "menjadi tugas kompetetif manusia secara umum". Surat tersebut meraih lebih dari 30.000 tanda tangan, termasuk para peneliti AI akademik dan CEO industri seperti Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak dan Yuval Noah Harari. Sura tersebut dikritik karena mengalihkan perhatian dari resiko masyarakat yang lebih langsung seperti bias algoritma, dengan Timnit Gebru dan lainnya berpendapat bahwa surat tersebut menyatakan "beberapa skenario fiksi ilmiah distopia, futuristik" alih-alih masalah saat ini dengan AI.

Pada 30 Mei 2023, Center for AI Safety merilis pernyataan satu kalimat yang ditandatangani oleh ratusan pakar kecerdasan buatan dan tokoh terkenal lainnya: "Memitigasi resiko kepunahan dari AI harus menjadi prioritas global bersama dengan resiko skala masyarakat lainnya seperti pandemi dan perang nuklir." Para penandatangannya meliputi para penerima Penghargaan Turing Geoffrey Hinton dan Yoshua Bengio, serta para pemimpin eksekutif dan saintifik dari banyak perusahaan AI besar, yang meliputi Sam Altman, Demis Hassabis, dan Bill Gates. Pernyataan tersebut menanggapi tanggapan dari para pemimpin politik, yang meliputi Perdana Menteri Britania Raya Rishi Sunak, ang mencuitkannya ulang dengan pernyataan bahwa pemerintah Inggris akan memantaunya secara berhati-hati, dan Sekretaris Pers Gedung Putih Karine Jean-Pierre, yang berkomentar bahwa AI "adalah salah satu teknologi paling kuat yang kami lihat saat ini pada masa kita." Kalangan skeptis, yang meliputi orang-orang yang berasal dari Human Rights Watch, berpendapat bahwa para ilmuwan harus berfokus pada resiko yang diketahui dari AI alih-alih resiko masa depan spekulatif.

Pemecatan Sam Altman dari OpenAI (2023)

Pada 17 November 2023, badan direktur OpenAI memecat saalh satu pendiri dan kepala eksekutif Sam Altman, yang menyatakan bahwa "badan tersebut tak lagi memiliki kepercayaan diri dalam kemampuannya untuk terus memimpin OpenAI." Pemecatan tersebut dipicu oleh perhatian karyawan terhadap penanganannya pada keamanan kecerdasan buatan dan tuduhan perilaku menyimpang. Altman diangkat kembali pada 22 November setelah tekanan dari para karyawan dan investor, temrausk sebuah surat yang ditandatangani oleh 745 karyawan OpenAI dari 770 karyawan yang mengancam pengunduran diri massal jika badan tersebut tidak mengundurkan diri. Pemecatan dan kemudian pengangkatan kembali tersebut menyebabkan merebaknya reaksi, termasuk kejatuhan saham Microsoft nyaris tiga persen usai pengumuman awal dan kemudian naik lebih dari dua persen setelah Altman diundang untuk memimpin tim riset AI Microsoft sebelum pengangkatan ulangnya. Peristiwa tersebut juga memicu penyelidikan dari Competition and Markets Authority dan Federal Trade Commission terhadap hubungan Microsoft dengan OpenAI.

2024

Kontroversi pornografi pemalsuan dalam Taylor Swift (2024)

Pada akhir Januari 2024, gambar-gambar pemalsuan dalam yang dibuat oleh AI secara seksual dari Taylor Swift tersebar di X, dengan sebuah pos dilaporkan telah dilihat lebih dari 47 juta kali sebelum dihapus. Firma riset disinformasi Graphika melacak bahwa gambar-gambar tersebut berasal dari 4chan, sementara para anggota grup Telegram membahas cara untuk pengawasan penyensoran pengedaran generator gambar AI untuk menciptakan gambar pornografi para selebriti. Gambar-gambar tersebut memicu tanggapan dari kelompok advokasi anti-serangan seksual, politikus AS, dan Swifties. CEO Microsoft Satya Nadella menyebut peristiwa tersebut sebagai "peringatan dan mengerikan." X secara singkat memblokir pencarian nama Swift pada 27 Januari 2024, dan Microsoft memberlakukan pengawasan model teks-ke-gambar untuk mencegah penyalahgunaan pada masa mendatang. Pada 30 Januari, senator AS Dick Durbin, Lindsey Graham, Amy Klobuchar, dan Josh Hawley mengeluarkan UU bipartisan yang akan memperkenankan para korban untuk menggugat orang-orang yang membuat atau memasang "pemalsuan digital" dengan tujuan untuk disebarkan, atau orang-orang yang menerima material yang diketahui dibuat tanpa ijin.

Kontroversi pembuatan gambar Google Gemini (2024)

Pada Februari 2024, para pengguna media sosial melaporkan bahwa bot obrolan Google Gemini membuat gambar-gambar yang menampilkan orang kulit berwarna dan wanita dalam konteks tak akurat secara historis—seperti Viking, prajurit Nazi, dan Para Bapak Bangsa—dan menolak instruksi untuk membuat gambar-gambar orang kulit putih. Gambar-gambar tersebut tersebar di media sosial, termasuk oleh kalangan konservatif yang mengutipnya sebagai bukti "wokeness" dari Google, dan dikritik oleh Elon Musk, yang mengecam produk-produk Google karena bias dan rasis. Sebagai tanggapannya, Google menghentikan kemampuan Gemini untuk membuat gambar-gambar orang. Eksekutif Google Prabhakar Raghavan merilis sebuah pernyataan yang menjelaskan bahwa Gemini "telalu berkompensasi" dalam upayanya untuk menampilkan keragaman dan mengakui bahwa gambar-gambar tersebut "memalukan dan salah". CEO Google Sundar Pichai menyebut peristiwa tersebut bersifat ofensif dan tak dapat diterima dalam memo interal, menjanjikan perubahan struktural dan teknikal, dan sejumlah karyawan dalam tim kepercayaan dan keamanan Google berbenah pada hari-hari kemudian. Pasar berreaksi secara negatif, dengan saham Google turun sampai 4.4 persen, dan Pichai menghadapi seruan untuk mengunduran diri. Fitur pembuatan gambar diluncurkan ulang pada akhir Agustus 2024, ditenagai oleh model Imagen 3 yang baru.

Sejak 2025

Iklan Natal buatan AI McDonald's (2025)

Pada 6 Desember 2025, McDonald's Belanda merilis It's the Most Terrible Time of the Year, sebuah iklan televisi 45 detik yang diproduksi dengan kecerdasan buatan generatif oleh perusahaan Belanda TBWA\Neboko dan studio produksi yang berbasis di Amerika Serikat, The Sweetshop, mengikuti tren yang dilakukan oleh merek lain seperti Coca-Cola dan Toys "R" Us. Iklan tersebut menampilkan berbagai kemalangan saat musim Natal, dengan versi modifikasi dari "It's the Most Wonderful Time of the Year" karya Andy Williams dan tagar "hide out in McDonald's till January's here". Iklan tersebut menerima sambutan negaitf karena pemakaian AI generatif dan penggambaran sinisnya terhadap musim hari raya, dan ditarik pada 9 Desember 2025. Sutradara asal Los Angeles Mark Potoka dan Matt Spicer, yang awalnya disebut terlibat dalam film tersebut, telah mengundurkan diri karena tersudut akibat proses produksi tersebut.

Skandal pemalsuan dalam seksual Grok (2025–2026)

Sejak 2025, Grok, bot obrolan terintegrasi di X, dipakai untuk membuat gambar orang-orang secara tanpa ijin, termasuk anak-anak, untuk menggambarkan mereka berbikini, berbusana transparan atau konteks sugestif secara seksual, dengan bot obrolan secara terbuka meluncurkan gambar buatan dalam menanggapi permintaan pengguna. Kasus mulai muncul pada Mei 2025. Pada akhir Desember 2025, praktek tersebut menjadi tren yang menyebar di platform tersebut dan menerima perhatian media signifikan pada awal Januari 2026. Sebuah analisis dilakukan sepanjang 24 jam dari 5 sampai 6 Januari 2026, memperkirakan bahwa para pengguna memakai Grok untuk menciptakan 6.700 gambar penelanjangan atau sugestif secara seksual per jam—84 kali melebihi lima situs web pemalsuan dalam papan atas yang digabungkan. Wired melaporkan bahwa pencitraan seksual buatan AI yang lebih grafis, termasuk konten yang menampilkan anak-anak, dibuat melalui situs web dan aplikasi Grok sendiri.

Skandal tersebut memicu pengecaman luas dari para pembuat hukum di seluruh belahan dunia. Indonesia, Malaysia, dan Filipina secara temporer memblokir akses ke Grok, sementara perdana menteri Inggris Keir Starmer menyatakan bahwa pencekalan X di Britania Raya sedang berada "di atas meja", dan jaksa agung California Rob Bonta mengumumkan sebuah penyelidikan soal apakah xAI telah melanggar hukum negara bagian. Di Prancis, para jaksa meluncurkan investigasi yang memperluas persebaran penyangkalan Holokaus dan pemalsuan dalam seksual, berpuncak penyerbuan kantor X di Paris pada 3 Februari 2026, dengan Elon Musk menghadapi pemeriksaan. xAI menanggapi permintaan media untuk komentar dengan jawaban otomatis "Legacy Media Lies". Pada 14 Januari, Musk menyatakan bahwa ia "tak menyadari gambar-gambar telanjang di bawah umur apapun yang dibuat oleh Grok. Nol secara harfiah." sebelum xAI mengumumkan bahwa para pengguna X takkan lagi dapat memakai Grok untuk membuat gambar orang nyata untuk menggambarkan mereka dalam busana terbuka. Namun, para pengguna terverifikasi dan para pengguna aplikasi dan situs web Grok yang berdiri sendiri masih dapat membuat gambar-gambar semacam itu.

Sumber dan atribusi

Artikel ini diadaptasi dalam mode teks dari Wikipedia bahasa Indonesia, revisi 29213014 (2026-05-11T02:57:17Z). Gambar, media, infobox, templat navigasi, dan kategori sumber tidak diimpor ke Wiki Unissula. Atribusi dan lisensi mengikuti ketentuan Creative Commons Atribusi-BerbagiSerupa (CC BY-SA) pada sumber Wikipedia.