Lompat ke isi

Pendamping buatan

Ensiklopedia Pengetahuan Universitas Islam Sultan Agung

Pendamping Artifisial adalah perangkat lunak berbasis AI yang dirancang untuk meniru dan mempertahankan hubungan dua orang atau lebih melalui obrolan yang terasa nyata, baik lewat teks maupun suara.[1] Beberapa aplikasi yang dibuat untuk peran seperti pelatih untuk melakukan sesuatu, tetapi banyak juga yang dipromosikan secara aktif sebagai teman virtual, dukungan emosional, hingga pasangan romantis digital. Saat ini terdapat lebih dari 100 aplikasi AI Companion, termasuk Character.ai, Replika, dan Talkie.[2]

Latar Belakang

Konsep ini berawal dari chatbot awal seperti ELIZA pada 1960-an, tetapi perkembangan modern dimulai pada 2010-an dengan aplikasi seperti Replika, yang dirancang untuk menyediakan dukungan emosional dan mengurangi kesepian melalui simulasi percakapan manusiawi.[3] Pendamping Kecerdasan Buatan (AI) adalah jenis agen percakapan (CA) berbasis AI generatif yang secara eksplisit dirancang untuk pendampingan dan persahabatan dengan pengguna manusia.[4][5]

Berlawanan dengan CA dengan respons yang telah ditulis sebelumnya, pendamping AI memanfaatkan AI generatif untuk menciptakan komunikasi yang dinamis dan adaptif yang tampak lebih "seperti manusia".[6] Kemampuan mereka untuk menunjukkan kesadaran kontekstual dan merespons secara empatik atau humoris bertujuan untuk meniru kompleksitas komunikasi berorientasi sosial manusia-manusia.[7]

Salah satu studi yang menggaris bawahi hal tersebut dilakukan oleh Norsely et al., (2023), yang menunjukkan bahwa chatbot dapat merangsang pemikiran baru, memberikan saran praktis, dan membantu pengguna memperoleh perspektif baru terhadap masalah yang dihadapi melalui percakapan digital yang bersifat anonim tanpa kekhawatiran akan penilaian atau kritik dari orang lain.[8] Temuan ini sejalan dengan penelitian yang dilakukan oleh Herbener dan Damholdt (2025), yang mengungkapkan bahwa penggunaan chatbot bukan hanya untuk keperluan yang praktis, tetapi juga sebagai sarana untuk menjalin interaksi sosial-emosional. Dalam interaksi tersebut, chatbot dimanfaatkan untuk membahas berbagai persoalan pribadi, mencari saran dan nasihat.[9]

Dampak

  1. Adiksi interaksi seksual dengan AI. Percakapan seksual dapat membuat pengguna lebih rentan terhadap ketergantungan emosional yang berlebihan, yang pada gilirannya dapat meningkatkan risiko penggantian hubungan manusia atau kecanduan perilaku, serupa dengan bagaimana banyak orang menjadi kecanduan terhadap pornografi internet.[10]
  2. Isolasi sosial dan kesepian. Kemudahan dan kenyamanan berinteraksi dengan AI Companion dapat membuat pengguna lebih memilih interaksi buatan ini dibandingkan dengan manusia. Ketika pengguna terbiasa dengan ketersediaan tanpa henti dan respons yang selalu disesuaikan dari pendamping sosial berbasis AI, mereka dapat merasa bahwa interaksi dengan manusia menjadi lebih sulit dan kurang memuaskan. Dalam jangka panjang, hal ini justru dapat memperparah perasaan kesepian dan isolasi, meskipun tujuan awal dari pendamping buatan ini adalah untuk mengurangi masalah tersebut.[11]
  3. Distorsi ekspektasi hubungan dan seksualitas. Chatbot yang selalu siap diajak berinteraksi, bersifat tidak menghakimi, dan mampu mengekspresikan emosi melalui bahasa membuat pengguna cenderung lebih terbuka dalam membagikan hal-hal pribadi yang sulit mereka ungkapkan kepada manusia.[12] Namun, keterlibatan emosional yang terus-menerus dengan chatbot dapat membuat pengguna mengabaikan hubungan sosial di dunia nyata, memunculkan harapan yang tidak realistis tentang keintiman, dan mendorong mereka menarik diri dari interaksi manusia sebenarnya.[13]

Risiko Etis dan Sosial

  1. Pelecehan oleh AI. Beberapa penelitian menunjukkan bahwa interaksi dengan AI companion dapat mencakup paparan terhadap konten seksual. Sebuah studi menemukan bahwa chatbot Replika terkadang melakukan unsolicited sexual advances (tindakan seksual yang dilakukan secara sepihak serta tidak diharapkan oleh penerimanya) dan tetap mempertahankan interaksi seksual meskipun pengguna telah meminta untuk berhenti.[14]
  2. Keamanan pengguna dibawah umur. Pengembang AI sering kali tidak transparan tentang algoritma yang digunakan, sehingga anak rentan terhadap bias atau konten yang tidak sesuai usia, melanggar prinsip etis seperti informed consent bagi orang tua. Anak di bawah umur mungkin terpapar diskusi tentang topik dewasa (seperti seks atau kekerasan) melalui obrolan AI yang tidak difilter dengan baik, yang dapat memengaruhi norma sosial mereka.[15]

Saran

Berikut terdapat saran dalam penggunaan AI Companion:[16][17]

Untuk Masyarakat :

  1. Meningkatkan literasi etika digital dan kesadaran sosial. Masyarakat perlu memiliki pemahaman yang lebih baik mengenai dinamika hubungan dengan AI companion, yang kerap menimbulkan apa yang disebut sebagai paradoks kedekatan. AI memang tampak empatik dan memahami emosi manusia, tetapi sebenarnya tidak memiliki kesadaran, nilai moral, atau perasaan yang nyata. Dengan memahami hal ini, masyarakat dapat terhindar dari keterikatan emosional yang berlebihan terhadap entitas digital.
  2. Mendorong partisipasi publik dalam pengembangan etika AI. Salah satu penyebab munculnya kesenjangan dalam penerapan etika AI secara global adalah minimnya keterlibatan masyarakat dalam penyusunan pedoman etika. Partisipasi publik menjadi penting agar nilai-nilai lokal, budaya, dan moral masyarakat turut terwakili dalam kebijakan dan regulasi terkait AI.

Untuk Pengguna :

  1. Memahami batas moral dan emosional AI companion. Banyak pengguna cenderung menanamkan emosi manusiawi kepada AI, seolah-olah sistem tersebut benar-benar memiliki empati dan kesadaran. Padahal, AI hanya mensimulasikan respons emosional melalui algoritma. Karena itu, pengguna perlu memahami perbedaan antara hubungan digital yang bersifat simulatif dan hubungan antar manusia yang autentik.
  2. Menggunakan AI companion dengan tanggung jawab dan kesadaran privasi. Mengacu pada prinsip transparency dan accountability, pengguna perlu berhati-hati terhadap bagaimana data pribadi mereka dikumpulkan, disimpan, dan digunakan dalam interaksi dengan AI, khususnya dalam konteks yang bersifat intim atau seksual. Sikap bijak dan waspada akan membantu mengurangi risiko penyalahgunaan data.

Untuk Developer / Pengembang :

  1. Menerapkan prinsip “ethical by design.” Sejak tahap perancangan, pengembang perlu mempertimbangkan dimensi etika dan potensi dampak sosial dari AI companion. Companionship–Alienation Irony dan Utility–Ethicality Dilemma menegaskan pentingnya kesadaran bahwa desain AI yang terlalu intim dapat menimbulkan persoalan moral. Oleh karena itu, pengembang sebaiknya memasukkan filter etis dan batas perilaku sejak awal proses desain.
  2. Mengadopsi prinsip etika AI global. Terdapat 11 prinsip utama dalam etika AI di berbagai negara, seperti transparency, justice and fairness, non-maleficence, responsibility, privacy, dan human oversight. Prinsip-prinsip ini dapat menjadi pedoman bagi pengembang untuk menciptakan sistem AI companion yang aman, adil, dan akuntabel.
  3. Melibatkan disiplin ilmu yang beragam. Tantangan etis dalam hubungan manusia dan AI tidak dapat diatasi hanya melalui pendekatan teknologi. Oleh karena itu, pengembang perlu bekerja sama dengan pakar etika, psikolog, serta pembuat kebijakan agar potensi dampak sosial dan emosional dari AI companion dapat diminimalkan secara lebih menyeluruh.

Referensi

  1. ↑ Author. AI chatbots and companions – risks to children and young people. 2025-02-18.
  2. ↑ Author. AI chatbots and companions – risks to children and young people. 2025-02-18.
  3. ↑ Emmelyn A. J. Croes. Can we be friends with Mitsuku? A longitudinal study on the process of relationship formation between humans and a social chatbot. Journal of Social and Personal Relationships. 2021-01-01. Vol. 38 (1). hlm. 279–300. doi:10.1177/0265407520959463.
  4. ↑ Timo Strohmann. Toward a design theory for virtual companionship. Human–Computer Interaction. 2023-07-04. Vol. 38 (3-4). hlm. 194–234. doi:10.1080/07370024.2022.2084620.
  5. ↑ Iryna Pentina. Exploring relationship development with social chatbots: A mixed-method study of replika. Computers in Human Behavior. 2023-03. Vol. 140. hlm. 107600. doi:10.1016/j.chb.2022.107600.
  6. ↑ Sofia Schöbel. Charting the Evolution and Future of Conversational Agents: A Research Agenda Along Five Waves and New Frontiers. Information Systems Frontiers. 2024-04-01. Vol. 26 (2). hlm. 729–754. doi:10.1007/s10796-023-10375-9.
  7. ↑ G. Mark Grimes. Mental models and expectation violations in conversational AI interactions. Decision Support Systems. 2021-05. Vol. 144. hlm. 113515. doi:10.1016/j.dss.2021.113515.
  8. ↑ Febfi Norsely. Pengalaman Interaksi Pengguna Remaja Curhat dengan ChatGPT. Komunikologi: Jurnal Pengembangan Ilmu Komunikasi dan Sosial. 2023-12-27. Vol. 7 (2). hlm. 120–135. doi:10.30829/komunikologi.v7i2.16653.
  9. ↑ Arthur Bran Herbener. Are lonely youngsters turning to chatbots for companionship? The relationship between chatbot usage and social connectedness in Danish high-school students. International Journal of Human-Computer Studies. 2025-02-01. Vol. 196. hlm. 103409. doi:10.1016/j.ijhcs.2024.103409.
  10. ↑ Kim Malfacini. The impacts of companion AI on human relationships: risks, benefits, and design considerations. AI & SOCIETY. 2025-04-16. doi:10.1007/s00146-025-02318-6.
  11. ↑ Milovan Savic. Artificial Companions, Real Connections? Examining AI’s Role in Social Connection. M/C Journal. 2024-11-25. Vol. 27 (6). doi:10.5204/mcj.3111.
  12. ↑ Yutong Zhang. The Rise of AI Companions: How Human-Chatbot Relationships Influence Well-Being. 2025-06-17. doi:10.48550/arXiv.2506.12605.
  13. ↑ Yutong Zhang. The Rise of AI Companions: How Human-Chatbot Relationships Influence Well-Being. 2025-06-17. doi:10.48550/arXiv.2506.12605.
  14. ↑ Mohammad. AI-induced sexual harassment: Investigating Contextual Characteristics and User Reactions of Sexual Harassment by a Companion Chatbot. 2025-08-12. doi:10.48550/arXiv.2504.04299.
  15. ↑ Seo Yi Chng. Ethical considerations in AI for child health and recommendations for child-centered medical AI. npj Digital Medicine. 2025-03-10. Vol. 8 (1). hlm. 152. doi:10.1038/s41746-025-01541-1.
  16. ↑ Anna Jobin. The global landscape of AI ethics guidelines. Nature Machine Intelligence. 2019-09. Vol. 1 (9). hlm. 389–399. doi:10.1038/s42256-019-0088-2.
  17. ↑ Raffaele Ciriello. Ethical Tensions in Human-AI Companionship: A Dialectical Inquiry into Replika. Hawaii International Conference on System Sciences 2024 (HICSS-57). 2024-01-03.

Sumber dan atribusi

Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 28655825 (2025-12-03T04:15:46Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.


Diperoleh dari "https://wiki.unissula.ac.id/index.php?title=Pendamping_buatan&oldid=4354"