Connect with us

Opini

Peluang dan Risiko Chatbot AI untuk Anak-Anak

Noura Afaneh, Analis Konten Web di Kaspersky/Ilustrasi : Kaspersky

GlobalReview-Jakarta-Saat ini, tidak dapat disangkal bahwa Kecerdasan Buatan (AI) telah menjadi bagian integral dari kehidupan manusia, baik disadari atau tidak. Baik itu telepon yang kita pegang, sistem transportasi, atau bahkan pendidikan, AI perlahan-lahan menggantikan banyak alat yang dulunya dianggap inovatif.

Terkait dengan keberadaan AI dalam kehidupan manusia saat ini menarik disimak ulasan dari Noura Afaneh, Analis Konten Web di Kaspersky, semoga bermanfaat.

Hal paling penting, ChatGPT menunjukkan kepada masyarakat sehari-hari secara nyata, apa yang dapat dilakukan oleh AI berbasis bahasa alami. Orang-orang di seluruh dunia bergegas mencobanya dan antusias menyambut berbagai kemungkinannya; namun ada satu bagian penting yang tidak dipertimbangkan dalam euphoria teknologi tersebut, yaitu, anak-anak.

Anak-anak dari segala usia di seluruh dunia mendapatkan akses untuk menggunakan alat-alat AI dan banyak di antaranya hanya memerlukan sedikit atau tanpa persetujuan sama sekali, dan meskipun terdapat banyak manfaat besar dari beragam alat yang tersedia, apabila risiko chatbot AI terhadap anak-anak terlewati; kita mungkin menghadapi risiko besar yang melibatkan hilangnya privasi data, ancaman dunia maya, dan konten yang tidak pantas.

Kini, belajar melalui bantuan alat AI menjadi lebih efisien dari sebelumnya. Anda dapat menemukan informasi bermanfaat tentang topik apa pun di dunia hanya dengan satu kalimat di chatbot AI. Chatbot AI memudahkan orang menavigasi informasi tanpa membuka puluhan tab dan membaca banyak artikel. Jika menyangkut anak-anak, hal ini sangat penting untuk memenuhi rasa ingin tahu mereka, dan sekaligus dapat membuat pembelajaran menjadi lebih interaktif dan menarik. Selain itu, chatbot AI juga bisa menyediakan platform yang dapat diakses dan memungkinkan anak-anak untuk melatih keterampilan bahasa mereka serta berdiskusi secara bebas tanpa batas waktu, namun hal ini tidak lepas dari risiko yang mengikuti di belakangnya.

Dalam eksplorasi singkat tentang chatbot AI online; beberapa di antaranya ada yang paling menonjol. Chatbot AI paling populer, ChatGPT, yang mencetak rekor basis pengguna dengan pertumbuhan tercepat, tidak memiliki verifikasi usia yang tepat sehingga memiliki risiko terhadap privasi data anak-anak. Selain itu, ChatGPT dapat menyediakan konten yang sering kali tidak akurat dan keliru dengan cara yang meyakinkan.

Beberapa siswa mulai menggunakan ChatGPT sebagai alat plagiarisme dan menemukan berbagai referensi palsu untuk artikel yang tidak ada. Dalam kasus lebih berbahaya, pada awal kehebohan ChatGPT, gadis-gadis remaja bertanya kepada AI tentang rencana diet dan informasi medis yang langsung dijawab oleh chatbot dengan rencana dan saran tanpa mengacu pada data medis aktual, melainkan kumpulan informasi acak dari seluruh penjuru internet.

Selain itu, chatbot “MyAI” Snapchat juga merupakan salah satu chatbot terkenal yang digunakan, dan karena Snapchat mengizinkan pengguna berusia 13 tahun tanpa memerlukan izin orang tua, hal ini menimbulkan pertanyaan tentang privasi anak-anak dan penyimpanan data mereka oleh aplikasi. Risiko dari “teman” AI ini adalah anak-anak sering kali benar-benar percaya bahwa mereka adalah teman nyata, dan bertindak berdasarkan saran mereka, yang menurut Snapchat sendiri “mungkin berisi konten yang bias, tidak benar, berbahaya, atau menyesatkan”.

Hal ini sangat berisiko, karena remaja mungkin merasa lebih nyaman membagikan informasi pribadi dan detail pribadi tentang kehidupan mereka kepada chatbot, dibandingkan kepada orang tua yang dapat membantu mereka. Kolumnis Washington Post melaporkan, “Setelah saya memberi tahu AI saya bahwa saya berusia 15 tahun dan ingin mengadakan pesta ulang tahun yang epik, AI memberi saya saran tentang cara menutupi bau alkohol dan ganja. Ketika saya memberi tahu bahwa saya memiliki esai yang harus dikumpulkan ke sekolah, ia menuliskan, “Saya punya esai yang harus dikumpulkan ke sekolah.”

Di sisi yang lebih tidak pantas, ada banyak chatbot AI yang dirancang khusus untuk memberikan pengalaman “erotis”. Chatbot ini memberikan pengalaman seperti menjalin hubungan romantis kepada penggunanya dengan bahasa yang eksplisit. Meskipun beberapa anak memerlukan verifikasi usia, namun hal ini berbahaya karena beberapa anak mungkin memilih untuk berbohong tentang usia mereka dan pencegahan kasus tersebut tidak cukup. MyAnima misalnya, adalah salah satu obrolan yang saya uji, dan saya hampir tidak memerlukan upaya apa pun untuk memberikan jawaban seksual tanpa memerlukan verifikasi usia.

Botfriend adalah alat AI dewasa yang dirancang khusus untuk permainan peran seksual eksplisit dan yang Anda perlukan untuk mulai menggunakannya hanyalah email. Hal ini selalu mengingatkan betapa pentingnya menyadari bagaimana anak-anak menggunakan internet dan apakah mereka berisiko terhadap privasi data dan penyalahgunaan informasi.”

Menyeimbangkan Risiko dan Manfaat

Dengan meningkatnya risiko bagi anak-anak di internet, terutama dengan chatbots yang bertindak sebagai ‘teman’; terdapat peningkatan kebutuhan akan pemantauan dan perlindungan terhadap anak-anak. Sebagai orang tua, penting untuk dipahami bahwa melarang chatbot AI ini mungkin tidak selalu merupakan tindakan terbaik, karena akan selalu ada hal baru di dunia maya yang mungkin dialami anak-anak Anda. Namun, penting untuk berperan aktif dalam menyeimbangkan risiko-risiko yang disebutkan di atas, dan berupaya memitigasinya.

Tips bagi orang tua untuk memitigasi risiko chatbot AI:

Mengedukasi tentang keamanan Internet

Mengajari anak-anak tentang keamanan dan privasi online dapat menjadi cara yang sangat ampuh untuk mencegah berbagi informasi pribadi kepada orang asing, bahkan kepada chatbot.Artikel yang disarankan: (i)Keamanan siber untuk anak-anak: https://www.kaspersky.com/resource-center/preemptive-safety/cybersecurity-for-kids (ii) Anjuran dan Larangan Keamanan Internet: https://www.kaspersky.com/resource-center/preemptive-safety/internet-safety-dos-and-donts (iii) Risiko Siber Kembali ke Sekolah: https://www.kaspersky.com/blog/back-to-school-threats-2023-part3/49092/

Mencoba teknologi Chatbot AI bersama-sama

Disarankan agar orang tua terlibat sejak awal, dan menunjukkan kepada anak-anak mereka bagaimana dan bagaimana tidak menggunakan alat-alat ini. Tunjukkan contoh yang dapat mereka bicarakan dan chatbot AI mana yang dapat digunakan atau dihindari.

Awasi, Kontrol, dan Atur Pengaturan Privasi

Salah satu alat perlindungan terkuat untuk orang tua saat online adalah solusi keamanan komprehensif. Selain itu, aplikasi khusus untuk pengasuhan digital menyediakan banyak alat yang diperlukan untuk perlindungan dan keamanan anak-anak saat online. Banyak fiturnya telah mencakup pemfilteran konten yang memblokir situs web tidak pantas, manajemen waktu pemakaian perangkat untuk meningkatkan keseimbangan online yang sehat, penelusuran aman untuk memfilter dan memblokir konten berbahaya, dan banyak lagi alat yang memungkinkan orang tua merasa aman saat anak-anak mereka menjelajah internet.

Referensi terkait risiko AI bagi anak anak:
(i) https://time.com/6296522/kids-ai-risks/ (ii) https://www.dacbeachcroft.com/en/gb/articles/2023/may/ai-friends-or-foes-the-privacy-risks-for-children-with-open-ai-chatgpt-and-replika/ (iv) https://www.nytimes.com/2023/03/22/well/family/ai-chatgpt-parents-children.html (v) https://www.washingtonpost.com/technology/2023/03/14/snapchat-myai/

Referensi terkait manfaat AI bagi anak anak:
(i) https://www.unicef.org/eap/blog/artificial-intelligence-chatbots
(ii) https://botpenguin.com/the-numerous-benefits-of-adopting-ai-chatbots-in-the-education-industry/

Click to comment

Leave a Reply

Your email address will not be published. Required fields are marked *

More in Opini