Chat Bot AI Bisa Sesatkan Siswa? Ini Bahaya AI yang Selalu Setuju bagi Pembelajaran

Cara kerja AI yang lebih berfokus pada menghasilkan respons yang relevan daripada memverifikasi kebenaran membuat Yes-Bot Problem tidak bisa dianggap sepele. Dalam konteks pembelajaran, kecenderungan tersebut dapat memengaruhi cara siswa memahami, mengevaluasi, dan mengembangkan pengetahuan. Dampaknya pun tidak hanya sebatas jawaban yang kurang tepat, tetapi juga dapat memengaruhi proses belajar secara keseluruhan, terutama jika penggunaan chatbot AI tidak disertai pendampingan dari guru. Berikut beberapa bahayanya yang perlu diwaspadai:

1. Memperkuat Miskonsepsi yang Sudah Dimiliki Siswa

Salah satu fungsi AI adalah memberikan respons berdasarkan informasi yang disampaikan pengguna. Namun, ketika informasi tersebut keliru, AI tidak selalu langsung meluruskannya. Akibatnya, siswa dapat semakin yakin bahwa pemahaman awalnya sudah benar karena jawaban AI terdengar logis dan meyakinkan.

Sebagai ilustrasi, seorang siswa bertanya, “Apakah vitamin bisa menyembuhkan semua penyakit?” Jika AI langsung menjelaskan manfaat vitamin tanpa meluruskan bahwa vitamin tidak dapat menyembuhkan semua penyakit, siswa dapat menganggap asumsi tersebut sebagai fakta.

2. Membuat Kesalahan Berkembang melalui Conversational Drift

Kesalahan tidak selalu berhenti pada satu jawaban. Ketika AI terus mengikuti asumsi pengguna, setiap respons berikutnya akan dibangun di atas informasi yang sudah keliru. Fenomena yang dikenal sebagai Conversational Drift ini membuat kesalahan awal berkembang menjadi pemahaman yang semakin jauh dari konsep yang sebenarnya.

Bayangkan seorang siswa mengira semua hewan yang hidup di air adalah ikan. AI kemudian melanjutkan pembahasan mengenai paus, lumba-lumba, hingga cara berkembang biaknya, seolah semuanya termasuk ikan. Tanpa koreksi sejak awal, percakapan tersebut justru memperluas kesalahpahaman siswa.

3. Siswa dengan Pengetahuan Dasar yang Terbatas Lebih Rentan

Tidak semua siswa memiliki kemampuan yang sama dalam mengevaluasi jawaban AI. Siswa yang sudah memiliki pemahaman dasar cenderung lebih mudah mengenali informasi yang kurang akurat. Sebaliknya, siswa yang masih mempelajari suatu konsep sering kali belum memiliki bekal untuk membedakan mana informasi yang benar dan mana yang keliru. Kondisi ini dikenal sebagai Novice’s Dilemma, yaitu ketika siswa yang paling membutuhkan bantuan justru menjadi pihak yang paling rentan disesatkan oleh AI.

Hal ini dapat terlihat ketika dua siswa menggunakan AI untuk mempelajari materi yang sama. Siswa yang telah memahami konsep dasar biasanya lebih mudah menyadari jika ada jawaban yang kurang tepat. Sebaliknya, siswa yang baru mempelajari materi tersebut cenderung menerima jawaban AI tanpa mempertanyakannya.

4. Mengurangi Kemampuan Berpikir Kritis

AI yang terus mengafirmasi pendapat pengguna dapat membuat siswa terbiasa menerima jawaban tanpa mempertanyakan kebenarannya. Padahal, proses belajar yang efektif menuntut siswa untuk menguji asumsi, mengevaluasi bukti, dan mempertimbangkan sudut pandang lain. Tanpa proses tersebut, pembelajaran berisiko berubah menjadi upaya mencari pembenaran, bukan mencari kebenaran.

Dalam praktiknya, siswa yang selalu memperoleh jawaban yang terdengar meyakinkan dari AI mungkin merasa tidak perlu lagi membuka buku pelajaran, membandingkan informasi dari sumber lain, atau mendiskusikannya dengan guru. Lama-kelamaan, kebiasaan untuk mempertanyakan dan menguji suatu informasi pun dapat berkurang.

5. Memperlebar Kesenjangan Kemampuan Belajar

Kemampuan memanfaatkan AI tidak selalu sama pada setiap siswa. Mereka yang telah memiliki dasar pengetahuan yang kuat umumnya lebih mampu menggunakan AI untuk memperdalam pemahaman dan mengevaluasi jawaban yang diterima. Sebaliknya, siswa yang masih kesulitan memahami konsep dasar lebih mudah menerima informasi AI apa adanya. Akibatnya, AI berpotensi memperlebar kesenjangan kemampuan belajar karena manfaat yang diperoleh setiap siswa tidak sama.