AI itu pintar tapi aneh — dan justru di situ peluangnya

AI bisa merangkum laporan 40 halaman dalam 30 detik, lalu di menit berikutnya menyebut nama orang yang tidak pernah ada dengan penuh percaya diri. Kalau kamu merasa tool AI ini pintar tapi aneh, feeling kamu benar. Anehnya memang cara kerja teknologinya, bukan kerusakan.

Masalahnya, hampir semua orang belajar AI dari tutorial "10 prompt ajaib" tanpa pernah dijelaskan kenapa AI bersikap seperti itu. Jadi ketika hasilnya meleset, kesimpulannya selalu sama: "AI-nya yang bodoh." Padahal sering kali yang salah adalah ekspektasi kita tentang cara kerjanya. Saya melihat pola ini berulang di setiap workshop yang saya jalankan. Tim yang paham fundamentalnya berhenti salahkan tool dan mulai dapat hasil yang konsisten.

Artikel ini adalah versi ringkas dari fundamental yang saya ajarkan: lima konsep yang langsung mengubah cara kamu bekerja dengan AI.

Model bahasa (LLM) tidak pernah "membaca" tulisanmu. Teks yang kamu ketik dipecah menjadi potongan kecil yang disebut token, lalu setiap token diubah menjadi deretan angka. Yang diproses model adalah angka-angka itu.

Artinya, AI tidak mengerti seperti manusia mengerti. Ia memprediksi: setelah rangkaian angka ini, angka mana yang paling mungkin datang berikutnya. Seluruh keajaiban ChatGPT, Claude, dan Gemini berdiri di atas prediksi kata berikutnya yang dikerjakan dengan sangat, sangat baik.

Prinsip ini menjelaskan hampir semua perilaku aneh AI. Model menghalusinasi fakta dengan percaya diri karena saat tidak tahu jawabannya, prediksi "kalimat yang terdengar masuk akal" tetap lebih mungkin daripada "saya tidak tahu." AI macet di soal matematika tapi lancar menulis puisi karena puisi dekat dengan pola teks yang ia pelajari, sementara aritmetika butuh presisi yang prediksi kata tidak menjamin.

Setiap kali kamu membuka ChatGPT atau Claude, ada instruksi yang sudah tertulis sebelum kamu mengetik apa pun. Itu system prompt, aturan main yang mengatur kepribadian, gaya, dan batasan model. Kamu tidak melihatnya, tapi ia aktif di setiap percakapan.

Banyak orang menganggap system prompt mantra rahasia. Padahal ia hanya bias awal, dan bias bisa bergeser. Kalau kamu memberi instruksi "selalu jawab singkat" lalu 40 pesan kemudian meminta "jelaskan sangat detail," permintaan terbaru biasanya menang. Kalau kamu menempel dokumen yang isinya bertentangan dengan system prompt, model akan beradaptasi dengan dokumen itu.

Dua konsekuensinya. Instruksi awal yang bagus itu berguna, tapi bukan kontrak. Dan kalau perilaku AI mulai meleset di tengah percakapan panjang, jangan tambah frustrasi. Mulai percakapan baru dengan instruksi yang dirapikan.

Context window adalah "ingatan kerja" model: total ruang untuk system prompt, seluruh percakapanmu, dokumen yang kamu lampirkan, dan jawaban yang dihasilkan. Semua harus muat di sana.

Kesalahan pertama adalah menganggap context window besar berarti AI mengingat segalanya dengan sempurna. Semakin panjang konteks, semakin sulit model menangkap detail yang penting. Instruksi dari 50 pesan lalu terasa seperti kenangan kabur. Ini bukan kemalasan; ini keterbatasan cara model memproses perhatian (attention) di atas ratusan ribu token.

Kesalahan kedua kebalikannya: menjejalkan sepuluh dokumen "biar AI paham konteksnya." Hasilnya justru menurun. Model kehabisan perhatian untuk instruksi intimu karena sibuk memproses tumpukan informasi yang sebagian besar tidak relevan. Aturan praktis yang saya pakai: berikan AI hanya materi yang benar-benar dibutuhkan untuk tugas itu. Satu dokumen relevan biasanya mengalahkan sepuluh dokumen "siapa tahu berguna."

Model modern bisa diberi tools, yaitu kemampuan untuk mencari web, menjalankan kode, membaca file, atau memanggil API. Ini yang mengubah chatbot menjadi asisten yang bisa bekerja, bukan cuma bicara.

Tapi memberi model terlalu banyak tools sekaligus justru menurunkan kualitasnya. Setiap tool menambah beban keputusan: model harus memilih alat mana yang relevan, memahami parameternya, dan menginterpretasi hasilnya. Sembilan belas tools dengan deskripsi yang tumpang tindih akan membuat model sering salah pilih, atau lebih halus lagi, menjawab dengan kualitas yang turun tanpa kamu sadari.

Prinsipnya sama seperti memberi peralatan dapur ke juru masak: yang dibutuhkan untuk masakan ini saja, bukan seluruh toko alat masak. Kalau kamu membangun workflow atau agent sendiri, kurangi tool ke set minimum yang tugas itu butuhkan. Lebih sedikit, lebih tepat, hasilnya lebih konsisten.

Agent adalah model yang diberi tools plus otonomi untuk menyusun langkahnya sendiri: rencanakan, eksekusi, periksa hasil, ulangi sampai selesai. Agent menyelesaikan pekerjaan sampai tuntas.

Agent sedang di-hype di mana-mana, tapi ia lebih lambat, lebih mahal, lebih sulit di-debug, dan hasilnya lebih sulit diprediksi. Untuk banyak pekerjaan sehari-hari, satu prompt yang bagus sudah lebih dari cukup, dan selesai dalam sepuluh detik, bukan sepuluh menit.

Artikel ini adalah pembuka seri. Lima konsep di atas dibahas lebih dalam di lima pelajaran terpisah:

1. Pesan, System Prompt, dan Reasoning Token
2. Apa Itu Token?
3. Apa Itu Context Window?
4. Apa Itu Tools?
5. Apa Itu Agent?

Begitu lima konsep ini duduk di kepalamu, keputusan sehari-hari soal AI berubah. Kamu berhenti berharap AI "mengerti" dan mulai merancang prompt sesuai cara ia memproses. Kamu berhenti menjejalkan konteks dan mulai menyaring. Kamu tahu kapan butuh agent dan kapan cukup satu prompt bagus. Dan ketika hasilnya meleset, kamu punya bahasa untuk mendiagnosis, bukan cuma mengganti tool sambil berharap keajaiban.

Ini fondasi yang saya bangun di setiap pelatihan korporat: tim yang paham kenapa-nya tidak perlu menghafal cara-nya. Mereka bisa beradaptasi sendiri setiap kali tool baru keluar bulan depan. Tool memang terus berganti. Lima konsep di atas tidak ikut ganti.