AI yang Tahu Batasnya

Saat kami mulai bangun Sekil.id, ada satu hari di mana tim duduk dan ngobrolin pertanyaan yang mungkin udah ada di kepala beberapa dari Anda.

“Kenapa kita nggak bilang aja AI kita bisa psikoanalisis?”

Pertanyaan itu masuk akal. Investor lebih excited dengan “AI psikolog virtual” daripada deskripsi teknis. Pers media lebih tertarik dengan klaim besar. Calon klien lebih cepat closing kalau mereka percaya AI Anda bisa segalanya.

Kami nggak sebut itu di copy Sekil.id. Bahkan di halaman Metodologi, kami sengaja nulis disclaimer eksplisit:

“AI bukan psikolog. Hasil asesmen Sekil.id bersifat deskriptif dan edukatif. AI hanya membantu proses scoring dan narasi berbasis template yang telah divalidasi. Untuk evaluasi mendalam (diagnostik, terapi, intervensi klinis), konsultasikan dengan psikolog atau psikiater berlisensi.”

Itu kalimat yang melemahkan posisi sales kami. Itu juga keputusan yang paling sulit kami pegang.

Tapi sebelum saya argue soal kenapa, saya pengen klarifikasi satu hal yang kalau saya skip akan jadi pattern overclaim yang sama yang saya kritik di artikel ini.

Apa yang AI Sekil.id sebenarnya kerjain

Saya pernah baca artikel marketing AI startup yang bilang “AI kami cuma scoring dan narrative generation”. Setelah saya lihat produknya, AI mereka ngerjain reasoning yang jauh lebih kompleks. Pernyataan “cuma scoring” itu marketing-friendly tapi bohong.

Saya nggak akan ngelakuin itu di sini.

AI di Sekil.id ngerjain hal-hal berikut:

Scoring dan agregasi data. Berdasarkan algoritma yang dirancang sama tim metodologi. Algoritma-nya bukan output AI — itu output manusia yang ngerti psikometri. AI nge-eksekusi algoritma itu.

Reasoning dari kombinasi input. Saat user pilih bidang minat (multi-select), keahlian yang pengen dikembangkan, motivasi kerja, dan kasih visi 5-tahun dalam text bebas, AI nge-reasoning kombinasi semua input itu untuk identifikasi pattern. Itu bukan template-matching sederhana. Itu reasoning.

Generation laporan personal. AI ngerangkai laporan yang nge-include: ringkasan profil naratif, identifikasi bidang minat (sebagai tags), rekomendasi 4 profesi potensial dengan reasoning, daftar keahlian teknis vs non-teknis yang relevan, roadmap 4-langkah karier personal, dan rekomendasi sertifikasi spesifik.

Recommendation yang kontekstual. AI nge-recommend profesi spesifik (misalnya “Digital Marketing Specialist/Strategist”, “Brand Manager”, “UI/UX Designer”) dan sertifikasi spesifik (misalnya “Meta Certified Digital Marketing Associate”, “Adobe Certified Professional”, “PMI Project Management Ready”). Recommendation ini bukan dari template tetap — AI nge-reasoning kombinasi input user untuk surface rekomendasi yang relevan.

Deteksi anomali. Kalau seseorang centang “sangat setuju” di banyak pertanyaan berturut-turut, atau ada pattern jawaban yang mencurigakan, AI flag itu. AI nggak memutuskan hasilnya invalid — AI cuma kasih signal ke manusia untuk review.

Itu daftar pekerjaan AI yang lebih jujur daripada “cuma 4 hal”. AI Sekil.id nge-reasoning, nge-generate, dan nge-recommend. Itu pekerjaan yang substansial.

Yang AI nggak kerjain, dan kenapa itu penting

Sekarang saya bisa argue soal restraint dengan klaim yang berdiri di kaki sendiri.

AI Sekil.id nggak ngerjain hal-hal berikut, dan setiap “nggak” punya alasan spesifik:

AI nggak melakukan diagnosis klinis. Karena diagnosis psikologi butuh konteks yang nggak bisa di-capture lewat asesmen 30 menit — riwayat hidup, observasi perilaku jangka panjang, judgment etika tentang labeling. Itu yang dilakukan psikolog atau psikiater berlisensi, dengan asesmen kami sebagai salah satu input mereka — bukan substitusi mereka.

AI nggak ngasih label kepribadian yang definitif. Karena instrumen kepribadian punya test-retest reliability yang moderate (terutama MBTI-style typing) — banyak orang dapat hasil berbeda dalam rentang beberapa minggu. Label yang definitif akan mendorong user nge-internalize identitas yang sebenarnya eksploratoris. Disclaimer eksplisit di halaman Metodologi kami: “Hasil sebaiknya digunakan sebagai titik diskusi dan eksplorasi diri, bukan label permanen.”

AI nggak ngasih keputusan final tentang fit-tidaknya seseorang untuk pekerjaan tertentu. AI nge-recommend profesi yang konsisten dengan profil — tapi keputusan hiring, penolakan, atau career change adalah keputusan manusia yang harus considering konteks-konteks yang AI nggak punya akses: budaya organisasi yang spesifik, dinamika tim, ekspektasi keluarga user, situasi ekonomi user.

AI nggak nge-replace konseling karier. Bahkan setelah user dapat hasil asesmen lengkap, kami tetap recommend mereka diskusi dengan konselor karier, mentor, atau guru BK. Bukan karena formalitas — tapi karena interpretation dan execution dari recommendation butuh konteks personal yang AI nggak tau.

AI nggak nge-self-review metodologi-nya sendiri. Quarterly review dari konten, item bank, dan algoritma dilakukan sama tim Fakultas Psikologi UNJANI. AI nggak punya wewenang untuk modify dirinya sendiri.

Lihat polanya?

Yang AI nggak kerjain bukan “hal-hal kecil” yang gampang di-restrain. Yang AI nggak kerjain adalah hal-hal yang konsekuensinya paling besar kalau salah: diagnosis, label permanen, keputusan hiring, replace human judgment di moments yang butuh konteks.

Restraint yang berarti bukan “AI ngerjain sedikit”. Restraint yang berarti adalah “AI nggak ngerjain hal-hal di mana kesalahan akan punya konsekuensi yang nggak bisa kami absorpsi”.

Kenapa pembagian ini sulit dipegang

Saya akan jujur tentang godaannya.

Setiap kali kami pitch Sekil.id ke investor, ada momen di mana saya ngerasa pengen bilang “AI kami bisa memprediksi karier yang tepat untuk siswa Anda”. Bukan karena saya pengen bohong. Karena saya pengen mereka excited. Karena saya tau klaim besar lebih shareable di Twitter daripada klaim yang akurat.

Setiap kali kami diskusi dengan calon klien institusi, ada momen di mana mereka tanya “apakah AI kalian bisa menggantikan konseling karier dari guru BK?”. Jawaban yang akan bikin mereka closing lebih cepat adalah “ya, AI kami lebih scalable dan objektif”. Jawaban yang sebenarnya adalah “tidak — AI kami augment proses konseling, dan dalam beberapa kasus expose hal yang konselor mungkin tidak punya bandwidth untuk explore. Tapi kami tidak menggantikan konselor”.

Kami pegang jawaban yang sebenarnya. Bukan karena kami pahlawan. Karena kami udah liat apa yang terjadi sama startup AI yang overclaim.

Mereka close deal lebih cepat di tahun pertama. Mereka raise lebih banyak di seri A. Tapi di tahun kedua, ketika klien mulai pakai produk di kondisi nyata dan menemukan limitasi yang nggak pernah disclose di sales call, trust runtuh. Renewal jeblok. Refund request masuk. Reputasi yang dibangun dengan klaim mulai dimaki dengan kritik.

Untuk produk yang stakes-nya rendah, polanya bisa diabsorpsi. Untuk asesmen psikologi yang dipakai sekolah, kampus, dan perusahaan untuk keputusan karier siswa atau evaluasi karyawan, polanya fatal.

Kalau kami klaim AI Sekil.id bisa “menggantikan konseling karier”, lalu sebuah sekolah pakai hasil-nya untuk menentukan jurusan siswa tanpa diskusi dengan konselor manusia, dan keputusan itu salah karena AI nggak punya konteks budaya keluarga si siswa atau dinamika emosi yang dia lagi alamin — siapa yang bertanggung jawab? Kami? AI? Tidak ada yang.

Restraint di Sekil.id bukan moral grandstanding. Itu engineering decision yang sadar terhadap stakes.

Strategi yang lebih sulit dijual, tapi lebih sulit dipalsukan

Ada hal yang menarik tentang produk yang dibangun dengan restraint yang jujur. Kompetitor yang overclaim bisa menyalip Anda di sales cycle. Tapi mereka nggak bisa mereplikasi trust yang Anda bangun.

Kompetitor bisa duplicate fitur Anda dalam 6 bulan. Kompetitor bisa hire engineer Anda dengan offer 2x lipat. Kompetitor bisa copy copywriting Anda kata per kata.

Yang nggak bisa mereka duplicate: track record konsistensi antara apa yang Anda janjikan, apa yang Anda kerjain, dan apa yang Anda akui tidak Anda kerjain. Triple consistency itu yang dibangun pelan-pelan.

Untuk produk Sekil.id, kami baru mulai membangun track record itu. Belum ada pembuktian publik bahwa restraint kami berbayar. Akan butuh waktu, mungkin 3-5 tahun, sebelum data mendukung atau menyanggah keputusan ini.

Tapi kami yakin. Bukan dari business case yang clean. Dari pengalaman kami di sisi lain meja sales sebelum bangun Dartstudio. Sebagian besar partner di tim ini udah belasan tahun ngerjain proyek teknologi di perusahaan yang membeli AI tools dari vendor yang overclaim. Kami liat apa yang terjadi 12 bulan kemudian. Kami nggak akan jadi vendor itu.

Implikasi untuk Anda

Saya nulis ini buat founder dan decision-maker yang lagi bangun produk AI di domain dengan stakes tinggi. Medical AI. Legal AI. Educational AI. HR tech. Financial advisory. Apapun yang outputnya akan dipakai untuk keputusan yang mempengaruhi hidup orang.

Beberapa pertanyaan yang mungkin berguna Anda renungkan:

Apakah marketing produk Anda akurat menggambarkan apa yang AI Anda bener-bener kerjain? Bukan “AI kami cuma scoring” (yang biasanya bohong), tapi deskripsi yang jujur tentang reasoning, generation, dan recommendation yang AI Anda ngelakuin. Pembaca sophisticated akan langsung lihat gap antara claim dan substansi.

Apakah Anda punya jawaban yang spesifik tentang apa yang AI Anda tidak kerjain, dan kenapa? Kalau jawabannya generic (“AI kami nggak ngerjain diagnosis”), tanya lebih dalam: kenapa? Konsekuensi apa yang Anda hindari dengan tidak ngerjain itu? Vendor matang punya jawaban spesifik untuk pertanyaan ini. Vendor yang belum matang punya disclaimer yang sounds nice tapi nggak punya substansi.

Apakah batas yang Anda pegang adalah batas yang penting — yaitu batas di mana kesalahan akan punya konsekuensi serius — atau cuma batas yang gampang di-restrain karena AI Anda emang nggak bisa? Klaim restraint paling kredibel datang dari produk yang bisa ngelakuin lebih tapi sengaja nggak. Klaim restraint dari produk yang emang capability-nya terbatas adalah pemalsuan.

Apakah Anda siap kehilangan deal karena Anda jujur tentang batas yang Anda pegang? Kalau jawabannya “tidak”, Anda akan secara perlahan tertarik ke overclaim. Tarikan itu nggak terjadi sekaligus. Itu satu kalimat tambahan di pitch deck, satu adjektif baru di hero copy, satu disclaimer yang dipindah ke FAQ. Sampai akumulasinya jadi produk yang nggak Anda kenali lagi.

Penutup

Saya nutup dengan satu pengamatan.

Di Indonesia, banyak founder muda yang antusias soal AI lagi gencar bangun produk di domain dengan stakes tinggi. Medical AI. Edutech yang ngeklaim bisa “personalisasi pembelajaran”. HR tech yang ngeklaim AI bisa nentuin siapa yang cocok untuk hire. Saya tau beberapa dari mereka secara personal. Saya tau mereka punya niat baik.

Tapi saya juga tau bahwa beberapa dari klaim mereka melewati batas yang produk mereka sebenarnya bisa. Bukan karena mereka bohong. Karena ekosistem startup di Indonesia menghadiahkan klaim besar lebih cepat daripada klaim akurat. Investor minta TAM yang bombastis. Media butuh angle yang clickable. Klien institusi terbatas pengetahuannya untuk evaluate.

Sekil.id adalah upaya kami untuk berdiri sedikit melawan arus itu. Bukan dengan klaim “AI kami restrain” yang gampang dipalsukan. Tapi dengan praktik membedakan antara batas yang penting dan batas yang tidak — dan publik tentang keduanya.

Kalau tiga tahun dari sekarang ada lebih banyak vendor AI di Indonesia yang berani publikasikan apa yang AI mereka kerjain dan tidak kerjain secara spesifik, kami akan ngerasa Sekil.id berhasil. Bahkan kalau Sekil.id sendiri belum dominan di market.

Itu definisi kemenangan yang nggak akan disetujui sama buku marketing manapun. Tapi itu definisi kemenangan yang sesuai dengan kenapa kami bangun Sekil.id di awal.