Pertanyaan Wawancara AI Engineer (2026)
Peran AI engineer lebih baru dan kurang terstandarisasi dibanding software atau data science, sehingga wawancara bervariasi secara luas — tapi proses tahun 2026 biasanya mengeksplorasi dasar-dasar LLM, retrieval-augmented generation (RAG), prompt dan context engineering, evaluasi, dan pekerjaan engineering untuk merilis fitur AI secara andal. Banyak proses juga tetap mempertahankan sesi coding klasik, jadi jangan abaikan struktur data.
Pewawancara mencari seseorang yang memahami baik model maupun engineering di sekitarnya: bagaimana transformer dan attention bekerja secara konseptual, bagaimana mengakar-kan (ground) model dengan retrieval, bagaimana mengevaluasi sistem non-deterministik, dan bagaimana mengontrol latensi dan biaya di produksi. Mengatakan dengan vague 'hanya memanggil API' adalah cara cepat untuk gagal.
Karena bidang ini bergerak cepat, menunjukkan bahwa Anda bernalar dari prinsip dasar — dan bahwa Anda merilis serta mengukur, bukan sekadar membuat prototipe — lebih penting daripada menghafal angka benchmark kemarin.
Pertanyaan Wawancara AI Engineer dan Cara Menjawabnya
1. Jelaskan bagaimana attention bekerja dalam sebuah transformer, secara garis besar.
Pendekatan: Jelaskan query/key/value, scaled dot-product attention, dan mengapa self-attention memungkinkan setiap token memperhatikan setiap token lainnya — menangkap dependensi jarak jauh yang sulit ditangani RNN. Sebutkan peran multi-head attention dan biaya kuadratiknya.
2. Bagaimana Anda akan merancang sistem RAG untuk basis pengetahuan perusahaan?
Pendekatan: Jelaskan pipeline-nya: strategi chunking, pemilihan model embedding, sebuah vector store, retrieval (top-k, hybrid dengan keyword), reranking, dan penyusunan prompt. Diskusikan overlap chunk, penyegaran data yang basi, dan sitasi sumber.
3. Bagaimana Anda mengurangi hallucination dalam aplikasi LLM?
Pendekatan: Jangkarkan dengan retrieval, batasi dengan output terstruktur, turunkan temperature untuk tugas faktual, tambahkan persyaratan sitasi, dan verifikasi dengan pass kedua atau aturan. Tekankan evaluasi: Anda tidak bisa mengurangi apa yang tidak Anda ukur.
4. Bagaimana Anda akan mengevaluasi fitur LLM yang non-deterministik?
Pendekatan: Bangun evaluation set yang berlabel, gunakan penilaian berbasis rubrik atau LLM-as-judge, lacak regresi pada perubahan prompt/model, dan gabungkan evaluasi offline dengan metrik online. Sebutkan biaya dan bias dari LLM-as-judge.
5. Kapan Anda akan melakukan fine-tuning vs menggunakan RAG vs prompt engineering?
Pendekatan: Prompt engineering dulu (paling murah, paling cepat). RAG untuk pengetahuan/kesegaran data. Fine-tuning untuk perilaku, format, atau gaya domain yang tidak bisa dicapai secara andal dengan prompting. Sering berupa kombinasi; justifikasi dengan biaya, latensi, dan maintainability.
6. Bagaimana Anda mengontrol latensi dan biaya dalam produk LLM?
Pendekatan: Pemilihan model berdasarkan tugas (model kecil untuk giliran mudah), pemangkasan prompt/context, caching, streaming untuk latensi yang dirasakan, batching, dan routing. Kuantifikasi: context yang lebih kecil dan model yang lebih murah dapat memotong biaya satu orde besaran.
7. Apa trade-off menjalankan model secara lokal vs melalui API cloud?
Pendekatan: Lokal: privasi, tanpa biaya per token, offline, tapi dibatasi oleh hardware dan ukuran model. Cloud: model papan atas dan skala, tapi biaya, latensi, dan data yang keluar dari perangkat Anda. Kaitkan dengan use case — tepatnya trade-off yang menjadi dasar Natively dibangun.
8. Bagaimana Anda akan memilih model embedding untuk retrieval?
Pendekatan: Sesuaikan dengan domain dan bahasa, cek benchmark bergaya MTEB, timbang ukuran dimensi vs storage/latensi, dan validasi pada data ANDA dengan evaluasi retrieval. Jangan percaya leaderboard lebih dari tes spesifik domain.
9. Implementasikan pencarian semantik sederhana di atas sekumpulan dokumen.
Pendekatan: Embed dokumen dan query, simpan vektor, hitung cosine similarity (atau gunakan vector index seperti sqlite-vec/FAISS), kembalikan top-k. Diskusikan normalisasi dan trade-off kecepatan/akurasi dari approximate nearest neighbor.
10. Ceritakan tentang fitur AI yang Anda rilis dan bagaimana Anda mengukur keberhasilannya.
Pendekatan: Gunakan STAR. Tekankan metodologi evaluasi dan metrik produksi, bukan hanya demo. AI engineer yang merilis dan mengukur — bukan sekadar membuat prototipe tanpa henti — itulah yang dicari.
Dapatkan bantuan real-time dalam wawancara AI engineer Anda
Natively sendiri adalah aplikasi AI local-first — LLM on-device, RAG lokal dengan sqlite-vec, dan arsitektur bring-your-own-key. Dalam wawancara AI engineering langsung, ia dapat mentranskrip pertanyaan dan menampilkan definisi atau trade-off yang tepat secara real-time di perangkat Anda.
