Google Luncurkan Tool Retrieval di Gemini API, Agen AI Bisa Pakai Ratusan Tool tanpa Boros Token

Google meluncurkan Tool Retrieval di Gemini API, fitur yang memungkinkan agen AI memakai puluhan bahkan ratusan tool tanpa mengirim seluruh definisi tool di setiap permintaan. Fitur ini tersedia dalam status pratinjau di Interactions API dan diumumkan lewat blog Google pada Rabu, 19 November 2026.

Ringkasan

  • Tool Retrieval kini tersedia dalam pratinjau di Gemini Interactions API; skema parameter tool hanya dimuat saat model membutuhkannya.
  • Pengembang mengaktifkannya dengan menambahkan tool tool_search dan menyetel defer_loading: true pada tool yang ingin ditunda.
  • Tidak ada biaya tambahan; fitur ini berlaku untuk Gemini 3.6 ke atas, termasuk seluruh model Gemini 4.

Masalahnya muncul saat agen terhubung ke banyak tool. Setiap permintaan yang mengirim semua skema parameter sekaligus membuat jumlah token input membengkak, menambah latensi, dan menurunkan akurasi pemilihan tool karena daftar kandidat yang terlalu panjang. Tool Retrieval membalik cara itu: seluruh pustaka tool tetap siaga, tetapi skema lengkapnya baru dimuat ketika tugas yang sedang berjalan membutuhkannya.

Cara kerjanya sederhana. Model tetap melihat nama dan deskripsi setiap tool yang ditunda, jadi ia tahu apa saja yang tersedia. Begitu model membutuhkan sebuah tool, ia memintanya berdasarkan nama, API memuat skema lengkapnya, lalu model memanggil fungsi tersebut — semuanya di dalam satu permintaan yang sama. Ketiga langkah itu tercatat di interaction.steps, sehingga pengembang bisa memeriksa tool mana saja yang sempat dipertimbangkan model saat melakukan debug.

Contoh yang diberikan Google adalah agen layanan pelanggan yang diminta mengembalikan dana US$40 untuk pesanan A-1042 yang datang dalam keadaan rusak. Di dalam satu panggilan API, model mencari tool issue_refund, API memuat skemanya, lalu model mengeluarkan function_call dengan argumen pesanan dan jumlah pengembalian. Setelah itu kode pengembang menjalankan pengembalian dan mengirim hasilnya kembali sebagai function_result.

Google menegaskan pengembang tidak perlu membangun atau meng-host indeks pencarian sendiri, karena pencarian dijalankan di server Gemini. Tool yang paling sering dipakai tetap bisa dimuat di awal, sementara deretan tool yang jarang dipakai ditunda. Fitur ini juga berjalan bersama prefix caching dan server MCP jarak jauh: dengan menyetel defer_loading: true pada tool mcp_server, seluruh tool yang disediakan server itu dimuat sesuai kebutuhan tanpa harus didaftar satu per satu.

Ada juga mode client-side retrieval bagi pengembang yang mengelola registri tool sendiri, indeks embedding, atau filter izin per pengguna. Mode ini menambahkan satu round trip per pencarian karena aplikasi yang menjalankan lookup, tetapi tool tidak perlu dideklarasikan di awal sehingga tool baru bisa ditambahkan di tengah percakapan saat pengguna menghubungkan sebuah integrasi.

Soal biaya, Google tidak memungut bayaran terpisah. Token input dan output tetap ditagih dengan tarif standar model yang dipakai. Mengaktifkan tool_search menambah satu blok kecil token input tetap, dan setiap skema yang dimuat ditagih sebagai input selama sisa percakapan. Penghematan terjadi bila skema yang tidak pernah dimuat lebih banyak daripada yang dimuat — situasi yang umum untuk pustaka tool besar. Google menyarankan pengembang mengukurnya terhadap trafik mereka sendiri.

Google bukan yang pertama menempuh jalur ini. Anthropic meluncurkan Tool Search Tool pada November 2025, dan OpenAI menyusul pada Maret 2026 bersama GPT-5.4. PPC Land mencatat Google tidak memberikan angka penghematan dalam pengumumannya, dan setiap pencarian menambah satu putaran penagihan tersendiri — jadi besar kecilnya efek pada biaya bergantung pada jumlah tool dan seberapa sering model mencarinya. Tool Retrieval bekerja dengan Gemini 3.6 dan model yang lebih baru, termasuk seluruh model Gemini 4, dan hanya tersedia lewat Interactions API.

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top