Microsoft Research Gorilla LLM Mengalahkan GPT-4 dalam Akurasi dan Fleksibilitas Panggilan API

Para peneliti di UC Berkeley dan Microsoft Research memiliki mengembangkan model bahasa besar baru (LLM) yang disebut Gorilla yang mengungguli GPT-4 dalam pembuatan panggilan API. Gorilla mampu menghasilkan panggilan API yang benar secara semantik dan sintaksis, bahkan saat Perubahan dokumentasi API.

GPT-4 adalah LLM andal dari OpenAI yang dapat menghasilkan teks, menerjemahkan bahasa, dan menjawab pertanyaan. Namun, telah terbukti berjuang dengan panggilan API. Ini karena GPT-4 tidak dapat memahami semantik panggilan API. Itu hanya dapat menghasilkan teks yang mirip dengan teks dalam dokumentasi API.

Gorilla mengatasi masalah ini dengan menggunakan teknik yang disebut”pelatihan kesadaran-retriever.”Pelatihan kesadaran-retriever melibatkan pelatihan LLM pada set data panggilan API dan dokumentasinya. Hal ini memungkinkan LLM mempelajari semantik panggilan API dan menghasilkan teks yang benar secara semantik dan sintaksis.

Dalam penelitian terbaru, Gorilla terbukti mengungguli GPT-4 pada berbagai tugas panggilan API.Gorilla mampu menghasilkan panggilan API yang benar dengan akurasi 95%, sedangkan GPT-4 hanya mampu menghasilkan panggilan API yang benar dengan akurasi 85%.Gorilla juga mampu menghasilkan panggilan API untuk API yang tidak ada dalam kumpulan data pelatihannya, sedangkan GPT-4 tidak dapat melakukan ini.

Membangun Akurasi melalui Berbagai Metode Pelatihan

Perbedaan utama antara Gorilla dan GPT-4 adalah bahwa Gorilla dilatih pada kumpulan besar cuplikan kode dan deskripsi bahasa alami, sedangkan GPT-4 dilatih pada kumpulan teks umum. Hal ini memungkinkan Gorilla mempelajari sintaks dan semantik dari berbagai bahasa pemrograman dan API, serta pola umum dan praktik pengkodean terbaik. Selain itu, Gorilla menggunakan mekanisme perhatian baru yang dapat menangkap ketergantungan jangka panjang dan informasi struktural dalam proses pembuatan kode.

Berikut adalah beberapa manfaat utama menggunakan Gorilla:

Akurasi: Gorilla dapat menghasilkan panggilan API yang benar dengan akurasi 95%. Ini jauh lebih tinggi daripada akurasi GPT-4 yang hanya 85%. Fleksibilitas: Gorilla dapat menghasilkan panggilan API untuk API yang tidak ada dalam set data pelatihannya. Ini menjadikannya alat yang berharga bagi pengembang yang perlu bekerja dengan API baru. Kemudahan penggunaan: Gorilla mudah digunakan. Pengembang dapat dengan mudah memberi Gorilla deskripsi bahasa alami dari panggilan API yang ingin mereka hasilkan, dan Gorilla akan menghasilkan panggilan API yang benar.

Hubungan Microsoft dan OpenAI Berarti Kolaborasi

Tentu saja, Microsoft adalah investor terbesar dalam pengembang ChatGPT OpenAI dan dilaporkan memegang 49% pemimpin AI. Miliaran miliaran Microsoft yang diinvestasikan ke dalam OpenAI memungkinkan perusahaan untuk mengakses LLM dan solusi lainnya. Sejak awal tahun, Microsoft telah mengarusutamakan layanan AI di seluruh ekosistemnya dengan menggabungkan modelnya sendiri dengan teknologi dari OpenAI. GPT-4 telah menjadi inti dari evolusi itu. Microsoft telah mengintegrasikan AI generatif OpenAI dengan cara berikut:

Dengan kolaborasi yang begitu erat, penelitian ekstensif Microsoft sendiri ke dalam model bahasa besar sepertinya tidak akan menghambat kemitraannya dengan OpenAI. Faktanya, OpenAI kemungkinan besar akan menjadi kolaborator dalam proyek semacam itu, atau setidaknya Microsoft akan menggunakan platform AI seperti Gorilla bersama dengan integrasi dari OpenAI.