Diposting oleh Cher Hu, Product Manager, dan Saravanan Ganesh, Software Engineer, untuk Gemini API
Postingan berikut ini awalnya dipublikasikan pada bulan Oktober 2023. Saat ini, kami telah memperbarui postingan tersebut untuk berbagi cara menyesuaikan model Gemini dengan mudah di Google AI Studio atau dengan Gemini API.
Tahun lalu, kami meluncurkan Gemini 1.0 Pro, model multimodal berukuran sedang yang dioptimalkan untuk penskalaan di berbagai tugas. Kemudian dengan 1.5 Pro tahun ini, kami menunjukkan kemungkinan akan apa yang dapat dilakukan oleh model bahasa besar dengan jendela konteks 1M eksperimental. Sekarang, untuk menyesuaikan model (teks) Gemini 1.0 Pro yang tersedia secara umum dengan cepat dan mudah untuk kebutuhan spesifik Anda, kami telah menambahkan Gemini Tuning ke Google AI Studio dan Gemini API.
Apa yang dimaksud dengan penyesuaian?
Developer sering kali membutuhkan kualitas output yang lebih tinggi untuk kasus penggunaan khusus daripada yang bisa dicapai melalui few-shot prompting. Penyesuaian meningkatkan teknik ini dengan melatih model dasar secara lebih lanjut pada lebih banyak contoh khusus tugas—begitu banyak sehingga semuanya tidak dapat dimasukkan ke dalam prompt.
Fine-tuning vs. Parameter Efficient Tuning
Anda mungkin pernah mendengar tentang "fine-tuning" model klasik. Di sinilah model yang telah dilatih sebelumnya disesuaikan untuk tugas tertentu dengan melatihnya pada set data berlabel khusus tugas yang lebih kecil. Namun, dengan LLM saat ini dan sejumlah besar parameternya, fine-tuning menjadi kompleks: membutuhkan keahlian machine learning, banyak data, dan banyak komputasi.
Penyesuaian di Google AI Studio menggunakan teknik yang disebut Parameter Efficient Tuning (PET) untuk menghasilkan model khusus yang berkualitas lebih tinggi, dengan latensi yang lebih rendah daripada few-shot prompting tanpa biaya tambahan dan kompleksitas fine-tuning tradisional. Selain itu, PET menghasilkan model berkualitas tinggi hanya dengan beberapa ratus titik data, sehingga mengurangi beban pengumpulan data bagi developer.
Mengapa melakukan penyesuaian?
Penyesuaian memungkinkan Anda menyesuaikan model Gemini dengan data Anda sendiri agar dapat beperforma lebih baik untuk tugas khusus sekaligus mengurangi ukuran konteks prompt dan latensi respons. Developer dapat menggunakan penyesuaian untuk berbagai kasus penggunaan, termasuk tetapi tidak terbatas pada:
- Klasifikasi: Menjalankan tugas bahasa natural seperti mengklasifikasikan data Anda ke dalam kategori yang telah ditentukan sebelumnya, tanpa membutuhkan banyak alat ataupun pekerjaan manual.
- Ekstraksi informasi: Mengekstrak informasi terstruktur dari sumber data yang tidak terstruktur untuk mendukung tugas hilir dalam produk Anda.
- Pembuatan output terstruktur: Membuat data terstruktur, seperti tabel, dengan cepat dan mudah.
- Model Kritik: Menggunakan penyesuaian untuk membuat model kritik agar dapat mengevaluasi output dari model lain.
Mulai cepat dengan Google AI Studio
1. Buat model yang disesuaikan
Menyesuaikan model di Google AI Studio sangatlah mudah. Cara ini tidak memerlukan keahlian engineering untuk membangun model khusus. Mulai dengan memilih “New tuned model” di panel menu sebelah kiri.
2. Pilih data yang akan disesuaikan
Anda dapat menyesuaikan model dari prompt terstruktur yang sudah ada atau mengimpor data dari Google Spreadsheet atau file CSV. Anda dapat memulai dengan sedikitnya 20 contoh dan agar bisa mendapatkan performa terbaik, kami sarankan untuk menyediakan set data yang terdiri dari setidaknya 100 contoh.
3. Lihat model yang disesuaikan
Lihat progres penyesuaian di library Anda. Setelah model selesai disesuaikan, Anda dapat melihat detailnya dengan mengklik model. Mulai jalankan model yang telah disesuaikan melalui prompt terstruktur atau freeform.
4. Jalankan model yang telah disesuaikan kapan saja
Anda juga bisa mengakses model yang baru disesuaikan dengan membuat prompt terstruktur atau freeform baru dan memilih model yang disesuaikan dari daftar model yang tersedia.
Menyesuaikan dengan Gemini API
Google AI Studio adalah cara tercepat dan termudah untuk mulai menyesuaikan model Gemini. Anda juga dapat mengakses fitur ini melalui Gemini API dengan memberikan data pelatihan dalam permintaan API saat membuat model yang disesuaikan. Pelajari lebih lanjut tentang cara memulainya di sini.
Kami sangat antusias untuk menyaksikan terbukanya berbagai kemungkinan dengan adanya penyesuaian bagi developer dan tidak sabar untuk melihat kreasi yang akan Anda buat dengan fitur ini. Jika Anda memiliki ide atau kasus penggunaan, bagikan dengan kami di X (sebelumnya dikenal sebagai Twitter) atau Linkedin.