Google Deepmind mengusulkan kerangka kerja ‘menemukan sendiri’ untuk LLM, meningkatkan kinerja GPT-4

Create an illustration that represents the concept of an article about the latest advances in language learning models (LLM) technology by Google Deepmind and the University of Southern California. Please include elements that signify self-discovery and improvement, such as a stylized LLM being enlightened by a figurative light bulb, symbolizing new-found knowledge and ability. Highlight actions of problem-solving and reasoning, possibly with a visual metaphor like a complex maze being easily navigated by the LLM. Design the image in a positive and light tone, comparable to the aesthetic found in early 20th-century graphic animation. Keep the aspect ratio as 3:2.

Para peneliti dari Google Deepmind dan University of Southern California telah mengusulkan sebuah kerangka kerja baru yang dapat menemukan sendiri (self-discovering prompting framework) untuk meningkatkan kemampuan penalaran model bahasa besar (large language models atau LLM). Pendekatan ini melampaui teknik petunjuk yang ada dan telah ditemukan untuk meningkatkan kinerja model seperti GPT-4 OpenAI dan PaLM 2 Google. Kerangka kerja ini melibatkan struktur penalaran intrinsik tugas-tugas yang ditemukan sendiri oleh LLM untuk memecahkan masalah. Kerangka kerja ini melihat beberapa modul penalaran atomik dan menyusunnya menjadi struktur penalaran eksplisit untuk diikuti oleh LLM selama penguraian. Pendekatan ini bekerja dengan komputasi inferensi yang jauh lebih sedikit, sehingga bermanfaat bagi perusahaan. Para peneliti menguji pendekatan ini dengan berbagai model dan menemukan peningkatan kinerja yang signifikan, dengan peningkatan hingga 32% dibandingkan dengan teknik lainnya. Pendekatan self-discover mencapai akurasi yang tinggi di berbagai tugas penalaran dan menunjukkan potensi untuk mendorong batas-batas pemecahan masalah dan memajukan kecerdasan umum dalam LLM.

Artikel lengkap

Tinggalkan Balasan