Budi: Batch created by Azure OpenAI

2025-07-25T23:45:49Z

Batch created by Azure OpenAI

Halaman baru

Perkembangan Model Bahasa Besar (LLM) merupakan tonggak penting dalam evolusi [[kecerdasan buatan]], khususnya dalam bidang [[pemrosesan bahasa alami]]. Sejarahnya bermula dari model-model bahasa sederhana yang hanya mampu menangani tugas-tugas terbatas, hingga akhirnya berkembang menjadi model dengan miliaran parameter yang mampu memahami konteks secara kompleks.

== Awal Mula ==
Pada awalnya, model bahasa seperti [[n-gram]] digunakan untuk memprediksi kata berikutnya berdasarkan kata-kata sebelumnya. Seiring dengan kemajuan komputasi, muncul model berbasis [[jaringan saraf]], seperti [[word2vec]] dan [[GloVe]], yang meningkatkan representasi kata dalam ruang vektor.

== Era Transformer ==
Tahun 2017 menandai era baru dengan diperkenalkannya [[transformer (model pembelajaran mesin)|transformer]] oleh Google. Teknologi ini menjadi fondasi bagi pengembangan LLM, memungkinkan pelatihan paralel dan efisiensi tinggi dalam memahami konteks panjang dalam teks.

== Generasi Model Lanjutan ==
Sejak saat itu, berbagai model besar seperti [[GPT-3]] dari OpenAI, [[BERT]] dari Google, dan [[LLaMA]] dari Meta dikembangkan. Model-model ini membawa kemampuan luar biasa dalam menghasilkan dan memahami teks secara alami, menjadikan LLM sebagai teknologi inti di banyak aplikasi modern.

Sejarah Model Bahasa Besar - Riwayat revisi

Budi: Batch created by Azure OpenAI