Setelah laptop dimatikan atau direstart, maka perlu menjalankan kembali Open WebUI untuk bisa memakai Azure OpenAI melalui antarmuka lokal.

Langkah-langkah

Aktifkan virtual environment:

source ~/venv/bin/activate

Jalankan Open WebUI:

open-webui serve

Buka browser dan akses antarmuka di: http://localhost:8080

Catatan Penting

  • Open WebUI bisa menggunakan Azure OpenAI dan API lainnya dengan menambahkah fungsi dan memasukan kredensial ke dalamnya setelah fungsi disimpan
  • Karena saat ini masih ada kredit Azure jadi belum mencoba lagi dengan model LLM local terbaru, sebelumnya menggunakan yang 7B terlalu lambat karena tidak ada GPU. Semoga nanti ada deh GPU nya di laptop atau eGPU.

Tautan Terkait