Seringkali Anda ingin menjalankan Ollama pada PC desktop yang memiliki GPU kuat, namun ingin mengakses Open-WebUI lewat laptop ringan saat bekerja di sofa. Berikut langkah menghubungkannya dalam satu jaringan Wi-Fi lokal.
Langkah 1: Konfigurasi Host Ollama
Secara default, Ollama hanya menerima koneksi dari localhost (127.0.0.1). Anda harus mengubahnya agar mendengarkan semua IP masuk di jaringan lokal Anda.
Di Linux/macOS: Jalankan perintah environment variable sebelum memulai servis Ollama:
OLLAMA_HOST=0.0.0.0 ollama serve
Di Windows: Tutup Ollama dari system tray, buka Environment Variables di Windows Settings, tambahkan variable baru dengan nama OLLAMA_HOST dan nilai 0.0.0.0, lalu buka kembali aplikasi Ollama.
Langkah 2: Dapatkan IP Address Server Ollama
Cari tahu IP lokal komputer server Ollama Anda (misalnya 192.168.1.50) menggunakan perintah terminal ipconfig (Windows) atau ifconfig / ip a (Linux/macOS).
Langkah 3: Jalankan Open-WebUI di Laptop Klien
Jalankan Docker Open-WebUI di laptop klien Anda dengan mengarahkan target API ke alamat IP server Ollama tadi:
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.1.50:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Buka browser di laptop Anda pada alamat http://localhost:3000. Kini Anda bisa chatting dengan model AI lokal berkekuatan GPU PC desktop Anda dari mana saja di rumah Anda!
Komentar