LLM: ubuntu 24.04 ollama + open-webui + postgresql full docker

Untuk menginstal Ollama, Open-WebUI, dan PostgreSQL sebagai basis data vektor menggunakan Docker Compose, Anda dapat mengikuti langkah-langkah berikut:

1. Persiapan Lingkungan:

• Pastikan Docker dan Docker Compose telah terinstal di sistem Anda.

sudo apt update
sudo apt install -y docker.io
curl -L "https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose

2. Konfigurasi `docker-compose.yml`:

• Buat file `docker-compose.yml` dengan isi sebagai berikut:

services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    ports:
      - 11434:11434
    volumes:
      - ollama_data:/root/.ollama
    restart: unless-stopped

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    ports:
      - 3000:8080
    environment:
      - GLOBAL_LOG_LEVEL=DEBUG
      - OLLAMA_BASE_URL=http://ollama:11434
      - DATABASE_URL=postgresql://openwebui:your_password@openwebui-postgres:5432/openwebui_db
    depends_on:
      - ollama
      - postgres
    volumes:
      - openwebui_data:/app/backend/data
    restart: unless-stopped

  postgres:
    image: postgres:latest
    container_name: openwebui-postgres
    environment:
      POSTGRES_USER: openwebui
      POSTGRES_PASSWORD: your_password
      POSTGRES_DB: openwebui_db
    volumes:
      - postgres_data:/var/lib/postgresql/data
    ports:
      - 5432:5432
    restart: unless-stopped 

volumes:
  ollama_data:
  openwebui_data:
  postgres_data:

Penjelasan:

• `ollama`: Layanan untuk menjalankan Ollama.
• `open-webui`: Layanan untuk menjalankan Open-WebUI yang terhubung ke Ollama dan PostgreSQL.
• `postgres`: Layanan PostgreSQL yang digunakan sebagai basis data vektor.
• Variabel lingkungan pada layanan `open-webui` mengonfigurasi koneksi ke PostgreSQL.

3. Menjalankan Layanan:

• Di direktori yang sama dengan file `docker-compose.yml`, jalankan perintah berikut untuk memulai semua layanan:

docker-compose up -d

Perintah ini akan mengunduh gambar yang diperlukan dan menjalankan kontainer secara bersamaan.

4. Instalasi postgresql & open-webui tanpa docker-compose

docker run --name openwebui-postgres -e POSTGRES_USER=openwebui -e POSTGRES_PASSWORD=your_password -e POSTGRES_DB=openwebui_db -p 5432:5432 -d postgres:latest

docker run -d -p 3000:8080 \
 -e DATABASE_URL=postgresql://openwebui:your_password@host.docker.internal:5432/openwebui_db \
 -v open-webui:/app/backend/data \
 --name open-webui \
 --restart always \
 ghcr.io/open-webui/open-webui:main

4. Mengakses Open-WebUI:

• Setelah semua layanan berjalan, buka browser dan akses `http://localhost:3000`.
• Buat akun admin jika diminta, dan masuk ke antarmuka Open-WebUI.

5. Mengonfigurasi Model di Open-WebUI:

• Setelah masuk, Anda dapat menarik model dari Ollama atau sumber lain melalui antarmuka Open-WebUI.
• Pastikan model yang diperlukan telah diunduh dan tersedia untuk digunakan.

Catatan Penting:

• Gantilah nilai `your_db_user`, `your_db_password`, dan `your_db_name` dengan kredensial yang sesuai untuk PostgreSQL Anda.
• Pastikan port yang digunakan tidak bentrok dengan layanan lain yang berjalan di sistem Anda.
• Konfigurasi ini mengasumsikan bahwa Open-WebUI mendukung penggunaan PostgreSQL sebagai basis data vektor. Pastikan untuk memeriksa dokumentasi resmi Open-WebUI untuk informasi terbaru mengenai dukungan basis data.

Pranala Menarik

• LLM