GPT4All: Install CLI
Berikut adalah langkah-langkah untuk install GPT4All di Ubuntu Server 24.04.1 tanpa GUI menggunakan Command Line Interface (CLI):
Persiapan Awal
Pastikan sistem sudah up to date:
sudo apt update && sudo apt upgrade -y
Install dependensi dasar:
sudo apt install -y git build-essential cmake python3 python3-pip
1. Clone Repositori GPT4All
git clone https://github.com/nomic-ai/gpt4all.git cd gpt4all
2. Build dari Sumber (CLI Mode)
GPT4All memiliki CLI berbasis `cpp` di dalam folder `gpt4all/gpt4all-backend`.
Langkah-langkahnya:
cd gpt4all-backend mkdir build cd build cmake .. make -j$(nproc)
Setelah selesai, akan muncul executable CLI seperti `main` (atau `gpt4all` tergantung build).
3. Download Model GPT4All
Model GPT4All tidak dibundel dalam repo karena ukurannya besar. Unduh model dari situs resminya:
Contoh: Unduh model `ggml-gpt4all-j-v1.3-groovy.bin`
mkdir -p ~/gpt4all/models cd ~/gpt4all/models wget https://gpt4all.io/models/ggml-gpt4all-j-v1.3-groovy.bin
> Kamu bisa juga mengunduh model lain dari: [1](https://gpt4all.io/index.html)
4. Menjalankan GPT4All di CLI
Kembali ke folder build:
cd ~/gpt4all/gpt4all-backend/build ./main -m ~/gpt4all/models/ggml-gpt4all-j-v1.3-groovy.bin
Tunggu beberapa saat, lalu prompt akan terbuka untuk kamu mulai chat dengan model.
Contoh Penggunaan CLI
$ ./main -m ~/gpt4all/models/ggml-gpt4all-j-v1.3-groovy.bin
Lalu ketik:
> Hello, what can you do?
(Opsional) Menjalankan sebagai Server Lokal
Jika kamu ingin membuat interface REST API (tanpa GUI), kamu bisa gunakan:
- `gpt4all-api`
- Atau gunakan `llama-cpp-python` untuk menjalankan model di background dengan Flask/FastAPI.
Jika kamu butuh versi REST API (server), atau cara menggunakan model lewat Python (misal dari terminal pakai skrip Python), tinggal beri tahu — saya bantu lanjutkan.