[AI Agent] ollama 모델 Open Web ui 연동(Docker)

Open web ui를 연동해서 띄우는 방법은 많다

실제로 github에 들어가면 자세하게 방법들이 나와 있다

https://github.com/open-webui/open-webui

GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

나는 이중에 Docker로 설치하는 방법을 사용하고자 한다

 

나의 경우는 첫번째

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

를 이용해서 다운 및 실행 시킬 생각이다

 

 

사실 위에 Github 말고도 ollama 다운부터 Open webui 실행까지

프로세스대로 잘 정리된 글이

https://apidog.com/kr/blog/open-webui-ollama-kr/

Ollama와 Open WebUI 사용법

이다

 

Docker

그럴려면 당연히 Docker가 설치되어야 한다

 

설치 방법이나 명령어 등 자세히 분석되어 있는 포스팅은 아래를 참고하자

https://sseozytank.tistory.com/85

[Linux] 뉴비를 위한 Docker 기초 개념 및 명령어, 설치부터 예제까지

 

 

Docker 설치

https://www.docker.com/

Docker: Accelerated Container Application Development

여기 링크에 들어가면 

Docker Desktop을 다운 받을 수 있다

 

 

Docker 명령어 정리

Docker 명령어 정리는 다음 포스팅을 참고하자

https://blog.naver.com/haramzone/223529809022

Docker의 기본(이미지 다운 ~ 이미지 빌드까지)

 

 

Error Shooting

다음과 같은 Error가 나오면

docker: request returned 500 Internal Server Error for API route and version http://%2F%2F.%2Fpipe%2FdockerDesktopLinuxEngine/_ping, check if the server supports the requested API version

- Docker 데몬이 비활성화되었을 확률이 높다

(즉, 다운로드만 받고 실행이 안되었을 확률, 실행되다가 오류가 났을 확률이 높다는 뜻)

 

본인의 경우 들어가서 인을 해보니

wsl  update하라고 해서 update 후 Restart하여 해결

 

 

 

 

Open Webui 설치 및 실행

이제 내가 하고자 했던 명령어를 실행시킬 준비가 되었으므로

다음을 실행시켜 주면 github pull 같이 이미지를 가져와서 run을 시켜 준다

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

이게 끝나고 다음을 cmd를 적어 제대로 실행되었는지를 확인한다

docker ps

제대로 실행 중인 것을 확인 가능

 

위에 명령어를 설명이 제일 잘 되어있는 포스팅이 위에서 언급한 포스팅이다

(https://apidog.com/kr/blog/open-webui-ollama-kr/)

docker run -d
컨테이너를 백그라운드(detached) 모드로 실행합니다. (터미널을 점유x)

ghcr.io/open-webui/open-webui:main
GitHub Container Registry에서 Open WebUI 이미지를 가져옵니다 (약 3.77GB).

-p 3000:8080
브라우저 접속을 위해 로컬 포트 3000을 컨테이너 포트 8080에 매핑합니다.

--add-host=host.docker.internal:host-gateway
host.docker.internal을 추가하여 localhost:11434의 Ollama API에 연결합니다.
(컨테이너 내부에서 host.docker.internal이라는 호스트명을 사용하면 호스트 머신의 IP로 접근할 수 있다.)

-v open-webui:/app/backend/data
볼륨(open-webui)을 사용하여 채팅 기록 및 설정을 유지합니다.
(컨테이너를 재시작하거나 삭제해도 해당 경로의 데이터가 유지됩니다.)

--name open-webui
컨테이너 이름을 open-webui로 지정 (docker stop open-webui처럼 이름으로 제어 가능)

--restart always
Docker 데몬이 재시작되거나 컨테이너가 중지되었을 때 자동으로 다시 실행되도록 설정합니다.

 

이렇게 해서 다운로드가 완료되고 docker ps에 실행되고 있는 것을 확있했으면

인터넷에

localhost:3000

을 치면 다음과 같은 화면이 나온다

 

여기서 관리자 계정을 생성하고 들어가면

이렇게 실행된다

 

추가로 관리자 모드를 들어가고 싶으면

localhost:3000/admin

 

 

 

 

 

Open Webui 외부 연결

사실 상 이게 최종 목표 였는데

현재 해결을 못해서 일단 보류