Open WebUI 프레임워크 소개

Open WebUI 깃허브 : https://github.com/open-webui/open-webui

GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

 

 

Open WebUI란?

 

OpenWebUI는 오픈 소스 LLM(대규모 언어 모델) 웹 인터페이스로, 로컬 AI 모델과 다양한 AI 서비스를 쉽게 사용할 수 있도록 만들어졌다.
처음엔 Ollama를 위해서 만들어진 프레임워크라 이름이 Ollama Web UI였으나, 현재는 Ollama 외에도 OpenAI 등 다양한 llm 을 지원하며 Open Web UI로 명칭을 변경했다.

 

목적

• 누구나 쉽게 로컬 AI 모델이나 API 기반 AI 서비스를 사용할 수 있게 하는 것
• ChatGPT와 유사한 사용자 경험을 오픈소스로 제공하는 것
• 다양한 AI 모델과의 호환성 제공하는 것
• 커스터마이징이 가능한 인터페이스 제공
  
  

주요 기능

1. 다양한 모델 지원 : Ollama, OpenAI, Anthropic, Google Gemini 등 다양한 AI 서비스 및 로컬 모델 지원
2. 채팅 인터페이스: 대화형 UI를 통한 쉬운 상호작용
3. 대화 히스토리 저장: 이전 대화 내용 저장 및 재사용
4. 프롬프트 템플릿: 자주 사용하는 프롬프트 저장 및 재사용
5. 문서 업로드 및 처리: PDF, 텍스트 등 문서 파일 업로드 및 분석
6. 다중 사용자 지원: 여러 사용자가 동시에 사용 가능
7. 커스텀 테마: 다크/라이트 모드 등 UI 커스터마이징
8. 확장 기능: 플러그인을 통한 기능 확장

 

프로세스

1. 설치 및 설정:
Docker나 직접 설치를 통해 OpenWebUI 서버 구동
사용할 AI 모델 또는 API 서비스 연결 설정

2. 사용자 상호작용:
사용자가 웹 인터페이스를 통해 프롬프트 입력
설정된 AI 모델에 프롬프트 전송

3. 모델 처리:
AI 모델(로컬 또는 API)이 요청 처리
결과 생성

4. 응답 표시:
모델 응답을 사용자 친화적인 형태로 웹 UI에 표시
대화 히스토리 저장

5. 추가 기능:
대화 내용 내보내기/가져오기
모델 설정 변경 (온도, 토큰 수 등)
파일 업로드 및 분석 요청

 

 

 

활용

특히 로컬 AI모델을 쉽게 사용할 수 있는 인터페이스로 많이 활용되고 있으며, 사용자가 자신의 로컬 서버에서 AI 서비스를 호스팅할 수 있게 도와준다. 개인정보 보호와 커스터마이징 가능성을 높이면서도 상업 서비스에 버금가는 사용자 경험을 제공한다.
나만의 챗지피티를 로컬에 구축한다니 이 얼마나 신세계인가!