모바일에서 ollama 사용하는 방법

Ollama에 대한 더 자세한 정보는 아래 링크를 방문해 주세요.

https://anpigon.tistory.com/434

---

로컬 LLM 활용 방법에 대해 연구 중입니다.

Ollama 사용기, Ollama 웹UI 사용하기에 이어서 작성합니다.

제 장비의 사양은 Mac M2 Pro 와 iPhone 14 Pro입니다.

1. 내 PC의 로컬 IP를 확인합니다.
   

2. PC에서 다음 명령을 실행하여 Ollama Mistral 서버를 시작합니다.

OLLAMA_HOST=192.168.35.92:11434 ollama serve

ngrok 서비스를 이용하면 외부에서 접속 가능하게 설정할 수 있습니다.

1. 모바일 앱 설치:

• iOS: Ollama
• Android: Amallo for Ollama

1. 모바일과 PC를 동일한 와이파이 네트워크에서 접속합니다.
2. Ollama 모바일 앱을 실행하고 Ollama 서버 IP를 입력합니다.
   

모바일 앱에서 Mistral 모델을 사용하여 대화를 시도하고 있는데, 한국어는 답변을 이상하게 합니다.

반면 영어는 매우 잘 대답합니다.

---

아래에서 소개하는 앱들은 모두 iOS, Android, macOS, 그리고 Windows 환경에서 사용 가능합니다.

• 다른 모바일용 로컬LLM을 찾으신다면 MLC LLM 앱도 추천합니다.

• iOS, Android

• 다양한 AI 봇을 사용하고 싶다면 Poe 앱을 추천합니다.

• iOS, Android, MacOS, Windows

_{Posted using Obsidian Steemit plugin}