ommv0.2.148

omm run

omm으로 설치한 모델과 대화를 시작합니다 — Ollama는 이 터미널에서 바로 대화하고, KoboldCpp·text-generation-webui는 모델을 로드한 채로 시작하며, GUI 앱은 그냥 열립니다.

01 / 06

개요

install이 끝난 다음 쓰는 명령입니다. 이름을 생략하면 설치된 것 중에서 대화형으로 고르고, 이름을 주면 그 모델이 어떤 러너에 연결돼 있는지 파악해서 터미널 대화로 바로 들어가거나(Ollama), 모델을 로드한 채로 실행하거나(KoboldCpp, text-generation-webui), GUI 앱을 열어 그 앱의 로컬 모델 목록에서 고르게 합니다. 한 모델이 여러 러너에 연결돼 있으면 --engine으로 자동 선택을 바꿀 수 있습니다.

02 / 06

옵션

이 명령이 받는 모든 옵션과, 생략했을 때의 기본값입니다.

  • [name]—기본값: picks interactively

    설치된 모델의 파일명(omm list 참고). 생략하면 설치된 것 중에서 대화형으로 고릅니다.

  • --engine, -eNAME기본값: auto-picks a linked engine

    연결된 러너 중 어느 것을 쓸지: ollama, lmstudio, jan, koboldcpp, textgenwebui, anythingllm, mstystudio. 생략하면 run이 자동으로 고릅니다.

  • --json—기본값: off

    전역 옵션으로는 받지만 run에는 JSON 출력 모드가 없습니다. omm이 경고를 출력하고 무시합니다.

  • --yes, -y—기본값: off

    전역 옵션으로는 받지만 run에는 건너뛸 확인 프롬프트가 없습니다. omm이 경고를 출력하고 무시합니다.

  • --quiet, -q—기본값: off

    백그라운드 상태·힌트 줄을 숨깁니다. 에러와 실행 결과는 그대로 출력됩니다.

  • --no-color—기본값: off

    터미널 색상 출력을 끕니다.

  • --help—기본값: off

    run의 사용법·인자·옵션을 출력하고 종료합니다.

03 / 06

예제

기본 검색부터 스크립트에 넣을 만한 형태까지.

이름 없이 — 설치된 것 중에서 대화형으로 고릅니다.

$ omm run

특정 모델을 실행하고, 러너는 run이 자동으로 고르게 둡니다.

$ omm run qwen2.5-0.5b-instruct-q4_k_m.gguf

같은 모델을 자동 선택 대신 특정 러너로 실행합니다.

$ omm run qwen2.5-0.5b-instruct-q4_k_m.gguf --engine lmstudio

04 / 06

실제 CLI 실행 녹화

이 영상에서 실제로 실행한 명령

omm run --no-color

종료 코드: 1 · 결과: 사용자 취소

기록된 키보드 입력으로 설치·모델 실행·벤치마크·업로드가 시작되기 전에 취소했습니다.

실제 프로세스 원문 transcript 열기(.txt)

확장 문서 터미널 예시

실제 시작 배너의 형식 그대로 재구성한 것입니다(src/omm/cli.py:5538-5548), 이 개발 머신에 실제로 설치된 모델 기준 — 대화 자체는 실시간 대화라 이 페이지가 스크립트로 재현할 수 없으므로 문자 그대로의 캡처는 아닙니다.

06 / 06

문제가 생겼다면

아래 메시지는 모두 이 명령이 실제로 출력하는 것들입니다. 해당하는 메시지를 찾아 원인을 읽고, 마지막 줄대로 하면 됩니다.

  1. totally-fake-model-xyz is not installed via omm. See `omm list`.
    원인
    이 이름은 omm이 이 머신에 설치한 것 중 어디에도 없습니다 — 철자가 틀렸거나, omm을 거치지 않고 러너에 직접 설치됐을 수 있습니다.
    대처
    omm list로 omm이 알고 있는 정확한 파일명을 확인한 다음 그걸 넘기세요.
    출처
    src/omm/cli.py:5533
  2. Ollama is not installed. Install it from https://ollama.com/download.
    원인
    run이 Ollama를 골랐거나(또는 지정했는데), 이 머신에서 Ollama 설치를 찾지 못했습니다.
    대처
    메시지의 링크에서 Ollama를 설치한 다음 다시 시도하세요.
    출처
    src/omm/launcher.py:170
  3. `ollama run mistral-7b-instruct-v0.2.q4_k_m` exited with code 1. Try `omm link --engine ollama` to repair the model's Ollama link.
    원인
    모델은 Ollama에 연결돼 있지만 ollama run 자체가 실패했거나 연결이 오래돼 깨졌습니다.
    대처
    omm link --engine ollama로 연결을 다시 검증·복구한 다음 다시 시도하세요.
    출처
    src/omm/launcher.py:177-183

그래도 해결되지 않는다면, 화면에 뜬 메시지 그대로를 첨부해 이슈를 등록하세요.