Inference Unlimited

Посібник: Як запустити Stable Beluga на комп'ютері з 32ГБ ОЗП

Stable Beluga — це сучасний інструмент для генерації зображень на основі технології AI. У цьому посібнику ми покажемо, як крок за кроком запустити Stable Beluga на комп'ютері з 32ГБ ОЗП.

Попередні вимоги

Перед початком встановлення переконайтеся, що ваша система відповідає наступним вимогам:

Встановлення залежностей

На системі Windows

  1. Встановіть драйвери для відеокарти:

    • Завантажте найновіші драйвери для вашої відеокарти з офіційного сайту NVIDIA.
    • Виконайте встановлення відповідно до інструкцій виробника.
  2. Встановіть Python:

    • Завантажте та встановіть Python 3.8 або новіший з офіційного сайту python.org.
    • Переконайтеся, що ви позначили опцію "Add Python to PATH" під час встановлення.
  3. Встановіть Git:

    • Завантажте та встановіть Git з офіційного сайту git-scm.com.

На системі Linux (Ubuntu 20.04 LTS)

  1. Оновіть систему:

    sudo apt update && sudo apt upgrade -y
    
  2. Встановіть драйвери NVIDIA:

    sudo apt install nvidia-driver-470
    sudo reboot
    
  3. Встановіть Python і Git:

    sudo apt install python3 python3-pip git
    

Клонування репозиторію Stable Beluga

  1. Відкрийте термінал (або командний рядок у Windows).
  2. Виконайте наступну команду:
    git clone https://github.com/stability-ai/stable-beluga.git
    cd stable-beluga
    

Встановлення залежностей Python

  1. Створіть і активуйте віртуальне середовище:

    python -m venv venv
    source venv/bin/activate  # У Windows: venv\Scripts\activate
    
  2. Встановіть потрібні пакети:

    pip install -r requirements.txt
    

Конфігурація Stable Beluga

  1. Скопіюйте файл конфігурації:

    cp config.example.yaml config.yaml
    
  2. Відредагуйте файл config.yaml у текстовому редакторі, наприклад, VS Code:

    model:
      name: "stable-beluga"
      path: "models/stable-beluga.safetensors"
    device: "cuda"  # Використовуйте "cpu", якщо у вас немає відеокарти
    precision: "fp16"  # Ви можете змінити на "fp32", якщо у вас достатньо пам'яті
    

Завантаження моделі

  1. Завантажте модель Stable Beluga з офіційного репозиторію:
    wget https://example.com/models/stable-beluga.safetensors -P models/
    
    (Замініть URL адресою поточної моделі.)

Запуск Stable Beluga

  1. Запустіть головний скрипт:

    python main.py
    
  2. У разі проблем з пам'яттю, спробуйте зменшити розмір батча у файлі config.yaml:

    batch_size: 1  # За замовчуванням 4, зменшіть, якщо потрібно
    

Приклади використання

Генерація зображення

from stable_beluga import StableBeluga

model = StableBeluga.from_config("config.yaml")
prompt = "Astronaut riding a horse on Mars"
image = model.generate(prompt)
image.save("output.png")

Генерація серії зображень

prompts = [
    "Sunset over the ocean",
    "Forest in autumn",
    "City skyline at night"
]

for prompt in prompts:
    image = model.generate(prompt)
    image.save(f"{prompt.replace(' ', '_')}.png")

Оптимізація пам'яті

Якщо ви стикаєтеся з проблемами з пам'яттю, спробуйте наступні рішення:

  1. Зменшіть розмір батча:

    batch_size: 1
    
  2. Використовуйте точність fp32:

    precision: "fp32"
    
  3. Вимкніть градієнти:

    enable_gradients: false
    

Виправлення помилок

Помилка пам'яті GPU

Якщо ви отримуєте помилку пам'яті GPU, спробуйте:

  1. Зменшити роздільну здатність виходу:

    output_size: [512, 512]  # Зменшіть до [256, 256], якщо потрібно
    
  2. Використовуйте меншу модель:

    model:
      name: "stable-beluga-small"
    

Помилка залежностей

Якщо ви стикаєтеся з проблемами з залежностями, спробуйте:

  1. Оновити pip:

    pip install --upgrade pip
    
  2. Встановіть пакети вручну:

    pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113
    

Підсумок

У цьому посібнику ми показали, як запустити Stable Beluga на комп'ютері з 32ГБ ОЗП. Пам'ятайте, що оптимізація пам'яті може бути необхідною залежно від вашого обладнання. Завдяки цим крокам ви повинні змогти генерувати зображення високої якості за допомогою Stable Beluga.

Якщо у вас є додаткові запитання або ви стикаєтеся з проблемами, відвідайте офіційне форум Stable Beluga або репозиторій GitHub.

Język: UK | Wyświetlenia: 7

← Powrót do listy artykułów