Ошибка CUDA out of memory при генерации первого же изображения в Colab почти всегда означает, что сессия получила слабый GPU или разрешение картинки выставлено слишком высоким для доступной видеопамяти. Запуск Stable Diffusion через Google Colab — рабочий способ генерировать изображения нейросетью без мощной видеокарты на своём компьютере: вся нагрузка ложится на серверы Google, а вам нужен только браузер и аккаунт Google.
Принцип простой: Colab предоставляет виртуальную машину с GPU, на которую устанавливается веб-интерфейс (чаще всего AUTOMATIC1111 WebUI или Forge), загружается модель, и вы работаете с генерацией через привычный интерфейс в браузере. В статье разберём выбор ноутбука, пошаговый запуск, типичные ошибки и ограничения бесплатного тарифа.
Что нужно для запуска Stable Diffusion в Colab
Минимальный набор скромный. Потребуется аккаунт Google, браузер (Chrome или Firefox) и стабильный интернет — ноутбук выполняется в облаке, поэтому скорость соединения влияет на отзывчивость интерфейса, но не на качество генерации. Мощность вашего устройства значения не имеет: подойдёт даже слабый ноутбук или планшет.
- 🟢 Аккаунт Google с доступом к Google Drive и Colab
- 🟢 Ссылка на готовый ноутбук (notebook) с WebUI — например, из официального репозитория выбранного интерфейса
- 🟢 Свободное место на Google Drive, если планируете сохранять модели и результаты между сессиями
- 🟢 Понимание базовых понятий: промпт, негативный промпт, сэмплер, CFG Scale
Важный нюанс: бесплатный Colab выдаёт GPU по остаточному принципу. Обычно это NVIDIA Tesla T4 с примерно 15–16 ГБ видеопамяти — её достаточно для моделей на базе SD 1.5 и, с некоторыми оптимизациями, для SDXL. Однако в часы пик сессия может получить более слабую карту или не получить GPU вовсе.
Выбор ноутбука и интерфейса
Готовых ноутбуков для Colab существует много, и их качество сильно различается. Надёжнее всего брать ссылки из официальных репозиториев проектов на GitHub, а не со сторонних сайтов: в чужой ноутбук теоретически могут встроить вредоносный код, который получит доступ к вашему Google-диску.
Наиболее популярны два интерфейса. AUTOMATIC1111 WebUI — классика с огромным количеством расширений и гайдов. Stable Diffusion WebUI Forge — его оптимизированное ответвление, которое быстрее работает на ограниченной видеопамяти и лучше справляется с SDXL. Для новичка разница невелика: оба дают вкладки txt2img, img2img, inpainting и настройки сэмплеров.
Пошаговый запуск: от открытия ноутбука до первой картинки
Последовательность действий одинакова для большинства ноутбуков. Сначала откройте файл ноутбука в Colab и проверьте тип среды выполнения: в меню выберите Среда выполнения → Изменить тип среды выполнения и убедитесь, что в качестве аппаратного ускорителя выбран GPU. Без этого шага ячейки либо не запустятся, либо генерация будет идти на процессоре неприемлемо долго.
Далее запустите ячейки по порядку кнопкой «Play» слева от каждой. Типичный ноутбук скачивает репозиторий WebUI, устанавливает зависимости и загружает выбранную модель — этот процесс занимает несколько минут. В конце выполнения последней ячейки появятся ссылки вида gradio.live или localhost: переходите по публичной ссылке Gradio, она откроет интерфейс в новой вкладке.
!git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui
%cd stable-diffusion-webui
!python launch.py --share --xformers
☑️ Перед первой генерацией проверьте
Первая генерация — лакмусовая бумага. Введите простой промпт, оставьте настройки по умолчанию (20–28 шагов, CFG Scale 7, разрешение 512×512 для моделей SD 1.5) и нажмите Generate. Если картинка появилась — всё работает, дальше можно экспериментировать с моделями и расширениями.
Лимиты бесплатного Colab и как с ними жить
Бесплатный тариф — это не безлимит. Google ограничивает длительность сессий, количество часов GPU в день и может отключать неактивные вкладки. Точные цифры лимитов компания публично не фиксирует, они динамические и зависят от загрузки инфраструктуры, поэтому ориентируйтесь на фактическое поведение: сессия обычно живёт несколько часов, после чего среду выполнения сбрасывают.
⚠️ Внимание: после отключения среды выполнения все установленные модели, расширения и сгенерированные изображения удаляются, если вы не сохранили их на Google Drive. Настройте в ноутбуке монтирование диска и пути сохранения заранее.
| Параметр | Бесплатный Colab | Colab Pro |
|---|---|---|
| Типичный GPU | Tesla T4 | Более мощные варианты (зависит от доступности) |
| Длительность сессии | Ограничена, отключение при простое | Дольше, приоритетный доступ |
| Видеопамять для SDXL | С оптимизациями (--medvram) | Комфортнее |
| Фоновое выполнение | Нет, вкладка должна быть открыта | Ограниченно доступно |
Чтобы вкладку не сочли неактивной, периодически взаимодействуйте с интерфейсом. И не запускайте несколько сессий GPU одновременно с одного аккаунта — это быстрый способ получить временное ограничение доступа.
Типичные ошибки и их решение
Самая частая жалоба — CUDA out of memory. Возможная причина: слишком высокое разрешение, большой batch size или тяжёлая модель SDXL без оптимизаций. Проверьте по порядку: снизьте разрешение до 512×512, уменьшите batch size до 1, перезапустите WebUI с флагом --medvram или --lowvram.
- 🔴 Ошибка «No module named...» — перезапустите среду выполнения и прогоните все ячейки заново: зависимости не доустановились
- 🔴 Ссылка Gradio не открывается — дождитесь полного выполнения ячейки, ссылка появляется в конце вывода
- 🔴 «GPU unavailable» — бесплатные GPU закончились, попробуйте позже или смените время сессии
- 🔴 Модель не загружается — проверьте, что файл скачался полностью и лежит в папке
models/Stable-diffusion
⚠️ Внимание: в 2023 году Google начал ограничивать использование бесплатного Colab именно для веб-интерфейсов Stable Diffusion, и правила периодически меняются. Если ноутбук отказывается запускаться с предупреждением о нарушении условий, проверьте актуальные условия использования Colab — возможно, для вашего сценария потребуется платная подписка или локальный запуск.
Что делать, если Colab блокирует запуск WebUI
Часть пользователей обходит ограничение через Colab Pro, другие переходят на альтернативы: Kaggle Notebooks (там тоже выдают GPU-время), локальный запуск WebUI при наличии видеокарты NVIDIA от 4–6 ГБ, либо облачные сервисы с почасовой оплатой GPU. Универсального решения нет — выбор зависит от бюджета и частоты генераций.
Ускорение генерации и комфортная работа
Несколько настроек заметно улучшают опыт работы на Tesla T4. Флаг --xformers ускоряет вычисления внимания, --medvram помогает при нехватке памяти, а включение VAE в настройках улучшает цветопередачу некоторых моделей. Для SD 1.5 разумный потолок — 512×512 с последующим апскейлом через Hires. fix, а не генерация сразу в большом разрешении.
Сохраняйте удачные связки «промпт + сид + настройки» — в Colab сессии временные, и восстановить результат потом будет неоткуда. Удобно сразу настроить сохранение изображений в папку на Google Drive через настройки WebUI или аргументы запуска.
Частые вопросы
Можно ли пользоваться Stable Diffusion в Colab полностью бесплатно?
Да, бесплатный уровень Colab позволяет запускать WebUI, но с ограничениями: динамические лимиты GPU-часов, отключение при простое и периодические ограничения со стороны Google именно на такие сценарии использования. Условия меняются, проверяйте актуальные правила сервиса.
Какую модель выбрать для начала?
Для бесплатного Colab оптимальны модели на базе SD 1.5 — они лёгкие, быстрые и для них создано больше всего гайдов. SDXL даёт более детализированные результаты, но требует оптимизаций по памяти на Tesla T4.
Почему генерация занимает несколько минут?
Возможные причины: сессия получила слабый GPU, не включён xformers, слишком высокое разрешение или большое число шагов. Проверьте тип GPU командой !nvidia-smi в отдельной ячейке и снизьте параметры генерации.
Сохранятся ли мои изображения после закрытия вкладки?
Нет, если вы не настроили сохранение на Google Drive. Среда выполнения Colab временная: после сброса сессии все файлы в виртуальной машине удаляются.
Есть ли альтернативы Colab для запуска Stable Diffusion?
Да: Kaggle Notebooks с бесплатным GPU-временем, локальный запуск WebUI на собственной видеокарте NVIDIA, а также облачные платформы с почасовой арендой GPU. Выбор зависит от вашего оборудования и интенсивности использования.