Создающую изображения нейросеть запустили на одноплатном ПК Raspberry Pi

Фантазии людей нет предела: разработчик Вито Плантамура удалось запустить Stable Diffusion на миниатюрном и бюджетном компьютере Raspberry Pi Zero 2 W. Нейросеть, выпущенная в 2022 году, создает изображения по текстовым описаниям, но обычно требует высокой вычислительной мощности, а у Pi Zero 2 W всего 512 МБ оперативной памяти, но использовалось лишь 260.

Чтобы сделать это возможным, Плантамура разработал OnnxStream, специализированную библиотеку выводов, которая значительно сокращает потребление памяти при генерации изображений на Pi Zero 2 W. Хотя процесс занимает больше времени, чем обычно, результаты впечатляют. Плантамура утверждает, что OnnxStream потребляет в 55 раз меньше памяти, чем OnnxRuntime, и при этом работает всего в два раза медленнее. Он имеет открытый исходный код и может быть реализован на более производительных системах для улучшения потребления памяти.

Программное обеспечение и инструкции по настройке доступны на странице OnnxStream GitHub для тех, кто заинтересован в изучении этого проекта на Raspberry Pi.

Добавить комментарий

Нам важно знать ваше мнение. Оставьте свой отзыв или ответ

    • bowtiesmilelaughingblushsmileyrelaxedsmirk
      heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
      winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
      worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
      expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
      disappointedconfoundedfearfulcold_sweatperseverecrysob
      joyastonishedscreamtired_faceangryragetriumph
      sleepyyummasksunglassesdizzy_faceimpsmiling_imp
      neutral_faceno_mouthinnocent

Комментариев 0

Новые обсуждения на Форуме