0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何开启Stable Diffusion WebUI模型推理部署

捷易物联 2024-12-11 20:13 次阅读

自从模型广场上新后,有不少朋友来咨询小助手如何开启模型的推理部署,今天,小助手就以Stable Diffusion WebUI为例,教大家如何捷智算平台开启模型的推理部署。

Web UI模型详细部署教程

进入捷智算,在菜单栏找到【模型广场】就可以看到上新的模型~

44aa1dc8-b7b9-11ef-8084-92fbcf53809c.png

一、选择模型类型

根据自己兴趣的模型点击【推理部署】,我们找到StableDiffusionWebUI点击【推理部署】。

二、购买容器

选择需要的GPU卡及分区,然后点击【启动实例】

44ecf08a-b7b9-11ef-8084-92fbcf53809c.png

也可以在购买容器页面点击【模型镜像】,选择需要的模型镜像,进入部署好模型的容器。

450a7b50-b7b9-11ef-8084-92fbcf53809c.png

三、打开jupyter文档

创建实例运行成功后点击【更多操作】-【查看信息】,获取并复制jupyter密码

452c6986-b7b9-11ef-8084-92fbcf53809c.png45377ca4-b7b9-11ef-8084-92fbcf53809c.png

获取密码后点击jupyter,输入复制的密码

454fd290-b7b9-11ef-8084-92fbcf53809c.png455ffa44-b7b9-11ef-8084-92fbcf53809c.png

就可以进去到模型的jupyter文件页面啦~例如选的是Stable diffusion模型,则点击Stable Diffusion文件夹

456cc42c-b7b9-11ef-8084-92fbcf53809c.png

四、启动模型

点击模型启动ipynb格式文件,按教程点击点击上方 ▸▸ 按键直接运行

点击Restart,重启内核运行

看到显示URL链接就说明模型启动成功啦~

45aa78bc-b7b9-11ef-8084-92fbcf53809c.png

五、配置外网端口并外网打开

要留意一下哦!模型广场web的一般是链接是0.0.0.0:8801,但是只能在内网打开(也就是不能在您自己的电脑打开模型链接的意思),如果想外网分享链接,需要申请端口开放。返回控制台,点击【更多操作】-【设置端口】

45c95700-b7b9-11ef-8084-92fbcf53809c.png

内网端口输入8801,点击【确认】,就会生成一个外网端口

45e21c54-b7b9-11ef-8084-92fbcf53809c.png

再次点击设置端口,就可以看到生成的外网端口,比如20403

46054c1a-b7b9-11ef-8084-92fbcf53809c.png

这样就可以在外网打开

如果看到远程地址是183.47.51.183,那你就可以在自己的电脑浏览器输入【183.47.51.183:20403】打开Web UI使用界面。

461ee0a8-b7b9-11ef-8084-92fbcf53809c.png

打开后,大家就可以在SD的世界里畅玩啦~记得先去找小助手薅羊毛,再来推理部署

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268906
  • 人工智能
    +关注

    关注

    1791

    文章

    47208

    浏览量

    238284
  • 模型
    +关注

    关注

    1

    文章

    3229

    浏览量

    48812
收藏 人收藏

    评论

    相关推荐

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    智视觉模块上部署 PaddleDetection 模型如果说有自己制作数据的话,需要将数据上传,然后在修改全局配置项,修改数据集地址以及对应的类别数。 按照厂家提供的配置直接进行训练转换。 训练完成后,会自动生成一个rknn模型
    发表于 12-19 14:33

    阿里云开源推理模型QwQ

    近日,阿里云通义团队宣布推出全新AI推理模型QwQ-32B-Preview,并同步实现了开源。这一举措标志着阿里云在AI推理领域迈出了重要一步。 据评测数据显示,QwQ预览版本已具备研究生水平的科学
    的头像 发表于 11-29 11:30 539次阅读

    使用vLLM+OpenVINO加速大语言模型推理

    随着大语言模型的广泛应用,模型的计算需求大幅提升,带来推理时延高、资源消耗大等挑战。
    的头像 发表于 11-15 14:20 375次阅读
    使用vLLM+OpenVINO加速大语言<b class='flag-5'>模型</b><b class='flag-5'>推理</b>

    高效大模型推理综述

    模型由于其在各种任务中的出色表现而引起了广泛的关注。然而,大模型推理的大量计算和内存需求对其在资源受限场景的部署提出了挑战。业内一直在努力开发旨在提高大
    的头像 发表于 11-15 11:45 348次阅读
    高效大<b class='flag-5'>模型</b>的<b class='flag-5'>推理</b>综述

    YOLOv6在LabVIEW中的推理部署(含源码)

    YOLOv6 是美团视觉智能部研发的一款目标检测框架,致力于工业应用。如何使用python进行该模型部署,官网已经介绍的很清楚了,但是对于如何在LabVIEW中实现该模型部署,笔者
    的头像 发表于 11-06 16:07 243次阅读
    YOLOv6在LabVIEW中的<b class='flag-5'>推理</b><b class='flag-5'>部署</b>(含源码)

    LLM大模型推理加速的关键威廉希尔官方网站

    LLM(大型语言模型)大模型推理加速是当前人工智能领域的一个研究热点,旨在提高模型在处理复杂任务时的效率和响应速度。以下是对LLM大模型
    的头像 发表于 07-24 11:38 866次阅读

    实操: 如何在AirBox上跑Stable Diffusion 3

    使用StableDiffusion3Medium开源模型,通过SOPHONSDK移植到SG2300X处理器系列产品上进行本地TPU硬件加速推理,实现在radxaAirbox上离线快速生成特
    的头像 发表于 07-23 08:34 244次阅读
    实操: 如何在AirBox上跑<b class='flag-5'>Stable</b> <b class='flag-5'>Diffusion</b> 3

    英伟达推出AI模型推理服务NVIDIA NIM

    英伟达近日宣布推出一项革命性的AI模型推理服务——NVIDIA NIM。这项服务将极大地简化AI模型部署过程,为全球的2800万英伟达开发者提供前所未有的便利。
    的头像 发表于 06-04 09:15 674次阅读

    UL Procyon AI 发布图像生成基准测试,基于Stable Diffusion

    UL去年发布的首个Windows版Procyon AI推理基准测试,以计算机视觉工作负载评估AI推理性能。新推出的图像生成测试将提供统一、精确且易于理解的工作负载,用以保证各支持硬件间公平、可比的性能表现。
    的头像 发表于 03-25 16:16 875次阅读

    Stability AI推出全新Stable Video 3D模型

    近日,Stability AI 推出了全新的 Stable Video 3D 模型,该模型以其独特的功能吸引了众多关注。此模型具备从单张图像中生成多视图3D视频的能力,为视频制作领域带
    的头像 发表于 03-22 10:30 835次阅读

    基于OpenCV DNN实现YOLOv8的模型部署推理演示

    基于OpenCV DNN实现YOLOv8推理的好处就是一套代码就可以部署在Windows10系统、乌班图系统、Jetson的Jetpack系统
    的头像 发表于 03-01 15:52 1593次阅读
    基于OpenCV DNN实现YOLOv8的<b class='flag-5'>模型</b><b class='flag-5'>部署</b>与<b class='flag-5'>推理</b>演示

    韩国科研团队发布新型AI图像生成模型KOALA,大幅优化硬件需求

    由此模型的核心在于其运用了“知识蒸馏”(knowledge distillation)威廉希尔官方网站 ,这使得开源图像生成工具Stable Diffusion XL可大幅缩小其规模。原Stable
    的头像 发表于 03-01 14:10 620次阅读

    Stability AI试图通过新的图像生成人工智能模型保持领先地位

    Stability AI的最新图像生成模型Stable Cascade承诺比其业界领先的前身Stable Diffusion更快、更强大,而Stab
    的头像 发表于 02-19 16:03 934次阅读
    Stability AI试图通过新的图像生成人工智能<b class='flag-5'>模型</b>保持领先地位

    边缘侧部署模型优势多!模型量化解决边缘设备资源限制问题

    电子发烧友网报道(文/李弯弯)大模型的边缘部署是将大模型部署在边缘设备上,以实现更快速、更低延迟的计算和推理。边缘设备可以是各种终端设备,如
    的头像 发表于 01-05 00:06 3527次阅读

    一种新的分割模型Stable-SAM

    SAM、HQ-SAM、Stable-SAM在提供次优提示时的性能比较,Stable-SAM明显优于其他算法。这里也推荐工坊推出的新课程《如何将深度学习模型部署到实际工程中?
    的头像 发表于 12-29 14:35 667次阅读
    一种新的分割<b class='flag-5'>模型</b><b class='flag-5'>Stable</b>-SAM