开发者社区 > 云原生 > Serverless > 正文

函数计算FC前天报的服务器出图抽风的问题,第一次唤醒加载模型速度太慢,导致超时。怎么解决?

函数计算FC前天报的服务器出图抽风的问题,我后台开了日志看了一下,感觉是服务器休眠了,第一次唤醒加载模型速度太慢,导致超时。怎么解决?

展开
收起
三分钟热度的鱼 2023-08-22 17:44:06 112 0
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    我已经认真阅读了 你的问题:

    【 函数计算FC前天报的服务器出图抽风的问题,第一次唤醒加载模型速度太慢,导致超时。怎么解决?

    并思考了

    建议如下:


    服务器休眠或者唤醒速度慢可能导致函数计算 FC(函数计算)超时。针对这个问题,您可以尝试以下方法进行优化:1. 调整启动策略:您可以尝试更改函数计算服务的启动策略,以减少启动时间。例如,您可以选择“热启动”或“冷启动”策略。热启动策略可以在服务器启动时更快地加载模型,而冷启动策略则需要对服务器进行预热,可能需要较长的时间。2. 优化模型加载:检查模型加载代码,尝试减少模型加载时间。例如,您可以使用更快的模型加载库,或者对模型进行裁剪、量化等操作,以减小模型大小。3. 调整超时时间:如果您确定模型加载和处理任务所需的时间较长,可以适当调整函数计算任务的超时时间。这样,即使加载模型和处理任务的时间较长,也不会导致任务超时。4. 使用预加载模型:预加载模型可以提前将模型加载到内存中,从而减少任务启动时的加载时间。您可以尝试将常用模型预加载到内存中,以便在需要时快速使用。5. 考虑使用其他云服务:如果您的函数计算任务对响应速度有较高要求,可以考虑使用其他云服务,如 AS(应用服务器)或 SA(服务器应用),这些服务可以提供更高的性能和可扩展性。

    2023-08-26 18:51:53
    赞同 展开评论 打赏
  • import requests
    import base64

    endpoint="http://xxxxxx.cn-hangzhou.fc.devsapp.net"
    username=""
    password=""

    resp = requests.post(
    "%s/sdapi/v1/txt2img" % endpoint,
    headers={
    "Authorization": "Basic %s" % (base64.b64encode(("%s:%s" % (username, password)).encode("utf-8")).decode("utf-8")),
    },
    json={
    "prompt": "1 girl, sunshine, dog",
    "step": 10,
    "height": 512,
    "width": 1024,

        "override_settings": { 
            # "sd_model_checkpoint": "mixProV4.Cqhm.safetensors",
            "sd_model_checkpoint": "majicMIX realistic_v6.safetensors",
        },
    }
    

    )

    if resp.status_code == 200:
    data = resp.json()
    for i, img in enumerate(data["images"]):
    with open("%s.png" % (i), "wb") as f:
    b = base64.b64decode(img)
    f.write(b)

    data["images"] = ""
    print(data)
    

    else:
    print(resp.status_code, resp.text) 用这个代码请求下看看。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2023-08-22 18:49:49
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    Hologres Serverless之路:揭秘弹性计算组 立即下载
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载