开发者社区 > 云原生 > Serverless > 正文

函数计算FC从提示词读取配置为啥不好使呀?

函数计算FC从提示词读取配置为啥不好使呀?

展开
收起
三分钟热度的鱼 2023-08-02 11:19:51 42 0
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    函数计算(FC)中从提示词读取参数可能不工作的一些原因:

    提示词格式错误
    需要严格按照SD训练模型时使用的 prompts 格式。
    例如:

    避免使用大写字母开头
    模型期望[[ ]]标记的 prompt 而不是{}
    确保有适当的分隔符,如 ,"! "等
    prompt太长
    FC可能有最大参数长度限制,导致prompt读取不全。
    可尝试:

    分割长prompt为几个短prompt
    使用 environment variables 传参,解决长度限制。
    权限问题
    非管理员账户可能没有读取环境变量的权限,导致无权读取prompt。

    网络问题
    FC函数执行时网络出现故障,影响读取/解码prompt。

    函数配置错误
    如内存/超时等配置不当,导致函数在读取参数前已崩溃。

    解决方法主要是:

    调整prompt的格式和长度
    使用环境变量或其他方式传参
    验证函数有读取外部参数的权限
    确认网络状况
    调整函数配置,提供充足的资源
    具体操作方法取决于你使用的FC供应商和函数配置。

    如果问题仍未解决,可以提供:

    函数和FC供应商
    prompt格式
    函数配置

    2023-08-03 08:09:32
    赞同 展开评论 打赏
  • 没反应可以看下是不是缺依赖,临时依赖安装解决方案,后续新版本会支持该功能
    以安装 rich 依赖为例:

    在您管理工具的域名后添加 /terminal 如 admin.xxxxxxxxx.fc.devsapp.net/terminal

    只需要执行一次
    echo "export PYTHONPATH=/mnt/auto/sd/python" > /mnt/auto/sd/startup.sh

    安装插件
    /opt/python3.10/bin/python3.10 -m pip install -t /mnt/auto/sd/python rich

    每个插件需要哪些依赖可以从插件目录的 install.py 查到

    等待实例轮转后,重新进入 sd 页面
    可以进入 sd 函数任意修改下环境变量(如 a=b),强制实例更新。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2023-08-02 11:29:16
    赞同 展开评论 打赏
问答分类:
问答标签:
问答地址:
相关产品:

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载
    All in Serverless 阿里云核心产品全面升级 立即下载