别再只会堆提示词了:拆了三个图像生成案例,我发现真正的门道在 CV 的老底子里

简介: 别再只会堆提示词了:拆了三个图像生成案例,我发现真正的门道在 CV 的老底子里

别再只会堆提示词了:拆了三个图像生成案例,我发现真正的门道在 CV 的老底子里

大家好,我是 Echo_Wish。

前阵子有个朋友问我:「现在大模型这么强,是不是搞 CV 的要失业了?」

我当时笑了,反问他:「你用过的那些能出图的东西,哪一个不是 CV 干出来的活?」

这不是抬杠。这两年大家一提图像生成,脑子里全是"大模型""提示词""玄学抽卡",好像 CV 已经是上个时代的东西了。但我自己折腾了不少项目,越做越觉得:大模型负责"听懂人话",CV 负责"把话变成像素",真正出彩的作品,都是两边咬合得好。

今天就用三个小案例,带代码,聊聊我的体会。

先掰扯清楚:一张图是怎么"长"出来的

主流的扩散模型,拆开看就三块:

  • 文本编码器(CLIP、T5 之类):把你写的话变成向量,这是"大模型味儿"最浓的部分。
  • 去噪网络(UNet 或 DiT):从一团噪声开始,一步步擦出图像,这是纯正的 CV 功夫。
  • VAE:在像素和"潜空间"之间来回翻译,省显存全靠它。

所以你写提示词,本质上是在给去噪过程递小抄。小抄写得好不好,决定上限;去噪网络本身的功底,决定下限。

案例一:最朴素的文生图,但参数里全是学问

先跑个最基础的,用 SDXL:

import torch
from diffusers import StableDiffusionXLPipeline

pipe = StableDiffusionXLPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    torch_dtype=torch.float16,
    variant="fp16",
    use_safetensors=True,
).to("cuda")

prompt = "a cozy ramen shop at night in the rain, neon signs, cinematic lighting, 35mm photo"
negative = "blurry, low quality, extra fingers, watermark, text"

image = pipe(
    prompt=prompt,
    negative_prompt=negative,
    num_inference_steps=30,
    guidance_scale=7.0,
    generator=torch.Generator("cuda").manual_seed(42),
).images[0]

image.save("ramen.png")

很多人只盯着 prompt,其实我觉得最值得琢磨的是 guidance_scale 和 seed。

guidance_scale 就是"你有多听话"。调低了,模型自由发挥,图好看但不一定是你要的;调太高,画面就会发硬、发糊、颜色过饱和,像被人拿着鞭子逼出来的。我自己的习惯是 6 到 8 之间试,别迷信越高越准。

seed 则是"抽卡的编号"。很多人觉得出图靠运气,其实固定 seed 之后改一个词看变化,才是科学地调提示词。不固定 seed 就改词,等于同时改了两个变量,你永远不知道是谁的功劳。

这个案例的体会:提示词是意图,参数是性格,两个都要管。

案例二:让传统 CV 算子给大模型"划重点"

纯靠文字,有个根本性的痛点:构图控制不住。你说"左边一个人,右边一只猫",模型心情好就给你对,心情不好就给你反着来。

这时候,老派的 CV 就派上用场了。ControlNet 的思路特别朴素:先用传统算子(比如 Canny 边缘检测)把参考图的轮廓抠出来,再把轮廓当作额外条件喂给扩散模型。

import cv2
import numpy as np
import torch
from PIL import Image
from diffusers import (
    StableDiffusionControlNetPipeline,
    ControlNetModel,
    UniPCMultistepScheduler,
)

# 1. 用 OpenCV 提取边缘 —— 这一步完完全全是传统 CV
src = cv2.imread("reference.jpg")
edges = cv2.Canny(src, 100, 200)
edges = np.stack([edges] * 3, axis=-1)  # 单通道转三通道
control_image = Image.fromarray(edges)

# 2. 加载 ControlNet + 底模
controlnet = ControlNetModel.from_pretrained(
    "lllyasviel/sd-controlnet-canny", torch_dtype=torch.float16
)
pipe = StableDiffusionControlNetPipeline.from_pretrained(
    "stable-diffusion-v1-5/stable-diffusion-v1-5",
    controlnet=controlnet,
    torch_dtype=torch.float16,
).to("cuda")
pipe.scheduler = UniPCMultistepScheduler.from_config(pipe.scheduler.config)

# 3. 轮廓管构图,提示词管风格
result = pipe(
    "a watercolor painting of a mountain village, soft morning light",
    image=control_image,
    num_inference_steps=25,
    controlnet_conditioning_scale=0.8,
).images[0]

result.save("village_watercolor.png")

你看,这段代码里真正"高级"的东西,其实是前面那三行 cv2.Canny。

我第一次跑通的时候特别有感触:十几年前就有的边缘检测,居然成了大模型时代的"方向盘"。 大模型再强,也需要有人告诉它"轮廓在这儿"。所以我一直觉得,别急着把 CV 基础课扔掉,边缘、深度、姿态、分割这些信息,现在全是控制生成的"把手"。

另外 controlnet_conditioning_scale 这个参数我想提一嘴:设成 1.0 往往太死板,轮廓里的瑕疵都会被忠实复刻;降到 0.6 到 0.9,模型才有余地"脑补"得自然。控制不是越严越好,留一点空间,作品才有灵气。

案例三:让大模型当"导演",CV 模型当"质检员"

这是我最近最爱的玩法,也是我觉得最有"未来感"的一种:把生成变成一个闭环。

流程很简单:

  1. 用户随口说一句话,比如"想要个有点孤独但又治愈的海边小屋"。
  2. 语言大模型把它改写成一条结构化的、适合出图的提示词。
  3. 扩散模型一次出 4 张候选图。
  4. 用 CLIP 给每张图和原始意图的匹配度打分,挑最好的那张。
import torch
from transformers import CLIPModel, CLIPProcessor

clip = CLIPModel.from_pretrained("openai/clip-vit-base-patch32").to("cuda")
proc = CLIPProcessor.from_pretrained("openai/clip-vit-base-patch32")

def ask_llm(user_idea: str) -> str:
    """这里接你自己用的语言模型,让它把一句人话改写成出图提示词。"""
    raise NotImplementedError

@torch.no_grad()
def clip_score(images, text):
    inputs = proc(
        text=[text], images=images,
        return_tensors="pt", padding=True, truncation=True,
    ).to("cuda")
    return clip(**inputs).logits_per_image.squeeze(-1).tolist()

def generate_best(pipe, user_idea, n=4):
    prompt = ask_llm(user_idea)
    images = [
        pipe(
            prompt,
            num_inference_steps=30,
            generator=torch.Generator("cuda").manual_seed(s),
        ).images[0]
        for s in range(n)
    ]
    scores = clip_score(images, user_idea)  # 拿"原始意图"打分,而不是改写后的
    best = max(range(n), key=lambda i: scores[i])
    return images[best], scores

注意最后一个细节:打分用的是用户的原话,而不是改写后的提示词。 因为改写本身也可能跑偏,如果拿改写后的词去验收,等于自己出题自己批卷。

这套东西的精髓,是让两类模型各司其职:语言模型擅长"理解和扩写",视觉模型擅长"看图判断"。以前我们总想训练一个什么都会的大一统模型,但实际做项目你会发现,让专才互相检查,比让通才单打独斗靠谱得多。

当然,CLIP 打分也不是万能的。它对"手有几根手指""文字拼没拼对"这类细节几乎没感觉,更适合管"大方向对不对"。真要在生产里用,我会再叠一层人脸检测、文字 OCR 之类的传统 CV 检查,也就是说,质检员还是得靠 CV。

聊点我自己的想法

做完这三个案例,我心里有几点比较强烈的感受:

第一,别把大模型神化。 它再厉害,本质上还是一个条件概率模型。你给的条件越清晰,它越稳定。大部分"翻车",其实是我们没把需求说清楚,或者没给够约束。

第二,CV 没有过时,它换了个位置。 以前 CV 是主角,自己做检测、分割、识别;现在更像是"基础设施"和"控制面板",大模型把创造力撑起来,CV 负责把它按在正确的轨道上。

第三,最值钱的能力是"拆问题"。 你看这三个案例,没有一个是靠调一个神奇的参数解决的,都是把问题拆成"谁来理解、谁来生成、谁来控制、谁来验收",再各找合适的工具。这种工程思维,比背多少个模型名字都管用。

第四,要对生成内容多一份敬畏。 图像生成越来越容易,真假就越来越难分。我们做技术的,该加水印加水印,该标注 AI 生成就标注,别等出了事再补课。

最后

写到这儿,我想起刚入行时盯着 Canny 算子调阈值调到半夜的自己。谁能想到,这些当年看起来"土"的东西,十年后居然成了驾驭大模型的缰绳。

技术圈就是这样,新东西不会把旧东西彻底淘汰,更多时候是把它们重新组合。你手里的每一样基本功,说不定哪天就在一个意想不到的地方发光。

所以,别焦虑,把底子打牢,再大胆地去拼装新玩具。

我是 Echo_Wish,下次再聊。


如果你想把这篇整理成可以直接发布的文档(Word 或 PDF),告诉我一声,我来转。

目录
相关文章
|
5天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
5481 11
|
5天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2081 7
|
7天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
7天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
20天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
9727 58
|
3天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
15天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
3309 9
|
20天前
|
JavaScript API iOS开发
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(DSH)是DeepSeek于2026年开源的MIT协议AI Agent框架,支持插件化组装模型、工具、沙箱与UI,兼容主流大模型。本文提供免Node.js的桌面端安装包(Win/macOS),含详细图文教程及热门插件推荐。
6009 69
|
3天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
948 0