如何使用Golang实现并发图片处理_缩放和压缩多文件同时执行

Go并发图片缩放压缩需用image库处理图像、sync.WaitGroup协调、Worker Pool控并发数(如6个worker),避免内存爆炸;processImage函数负责解码、Lanczos缩放、按扩展名选择编码器并控制JPEG质量。

用 Go 实现并发图片缩放与压缩,核心是结合 image 标准库处理图像 + sync.WaitGroup 控制并发 + goroutine 并行执行。关键不是“开很多 goroutine”,而是合理控制并发数、避免内存爆炸、统一错误处理。

准备:安装依赖与基础结构

Go 自带 image/* 包(如 image/jpeg, image/png),无需第三方库即可完成基础缩放和压缩。若需更高性能或支持 WebP/HEIC,可选 disintegration/imaging(轻量、API 简洁)或 h2non/bimg(基于 libvips,内存友好)。

推荐起步用 imaginggo get -u github.com/disintegration/imaging

定义任务结构体,方便传参:

type ImageTask struct {
    SrcPath  string
    DstPath  string
    Width    int
    Height   int
    Quality  int // JPEG 质量 1-100
}

并发控制:用 Worker Pool 避免资源耗尽

直接为每个文件启一个 goroutine 容易在处理上百张图时打爆内存或触发系统 open files 限制。应使用固定数量的 worker 处理任务队列。

  • 创建带缓冲的 channel 作为任务队列(例如容量 1000)
  • 启动 N 个 worker goroutine(如 4–8 个,匹配 CPU 核心数或 I/O 压力)
  • 主 goroutine 把所有 ImageTask 发送到 channel
  • 每个 worker 从 channel 取任务、处理、写文件、报告完成

示例启动逻辑:

tasks := make(chan ImageTask, 1000)
var wg sync.WaitGroup

// 启动 6 个 worker for i := 0; i < 6; i++ { wg.Add(1) go func() { defer wg.Done() for task := range tasks { if err := processImage(task); err != nil { log.Printf("fail on %s: %v", task.SrcPath, err) } } }() }

// 发送所有任务 for _, t := range allTasks { tasks <- t } close(tasks) wg.Wait() // 等所有 worker 完成

单张图处理:缩放 + 压缩 + 格式保持

processImage 函数负责读取、缩放、编码、写入。注意三点:内存释放、格式推断、质量控制。

  • os.Open 读源文件,处理完立即 Close()
  • image.Decode 自动识别格式(支持 JPEG/PNG/GIF)
  • imaging.Resize 缩放(支持 Linear/Bicubic/CatmullRom 等滤镜)
  • 输出时根据目标路径后缀选择编码器:.jpg/.jpeg → jpeg.Encode.png → png.Encode
  • JPEG 压缩通过 jpeg.Options{Quality: task.Quality} 控制;PNG 无质量参数,但可用 png.Encoder{CompressionLevel: ...}

简化版处理函数:

func processImage(task ImageTask) error {
    srcFile, err := os.Open(task.SrcPath)
    if err != nil {
        return err
    }
    defer srcFile.Close()
img, format, err := image.Decode(srcFile)
if err != nil {
    return fmt.Errorf("decode %s: %w", task.SrcPath, err)
}

// 缩放(等比缩放示例:保持宽高比,限制最大边长)
resized := imaging.Resize(img, task.Width, task.Height, imaging.Lanczos)

dstFile, err := os.Create(task.DstPath)
if err != nil {
    return err
}
defer dstFile.Close()

switch strings.ToLower(filepath.Ext(task.DstPath)) {
case ".jpg", ".jpeg":
    opts := jpeg.Options{Quality: task.Quality}
    return jpeg.Encode(dstFile, resized, &opts)
case ".png":
    return png.Encode(dstFile, resized)
default:
    return fmt.Errorf("unsupported output format: %s", filepath.Ext(task.DstPath))
}

}

增强实用性:进度反馈与错误聚合

真实场景需要知道“处理了 73/200 张”。可在 worker 中发送完成信号到计数 channel:

done := make(chan struct{}, len(allTasks))
go func() {
    for range done {
        processed++
        fmt.Printf("\rProcessed: %d/%d", processed, len(allTasks))
    }
}()

// 在 worker 内部处理完一张后: done <- struct{}{}

错误建议收集到 slice(加锁)或发到 error channel,最后统一打印,避免日志刷屏。