Golang 如何开发一个命令行下载工具_Golang 并发下载器实战

答案:使用Golang开发支持断点续传和分块并发的命令行下载工具,首先通过http.Get实现基础下载,再利用http.Head获取文件大小,结合Range请求头进行分块,通过goroutine并发下载各数据块,利用os.OpenFile和Seek确保写入正确位置,最后用sync.WaitGroup同步协程,完成高效下载。

用 Golang 开发一个命令行下载工具,核心在于利用其简洁的语法和强大的并发支持。我们可以通过 net/http 发起请求,结合 osio 操作文件,再通过 goroutine 实现多线程并发下载,显著提升大文件的下载速度。下面一步步带你实现一个支持断点续传、分块并发的下载器。

1. 基础下载功能实现

先从最简单的 HTTP 下载开始。使用 http.Get 获取资源,并将响应体写入本地文件。

package main

import ( "io" "net/http" "os" )

func downloadFile(url, filename string) error { resp, err := http.Get(url) if err != nil { return err } defer resp.Body.Close()

file, err := os.Create(filename)
if err != nil {
    return err
}
defer file.Close()

_, err = io.Copy(file, resp.Body)
return err

}

这段代码完成了基本的下载流程:发起 GET 请求、创建本地文件、流式写入数据。但它不支持断点续传,也无法并发。

2. 支持断点续传的分块下载

要实现断点续传,需使用 HTTP 的 Range 请求头,告诉服务器只获取某一段数据。

同时,先通过 HEAD 请求获取文件总大小,再按块划分任务。

func getFileSize(url string) (int64, error) {
    resp, err := http.Head(url)
    if err != nil {
        return 0, err
    }
    defer resp.Body.Close()
    return resp.ContentLength, nil
}

有了文件大小后,可以将文件分为多个 chunk,每个 goroutine 负责一个区间。

3. 并发下载多个分块

设定并发数(如 4 个协程),每个协程下载一部分数据,并写入文件指定位置。

关键点:

  • 使用 Seek 定位文件写入位置
  • 每个请求添加 Range: bytes=start-end
  • sync.WaitGroup 控制并发完成
type Range struct {
    Start, End int64
}

func downloadRange(url, filename string, r Range, wg *sync.WaitGroup) error { defer wg.Done()

req, _ := http.NewRequest("GET", url, nil)
req.Header.Set("Range", fmt.Sprintf("bytes=%d-%d", r.Start, r.End))

client := &http.Client{}
resp, err := client.Do(req)
if err != nil {
    return err
}
defer resp.Body.Close()

file, err := os.OpenFile(filename, os.O_WRONLY, 0644)
if err != nil {
    return err
}
defer file.Close()

file.Seek(r.Start, 0)
io.Copy(file, resp.Body)

return nil

}

4. 整合主流程

主函数中解析命令行参数,计算分块,启动并发下载。

func main() {
    if len(os.Args) != 2 {
        log.Fatal("Usage: downloader ")
    }
    url := os.Args[1]
    filename := path.Base(url)
// 获取文件大小
size, err := getFileSize(url)
if err != nil {
    log.Fatal(err)
}

// 创建空文件
file, _ := os.Create(filename)
file.Truncate(size)
file.Close()

var wg sync.WaitGroup
chunkSize := size / 4
for i := int64(0); i < 4; i++ {
    start := i * chunkSize
    end := start + chunkSize - 1
    if i == 3 {
        end = size - 1
    }
    wg.Add(1)
    go downloadRange(url, filename, Range{Start: start, End: end}, &wg)
}
wg.Wait()

log.Println("下载完成:", filename)

}

这样就实现了基础的并发下载器。你可以进一步优化:支持重试、显示进度条、恢复中断任务等。

基本上就这些。Golang 写命令行工具非常高效,加上并发原生支持,做下载器特别合适。不复杂但容易忽略的是 Range 计算和文件定位,务必确保每个块写入正确位置。