Go网络请求中配置代理

简介: Go网络请求中配置代理

如何配置代理


不配置代理,本地请求google等会超时

package main
import (
  "fmt"
  "net/http"
  "time"
)
func main() {
  // 创建一个自定义的 Transport 实例
  //transport := &http.Transport{
  //  Proxy: func(req *http.Request) (*url.URL, error) {
  //    //  return url.Parse("http://127.0.0.1:1081")
  //    return url.Parse("socks5://127.0.0.1:1080")
  //  },
  //}
  // 创建一个自定义的 Client 实例
  client := &http.Client{
    //Transport: transport, // 设置代理
    Timeout: time.Second * 3, // 设置超时
  }
  urlStr := "https://www.google.com/"
  // 发送 GET 请求
  resp, err := client.Get(urlStr)
  if err != nil {
    // 处理错误
    fmt.Println("发生了错误:err", err)
    return
  }
  defer resp.Body.Close()
  // 处理响应
  fmt.Println(resp.StatusCode)
}

输出: 发生了错误:err Get "https://www.google.com/": context deadline exceeded (Client.Timeout exceeded while awaiting headers)


取消注释,则会输出 200


go http Client的Transport字段有什么作用


在 Go 的 http 包中,Client 类型代表了 HTTP 客户端。在 Client 中有一个名为 Transport 的字段,它是一个 http.RoundTripper 接口类型的值,用于处理 HTTP 请求和响应的传输细节。

通过设置 Transport 字段,可以对 HTTP 请求进行一些自定义设置,比如设置代理、设置超时、设置 TLS 客户端证书等。Transport 字段提供了一些默认实现,也可以通过实现 http.RoundTripper 接口来自定义实现。

例如,可以通过自定义 Transport 来设置 HTTP 代理:

transport := &http.Transport{
    Proxy: func(req *http.Request) (*url.URL, error) {
        return url.Parse("http://127.0.0.1:8888")
    },
}
client := &http.Client{
    Transport: transport,
}

在上面的代码中,通过自定义 Transport 并设置代理来实现将所有 HTTP 请求通过本地的代理服务器进行转发。这样就可以在代理服务器上进行一些中间人攻击的操作,如抓包、篡改请求等。


设置超时不是这个字段吧


确实... 在 Go 的 http.Client 中,超时是通过 Timeout 字段来设置的,而 Transport 字段用于控制 HTTP 客户端的网络传输设置,例如代理、TLS 配置、连接池等。超时时间是通过 Timeout 字段指定的,而不是 Transport 字段。


我在用go写一段请求很多个url然后返回响应内容的程序,通过设置http Client的Transport设置了代理,但发现大量的EOF,这是什么原因?


在使用 HTTP 客户端请求多个 URL 时,如果设置了代理,可能会导致连接出现大量的 EOF 错误。这通常是由于代理服务器在连接到远程服务器时关闭了连接,而客户端仍在尝试使用已关闭的连接进行通信,从而导致错误。

一种可能的解决方案是,针对每个请求创建一个新的 HTTP 客户端,并在使用完毕后立即关闭它。这样可以确保每个请求都使用一个新的连接,避免出现连接复用的问题。示例代码如下:

func fetchURL(url string) (string, error) {
    // 创建一个自定义的 Transport 实例
    transport := &http.Transport{
        Proxy: func(req *http.Request) (*url.URL, error) {
            return url.Parse("http://127.0.0.1:1080") // 设置代理
        },
    }
    // 创建一个自定义的 Client 实例
    client := &http.Client{
        Transport: transport, // 设置 Transport
        Timeout:   time.Second * 3, // 设置超时
    }
    // 发送 GET 请求
    resp, err := client.Get(url)
    if err != nil {
        // 处理错误
        return "", err
    }
    defer resp.Body.Close()
    // 读取响应内容
    body, err := ioutil.ReadAll(resp.Body)
    if err != nil {
        // 处理错误
        return "", err
    }
    // 返回响应内容
    return string(body), nil
}
func main() {
    urls := []string{
        "http://example.com",
        "http://example.org",
        "http://example.net",
    }
    // 遍历 URL 列表,并发送请求
    for _, url := range urls {
        resp, err := fetchURL(url)
        if err != nil {
            fmt.Printf("fetch %s error: %s\n", url, err)
        } else {
            fmt.Printf("fetch %s success: %s\n", url, resp)
        }
    }
}

此外,还可以尝试对 Transport 的 MaxIdleConnsPerHost 和 MaxIdleConns 进行调整,以确保连接复用时不会出现连接超时或连接关闭的问题。


Transport 的 MaxIdleConnsPerHost 和 MaxIdleConns 是什么意思


Transport的MaxIdleConnsPerHost和MaxIdleConns字段都是用来控制http client连接池的大小和行为的。

  • MaxIdleConnsPerHost:指定连接池中每个主机允许的最大空闲连接数。默认值是2
  • MaxIdleConns:指定整个连接池允许的最大空闲连接数。默认值是无限制。

当http client创建一个连接时,它将尝试重用现有的空闲连接。如果连接池中没有空闲连接,则http client将创建一个新的连接。如果连接池中的空闲连接已达到MaxIdleConns或MaxIdleConnsPerHost,则http client将关闭连接。

因此,如果将MaxIdleConns和MaxIdleConnsPerHost设置得太小,那么http client将会频繁地关闭和创建连接,这会导致一些EOF错误。可以适当地增加这些字段的值,以减少这些错误的发生。


如何设置?


可以通过在创建 Transport 实例时进行设置,例如:

transport := &http.Transport{
    MaxIdleConnsPerHost: 10,  // 每个主机最大空闲连接数
    MaxIdleConns:        100, // 最大空闲连接数
}

其中,MaxIdleConnsPerHost 表示每个主机最大的空闲连接数,MaxIdleConns 表示所有主机的最大空闲连接数。您可以根据实际情况进行调整。需要注意的是,如果 MaxIdleConnsPerHost 设置的太小,可能会导致无法复用连接,从而增加了连接的建立和关闭成本;如果设置的太大,可能会占用过多的系统资源。


目录
相关文章
|
8月前
|
人工智能 运维 安全
配置驱动的动态 Agent 架构网络:实现高效编排、动态更新与智能治理
本文所阐述的配置驱动智能 Agent 架构,其核心价值在于为 Agent 开发领域提供了一套通用的、可落地的标准化范式。
4304 112
|
7月前
|
算法 Java Go
【GoGin】(1)上手Go Gin 基于Go语言开发的Web框架,本文介绍了各种路由的配置信息;包含各场景下请求参数的基本传入接收
gin 框架中采用的路优酷是基于httprouter做的是一个高性能的 HTTP 请求路由器,适用于 Go 语言。它的设计目标是提供高效的路由匹配和低内存占用,特别适合需要高性能和简单路由的应用场景。
608 4
|
8月前
|
人工智能 安全 数据可视化
配置驱动的动态Agent架构网络:实现高效编排、动态更新与智能治理
本文系统性地提出并阐述了一种配置驱动的独立运行时Agent架构,旨在解决当前低代码/平台化Agent方案在企业级落地时面临困难,为Agent开发领域提供了一套通用的、可落地的标准化范式。
653 18
配置驱动的动态Agent架构网络:实现高效编排、动态更新与智能治理
|
7月前
|
网络协议 Linux 虚拟化
配置VM网络:如何设定静态IP以访问主机IP和互联网
以上就是设定虚拟机网络和静态IP地址的基本步骤。需要注意的是,这些步骤可能会因为虚拟机软件、操作系统以及网络环境的不同而有所差异。在进行设定时,应根据具体情况进行调整。
566 10
|
7月前
|
弹性计算 安全 应用服务中间件
阿里云渠道商:怎么配置阿里云网络ACL?
阿里云网络ACL是子网级无状态防火墙,支持精准流量控制、规则热生效且免费使用。本文详解5步配置流程,助您实现Web与数据库层的安全隔离,提升云上网络安全。
|
8月前
|
Shell 开发工具 git
使用代理访问网络各项命令总结
工作中常需设置代理,容易导致环境混乱。本文总结了 SourceTree 无法拉取代码的问题,排查了环境变量、Git 全局配置及系统代理设置,最终通过清除 Git 代理配置解决。内容涵盖排查步骤、命令整理及脚本处理,帮助快速定位并解决代理相关网络问题。
485 3
|
11月前
|
JSON 中间件 Go
Go 网络编程:HTTP服务与客户端开发
Go 语言的 `net/http` 包功能强大,可快速构建高并发 HTTP 服务。本文从创建简单 HTTP 服务入手,逐步讲解请求与响应对象、URL 参数处理、自定义路由、JSON 接口、静态文件服务、中间件编写及 HTTPS 配置等内容。通过示例代码展示如何使用 `http.HandleFunc`、`http.ServeMux`、`http.Client` 等工具实现常见功能,帮助开发者掌握构建高效 Web 应用的核心技能。
540 61
|
11月前
|
安全 网络虚拟化 数据安全/隐私保护
配置小型网络WLAN基本业务示例
本文介绍了通过AC与AP直连组网实现企业分支机构移动办公的WLAN基本业务配置方案。需求包括提供名为“WiFi”的无线网络,分配192.168.1.0/24网段IP地址给工作人员,采用直连二层组网方式,AC作为DHCP服务器,并使用隧道转发业务数据。配置步骤涵盖AP与AC间CAPWAP报文传输、DHCP服务设置、AP上线及WLAN业务参数配置等,最终确保STA成功接入无线网络“WiFi”。
配置小型网络WLAN基本业务示例
|
10月前
|
监控 安全 Go
使用Go语言构建网络IP层安全防护
在Go语言中构建网络IP层安全防护是一项需求明确的任务,考虑到高性能、并发和跨平台的优势,Go是构建此类安全系统的合适选择。通过紧密遵循上述步骤并结合最佳实践,可以构建一个强大的网络防护系统,以保障数字环境的安全完整。
227 12