备案控制台
开发者社区 弹性计算 正文

go语言中进行不安全的类型操作

2024-05-20 101
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
云服务器 ECS，每月免费额度200元 3个月
推荐场景：
部署并使用Docker 快速搭建云上博客 搭建微信小程序
云服务器ECS，u1 2核4GB 1个月
推荐场景：
搭建2048小游戏 搭建turtle画布 搭建wiki知识库
云服务器（按量付费），48vCPU 186GiB
简介： 【5月更文挑战第10天】Go语言中的`unsafe`包提供了一种不安全但强大的方式来处理类型转换和底层内存操作。包含两个文档用途的类型和八个函数，本文也比较了不同变量和结构体的大小与对齐系数，强调了字段顺序对内存分配的影响。

1 简单介绍

都知道c语言的类型是不安全，在go中如何做类型的突破？标准答案就是unsafe标准包。

question_ans.png

在go的1.20中，标准库的unsafe包很小, 二个结构体类型，八个函数，在一个文件中。

    package unsage

    type ArbitraryType int
    type IntegerType int
    type Pointer *ArbitraryType

    func Sizeof(x ArbitraryType) uintptr
    func Offsetof(x ArbitraryType) uintptr
    func Alignof(x ArbitraryType) uintptr

    func Add(ptr Pointer, len IntegerType) Pointer
    func Slice(ptr *ArbitraryType, len IntegerType) []ArbitraryType
    func SliceData(slice []ArbitraryType) *ArbitraryType
    func String(ptr *byte, len IntegerType) string
    func StringData(str string) *byte

unsafe包定义了 二个类型和 八个函数，二个类型 ArbitraryType 和 IntegerType 不真正属于unsafe包，我们在Go代码中并不能使用它们定义变量。

它表示一个任意表达式的类型，仅用于文档目的，Go编译器会对其做特殊处理。

虽然位于 unsafe，但是 Alignof，Offsetof，Sizeof，这三个函数的使用是绝对安全的。 以至于Go设计者Rob pike提议移走它们。

这三个函数的共同点是 都返回 uintptr 类型。

之所以使用 uintptr 类型而不是 uint64 整型，因为这三个函数更多应用于 有 unsafe.Pointer和 uintptr类型参数的指针运算。

采用uintptr做为返回值类型可以减少指针运算表达式的显式类型转换。

2 获取大小 Sizeof

Sizeof 用于获取一个表达式的大小。 该函数获取一个任意类型的表达式 x，并返回 按bytes计算 的大小，假设变量v，并且v通过 v =x声明。

Sizeof 接收任何类型的表达式x，并返回以bytes字节为单位的大小， 并且假设变量v是通过var v = x声明的。该大小不包括任何可能被x引用的内存。

例如，如果x是一个切片，Sizeof返回切片描述符的大小，而不是该片所引用的内存的大小。
对于一个结构体，其大小包括由字段对齐引入的任何填充。

如果参数x的类型没有变化，不具有可变的大小，Sizeof的返回值是一个Go常数不可变值 。
（如果一个类型是一个类型参数，或者是一个数组，则该类型具有可变的大小或结构类型中的元素大小可变）。

示例：

    var (
        i  int = 5
        a      = [10]int{}
        ss     = a[:]
        f  FuncFoo

        preValue = map[string]uintptr{
            "i":       8,
            "a":       80,
            "ss":      24,
            "f":       48,
            "f.c":     10,
            "int_nil": 8,
        }
    )

    type FuncFoo struct {
        a int
        b string
        c [10]byte
        d float64
    }


    func TestFuncSizeof(t *testing.T) {
        defer setUp(t.Name())()
        fmt.Printf("\tExecute test:%v\n", t.Name())

        if unsafe.Sizeof(i) != preValue["i"] {
            ErrorHandler(fmt.Sprintf("size: %v not equal %v", unsafe.Sizeof(i), preValue["i"]), t)
        }

        if unsafe.Sizeof(a) != preValue["a"] {
            ErrorHandler(fmt.Sprintf("size: %v not equal %v", unsafe.Sizeof(i), preValue["a"]), t)

        }

        if unsafe.Sizeof(ss) != preValue["ss"] {
            ErrorHandler(fmt.Sprintf("size: %v not equal %v", unsafe.Sizeof(i), preValue["ss"]), t)

        }
        if unsafe.Sizeof(f) != preValue["f"] {
            ErrorHandler(fmt.Sprintf("size: %v not equal %v", unsafe.Sizeof(i), preValue["f"]), t)

        }
        if unsafe.Sizeof(f.c) != preValue["f.c"] {
            ErrorHandler(fmt.Sprintf("size: %v not equal %v", unsafe.Sizeof(i), preValue["f.c"]), t)

        }
        if unsafe.Sizeof(unsafe.Sizeof((*int)(nil))) != preValue["int_nil"] {
            ErrorHandler(fmt.Sprintf("size: %v not equal %v", unsafe.Sizeof(i), preValue["int_nil"]), t)

        }
    }

Sizeof 函数不支持直接传入无类型信息的nil值，如下错误

    unsafe.Sizeof(nil)

我们必须显式告知 Sizeof 传入的nil究竟是那个类型，

    unsafe.Sizeof(unsafe.Sizeof((*int)(nil)))

必须显式告知nil是哪个类型的nil，这就是传入一个值 nil 但是类型明确的变量。

3 对其系数 Alignof

对齐系数 Alignof 用于获取一个表达式的内地地址对齐系数，对齐系数 alignment factor 是一个计算机体系架构 computer architecture 层面的术语。

在不同计算机体系中，处理器对变量地址都有对齐要求，即变量的地址必须可被该变量的对齐系数整除。

它接收一个任何类型的表达式x，并返回所需的排列方式 假设变量v是通过var v = x声明的。
它是m一个最大的值。

例1，

        a      = [10]int{}

        reflect.TypeOf(x).Align()  //8
        unsafe.Alignof(a)   //8

它与reflect.TypeOf(x).Align()返回的值相同。

作为一个特例，如果一个变量s是结构类型，f是一个字段，那么Alignof(s.f)将返回所需的对齐方式。

该类型的字段在结构中的位置。这种情况与reeflect.TypeOf(s.f).FieldAlign()返回的值。

Alignof的返回值是一个Go常数，如果参数的类型不具有可变大小。
（关于可变大小类型的定义，请参见[Sizeof]的描述）。

继上 例2：

      var (
        i  int = 5
        a      = [10]int{}
        ss     = a[:]
        f  FuncFoo
        zhs = "文"

        preValue = map[string]uintptr{
            "i":       8,
            "a":       80,
            "ss":      24,
            "f":       48,
            "f.c":     10,
            "int_nil": 8,
        }
    )

    func TestAlignof(t *testing.T) {

        defer setUp(t.Name())()
        fmt.Printf("\tExecute test:%v\n", t.Name())

        var x int 

        b := uintptr(unsafe.Pointer(&x))%unsafe.Alignof(x) == 0
        t.Log("alignof:", b)

        if unsafe.Alignof(i) != preValue["i"] {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), preValue["int_nil"]), t)

        }

        if unsafe.Alignof(a) != preValue["i"] {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), preValue["int_nil"]), t)

        }

        if unsafe.Alignof(ss) != preValue["i"] {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), preValue["int_nil"]), t)

        }

        if unsafe.Alignof(f.a) != preValue["i"] {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), preValue["int_nil"]), t)

        }

        if unsafe.Alignof(f) != preValue["i"] {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), preValue["int_nil"]), t)

        }

中文对齐系数 为 8

        if unsafe.Alignof(zhs) != preValue["i"] {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), preValue["i"]), t)
        }

空结构体对齐系数 1

        if unsafe.Alignof(struct{}{}) != 1 {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), 1), t)
        }

byte 数组对齐系数为 1

        if unsafe.Alignof(sbyte) != 1 {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), 1), t)
        }

长度为0 的数组，与其元素的对齐系数相同

        if unsafe.Alignof([0]int{}) != 8 {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), 8), t)
        }

长度为0 的数组，与其元素的对齐系数相同

        if unsafe.Alignof([0]struct{}{}) != 1 {
            ErrorHandler(fmt.Sprintf("Alignof: %v not equal %v", unsafe.Sizeof(i), 1), t)
        }

    }

执行它：

    go test -timeout 30s -run ^TestAlignof$ ./unsafe_case.go

对齐系数 alignment factor，变量的地址必须可被该变量的对齐系数整除。

4 使用对齐的例子

我们使用相同字段，分别创建两个结构体属性分别为对齐或不对齐，帮助 go 更好地分配内存和 使用cpu读取，查看效果

    type RandomResource struct {
        Cloud               string // 16 bytes
        Name                string // 16 bytes
        HaveDSL             bool   //  1 byte
        PluginVersion       string // 16 bytes
        IsVersionControlled bool   //  1 byte
        TerraformVersion    string // 16 bytes
        ModuleVersionMajor  int32  //  4 bytes
    }

    type OrderResource struct {
        ModuleVersionMajor  int32  //  4 bytes
        HaveDSL             bool   //  1 byte
        IsVersionControlled bool   //  1 byte
        Cloud               string // 16 bytes
        Name                string // 16 bytes
        PluginVersion       string // 16 bytes
        TerraformVersion    string // 16 bytes

    }

字段 存储使用的空间与 字段值没有关系

         var d RandomResource
         d.Cloud = "aws-singapore"
         ...

         InfoHandler(fmt.Sprintf("随机顺序属性的结构体内存 总共占用 StructType: %T => [%d]\n", d, unsafe.Sizeof(d)), m)


         var te = OrderResource{}
         te.Cloud = "aws-singapore"  
         ...
         m.Logf("属性对齐的结构体内存 总共占用  StructType:d %T => [%d]\n", te, unsafe.Sizeof(te))

然后复制结构体，并改变其属性值，查看存储空间和值的长度变化

        te2 := te
        te2.Cloud = "ali2"
        m.Logf("结构体2 te2:%#v\n", &te2)
        m.Logf("结构体1 te:%#v\n", &te)

        m.Log("改变 te3 将同时改变 te,te3 指向了 te的地址")
        m.Log("复制了对齐结构体，并重新赋值，用于查看字段长度。")
        m.Log("(*te).Cloud:", (te).Cloud, "*te.Cloud", te.Cloud, "te size:", unsafe.Sizeof(te.Cloud), "te value len:", len(te.Cloud))

        te3 := &te
        te3.Cloud = "HWCloud2"

        m.Log("(*te3).Cloud:", (*te3).Cloud, "*te3.Cloud", te3.Cloud, "te3 size:", unsafe.Sizeof(te3.Cloud), "te3 value len:", len(te3.Cloud))
        m.Logf("字段 Cloud:%v te3:%p\n", (*te3).Cloud, te3)
        m.Logf("字段 Cloud:%v order:%v te:%v, addr:%p\n", te.Cloud, (te).Cloud, te, &te)

执行它，

    go test -v .\case_test.go

得到以下输出:

随机顺序属性的结构体内存 总共占用 StructType: main.Raesource => [88]

    ...

属性对齐的结构体内存 总共占用 StructType:d main.OrderResource => [72]

改变 te3 将同时改变 te,te3 指向了 te的地址

    case_test.go:186: 复制了对齐结构体，并重新赋值，用于查看字段长度。

    case_test.go:188: (*te).Cloud: aws-singapore *te.Cloud aws-singapore te size: 16 te Alignof: 8 te value len: 13 reflect Align len and field Align len: 8 8
    case_test.go:190: (*te2).Cloud: ali2 *te2.Cloud aws-singapore te2 size: 16 te2 Alignof: 8 te2 value len: 4 reflect Align len and field Align len: 8 8
    case_test.go:196: (*te3).Cloud: HWCloud2-asia-southeast-from-big-plant-place-air-local-video-service-picture-merge-from-other-all-company *te3.Cloud HWCloud2-asia-southeast-from-big-plant-place-air-local-video-service-picture-merge-from-other-all-company te3 
size: 16 te3 Alignof: 8 te3 value len: 105 reflect Align len and field Align len: 8 8

    case_test.go: 结构体1字段 Cloud:HWCloud2-asia-southeast-from-big-plant-place-air-local-video-service-picture-merge-from-other-all-company te2:0xc0000621e0
    case_test.go:198: 结构体2字段 Cloud:ali2 te2:0xc000062280
    case_test.go:199: 结构体3字段 Cloud:HWCloud2-asia-southeast-from-big-plant-place-air-local-video-service-picture-merge-from-other-all-company te3:0xc0000621e0

5 小结

我们介绍了unsafe包的检查功能，在初始化时，go结构体已经分配了对于的内存空间，

一个结构体而言，结构体属性为随机顺序的，go将分配更多内存空间。 即使是复制后。

比如 结构体的Cloud 字段。

Sizeof表达式大小总是16，
而对齐系数 Alignof 大小总是8，
而在不同的结构体实例中值长度可以为 4，13， 105.

本节源码地址：

https://github.com/hahamx/examples/tree/main/alg_practice/2_sys_io
文章标签：
Go
C语言
安全
存储
编译器
关键词：
Go语言
Go安全
Go操作
Go类型
兀码
目录
相关文章
添馨科技
|
2天前
|
Go 索引
Go 语言切片(Slice)
Go 语言切片(Slice)
添馨科技
7 1
添馨科技
|
2天前
|
存储 Go Python
Go 语言结构体
Go 语言结构体
添馨科技
6 0
添馨科技
|
2天前
|
存储 Go
Go 语言指针
Go 语言指针
添馨科技
6 0
兀码
|
2天前
|
JSON Java Go
使用go语言中的内置库调试性能
【5月更文挑战第21天】本文介绍Go 语言提供了内置的 expvar 模块来输出度量数据，帮助定位性能瓶颈。与 pprof 不同，expvar 专注于应用的宏观状态，通过 HTTP 接口 `/debug/vars` 提供标准的 JSON 格式数据，包括自定义度量和内存统计等。通过 expvar，开发者可以轻松监控应用状态，如消息处理速率、内存使用等，而无需像 C++ 或 Java 那样手动实现。
兀码
19 0
使用go语言中的内置库调试性能
添馨科技
|
3天前
|
编译器 Go 索引
Go 语言数组
Go 语言数组
添馨科技
9 1
添馨科技
|
3天前
|
Go CDN
Go 语言变量作用域
Go 语言变量作用域
添馨科技
13 4
添馨科技
|
3天前
|
编译器 Go
Go 语言函数
Go 语言函数
添馨科技
13 7
兀码
|
3天前
|
自然语言处理 算法 关系型数据库
再谈go语言中字符转换效率问题
【5月更文挑战第20天】本文讨论了Go语言中类型转换的效率，特别是`byte`、`rune`和`string`之间的转换。`性能测试显示，从`[]byte`到`string`的转换，新版与旧版性能相当；但从`string`到`[]byte`，旧版快于新版两倍。此外，文章提到了Unicode校对算法（UCA）的版本差异可能带来的排序和大小写转换不一致问题，这在多语言环境中需要注意。
兀码
19 1
再谈go语言中字符转换效率问题
兀码
|
3天前
|
编译器 Go 索引
浅谈go语言中的符文字符处理工具
【5月更文挑战第20天】本文简述了Go 1.20之后的rune符文处理工具和函数，`unsafe`包新增了SliceData、String和StringData函数，支持直接将slice转换为array，明确了数组和结构体比较顺序。
兀码
19 1
浅谈go语言中的符文字符处理工具
添馨科技
|
4天前
|
Go
Go 语言循环语句
Go 语言循环语句
添馨科技
10 0

弹性计算

热门文章

最新文章

  • 1
    阿里云安全类云产品，验证码使用时滑动验证流程及线上问题排查
  • 2
    性价比提升50%，阿里云HPC优化实例hpc8ae正式商业化
  • 3
    【预告】阿里云计算新品速递：HPC优化实例商业化发布
  • 4
    玩转ECS - 2018修炼手册（一）
  • 5
    ECS 新版移动端购买发布啦！！！
  • 6
    阿里云基础产品技术月刊 2019年4月
  • 7
    必读！教你一键迁移至阿里云
  • 8
    弹性计算双周刊 第 5 期
  • 9
    阿里云智能基础产品技术月刊 2019年5月
  • 10
    【玩转AIGC系列】基于AIACC加速器快速实现Stable Diffusion生成特定物体图片
  • 1
    Alpaca模型在阿里云GPU服务器上的部署
    8
  • 2
    【云故事探索】NO.3：智慧出行，云思妙想，看享道出行如何打造智能交通新业态
    26
  • 3
    【云故事探索】NO.3：智慧出行，云思妙想，看享道出行如何打造智能交通新业态
    24
  • 4
    【云故事探索】案例征集 · 5月获奖名单
    26
  • 5
    租用阿里云企业级云服务器最新收费标准与活动价格参考
    28
  • 6
    服务器数据恢复—EqualLogic存储硬盘出现故障的数据恢复案例
    62
  • 7
    【技术分享】On-premises / Cloud
    61
  • 8
    阿里云SSL证书免费版申请流程，收费版证书收费标准及证书类型选择参考
    135
  • 9
    性价比提升50%，阿里云HPC优化实例hpc8ae正式商业化
    34741
  • 10
    阿里云安全类云产品，验证码使用时滑动验证流程及线上问题排查
    64416

    • 相关课程

    更多
  • Go语言核心编程 - 数据结构和算法
  • Go语言核心编程 - 基础语法、数组、切片、Map
  • Go语言核心编程 - 面向对象、文件、单元测试、反射、TCP编程
  • Go语言完全自学手册图文教程
  • Python语言基础 - 函数、面向对象、异常处理
  • Python语言基础 - 语法入门

    • 相关电子书

    更多
  • Go语言路上踩过的坑
  • gohbase ：HBase go客户端
  • Go构建日请求千亿级微服务实践

    • 相关实验场景

    更多
  • 函数类型-1：基本语法
  • 语言入门-2：基本类型
  • 使用Java面向对象编写网络通信程序应用
  • Python网络通信程序典型应用
    • 下一篇
    2024年阿里云免费云服务器及学生云服务器申请教程参考