数据对齐

许多计算机系统对基本数据类型的合法地址做出一个限制,要求某种类型对象的地址必须是某个值K(通常是2、4、8)的倍数。

这种对齐限制简化了形成处理器和内存系统之间接口的硬件设计。例如,假设一个处理器总是从内存中取8个字节,则地址必须为8的倍数。如果我们能保证将所有的double类型数据的地址对齐成8的倍数,那么就可以用一个内存操作来读或者写值了。否则,我们可能需要执行两次内存访问,因为对象可能被分放在两个8字节内存块中。

无论数据是否对齐,x86-64硬件都能正确的工作。不过,intel还是建议要对齐数据以提高内存系统的性能。对齐原则是任何K字节的基本对象的地址必须是K的倍数。可以看到这条原则会得到如下对齐:

K 类型
1 char
2 short
4 int,float
8 long,double,char *

确保每种数据类型都是按照指定方式来组织和分配,即每种类型的对象都满足它的对齐限制,就可保证实施对齐。要注意,在32位机中使用1字节或2字节对齐,反而会降低变量访问速度。因此需要考虑处理器类型。还应考虑编译器的类型。在VC/C++和GNU GCC中都是默认是4字节对齐。

编译器在汇报代码中放入命令,指明全局数据所需的对齐。
例如:

1
.align 8

表示它后面的数据的起始地址是8的倍数。

结构体对齐

在C语言中,结构体是种复合数据类型,其构成元素既可以是基本数据类型(如int、long、float等)的变量,也可以是一些复合数据类型(如数组、结构体、联合等)的数据单元。编译器为结构体的每个成员按照其自然边界(alignment)分配空间。各成员按照它们被声明的顺序在内存中顺序存储,第一个成员的地址和整个结构的地址相同。

字节对齐的问题主要就是针对结构体。
对于包含结构体的代码,编译器可能需要在字段的分配中插入间隙,以保证每个结构元素都满足它的对齐要求。而结构体本身对它的起始地址也有一些对齐要求。

先看个简单的例子(32位,X86处理器,GCC编译器):

1
2
3
4
5
6
7
8
9
10
struct A{
int a;
char b;
short c;
};
struct B{
char b;
int a;
short c;
};

已知32位机器上各数据类型的长度为:char为1字节、short为2字节、int为4字节、long为4字节、float为4字节、double为8字节。那么上面两个结构体大小如何呢?

结果是:sizeof(strcut A)值为8;sizeof(struct B)的值却是12。

结构体A中包含一个4字节的int数据,一个1字节char数据和一个2字节short数据;B也一样。按理说A和B大小应该都是7字节。之所以出现上述结果,就是因为编译器要对数据成员在空间上进行对齐。

结构体对齐的基本概念

  • 数据类型自身的对齐值:
    char型数据自身对齐值为1字节,short型数据为2字节,int/float型为4字节,double型为8字节。

  • 结构体或类的自身对齐值:
    其成员中自身对齐值最大的那个值。

  • 指定对齐值:

#pragma pack (value)时的指定对齐值value。

  • 数据成员、结构体和类的有效对齐值:
    自身对齐值和指定对齐值中较小者,即有效对齐值=min{自身对齐值,当前指定的pack值}。

基于上面这些值,就可以方便地讨论具体数据结构的成员和其自身的对齐方式。

其中,有效对齐值N是最终用来决定数据存放地址方式的值。

有效对齐N表示“对齐在N上”,即该数据的“存放起始地址%N=0”。而数据结构中的数据变量都是按定义的先后顺序存放。第一个数据变量的起始地址就是数据结构的起始地址。结构体的成员变量要对齐存放,结构体本身也要根据自身的有效对齐值圆整(即结构体成员变量占用总长度为结构体有效对齐值的整数倍)。

下面分析这个结构体定义:

1
2
3
4
5
struct B{
char b;
int a;
short c;
};

假设B从地址空间0x0000开始存放,且指定对齐值默认为4(4字节对齐)。

成员变量b的自身对齐值是1,比默认指定对齐值4小,所以其有效对齐值为1,其存放地址0x0000符合0x0000%1=0。

成员变量a自身对齐值为4,所以有效对齐值也为4,只能存放在起始地址为0x0004~0x0007四个连续的字节空间中,符合0x0004%4=0且紧靠第一个变量。

变量c自身对齐值为2,所以有效对齐值也是2,可存放在0x00080x0009两个字节空间中,符合0x0008%2=0。所以从0x00000x0009存放的都是B内容。

再看数据结构B的自身对齐值为其变量中最大对齐值(这里是b)所以就是4,所以结构体的有效对齐值也是4。根据结构体圆整的要求, 0x00000x0009=10字节,(10+2)%4=0。所以0x0000A0x000B也为结构体B所占用。故B从0x0000到0x000B 共有12个字节,sizeof(struct B)=12。

之所以编译器在后面补充2个字节,是为了实现结构数组的存取效率。试想如果定义一个结构B的数组,那么第一个结构起始地址是0没有问题,但是第二个结构呢?按照数组的定义,数组中所有元素都紧挨着。如果我们不把结构体大小补充为4的整数倍,那么下一个结构的起始地址将是0x0000A,这显然不能满足结构的地址对齐。因此要把结构体补充成有效对齐大小的整数倍。其实对于char/short/int/float/double等已有类型的自身对齐值也是基于数组考虑的,只是因为这些类型的长度已知,所以他们的自身对齐值也就已知。

结构体的对齐准则

结构体字节对齐的细节和具体编译器实现相关,但一般而言满足三个准则:

  • 1.结构体变量的首地址能够被其最宽基本类型成员的大小所整除。
  • 2.结构体每个成员相对结构体首地址的偏移量(offset)都是成员大小的整数倍,如有需要编译器会在成员之间加上填充字节(internal adding)。
  • 3.结构体的总大小为结构体最宽基本类型成员大小的整数倍,如有需要编译器会在最末一个成员之后加上填充字节{trailing padding}。

对于以上规则的说明如下:
第一条:编译器在给结构体开辟空间时,首先找到结构体中最宽的基本数据类型,然后寻找内存地址能被该基本数据类型所整除的位置,作为结构体的首地址。将这个最宽的基本数据类型的大小作为上面介绍的对齐模数。

第二条:为结构体的一个成员开辟空间之前,编译器首先检查预开辟空间的首地址相对于结构体首地址的偏移是否是本成员大小的整数倍,若是,则存放本成员,反之,则在本成员和上一个成员之间填充一定的字节,以达到整数倍的要求,也就是将预开辟空间的首地址后移几个字节。

第三条:结构体总大小是包括填充字节,最后一个成员满足上面两条以外,还必须满足第三条,否则就必须在最后填充几个字节以达到本条要求。

对齐的隐患

数据类型转换

代码中关于对齐的隐患,很多是隐式的。例如,在强制类型转换的时候:

1
2
3
4
5
6
7
8
9
10
int main(void){  
unsigned int i = 0x12345678;

unsigned char *p = (unsigned char *)&i;
*p = 0x00;
unsigned short *p1 = (unsigned short *)(p+1);
*p1 = 0x0000;

return 0;
}

最后两句代码,从奇数边界去访问unsigned short型变量,显然不符合对齐的规定。在X86上,类似的操作只会影响效率;但在MIPS或者SPARC上可能导致error,因为它们要求必须字节对齐。

又如:

1
2
3
4
5
6
7
8
9
struct B{
char b;
int a;
short c;
};

void Func(struct B *p){
//Code
}

在函数体内如果直接访问p->a,则很可能会异常。因为MIPS认为a是int,其地址应该是4的倍数,但p->a的地址很可能不是4的倍数。

如果p的地址不在对齐边界上就可能出问题,比如p来自一个跨CPU的数据包(多种数据类型的数据被按顺序放置在一个数据包中传输),或p是经过指针移位算出来的。因此要特别注意跨CPU数据的接口函数对接口输入数据的处理,以及指针移位再强制转换为结构指针进行访问时的安全性。

解决方式如下:

  • 1.定义一个此结构的局部变量,用memmove方式将数据拷贝进来。
    1
    2
    3
    4
    5
    void Func(struct B *p){
    struct B tData;
    memmove(&tData, p, sizeof(struct B));
    //此后可安全访问tData.a,因为编译器已将tData分配在正确的起始地址上
    }
    注意:如果能确定p的起始地址没问题,则不需要这么处理;如果不能确定(比如跨CPU输入数据、或指针移位运算出来的数据要特别小心),则需要这样处理。
  • 2.用#pragma pack (1)将STRUCT_T定义为1字节对齐方式。
处理器间数据通信

处理器间通过消息(对于C/C++而言就是结构体)进行通信时,需要注意字节对齐以及字节序的问题。

大多数编译器提供内存对其的选项供用户使用。这样用户可以根据处理器的情况选择不同的字节对齐方式。例如C/C++编译器提供的#pragma pack(n) n=1,2,4等,让编译器在生成目标文件时,使内存数据按照指定的方式排布在1,2,4等字节整除的内存地址处。

然而在不同编译平台或处理器上,字节对齐会造成消息结构长度的变化。编译器为了使字节对齐可能会对消息结构体进行填充,不同编译平台可能填充为不同的形式,大大增加处理器间数据通信的风险。

下面以32位处理器为例,提出一种内存对齐方法以解决上述问题。

对于本地使用的数据结构,为提高内存访问效率,采用四字节对齐方式;同时为了减少内存的开销,合理安排结构体成员的位置,减少四字节对齐导致的成员之间的空隙,降低内存开销。

对于处理器之间的数据结构,需要保证消息长度不会因不同编译平台或处理器而导致消息结构体长度发生变化,使用一字节对齐方式对消息结构进行紧缩;为保证处理器之间的消息数据结构的内存访问效率,采用字节填充的方式自己对消息中成员进行四字节对齐。

数据结构的成员位置要兼顾成员之间的关系、数据访问效率和空间利用率。顺序安排原则是:四字节的放在最前面,两字节的紧接最后一个四字节成员,一字节紧接最后一个两字节成员,填充字节放在最后。

举例如下:

1
2
3
4
5
6
7
typedef struct tag_T_MSG{
long ParaA;
long ParaB;
short ParaC;
char ParaD;
char Pad; //填充字节
}T_MSG;

排查对齐问题

如果出现对齐或者赋值问题可查看:

  • 1.编译器的字节序大小端设置;
  • 2.处理器架构本身是否支持非对齐访问;
  • 3.如果支持看设置对齐与否,如果没有则看访问时需要加某些特殊的修饰来标志其特殊访问操作。

更改对齐方式

主要是更改C编译器的缺省字节对齐方式。

在缺省情况下,C编译器为每一个变量或是数据单元按其自然对界条件分配空间。
一般地,可以通过下面的方法来改变缺省的对界条件:

  • 使用伪指令#pragma pack(n):
    C编译器将按照n个字节对齐;
  • 使用伪指令#pragma pack():
    取消自定义字节对齐方式。
    示例:
    1
    2
    3
    4
    5
    6
    7
    #pragma pack(2)  //指定按2字节对齐
    struct C{
    char b;
    int a;
    short c;
    };
    #pragma pack() //取消指定对齐,恢复缺省对齐

另外,还有如下的一种方式(GCC特有语法):

  • __attribute((aligned (n))):
    让所作用的结构成员对齐在n字节自然边界上。如果结构体中有成员的长度大于n,则按照最大成员的长度来对齐。

  • __attribute__ ((packed)):
    取消结构在编译过程中的优化对齐,按照实际占用字节数进行对齐。

示例,GNU GCC编译器中按1字节对齐可写为以下形式:

1
2
3
4
5
6
#define GNUC_PACKED __attribute__((packed))
struct C{
char b;
int a;
short c;
}GNUC_PACKED;

此时sizeof(struct C)的值为7。

注意:在VC/C++中,栈的对齐方式不受结构体成员对齐选项的影响。总是保持对齐且对齐在4字节边界上。

位域对齐

有些信息在存储时,并不需要占用一个完整的字节,而只需占几个或一个二进制位。例如在存放一个开关量时,只有0和1两种状态,用一位二进位即可。为了节省存储空间和处理简便,C语言提供了一种数据结构,称为“位域”或“位段”。

位域是一种特殊的结构成员或联合成员(即只能用在结构或联合中),用于指定该成员在内存存储时所占用的位数,从而在机器内更紧凑地表示数据。每个位域有一个域名,允许在程序中按域名操作对应的位。这样就可用一个字节的二进制位域来表示几个不同的对象。

位域定义与结构定义类似,其形式为:

1
2
3
struct 结构体标签{
类型说明符位域名:位域长度;
}结构体名;

位域允许用各种格式输出。

位域在本质上就是一种结构类型,不过其成员是按二进位分配的。位域变量的说明与结构变量说明的方式相同,可先定义后说明、同时定义说明或直接说明。

位域的使用主要为下面两种情况:

  • 1.当机器可用内存空间较少而使用位域可大量节省内存时。如把结构作为大数组的元素时。
  • 2.当需要把一结构体或联合映射成某预定的组织结构时。如需要访问字节内的特定位时。
位域对齐准则

位域成员不能单独被取sizeof值。下面主要讨论含有位域的结构体的sizeof。

C99规定int、unsigned int和bool可以作为位域类型,但编译器几乎都对此作了扩展,允许其它类型的存在。位域作为嵌入式系统中非常常见的一种编程工具,优点在于压缩程序的存储空间。

其对齐规则大致为:

  • 1.如果相邻位域字段的类型相同,且其位宽之和小于类型的sizeof大小,则后面的字段将紧邻前一个字段存储,直到不能容纳为止;
  • 2.如果相邻位域字段的类型相同,但其位宽之和大于类型的sizeof大小,则后面的字段将从新的存储单元开始,其偏移量为其类型大小的整数倍;
  • 3.如果相邻的位域字段的类型不同,则各编译器的具体实现有差异,VC6采取不压缩方式,Dev-C++和GCC采取压缩方式;
  • 4.如果位域字段之间穿插着非位域字段,则不进行压缩;
  • 5.整个结构体的总大小为最宽基本类型成员大小的整数倍,而位域则按照其最宽类型字节数对齐。

例1:

1
2
3
4
5
struct BitField{
char element1 : 1;
char element2 : 4;
char element3 : 5;
};

位域类型为char,第1个字节仅能容纳下element1和element2,所以element1和element2被压缩到第1个字节中,而element3只能从下一个字节开始。因此sizeof(BitField)的结果为2。

例2:

1
2
3
4
5
struct BitField1{
char element1 : 1;
short element2 : 5;
char element3 : 7;
};

由于相邻位域类型不同,在VC6中其sizeof为6,在Dev-C++中为2。

例3:

1
2
3
4
5
struct BitField2{
char element1 : 3;
char element2 ;
char element3 : 5;
};

非位域字段穿插在其中,不会产生压缩,在VC6和Dev-C++中得到的大小均为3。

例4:

1
2
3
4
5
6
7
8
struct StructBitField{
int element1 : 1;
int element2 : 5;
int element3 : 29;
int element4 : 6;
char element5 :2;
char stelement; //在含位域的结构或联合中也可同时说明普通成员
};

位域中最宽类型int的字节数为4,因此结构体按4字节对齐,在VC6中其sizeof为16。

位域操作注意事项

关于位域操作有几点需要注意:

  • 1.位域的地址不能访问,因此不允许将&运算符用于位域。不能使用指向位域的指针也不能使用位域的数组(数组是种特殊指针)。

例如,scanf函数无法直接向位域中存储数据:

1
2
3
4
5
int main(void){  
struct BitField1 tBit;
scanf("%d", &tBit.element2); //error: cannot take address of bit-field 'element2'
return 0;
}

可用scanf函数将输入读入到一个普通的整型变量中,然后再赋值给tBit.element2。

  • 2.位域不能作为函数返回的结果。
  • 3.位域以定义的类型为单位,且位域的长度不能够超过所定义类型的长度。例如定义int a:33是不允许的。
  • 4.位域可以不指定位域名,但不能访问无名的位域。

位域可以无位域名,只用作填充或调整位置,占位大小取决于该类型。例如,char :0表示整个位域向后推一个字节,即该无名位域后的下一个位域从下一个字节开始存放,同理short :0和int :0分别表示整个位域向后推两个和四个字节。

当空位域的长度为具体数值N时(如int :2),该变量仅用来占位N位。
例:

1
2
3
4
5
struct BitField3{
char element1 : 3;
char :6;
char element3 : 5;
};

结构体大小为3。因为element1占3位,后面要保留6位而char为8位,所以保留的6位只能放到第2个字节。同样element3只能放到第3字节。

1
2
3
4
5
struct BitField4{
char element1 : 3;
char :0;
char element3 : 5;
};

长度为0的位域告诉编译器将下一个位域放在一个存储单元的起始位置。如上,编译器会给成员element1分配3位,接着跳过余下的4位到下一个存储单元,然后给成员element3分配5位。故上面的结构体大小为2。

  • 5.位域的表示范围:
    位域的赋值不能超过其可以表示的范围;
    位域的类型决定该编码能表示的值的结果。
    对于第二点,若位域为unsigned类型,则直接转化为正数;若非unsigned类型,则先判断最高位是否为1,若为1表示补码,则对其除符号位外的所有位取反再加一得到最后的结果数据(原码)。如:

    1
    2
    1 unsigned int p:3 = 111;   //p表示7
    2 int p:3 = 111; //p 表示-1,对除符号位之外的所有位取反再加一
  • 6.带位域的结构在内存中各个位域的存储方式取决于编译器,既可从左到右也可从右到左存储。

  • 7.位域的实现会因编译器的不同而不同,使用位域会影响程序可移植性。因此除非必要否则最好不要使用位域。

  • 8.尽管使用位域可以节省内存空间,但却增加了处理时间。当访问各个位域成员时,需要把位域从它所在的字中分解出来或反过来把一值压缩存到位域所在的字位中。

文章整理自:
C语言字节对齐问题详解