排序规则功能允许为每个列甚至每个操作指定数据的排序顺序和字符分类行为。这缓解了数据库创建后无法更改其LC_COLLATE
和LC_CTYPE
设置的限制。
从概念上讲,每个可排序数据类型的表达式都有一个排序规则。(内置的可排序数据类型是text
、varchar
和char
。用户定义的基本类型也可以标记为可排序的,当然,域在可排序数据类型上也是可排序的。)如果表达式是列引用,则表达式的排序规则是该列的定义排序规则。如果表达式是常量,则排序规则是该常量数据类型的默认排序规则。更复杂表达式的排序规则是从其输入的排序规则派生的,如下所述。
表达式的排序规则可以是“默认”排序规则,这意味着为数据库定义的区域设置。表达式的排序规则也可能是未确定的。在这种情况下,需要了解排序规则的排序操作和其他操作将失败。
当数据库系统必须执行排序或字符分类时,它将使用输入表达式的排序规则。例如,这发生在ORDER BY
子句和函数或运算符调用(如<
)中。要应用于ORDER BY
子句的排序规则只是排序键的排序规则。要应用于函数或运算符调用的排序规则是从参数派生的,如下所述。除了比较运算符之外,排序规则还会受到大小写转换函数(如lower
、upper
和initcap
)的影响;模式匹配运算符;以及to_char
和相关函数。
对于函数或运算符调用,通过检查参数排序规则派生的排序规则在运行时用于执行指定的操作。如果函数或运算符调用的结果是可排序数据类型,则该排序规则也将在解析时用作函数或运算符表达式的定义排序规则,以防周围表达式需要了解其排序规则。
表达式的排序规则派生可以是隐式的或显式的。这种区别会影响在表达式中出现多个不同排序规则时如何组合排序规则。当使用COLLATE
子句时,会发生显式排序规则派生;所有其他排序规则派生都是隐式的。当需要组合多个排序规则时,例如在函数调用中,将使用以下规则
如果任何输入表达式具有显式排序规则派生,则输入表达式中所有显式派生的排序规则必须相同,否则会引发错误。如果存在任何显式派生的排序规则,则该排序规则是排序规则组合的结果。
否则,所有输入表达式必须具有相同的隐式排序规则派生或默认排序规则。如果存在任何非默认排序规则,则该排序规则是排序规则组合的结果。否则,结果为默认排序规则。
如果输入表达式之间存在冲突的非默认隐式排序规则,则组合被认为具有未确定的排序规则。除非被调用的特定函数需要了解它应该应用的排序规则,否则这不是错误条件。如果确实如此,则将在运行时引发错误。
例如,考虑此表定义
CREATE TABLE test1 ( a text COLLATE "de_DE", b text COLLATE "es_ES", ... );
然后在
SELECT a < 'foo' FROM test1;
中,<
比较根据de_DE
规则执行,因为表达式将隐式派生的排序规则与默认排序规则组合在一起。但在
SELECT a < ('foo' COLLATE "fr_FR") FROM test1;
中,比较使用fr_FR
规则执行,因为显式排序规则派生覆盖了隐式派生。此外,鉴于
SELECT a < b FROM test1;
解析器无法确定要应用哪个排序规则,因为a
和b
列具有冲突的隐式排序规则。由于<
运算符确实需要知道要使用哪个排序规则,因此这将导致错误。可以通过将显式排序规则规范附加到任一输入表达式来解决该错误,因此
SELECT a < b COLLATE "de_DE" FROM test1;
或等效地
SELECT a COLLATE "de_DE" < b FROM test1;
另一方面,结构上类似的情况
SELECT a || b FROM test1;
不会导致错误,因为||
运算符不关心排序规则:无论排序规则如何,其结果都相同。
分配给函数或运算符组合输入表达式的排序规则也被认为适用于函数或运算符的结果,如果函数或运算符传递可排序数据类型的结果。因此,在
SELECT * FROM test1 ORDER BY a || 'foo';
中,排序将根据de_DE
规则完成。但是此查询
SELECT * FROM test1 ORDER BY a || b;
导致错误,因为即使||
运算符不需要知道排序规则,ORDER BY
子句也需要知道。与之前一样,可以通过显式排序规则规范来解决冲突
SELECT * FROM test1 ORDER BY a || b COLLATE "fr_FR";
排序规则是 SQL 模式对象,它将 SQL 名称映射到操作系统中安装的库提供的区域设置。排序规则定义有一个提供程序,用于指定哪个库提供区域设置数据。一个标准提供程序名称是libc
,它使用操作系统 C 库提供的区域设置。这些是操作系统提供的多数工具使用的区域设置。另一个提供程序是icu
,它使用外部 ICU库。只有在构建 PostgreSQL 时配置了对 ICU 的支持,才能使用 ICU 区域设置。
由libc
提供的排序规则对象映射到LC_COLLATE
和LC_CTYPE
设置的组合,如setlocale()
系统库调用所接受。(顾名思义,排序规则的主要目的是设置LC_COLLATE
,它控制排序顺序。但在实践中,很少需要具有与LC_COLLATE
不同的LC_CTYPE
设置,因此将这些设置收集在一个概念下比为每个表达式创建另一个设置LC_CTYPE
的基础设施更方便。)此外,libc
排序规则与字符集编码相关联(请参阅第 23.3 节)。相同的排序规则名称可能存在于不同的编码中。
由icu
提供的排序规则对象映射到 ICU 库提供的命名排序器。ICU 不支持单独的“排序”和“ctype”设置,因此它们始终相同。此外,ICU 排序规则与编码无关,因此在数据库中始终只有一个给定名称的 ICU 排序规则。
在所有平台上,都支持以下排序规则
unicode
此 SQL 标准排序规则使用 Unicode 排序算法和默认 Unicode 排序元素表进行排序。它在所有编码中都可用。需要 ICU 支持才能使用此排序规则,并且如果 Postgres 使用不同版本的 ICU 构建,则行为可能会发生变化。(此排序规则的行为与 ICU 根区域设置相同;请参阅und-x-icu
(表示“未定义”)。)
ucs_basic
此 SQL 标准排序规则使用 Unicode 代码点值而不是自然语言顺序进行排序,并且只有 ASCII 字母“A
”到“Z
”被视为字母。该行为在所有版本中都是高效且稳定的。仅适用于编码UTF8
。(此排序规则的行为与UTF8
编码中 libc 区域设置规范C
相同。)
pg_c_utf8
此排序规则按 Unicode 代码点值而不是自然语言顺序排序。对于函数lower
、initcap
和upper
,它使用 Unicode 简单大小写映射。对于模式匹配(包括正则表达式),它使用 Unicode 的 POSIX 兼容变体兼容属性。在Postgres主要版本内,行为高效且稳定。此排序规则仅适用于编码UTF8
。
C
(等效于POSIX
)C
和POSIX
排序规则基于“传统 C”行为。它们按字节值而不是自然语言顺序排序,并且只有 ASCII 字母“A
”到“Z
”被视为字母。对于给定的数据库编码,该行为在所有版本中都是高效且稳定的,但不同数据库编码之间的行为可能会有所不同。
default
默认的校对规则会选择在数据库创建时指定的语言环境。
根据操作系统的支持情况,可能还提供其他校对规则。这些其他校对规则的效率和稳定性取决于校对规则提供程序、提供程序版本和语言环境。
如果操作系统支持在单个程序中使用多个语言环境(newlocale
和相关函数),或者配置了 ICU 支持,那么在数据库集群初始化时,initdb
会根据它在操作系统中找到的所有语言环境,将系统目录 pg_collation
中填充校对规则。
要检查当前可用的语言环境,可以使用查询 SELECT * FROM pg_collation
,或在 psql 中使用命令 \dOS+
。
例如,操作系统可能提供名为 de_DE.utf8
的语言环境。initdb
随后会为编码 UTF8
创建一个名为 de_DE.utf8
的校对规则,其中 LC_COLLATE
和 LC_CTYPE
都设置为 de_DE.utf8
。它还会创建一个校对规则,其名称中删除了 .utf8
标记。因此,您也可以使用名为 de_DE
的校对规则,这样写起来不那么麻烦,并且使名称不太依赖于编码。请注意,尽管如此,初始校对规则名称集仍然取决于平台。
libc
提供的默认校对规则集直接映射到操作系统中安装的语言环境,可以使用命令 locale -a
列出这些语言环境。如果需要具有不同 LC_COLLATE
和 LC_CTYPE
值的 libc
校对规则,或者如果在数据库系统初始化后在操作系统中安装了新的语言环境,则可以使用 CREATE COLLATION 命令创建新的校对规则。还可以使用 pg_import_system_collations()
函数批量导入新的操作系统语言环境。
在任何特定数据库中,只有使用该数据库编码的校对规则才值得关注。 pg_collation
中的其他条目将被忽略。因此,在给定数据库中,即使剥离后的校对规则名称(如 de_DE
)在全局范围内不唯一,也可以认为它是唯一的。建议使用剥离后的校对规则名称,因为如果决定更改为其他数据库编码,这样您需要更改的内容就会减少一项。但是请注意,无论数据库编码如何,都可以使用 default
、C
和 POSIX
校对规则。
PostgreSQL 认为即使具有相同属性,不同的校对规则对象也是不兼容的。因此,例如,
SELECT a COLLATE "C" < b COLLATE "POSIX" FROM test1;
即使 C
和 POSIX
校对规则的行为相同,也会导致错误。因此,不建议混合使用剥离和未剥离的校对规则名称。
使用 ICU,枚举所有可能的语言环境名称是不合理的。ICU 使用特定的语言环境命名系统,但命名语言环境的方式远多于实际存在的不同语言环境。initdb
使用 ICU API 提取一组不同的语言环境,以填充初始校对规则集。由 ICU 提供的校对规则在 SQL 环境中创建,名称采用 BCP 47 语言标记格式,并在后面附加 “专用使用” 扩展名 -x-icu
,以将其与 libc 语言环境区分开来。
以下是一些可能创建的校对规则示例
ICU 不支持某些(不太常用的)编码。当数据库编码为其中之一时,将忽略 pg_collation
中的 ICU 校对规则条目。尝试使用其中之一将导致类似于 “编码为 "WIN874" 的校对规则 "de-x-icu" 不存在” 的错误。
如果标准和预定义的校对规则不足,用户可以使用 SQL 命令 CREATE COLLATION 创建自己的校对规则对象。
标准和预定义的校对规则位于 pg_catalog
模式下,就像所有预定义对象一样。用户定义的校对规则应在用户模式下创建。这也确保它们会被 pg_dump
保存。
可以这样创建新的 libc 校对规则
CREATE COLLATION german (provider = libc, locale = 'de_DE');
此命令中 locale
子句可接受的确切值取决于操作系统。在类 Unix 系统上,命令 locale -a
将显示一个列表。
由于预定义的 libc 校对规则已包含在数据库实例初始化时操作系统中定义的所有校对规则,因此通常无需手动创建新的校对规则。原因可能是需要不同的命名系统(在这种情况下,另请参见 第 23.2.2.3.3 节),或者操作系统已升级以提供新的语言环境定义(在这种情况下,另请参见 pg_import_system_collations()
)。
可以这样创建 ICU 校对规则
CREATE COLLATION german (provider = icu, locale = 'de-DE');
ICU 语言环境指定为 BCP 47 语言标记,但也接受大多数 libc 样式的语言环境名称。如果可能,libc 样式的语言环境名称将转换为语言标记。
新的 ICU 校对规则可以通过在语言标记中包含校对规则属性来广泛自定义校对规则行为。有关详细信息和示例,请参见 第 23.2.3 节。
命令 CREATE COLLATION 还可以用于从现有校对规则创建新的校对规则,这对于能够在应用程序中使用与操作系统无关的校对规则名称、创建兼容性名称或以更易读的名称使用 ICU 提供的校对规则很有用。例如
CREATE COLLATION german FROM "de_DE"; CREATE COLLATION french FROM "fr-x-icu";
校对规则要么是确定性的,要么是非确定性的。确定性校对规则使用确定性比较,这意味着它仅在字符串由相同的字节序列组成时才认为它们相等。非确定性比较可能会确定字符串相等,即使它们由不同的字节组成。典型的情况包括不区分大小写的比较、不区分重音符号的比较,以及不同 Unicode 规范形式的字符串比较。实际上,由校对规则提供程序来实现这种不区分大小写的比较;确定性标志仅决定是否使用逐字节比较来打破平局。有关术语的更多信息,另请参见 Unicode 技术标准 10。
要创建非确定性校对规则,请将属性 deterministic = false
指定给 CREATE COLLATION
,例如
CREATE COLLATION ndcoll (provider = icu, locale = 'und', deterministic = false);
此示例将以非确定性方式使用标准 Unicode 校对规则。特别是,这将允许正确比较不同规范形式的字符串。更有趣的示例利用了上面解释的 ICU 自定义功能。例如
CREATE COLLATION case_insensitive (provider = icu, locale = 'und-u-ks-level2', deterministic = false); CREATE COLLATION ignore_accents (provider = icu, locale = 'und-u-ks-level1-kc-true', deterministic = false);
所有标准和预定义的校对规则都是确定性的,所有用户定义的校对规则默认都是确定性的。虽然非确定性校对规则提供了更 “正确” 的行为,尤其是在考虑 Unicode 的全部功能及其许多特殊情况时,但它们也有一些缺点。最重要的是,使用它们会导致性能下降。特别是,请注意,B 树无法使用使用非确定性校对规则的索引进行重复数据删除。此外,某些操作在使用非确定性校对规则时是不可能的,例如模式匹配操作。因此,它们应该只在特定需要的情况下使用。
要处理不同 Unicode 规范形式的文本,还可以选择使用函数/表达式 normalize
和 is normalized
来预处理或检查字符串,而不是使用非确定性校对规则。每种方法都有不同的权衡取舍。
ICU 允许通过定义新的校对规则并将校对规则设置作为语言标记的一部分来广泛控制校对规则行为。这些设置可以修改校对规则顺序以满足各种需求。例如
-- ignore differences in accents and case CREATE COLLATION ignore_accent_case (provider = icu, deterministic = false, locale = 'und-u-ks-level1'); SELECT 'Å' = 'A' COLLATE ignore_accent_case; -- true SELECT 'z' = 'Z' COLLATE ignore_accent_case; -- true -- upper case letters sort before lower case. CREATE COLLATION upper_first (provider = icu, locale = 'und-u-kf-upper'); SELECT 'B' < 'b' COLLATE upper_first; -- true -- treat digits numerically and ignore punctuation CREATE COLLATION num_ignore_punct (provider = icu, deterministic = false, locale = 'und-u-ka-shifted-kn'); SELECT 'id-45' < 'id-123' COLLATE num_ignore_punct; -- true SELECT 'w;x*y-z' = 'wxyz' COLLATE num_ignore_punct; -- true
许多可用的选项在 第 23.2.3.2 节 中有描述,或者参见 第 23.2.3.5 节 以获取更多详细信息。
ICU 中两个字符串(校对规则)的比较由一个多级过程确定,其中文本特征被分组到“级别”中。校对规则设置 控制每个级别的处理。较高的级别对应于更精细的文本特征。
表 23.1 显示了在给定级别确定相等性时,哪些文本特征差异被认为是重要的。Unicode 字符 U+2063
是一个不可见的间隔符,如表中所示,在所有小于 identic
的比较级别中都被忽略。
表 23.1. ICU 校对规则级别
级别 | 描述 | 'f' = 'f' |
'ab' = U&'a\2063b' |
'x-y' = 'x_y' |
'g' = 'G' |
'n' = 'ñ' |
'y' = 'z' |
---|---|---|---|---|---|---|---|
level1 | 基本字符 | true |
true |
true |
true |
true |
false |
级别2 | 重音 | true |
true |
true |
true |
false |
false |
级别3 | 大小写/变体 | true |
true |
true |
false |
false |
false |
级别4 | 标点符号[a] | true |
true |
false |
false |
false |
false |
相同 | 全部 | true |
false |
false |
false |
false |
false |
在每个级别,即使关闭了完全规范化,也会执行基本规范化。例如,'á'
可以由代码点 U&'\0061\0301'
或单个代码点 U&'\00E1'
组成,并且这些序列即使在 相同
级别也会被视为相等。要将代码点表示中的任何差异视为不同,请使用创建时将 deterministic
设置为 true
的排序规则。
CREATE COLLATION level3 (provider = icu, deterministic = false, locale = 'und-u-ka-shifted-ks-level3'); CREATE COLLATION level4 (provider = icu, deterministic = false, locale = 'und-u-ka-shifted-ks-level4'); CREATE COLLATION identic (provider = icu, deterministic = false, locale = 'und-u-ka-shifted-ks-identic'); -- invisible separator ignored at all levels except identic SELECT 'ab' = U&'a\2063b' COLLATE level4; -- true SELECT 'ab' = U&'a\2063b' COLLATE identic; -- false -- punctuation ignored at level3 but not at level 4 SELECT 'x-y' = 'x_y' COLLATE level3; -- true SELECT 'x-y' = 'x_y' COLLATE level4; -- false
表 23.2 显示了可用的排序设置,这些设置可用作语言标签的一部分来自定义排序规则。
表 23.2 ICU 排序设置
键 | 值 | 默认值 | 描述 |
---|---|---|---|
co |
emoji 、phonebk 、standard 、... |
standard |
排序类型。有关其他选项和详细信息,请参阅 第 23.2.3.5 节。 |
ka |
noignore 、shifted |
noignore |
如果设置为 shifted ,则会导致某些字符(例如标点符号或空格)在比较中被忽略。键 ks 必须设置为 level3 或更低才能生效。设置键 kv 以控制要忽略哪些字符类。 |
kb |
true 、false |
false |
级别 2 差异的反向比较。例如,语言环境 und-u-kb 将 'àe' 排在 'aé' 之前。 |
kc |
true 、false |
false |
将大小写分隔成介于重音和其他级别 3 功能之间的“级别 2.5”。 如果设置为 |
kf |
upper 、lower 、false |
false |
如果设置为 upper ,则大写字母排在小写字母之前。如果设置为 lower ,则小写字母排在大写字母之前。如果设置为 false ,则排序取决于语言环境的规则。 |
kn |
true 、false |
false |
如果设置为 true ,则字符串中的数字将被视为单个数值,而不是一系列数字。例如,'id-45' 排在 'id-123' 之前。 |
kk |
true 、false |
false |
启用完全规范化;可能会影响性能。即使设置为 在某些情况下,完全规范化非常重要,例如当将多个重音应用于单个字符时。例如,代码点序列 |
kr |
space 、punct 、symbol 、currency 、digit 、script-id |
设置为一个或多个有效值,或任何 BCP 47 重新定义字符类的排序顺序;列表中较早的字符类中的那些字符排在列表中较晚的字符类中的字符之前。例如,值 |
|
ks |
level1 、level2 、level3 、level4 、identic |
级别3 |
确定相等性时的敏感度(或“强度”,其中 level1 对差异的敏感度最低,而 identic 对差异的敏感度最高。有关详细信息,请参阅 表 23.1。 |
kv |
space 、punct 、symbol 、currency |
punct |
在级别 3 比较期间忽略的字符类。设置为较后的值将包括较早的值;例如,symbol 还包括要在忽略的字符中包括 punct 和 space 。键 ka 必须设置为 shifted ,并且键 ks 必须设置为 level3 或更低才能生效。 |
默认值可能取决于语言环境。上表并非旨在完整列出。有关其他选项和详细信息,请参阅 第 23.2.3.5 节。
对于许多排序设置,必须使用 deterministic
设置为 false
创建排序规则,才能使设置产生预期的效果(请参阅 第 23.2.2.4 节)。此外,某些设置仅在键 ka
设置为 shifted
时才生效(请参阅 表 23.2)。
CREATE COLLATION "de-u-co-phonebk-x-icu" (provider = icu, locale = 'de-u-co-phonebk');
#具有电话簿排序类型的德语排序规则
CREATE COLLATION "und-u-co-emoji-x-icu" (provider = icu, locale = 'und-u-co-emoji');
#根排序规则,具有 Emoji 排序类型,根据 Unicode 技术标准 #51
CREATE COLLATION latinlast (provider = icu, locale = 'en-u-kr-grek-latn');
#将希腊字母排在拉丁字母之前。(默认情况下,拉丁字母排在希腊字母之前。)
CREATE COLLATION upperfirst (provider = icu, locale = 'en-u-kf-upper');
#将大写字母排在小写字母之前。(默认情况下,小写字母排在前面。)
CREATE COLLATION special (provider = icu, locale = 'en-u-kf-upper-kr-grek-latn');
#结合上述两种选项。
如果上面显示的排序设置提供的选项不足,则可以使用定制规则更改排序元素的顺序,其语法在 https://unicode-org.github.io/icu/userguide/collation/customization/ 中详细介绍。
此小型示例创建了一个基于根语言环境和定制规则的排序规则
CREATE COLLATION custom (provider = icu, locale = 'und', rules = '&V << w <<< W');
使用此规则,字母 “W” 排在 “V” 之后,但被视为类似于重音的次要差异。某些语言的语言环境定义中包含此类规则。(当然,如果语言环境定义已经包含所需的规则,则无需再次明确指定它们。)
这是一个更复杂的示例。以下语句设置了一个名为 ebcdic
的排序规则,并使用规则以 EBCDIC 编码的顺序对 US-ASCII 字符进行排序。
CREATE COLLATION ebcdic (provider = icu, locale = 'und', rules = $$ & ' ' < '.' < '<' < '(' < '+' < \| < '&' < '!' < '$' < '*' < ')' < ';' < '-' < '/' < ',' < '%' < '_' < '>' < '?' < '`' < ':' < '#' < '@' < \' < '=' < '"' <*a-r < '~' <*s-z < '^' < '[' < ']' < '{' <*A-I < '}' <*J-R < '\' <*S-Z <*0-9 $$); SELECT c FROM (VALUES ('a'), ('b'), ('A'), ('B'), ('1'), ('2'), ('!'), ('^')) AS x(c) ORDER BY c COLLATE ebcdic; c --- ! a b ^ A B 1 2
本节(第 23.2.3 节)仅简要概述了 ICU 行为和语言标签。有关技术细节、其他选项和新行为,请参阅以下文档
如果您在文档中看到任何不正确的内容,与您对特定功能的体验不符,或者需要进一步说明,请使用 此表单 报告文档问题。