POSIX regex.h是否提供unicode或基本上非ascii字符？

Question

嗨,我正在使用标准正则表达式库(regcomp,regexec ..).但是现在按需要我应该为我的正则表达式代码添加unicode支持.

标准正则表达式库是否提供unicode或基本上非ascii字符？我在网上研究,并没有想到.

我的项目是资源批评者因此我不想使用大型库(ICU和Boost.Regex).

任何帮助,将不胜感激..

Answer 1

看起来POSIX Regex正常使用UTF-8语言环境.我刚刚写了一个简单的测试(见下文)并用它来匹配字符串和正则表达式的英文字符"[[:alpha:]]"(例如).一切正常.

注意:您必须记住的主要内容 - 正则表达式函数与语言环境相关.所以你必须setlocale()在它之前打电话.

#include <sys/types.h>
#include <string.h>
#include <regex.h>
#include <stdio.h>
#include <locale.h>

int main(int argc, char** argv) {
  int ret;
  regex_t reg;
  regmatch_t matches[10];

  if (argc != 3) {
    fprintf(stderr, "Usage: %s regex string\n", argv[0]);
    return 1;
  }

  setlocale(LC_ALL, ""); /* Use system locale instead of default "C" */

  if ((ret = regcomp(&reg, argv[1], 0)) != 0) {
    char buf[256];
    regerror(ret, &reg, buf, sizeof(buf));
    fprintf(stderr, "regcomp() error (%d): %s\n", ret, buf);
    return 1;
  }

  if ((ret = regexec(&reg, argv[2], 10, matches, 0)) == 0) {
    int i;
    char buf[256];
    int size;
    for (i = 0; i < sizeof(matches) / sizeof(regmatch_t); i++) {
      if (matches[i].rm_so == -1) break;
      size = matches[i].rm_eo - matches[i].rm_so;
      if (size >= sizeof(buf)) {
        fprintf(stderr, "match (%d-%d) is too long (%d)\n",
                matches[i].rm_so, matches[i].rm_eo, size);
        continue;
      }
      buf[size] = '\0';
      printf("%d: %d-%d: '%s'\n", i, matches[i].rm_so, matches[i].rm_eo,
             strncpy(buf, argv[2] + matches[i].rm_so, size));

    }
  }

  return 0;
}

用法示例:

$ locale
LANG=ru_RU.UTF-8
LC_CTYPE="ru_RU.UTF-8"
LC_COLLATE="ru_RU.UTF-8"
... (skip)
LC_ALL=
$ ./reg '[[:alpha:]]' ' 359 ????'
0: 5-7: '?'
$

匹配结果的长度是两个字节,因为UTF-8中的西里尔字母需要很多.

Answer 2

基本上,POSIX正则表达式不支持Unicode.您可以尝试在Unicode字符上使用它们,但是可能存在具有多种编码的字形以及Unicode感知库为您处理的其他此类问题.

从标准IEEE Std 1003.1-2008:

匹配应基于用于编码字符的位模式,而不是基于字符的图形表示.这意味着如果字符集包含两个或多个图形符号的编码,或者如果搜索的字符串包含以多个代码集编码的文本,则不会尝试搜索编码符号的任何其他表示.如果需要,用户可以指定包含所需图形符号的所有变体的等价类.

也许libpcre适合你？它比POSIX正则表达稍重,但我认为它比ICU或Boost轻.