标签: snappy

reinterpret_cast用于未对齐内存访问与memcpy的有效用例?

在snappy的内部,有一个有条件编译的部分选择取消引用reinterpret_cast'ed指针作为在已知支持此类操作的体系结构上可能未对齐的16,32和64位整数的读写的最佳实现(如86).其他架构的后备是使用基于memcpy的实现.

我的理解是reinterpret_cast实现展示了未定义的行为,并且clang的未定义行为清理程序确实标记了它.

令我困惑的是:为什么不使用基于memcpy的实现呢?我希望除了最破碎的编译器之外的所有编译器都使用内在函数来实现这些memcpy调用,因为在编译时已知大小.实际上,我希望在任何现代工具链上都可以使用相同的codegen.

然而,我也认识到,snappy是由知道它们是什么的人写的.所以这让我想知道使用reinterpret_cast机制是否还有一些优势,这种机制超过了它的未定义行为.不希望性能依赖于编译器的实现质量?我没有考虑过的其他事情?

c++ clang memcpy reinterpret-cast snappy

5
推荐指数
1
解决办法
1006
查看次数

Linux x86_64上的Cassandra Startup Error 1.2.6

尝试从最新的稳定版本在Linux上安装cassandra - http://cassandra.apache.org/download/ - 1.2.6

我已经修改cassndra.yaml指向自定义目录而不是/ var,因为我没有对/ var的写访问权限

我在启动时看到这个错误.由于发布似乎相对较新,因此无法在谷歌上找到任何答案.只是将它发布在这里以防万一我身上有一个愚蠢的错误.

相同的分发文件在我的macos x86_64机器上运行正常.

 INFO 19:24:35,513 Not using multi-threaded compaction
java.lang.reflect.InvocationTargetException
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(Unknown Source)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
    at java.lang.reflect.Method.invoke(Unknown Source)
    at org.xerial.snappy.SnappyLoader.loadNativeLibrary(SnappyLoader.java:322)
    at org.xerial.snappy.SnappyLoader.load(SnappyLoader.java:229)
    at org.xerial.snappy.Snappy.<clinit>(Snappy.java:48)
    at org.apache.cassandra.io.compress.SnappyCompressor.create(SnappyCompressor.java:45)
    at org.apache.cassandra.io.compress.SnappyCompressor.isAvailable(SnappyCompressor.java:55)
    at org.apache.cassandra.io.compress.SnappyCompressor.<clinit>(SnappyCompressor.java:37)
    at org.apache.cassandra.config.CFMetaData.<clinit>(CFMetaData.java:82)
    at org.apache.cassandra.config.KSMetaData.systemKeyspace(KSMetaData.java:81)
    at org.apache.cassandra.config.DatabaseDescriptor.loadYaml(DatabaseDescriptor.java:468)
    at org.apache.cassandra.config.DatabaseDescriptor.<clinit>(DatabaseDescriptor.java:123)
    at org.apache.cassandra.service.CassandraDaemon.setup(CassandraDaemon.java:211)
    at org.apache.cassandra.service.CassandraDaemon.activate(CassandraDaemon.java:441)
    at org.apache.cassandra.service.CassandraDaemon.main(CassandraDaemon.java:484)
Caused by: java.lang.UnsatisfiedLinkError: /tmp/snappy-1.0.5-libsnappyjava.so: /usr/lib64/libstdc++.so.6: version `GLIBCXX_3.4.9' not found (required by /tmp/snappy-1.0.5-libsnappyjava.so)
    at java.lang.ClassLoader$NativeLibrary.load(Native Method)
    at java.lang.ClassLoader.loadLibrary1(Unknown Source)
    at java.lang.ClassLoader.loadLibrary0(Unknown Source)
    at java.lang.ClassLoader.loadLibrary(Unknown Source) …
Run Code Online (Sandbox Code Playgroud)

java linux x86-64 cassandra snappy

3
推荐指数
1
解决办法
3756
查看次数

snappy wkhtmltopdf包装器将生成的html文件发送到浏览器

我用谷歌搜索,但找不到正确的方法.

我正在使用WKHTMLTOPDF Wrapper Snappy创建PDF.

如何将使用generateFromHtml方法生成的pdf直接发送到浏览器?多数民众赞成我想做的事情:

header('Content-Type: application/pdf');
header('Content-Disposition: attachment; filename="file.pdf"');
echo $snappy->generateFromHtml($contents);
Run Code Online (Sandbox Code Playgroud)

php wkhtmltopdf snappy

3
推荐指数
1
解决办法
6860
查看次数

如何在 Java 中正确实现 LZ4、Snappy 或等效压缩技术?

我尝试将 Java 版本的 LZ4 实现为搜索引擎类型的程序,尝试从大型文本文件中搜索数据。我只是压缩输出流并将其存储到txt文件或没有名称的文件中。然而,我意识到所谓的压缩文件的大小并没有减少,但它的大小甚至比原始文件还要大。

最后我不得不求助于 zip4j,因为它对我有用。

我想知道如何使用 LZ4 或 Snappy 的 jar 来正确压缩/解压缩?

另外,我如何使用这样的算法来压缩一个包含多个文件的文件夹?

谢谢!

java compression snappy lz4

3
推荐指数
1
解决办法
4794
查看次数

从流中安全地解析字节数组的最佳分隔符

我有一个字节流,返回一个字节数组序列,每个字节数组代表一个记录.

我想将流解析为单个byte []的列表.目前,我已经入侵了一个三字节分隔符,以便我可以识别每条记录的结尾,但是有疑虑.

我看到有一个标准的Ascii记录分隔符.

30  036 1E  00011110    RS  &#030;      Record Separator
Run Code Online (Sandbox Code Playgroud)

如果字节数组(UTF-8编码)已被压缩和/或加密,使用从该字符派生的byte []是否安全?我担心的是加密/压缩输出可能会出于某种其他目的而产生记录分隔符.请注意,单个byte []记录是压缩/加密的,而不是整个流.

我正在使用Java 8并使用Snappy进行压缩.我还没有选择加密库,但它肯定是更强大,标准的私钥方法之一.

java encoding parsing bytearray snappy

3
推荐指数
2
解决办法
3913
查看次数

如何在使用Google Cloud Dataproc启动的Spark群集中启用Snappy编解码器支持?

尝试从使用Google Cloud Dataproc启动的Spark群集中读取Snappy压缩序列文件时,我收到以下警告:

java.lang.RuntimeException: native snappy library not available: this version of libhadoop was built without snappy support.
Run Code Online (Sandbox Code Playgroud)

在此上下文中启用Snappy编解码器支持的最佳方法是什么?

hadoop snappy apache-spark google-cloud-platform google-cloud-dataproc

3
推荐指数
1
解决办法
1028
查看次数

配置 mongodb node.js 驱动程序以使用 snappy 压缩

我们最近将 MongoDB 副本集升级到了 v3.4.4;我注意到这个版本现在支持与 snappy 的压缩网络通信。我已经将集合成员设置为启用此功能,以便它们以这种方式相互通信,并且 mongo shell 似乎原生支持它,但我找不到任何有关如何设置 Node.js 客户端的文档使用它。

当然,一切仍然工作正常,因为在客户端和服务器无法就压缩协议达成一致的情况下使用未压缩的通信,但出于明显的原因能够利用这一点将是很好的。

有其他人玩过这个或者有运气吗?

看来 Mongo 在这方面确实有一张开放的票,但想知道是否还有其他人在此之外取得了任何进展。

compression mongodb node.js snappy

3
推荐指数
1
解决办法
2118
查看次数

在Alpine Linux上的python上安装snappy时出现问题

当我尝试使用以下方法在高山linux上安装Snappy时:pip install snappy当我尝试安装名为cypari的必需软件包时,出现以下错误。

我从“ apk add snappy”安装了snappy

    gcc -fno-strict-aliasing -Os -fomit-frame-pointer -g -DNDEBUG -Os -fomit-frame-pointer -g -fPIC -Ilibcache/pari64/include -I/usr/include/python2.7 -c cypari_src/_pari.c -o build/temp.linux-x86_64-2.7/cypari_src/_pari.o
In file included from cypari_src/_pari.c:460:0:
cypari_src/implementation.c:47:22: fatal error: execinfo.h: No such file or directory
 #include <execinfo.h>
Run Code Online (Sandbox Code Playgroud)

python linux pip snappy alpine-linux

3
推荐指数
2
解决办法
1478
查看次数

模块'snappy'没有属性'解压缩'

我想要使​​用kafka-python.它要求安装Snappy.所以我安装它

  1. pip安装snappy
  2. pip install python_snappy-0.5.2-cp36-cp36m-win_amd64.whl Snappy两种方式安装成功.

但是在我试图运行python代码的时候我导入'kafka',我得到了一个错误.

错误:

AttributeError:模块'snappy'没有属性'解压缩'

我跑的时候

import snappy
help(snappy)
Run Code Online (Sandbox Code Playgroud)

结果是:

Help on package snappy:

NAME
    snappy

PACKAGE CONTENTS
    __main__
    _snappy
    hadoop_snappy
    snappy
    snappy_cffi
    snappy_cffi_builder
    snappy_formats

FILE
    (built-in)
Run Code Online (Sandbox Code Playgroud)

我在Windows环境中使用conda(Win 10).

我怎样才能克服这个问题?

python python-3.x snappy kafka-consumer-api

3
推荐指数
1
解决办法
2614
查看次数

如何解决“进程已收到信号 11 信号” - Snappy 库?

我在 Laravel 5.7 中使用 Snappy PDF 库。在本地,它一切正常,但在我的开发环境中,我收到此错误:该进程已发出信号“11”。到目前为止,我无法找到对我有帮助的解决方案。这是我在控制器中的代码:

   public function pdfReport(Request $request){
    $pdf = \Snappy::loadView('index', compact(
                  'name', 'lname', 'date', 'address'
                  ))
                  ->setOrientation('portrait')
                  ->setOption('margin-bottom', 0)
                  ->setOption('margin-top', 0)
                  ->setOption('margin-left', 0)
                  ->setOption('margin-right', 0);
     return $pdf->download(str_replace(' ', '', $request->description) . Carbon::now()->format('dYm_His') . '.pdf');
  }
Run Code Online (Sandbox Code Playgroud)

任何帮助表示赞赏!

php laravel snappy

3
推荐指数
1
解决办法
1万
查看次数