标签: quantization

quantze()和str.format()之间有什么区别?

我并不是说技术上的区别是什么,而是更快/更符合逻辑或Pythonic等方式:

    def __quantized_price(self):
        TWOPLACES = Decimal(10) ** -2
        return self.price.quantize(TWOPLACES)
Run Code Online (Sandbox Code Playgroud)

要么

    def __formatted_price(self):
        TWOPLACES = Decimal(10) ** -2
        return '{0:.2f}'.format(self.price)
Run Code Online (Sandbox Code Playgroud)

它们似乎完全一样,所以我只是想知道为什么它们会在什么时候创建量化

python string django quantization

3
推荐指数
1
解决办法
1233
查看次数

线性量化和非线性量化有什么区别?

线性量化和非线性量化有什么区别?我正在谈论PCM样本. http://www.blurtit.com/q927781.html有一篇关于它的文章,但我正在寻找更详细的答案.

signal-processing quantization pcm sampling

3
推荐指数
1
解决办法
2万
查看次数

将整数量化为离散桶

我有一个约7500项的列表,它们都有类似的签名:

{
    revenue: integer,
    title: string,
    sector: string
}
Run Code Online (Sandbox Code Playgroud)

收入将在0到10亿之间.我想构建一个规模,以便给定一个特定公司的收入......它返回相对于以下"桶"的位置:

$0-5 Million
$5-10 Million
$10-25 Million
$25-50 Million
$50-100 Million
$100-250 Million
> $250 Million
Run Code Online (Sandbox Code Playgroud)

我相信我应该能够用d3中的量化或分位数量表来实现这一目标,但是在获得预期结果方面遇到了困难.到目前为止,我有类似的东西:

var max_rev = 1000000000 // 1 Billion
scale = d3.scale.quantize().domain(_.range(max_rev)).range([5000000, 10000000, 25000000, 50000000, 100000000, 250000000])
Run Code Online (Sandbox Code Playgroud)

一个显而易见的问题是调用_.range(max_rev)创建一个10亿个项目的数组,所以我想知道如何更有效地做这个(类似.domain([0,1000000000])?)

定义此比例的最佳方法是什么,scale(75000000)将返回50000000.一旦我有了,我可以检查它对一个哈希并返回正确的标签:

{
    ...
    ...
    50000000: "$50-100 Million",
    100000000: "$100-250 Million",
    ...
Run Code Online (Sandbox Code Playgroud)

}

非常感谢!如果我能提供任何其他信息,请告诉我.

charts quantization quantile d3.js

3
推荐指数
1
解决办法
1527
查看次数

TensorFlow:保存前使用python量化模型

在线上有教程显示如何量化.pbTensorFlow模型,请参阅:

https://petewarden.com/2016/05/03/how-to-quantize-neural-networks-with-tensorflow/

我想知道的是,是否有一种方法可以在保存.pb文件之前使用python量化图形tf.train.write_graph()

换句话说,有一些类似的功能quantize(graph_def),我可以在保存之前运行该图以将其量化为8位权重和操作,从而节省了保存文件后必须通过命令行进行操作的麻烦(例如上面概述的教程) )。

python quantization tensorflow

3
推荐指数
1
解决办法
2423
查看次数

JPEG文件量化表定义

当我使用 Photoshop 另存为功能并选择 jpeg 文件格式时,我得到以下窗口:

在此处输入图片说明

如您所见,我选择了基线(“标准”)格式和最高画质。当我在十六进制编辑器中打开这张图片时,我看到几个 FF DB 标记(这是量化表的开始)。没问题,但让我们看下一张图片: 在此处输入图片说明

正如您在上面的表格图片中看到的,在地址行BDA开始 FFDB 标记。前两个字节是 00 84,这意味着该标记包含 132 个字节的数据。做一些数学计算,我们可以得出结论,这个标记定义了两个量化表。第一个表的值是:0C 08 08 08 09 等等...

在同一个文件中,还有另一个 FFDB 标记,从 2885 地址行开始,如图所示:

在此处输入图片说明

同样,前两个字节的值是 00 84,这意味着 132 个字节的数据。但这一次,第一个量化表的值是:01 01 01 等等...

如何知道我应该使用哪个 FF DB 标记,以及为什么文件中有几个 FFDB 标记?

compression jpeg quantization

2
推荐指数
1
解决办法
4157
查看次数

NeuQuant.js (JavaScript color quantization) hidden bug in JS conversion

NeuQuant.js works well when the image width and height are a multiple of 100:

300x300 GIF动画 300x300

Otherwise, there is obviously a bug:

299x300 GIF动画 299x300

(These were made with this web app.)

I'm 90% sure that the bug is in NeuQuant.js. I have made tests using it with jsgif and omggif, and both encoders have the same bug. It is only obvious with photographic images (quantize to 256 colors) when the image size is anything other than a multiple of 100. …

javascript quantization neural-network

2
推荐指数
1
解决办法
1215
查看次数

如何量化表面法线

我正在尝试将表面法线量化为 8 个容器。

例如,当计算HOG等特征 以将 2D 梯度量化[x,y]为 8 个容器时,我们只需取与 y 平面的角度,即arctan(y/x)这将为我们提供 0-360 之间的角度。

我的问题是,给定 3D 方向[x,y,z](在本例中为表面法线),我们如何以类似的方式对其进行直方图绘制?我们是否只是投影到一个平面上并使用该角度,即[x,y,z][0,1,0]的点积?

谢谢

编辑

我最近还读了一篇论文,其中他们通过测量围绕直圆锥形状排列的法线和预先计算的向量之间的角度来量化表面法线。我在问题中添加了这篇论文的链接(第3.3.2节最后一段),这是一种有效的方法吗?如果是这样,我们如何计算这些向量?

math 3d geometry quantization computer-vision

2
推荐指数
1
解决办法
1808
查看次数

使用 TFLiteConverter 将 Keras 模型转换为量化的 tflite 版本导致 NOTYPE 错误

在转换和执行 keras 模型的 8 位量化时,我遇到了图像数据集没有发生的奇怪错误。

import tensorflow.python.keras.backend as K
import tensorflow as tf
from tensorflow import keras
from tensorflow.keras.models import load_model
import numpy as np

x_train = np.array([[0.6171875  0.59791666],[0.6171875  0.59791666],[0.6171875  0.59791666]])
y_train = np.array([[0.6171875  0.59791666],[0.6171875  0.59791666],[0.6171875  0.59791666]])


def representative_dataset_gen():
    for i in range(1):
        # Get sample input data as a numpy array in a method of your choosing.
        sample = np.array([0.5,0.6])
        sample = np.expand_dims(sample, axis=0)
        yield [sample]



model = tf.keras.models.Sequential([
  tf.keras.layers.Flatten(input_shape=(2,)),
  tf.keras.layers.Dense(12, activation='relu'),
  tf.keras.layers.Dense(2, activation='softmax')
])


model.compile(optimizer='adam',
              loss='categorical_crossentropy',
              metrics=['accuracy'])

model.fit(x_train, …
Run Code Online (Sandbox Code Playgroud)

quantization keras tensorflow tensorflow-lite google-coral

2
推荐指数
1
解决办法
611
查看次数

如何在Delphi中将颜色减少到指定的数字?

如何在Delphi中将颜色减少到指定的数字(<= 256)?我不想只使用:

 Bmp.PixelFormat := pf8bit;
Run Code Online (Sandbox Code Playgroud)

因为那样我无法控制颜色数量.我不想要抖动,因为我已经知道如何用256或更少颜色抖动图像.

我发现了这个Median Cut实现,但它从1990年开始是纯粹的Pascal,并且:

  1. 不在Delphi中编译
  2. 说它是共享软件并且花费25 Deutche Marks
  3. 看起来(不知何故)不必要的复杂

我想TBitmap32只减少(Graphics32位图类,仅支持32位颜色)到<= 8bit bmp.我不需要减少到15/16bit,我不需要从24或15/16bit图像减少.只需32位=> 8位 -

Delphi我使用:7,2005,XE3.

delphi colors bitmap quantization reduction

1
推荐指数
1
解决办法
1398
查看次数

tflite如何将Relu融合到conv层?

当将 TF 模型转换为 tflite 模型(或者换句话说 - 使用“训练后量化”量化模型)时,Relu 层从图中消失。文档中对此进行了解释:“可以简单地从图中删除的操作 (tf.identity),替换为张量 (tf.placeholder),或者融合为更复杂的操作 (tf.nn.bias_add)。”

我的问题是 - 如何将 Relu 层融合到前一层?(这个“融合”之外的数学是什么?这是量化模型的特定程序,还是也可以在原始浮点模型中完成?)

quantization deep-learning tensorflow tensorflow-lite

1
推荐指数
1
解决办法
906
查看次数