标签: pipeline

IIS7集成与经典管道 - 使用更多的ASP.NET线程?

使用集成管道,所有请求都通过ASP.NET传递,包括图像,CSS.

然而,在传统的管道中,默认情况下只对ASPX页面的请求通过ASP.NET传递.

集成管道会对线程使用产生负面影响吗?

假设我从IIS服务器请求500 MB二进制文件:

  • 使用集成管道,ASP.NET工作线程将用于二进制下载(对吗?).
  • 使用经典管道,请求由IIS直接提供,因此不使用任何ASP.NET线程.

对我来说,这有利于传统的管道,因为我希望尽可能多的线程来提供ASPX页面.

我完全不在这里吗?

asp.net iis iis-7 pipeline integrated-pipeline-mode

22
推荐指数
1
解决办法
2万
查看次数

带有 PostgreSQL 的 CI/CD 管道因“数据库未初始化且未指定超级用户密码”错误而失败

我正在将 Bitbucket 管道与 PosgreSQL 一起用于 CI/CD。根据此文档, PostgreSQL 服务是这样描述的bitbucket-pipelines.yml

definitions:
  services:
    postgres:
      image: postgres:9.6-alpine
Run Code Online (Sandbox Code Playgroud)

直到现在它工作得很好。但是我所有最新的管道都失败了,并出现以下错误:

   Error: Database is uninitialized and superuser password is not specified.
   You must specify POSTGRES_PASSWORD for the superuser. Use
   "-e POSTGRES_PASSWORD=password" to set it in "docker run".

   You may also use POSTGRES_HOST_AUTH_METHOD=trust to allow all connections
   without a password. This is *not* recommended. See PostgreSQL
   documentation about "trust":
   https://www.postgresql.org/docs/current/auth-trust.html
Run Code Online (Sandbox Code Playgroud)

我该如何解决?bitbucket-pipelines.yml文件中没有任何更改,这可能是此类错误的原因..

postgresql pipeline docker

22
推荐指数
2
解决办法
8922
查看次数

在Scrapy中将项目写入MySQL数据库

我是Scrapy的新手,我有蜘蛛代码

class Example_spider(BaseSpider):
   name = "example"
   allowed_domains = ["www.example.com"]

   def start_requests(self):
       yield self.make_requests_from_url("http://www.example.com/bookstore/new")

   def parse(self, response):
       hxs = HtmlXPathSelector(response)
       urls = hxs.select('//div[@class="bookListingBookTitle"]/a/@href').extract()
       for i in urls:
           yield Request(urljoin("http://www.example.com/", i[1:]), callback=self.parse_url)

   def parse_url(self, response):
           hxs = HtmlXPathSelector(response)
           main =   hxs.select('//div[@id="bookshelf-bg"]')
           items = []
           for i in main:
           item = Exampleitem()
           item['book_name'] = i.select('div[@class="slickwrap full"]/div[@id="bookstore_detail"]/div[@class="book_listing clearfix"]/div[@class="bookstore_right"]/div[@class="title_and_byline"]/p[@class="book_title"]/text()')[0].extract()
           item['price'] = i.select('div[@id="book-sidebar-modules"]/div[@class="add_to_cart_wrapper slickshadow"]/div[@class="panes"]/div[@class="pane clearfix"]/div[@class="inner"]/div[@class="add_to_cart 0"]/form/div[@class="line-item"]/div[@class="line-item-price"]/text()').extract()
           items.append(item)
       return items
Run Code Online (Sandbox Code Playgroud)

管道代码是:

class examplePipeline(object):

    def __init__(self):               
        self.dbpool = adbapi.ConnectionPool('MySQLdb',
                db='blurb',
                user='root',
                passwd='redhat',
                cursorclass=MySQLdb.cursors.DictCursor,
                charset='utf8',
                use_unicode=True
            )
def process_item(self, …
Run Code Online (Sandbox Code Playgroud)

mysql pipeline web-crawler scrapy

20
推荐指数
1
解决办法
3万
查看次数

仅限特定分支上的GitLab CI管道

我正在尝试实施GitLab CI Pipelines来构建和部署Angular应用程序.在我们的项目中,我们有两个一般分支:( master仅限生产)和develop.为了开发,我们feature/some-featuredevelop分支创建分支.当开发完成后,我们创建合并请求feature/some-featuredevelop.当合并请求被批准并合并到develop分支时,我想运行管道以构建应用程序并在某些环境中部署构建.

我在.gitlab-ci.yml中使用以下设置:

image: node:7.5-configured

stages:
    - build
    - deploy

build_job:
    stage: build
    only:
        - develop
    script:
        - /bin/bash <some script here>

...
Run Code Online (Sandbox Code Playgroud)

问题是每次我进入任何feature/some-feature分支时都会执行Pipeline .我的设置有什么问题?我怎样才能迫使管道被执行只有当推进行到develop直接分支?

解决方案 这是我的错误 - 我在develop分支和feature/some-feature分支中有两个不同的.gitlab-ci.yml文件.

git continuous-integration pipeline gitlab gitlab-ci

20
推荐指数
3
解决办法
2万
查看次数

Java中的高效XSLT管道(或将结果重定向到源)

我有一系列相互馈送的XSL 2.0样式表,即样式表A的输出馈送B馈送C.

这样做最有效的方法是什么?重新提出的问题是:如何有效地将一个转换的输出路由到另一个转换.

这是我的第一次尝试:

@Override
public void transform(Source data, Result out) throws TransformerException{
    for(Transformer autobot : autobots){
        if(autobots.indexOf(autobot) != (autobots.size()-1)){
            log.debug("Transforming prelim stylesheet...");
            data = transform(autobot,data);
        }else{
            log.debug("Transforming final stylesheet...");
            autobot.transform(data, out);
        }
    }
}

private Source transform(Transformer autobot, Source data) throws TransformerException{
    DOMResult result = new DOMResult();
    autobot.transform(data, result);
    Node node = result.getNode();
    return new DOMSource(node);
}
Run Code Online (Sandbox Code Playgroud)

正如您所看到的,我正在使用DOM来处理转换之间,虽然它很方便,但它并不是非最佳性能.

是否有任何简单的方法可以说,将SAXResult路由到SAXSource?StAX解决方案将是另一种选择.

我知道像XProc这样的项目,如果你还没有看过,这是非常酷的,但我不想投资整个框架.

java xslt dom pipeline sax

19
推荐指数
1
解决办法
7318
查看次数

如何在github操作工作流程中设置系统路径变量

我想知道如何在 GitHub 操作工作流程中设置系统路径变量。

export "$PATH:$ANYTHING/SOMETHING:$AA/BB/bin"
Run Code Online (Sandbox Code Playgroud)

linux pipeline docker github-actions

19
推荐指数
2
解决办法
9979
查看次数

在现代(流水线/超标量)处理器上执行x86 rep指令

我最近一直在写x86程序集(为了好玩),并且想知道rep前缀字符串指令是否实际上在现代处理器上具有性能优势,或者它们是否刚刚实现了后向兼容性.

我理解为什么当处理器一次只运行一条指令时,英特尔最初会实现代表指令,但现在使用它们有什么好处?

通过循环可以编译更多指令,还有更多要填充管道和/或无序发布.现代处理器是为优化这些重复前缀指令而构建的,还是在现代代码中很少使用的rep指令,它们对制造商来说并不重要?

performance x86 assembly pipeline

18
推荐指数
2
解决办法
7923
查看次数

将中间输出分配给临时变量作为dplyr管道的一部分

问:在R dplyr管道中,如何将一些中间输出分配给临时变量以便在管道中进一步使用?

我的方法可行.但它分配到全局框架中,这是不可取的.必须有更好的方法,对吗?我认为我的方法涉及评论线将得到预期的结果.没有骰子.困惑为什么不起作用.

df <- data.frame(a = LETTERS[1:3], b=1:3)
df %>%
  filter(b < 3) %>%
  assign("tmp", ., envir = .GlobalEnv) %>% # works
  #assign("tmp", .) %>% # doesn't work
  mutate(b = b*2) %>%
  bind_rows(tmp)
  a b
1 A 2
2 B 4
3 A 1
4 B 2
Run Code Online (Sandbox Code Playgroud)

pipeline r dplyr

18
推荐指数
3
解决办法
4087
查看次数

用于将数据处理表示为管道的框架

大多数数据处理可以被设想为组件的流水线,一个组件的输出馈入另一个组件的输入.典型的处理管道是:

reader | handler | writer
Run Code Online (Sandbox Code Playgroud)

作为开始讨论的一个衬托,让我们考虑一个面向对象的实现这个管道,其中每个段都是一个对象.该handler对象包含对readerwriter对象的引用,并具有如下所示的run方法:

define handler.run:
  while (reader.has_next) {
    data = reader.next
    output = ...some function of data...
    writer.put(output)
  }
Run Code Online (Sandbox Code Playgroud)

示意性依赖关系是:

reader <- handler -> writer
Run Code Online (Sandbox Code Playgroud)

现在假设我想在读者和处理程序之间插入一个新的管道段:

reader | tweaker | handler | writer
Run Code Online (Sandbox Code Playgroud)

同样,在这个OO实现中,tweaker将是reader对象的包装器,并且tweaker方法可能看起来像(在一些伪命令性代码中):

define tweaker.has_next:
  return reader.has_next

define tweaker.next:
  value = reader.next
  result = ...some function of value...
  return result
Run Code Online (Sandbox Code Playgroud)

我发现这不是一个非常可组合的抽象.一些问题是:

  1. tweaker只能在左侧使用handler,即我不能使用上面的实现tweaker来形成这个管道:

    读者| 处理程序| tweaker | …

haskell functional-programming pipeline pipe data-processing

16
推荐指数
2
解决办法
1632
查看次数

Sklearn Pipeline - 如何在自定义Transformer(而不是Estimator)中继承get_params

我有scikit-learn中的管道,它使用我定义的自定义变换器,如下所示:

class MyPipelineTransformer(TransformerMixin):
Run Code Online (Sandbox Code Playgroud)

它定义了函数

__init__, fit() and transform()
Run Code Online (Sandbox Code Playgroud)

但是,当我在RandomizedSearchCV中使用管道时,我收到以下错误:

'MyPipelineTransformer'对象没有属性'get_params'

我在线阅读(例如下面的链接)

(Python - sklearn)如何通过gridsearchcv将参数传递给自定义的ModelTransformer类

http://scikit-learn.org/stable/auto_examples/hetero_feature_union.html

我可以通过继承BaseEstimator来获取'get_params',而不是仅仅继承TransformerMixin的当前代码.但我的变压器不是估算器.从BaseEstimator继承非估计量是否有任何不足之处?或者这是为管道中的任何变压器(估算器或非估算器)获取get_params的推荐方法吗?

python inheritance pipeline scikit-learn

16
推荐指数
1
解决办法
3024
查看次数