标签: microsoft-distributed-file-system

使用 smb2 在 golang 中打开 Microsoft DFS 共享

我在 Windows Server 2012 上有一个 dfs 共享。我可以在 Windows 文件资源管理器中打开共享并从另一个系统读取文件,路径如下:\\dfsserver\usernamespace\Tom\go.png。但是,通过https://github.com/hirochachacha/go-smb2使用 golang 的 smb2 包,我得到一个错误:

响应错误:联系的服务器不支持 DFS 命名空间的指示部分

但是,如果我尝试使用实际共享路径\\dfsserver\public share\Tom\go.png打开该文件,则代码可以正常工作。所以问题是我不知道运行时的实际路径,并且我希望能够使用 DFS 提供的路径打开文件。

难道是DFS在smb2上不能正常工作吗?或者其他一些问题。预先感谢您的评论。

    func main(){
    
        // actualPath := `\\dfsserver\public share\Tom\go.png`
        // dfsPath := `\\dfsserver\usernamespace\Tom\go.png`
    
        conn, err := net.Dial("tcp", fmt.Sprintf("%s:%s", "dfsserver", "445"))
        if err != nil {
            fmt.Println(err)
        }
        defer conn.Close()
    
        dial := &smb2.Dialer{
            Initiator: &smb2.NTLMInitiator{
                User:     "user",
                Password: "password",
                Domain:  "dfsserver",
            },
        }
        session, err := dial.Dial(conn)
        if err != nil {
            fmt.Println(err)
        }
        defer session.Logoff()
    
        mountPoint, …
Run Code Online (Sandbox Code Playgroud)

smb microsoft-distributed-file-system go

6
推荐指数
0
解决办法
680
查看次数

如何确定 DFS 路径的物理文件服务器?

给定 DFS 路径,如何以编程方式确定它映射到哪个物理文件服务器?

microsoft-distributed-file-system

5
推荐指数
1
解决办法
1万
查看次数

无法使用本地hadoop连接azure blob存储

尝试使用Hadoop版本2.7.1 将本地hadoopAZURE BLOB存储(即使用blob存储作为HDFS)连接时,它会抛出异常

在这里,我通过设置属性成功地形成了本地群集

<property>
    <name>fs.default.name</name>
    <value>wasb://account@storage.blob.core.windows.net</value>
</property>
Run Code Online (Sandbox Code Playgroud)

然后是core-site.xml中blob存储的关键值.

列出文件或对blob存储进行HDFS操作时,将以下异常作为

 ls: No FileSystem for scheme: wasb
Run Code Online (Sandbox Code Playgroud)

有人请指导我解决上述问题.

java hadoop microsoft-distributed-file-system azure hdfs

5
推荐指数
1
解决办法
1532
查看次数

找到带有障碍物的2D矩阵中到达给定目标单元的最短路径

我正在处理下面的面试问题,我对如何在这里使用BFS搜索感到困惑.我对这里如何处理封锁感到困惑?

给定MxN矩阵找到到达给定目标小区的最短路径.机器人可以向上,向下,向左或向右移动.矩阵还在机器人无法通过的少数单元格中带有一组封锁.输出机器人到达目的地所需的最小移动次数.如果目标不可访问,则输出-1.假设封锁永远不会在起始单元格.

输入格式:第一行包含M和N矩阵的值.第二行包含机器人起始位置的单元格位置.第三行包含目标的单元位置.第四行及其后面的行将包含封锁的位置.以下示例仅包含(2,2)处的机器人无法通过的一个封锁.以下是输入:

3 3
1 1
3 3
2 2
Run Code Online (Sandbox Code Playgroud)

对于上述输入,输出应为4.

以下是我的开始,但在进行BFS搜索时如何处理封锁问题:

  public static void main(String args[] ) throws Exception {
    Scanner sc = new Scanner(System.in);
    int M = sc.nextInt();
    int N = sc.nextInt();

    int startX = sc.nextInt();
    int startY = sc.nextInt();

    int destinationX = sc.nextInt();
    int destinationY = sc.nextInt();

    while (sc.hasNext()) {
        int blockedX = sc.nextInt();
        int blockedY = sc.nextInt();
    }
}
Run Code Online (Sandbox Code Playgroud)

java algorithm breadth-first-search microsoft-distributed-file-system data-structures

5
推荐指数
1
解决办法
594
查看次数

使用Windows DFS复制的SQLite备份

我有一个使用SQLite进行存储的应用程序,我想知道使用Windows DFS复制将数据库文件备份到安装了该应用程序的冷备用实例的第二台服务器是否安全。

可能相关的详细信息:

  1. 尽管DFS支持双向复制,但在这种情况下,仅写入主数据库文件,因此复制实际上是单向复制。
  2. 主数据库文件与写入该文件的进程位于同一服务器上。
  3. 当前,将SQLite配置为使用标准的Rollback Journal,但如有必要,我可以切换到预写日志

如果DFS在复制期间锁定了主数据库文件,那么我认为只要锁定的保持时间不长,这种方法就可以起作用。但是,我找不到有关如何实现DFS的足够信息。

更新:我已经在测试环境中实现了它,并且已经运行了好几天。在那段时间内我没有遇到任何问题,因此我很想采用这种解决方案。

sqlite microsoft-distributed-file-system database-replication

5
推荐指数
1
解决办法
80
查看次数

如何解决dfs和dp中的算法问题

许多算法问题都可以通过 DFS 和动态规划来解决。这两种算法之间有直接或间接的联系吗?或者,如果我想到了dp的子问题,如何将其转换为dfs中的递归函数?

dynamic-programming microsoft-distributed-file-system

4
推荐指数
2
解决办法
2339
查看次数

SeaweedFS 文件存储有什么意义?

根据GitHub的说法,SeaweedFS它旨在成为一个简单且高度可扩展的分布式文件系统,使您能够快速存储和获取数十亿个文件。但是,我不明白这一点,SeaweedFS Filer因为它需要一个外部数据存储SeaweedFS

在对象存储之上,可选的 Filer 可以支持目录和 POSIX 属性。Filer 是一个独立的线性可扩展无状态服务器,具有可定制的元数据存储,例如 MySql、Postgres、Redis、Cassandra、HBase、Mongodb、Elastic Search、LevelDB、RocksDB、Sqlite、MemSql、TiDB、Etcd、CockroachDB 等。

为了Filer工作,它首先需要“从 Filer Store 查找元数据,可以是 Cassandra/Mysql/Postgres/Redis/LevelDB/etcd/Sqlite”,然后从卷服务器读取数据。

既然SeaweedFS Filer需要从另一个数据存储(例如 Casandra、Scylla DB 或 HBase)检索文件元数据,然后才能检索实际文件,为什么不使用相同的数据存储来存储实际文件呢?通过将文件元数据存储在一个数据存储中并将实际文件存储在 中可以获得什么SeaweedFS

GlusterFS例如,将元数据存储xattrs在底层文件系统中,因此不需要外部数据存储。

需要外部数据存储是否会破坏使用的整个目的,SeaweedFS因为它需要两跳(往返)而不是一跳?因为我们现在需要1)从外部存储获取文件元数据2)获取实际文件。如果我们将实际文件存储在外部数据存储上,我们可以一步获得它,而不是两步。

database microsoft-distributed-file-system bigdata cassandra redis

4
推荐指数
1
解决办法
4109
查看次数

Hadoop文件拆分:CompositeInputFormat:内部联接

我正在使用CompositeInputFormat为hadoop作业提供输入.

生成的拆分数是作为CompositeInputFormat(用于连接)的输入而给出的文件总数.

该作业完全忽略了块大小和最大分割大小(从CompositeInputFormat获取输入时).这导致长时间运行的Map Tasks,并且由于输入文件大于块大小而使系统变慢.

是否有人知道可以通过哪种方式管理CompositeInputFormat的拆分数量?

hadoop split mapreduce microsoft-distributed-file-system

3
推荐指数
1
解决办法
2086
查看次数

FileSystemWatcher InternalBufferOverflow

当我尝试监视网络路径上的文件夹(DFS - 分布式文件系统)时,我收到异常System.IO.Internal.BufferOverflowException:一次更改许多更改.当FileSystemWatcher监视不使用此文件系统的本地/网络路径时,它可以正常工作.

我能够从本地路径上的1000 +文件中获取一个事件而我没有得到BufferOverflow异常,但是当我将文件复制到DFS上的文件夹时,我甚至无法从一个文件中获取事件(为了澄清这一点,我收到了错误事件...).

我已经尝试过设置:

fileSystemWatcher.InternalBufferSize = 65536;
Run Code Online (Sandbox Code Playgroud)

我不确定这是否会对你有所帮助,但路径看起来像这样:

\\corpnet\cloud\\Network\testFolder\myFolderToMonitor
Run Code Online (Sandbox Code Playgroud)

编辑:1我不知道为什么路径中有两个双斜杠.我可以在没有问题文件夹的情况下进行监控,直到\ corpnet\cloud路径.一旦我试图监视任何开始的文件夹,我就会收到错误

...\\Network\...
Run Code Online (Sandbox Code Playgroud)

你的任何提示都表示赞赏.

谢谢

c# filesystemwatcher buffer-overflow microsoft-distributed-file-system windows-server-2008

2
推荐指数
1
解决办法
1633
查看次数

电话键盘键的字母组合

我有一个关于JavaScript中电话键盘键的字母组合的问题.我使用DFS递归编写了一个解决方案.但它没有按预期工作.我是JavaScript的新手,但在Ruby中编写类似的代码.

问题是从电话键盘获取所有可能的字母组合.

输入:"23"

输出:["ad","ae","af","bd","be","bf","cd","ce","cf"].

使用下面的代码,它停在"af".输出为["ad","ae","af"].我不确定为什么这段代码不会移动到"2"的第二个字母,即"b".

const map = {
  "2": ["a", "b", "c"],
  "3": ["d", "e", "f"],
  "4": ["g", "h", "i"],
  "5": ["j", "k", "l"],
  "6": ["m", "n", "o"],
  "7": ["p", "q", "r", "s"],
  "8": ["t", "u", "v"],
  "9": ["w", "x", "y", "z"]
};

let result = [];

let letterCombinations = function(digits) {
  if (digits.length == 0) {
    return []
  };

  let stack = [];
  dfs(digits.split(''), 0, stack)

  return result
};

function dfs(digits, index, stack) {
  const currentLetters = map[digits[index]] …
Run Code Online (Sandbox Code Playgroud)

javascript recursion microsoft-distributed-file-system

2
推荐指数
1
解决办法
60
查看次数