从末尾读取日志文件并获取特定字符串的偏移量

Question

.eg 1.日志文件

• 开始
• 1号线
• 2号线
• 3号线
• 结尾

当我从头开始读取文件时，我能够获得 Line1 的查找位置。

func getSeekLocation() int64 {
    start := int64(0)
    input, err := os.Open(logFile)
    if err != nil {
        fmt.Println(err)
    }
    if _, err := input.Seek(start, io.SeekStart); err != nil {
        fmt.Println(err)
    }
    scanner := bufio.NewScanner(input)

    pos := start
    scanLines := func(data []byte, atEOF bool) (advance int, token []byte, 
    err error) {
        advance, token, err = bufio.ScanLines(data, atEOF)
        pos += int64(advance)
        return
    }
    scanner.Split(scanLines)
    for scanner.Scan() {
       if strings.Contains(scanner.Text(), "Line1") {
        break
       }
    }
    size, err := getFileSize()
    if err != nil {
        fmt.Println(err)
    }
    return size - pos
}

但这不是解决问题的有效方法，因为随着文件大小的增加，获取位置的时间也会增加。我想从 EOF 位置获取线路的位置，我认为这会更有效。

Answer 1

注意：我优化和改进了以下解决方案，并在此处将其作为库发布：github.com/icza/backscanner

bufio.Scanner使用 anio.Reader作为其源，不支持从任意位置查找和/或读取，因此无法从末尾扫描行。bufio.Scanner一旦之前的所有数据都已经被读取，则只能读取输入的任何部分（也就是说，如果它首先读取文件的所有内容，它只能读取文件的末尾）。

所以我们需要一个定制的解决方案来实现这样的功能。幸运的是，os.File它支持从任意位置读取，因为它实现了io.Seeker和io.ReaderAt（它们中的任何一个都足以做我们需要的）。

从末尾开始返回向后行的扫描仪

让我们构造一个向后Scanner扫描行，从最后一行开始。为此，我们将使用. 下面的实现使用一个内部缓冲区，从输入的末尾开始，数据被块读取到其中。输入的大小也必须传递（基本上是我们想要开始读取的位置，不一定是结束位置）。io.ReaderAt

type Scanner struct {
    r   io.ReaderAt
    pos int
    err error
    buf []byte
}

func NewScanner(r io.ReaderAt, pos int) *Scanner {
    return &Scanner{r: r, pos: pos}
}

func (s *Scanner) readMore() {
    if s.pos == 0 {
        s.err = io.EOF
        return
    }
    size := 1024
    if size > s.pos {
        size = s.pos
    }
    s.pos -= size
    buf2 := make([]byte, size, size+len(s.buf))

    // ReadAt attempts to read full buff!
    _, s.err = s.r.ReadAt(buf2, int64(s.pos))
    if s.err == nil {
        s.buf = append(buf2, s.buf...)
    }
}

func (s *Scanner) Line() (line string, start int, err error) {
    if s.err != nil {
        return "", 0, s.err
    }
    for {
        lineStart := bytes.LastIndexByte(s.buf, '\n')
        if lineStart >= 0 {
            // We have a complete line:
            var line string
            line, s.buf = string(dropCR(s.buf[lineStart+1:])), s.buf[:lineStart]
            return line, s.pos + lineStart + 1, nil
        }
        // Need more data:
        s.readMore()
        if s.err != nil {
            if s.err == io.EOF {
                if len(s.buf) > 0 {
                    return string(dropCR(s.buf)), 0, nil
                }
            }
            return "", 0, s.err
        }
    }
}

// dropCR drops a terminal \r from the data.
func dropCR(data []byte) []byte {
    if len(data) > 0 && data[len(data)-1] == '\r' {
        return data[0 : len(data)-1]
    }
    return data
}

使用示例：

func main() {
    scanner := NewScanner(strings.NewReader(src), len(src))
    for {
        line, pos, err := scanner.Line()
        if err != nil {
            fmt.Println("Error:", err)
            break
        }
        fmt.Printf("Line start: %2d, line: %s\n", pos, line)
    }
}

const src = `Start
Line1
Line2
Line3
End`

输出（在Go Playground上试试）：

Line start: 24, line: End
Line start: 18, line: Line3
Line start: 12, line: Line2
Line start:  6, line: Line1
Line start:  0, line: Start
Error: EOF

笔记：

• 以上Scanner不限制行的最大长度，它处理所有。
• 以上Scanner处理\n和\r\n行尾（由dropCR()函数确保）。
• 您可以传递任何起始位置，而不仅仅是大小/长度，并且将从那里执行列表行（续）。
• 以上Scanner不重用缓冲区，总是在需要时创建新缓冲区。（预）分配 2 个缓冲区并明智地使用它们就足够了。实现将变得更加复杂，并且会引入最大行长度限制。

将它与文件一起使用

要Scanner在文件中使用它，您可以使用os.Open()来打开文件。请注意，*File实现io.ReaderAt(). 然后您可以使用File.Stat()获取有关文件 ( os.FileInfo) 的信息，包括其大小（长度）：

f, err := os.Open("a.txt")
if err != nil {
    panic(err)
}
fi, err := f.Stat()
if err != nil {
    panic(err)
}
defer f.Close()

scanner := NewScanner(f, int(fi.Size()))

寻找一行中的子串

如果您正在寻找一行中的子字符串，那么只需使用上面的Scanner返回每行的起始位置，从末尾读取行的方法。

您可以使用 来检查每行中的子字符串strings.Index()，它返回行内的子字符串位置，如果找到，则将行开始位置添加到此。

假设我们正在寻找"ine2"子字符串（它是该"Line2"行的一部分）。您可以这样做：

scanner := NewScanner(strings.NewReader(src), len(src))
what := "ine2"
for {
    line, pos, err := scanner.Line()
    if err != nil {
        fmt.Println("Error:", err)
        break
    }
    fmt.Printf("Line start: %2d, line: %s\n", pos, line)

    if i := strings.Index(line, what); i >= 0 {
        fmt.Printf("Found %q at line position: %d, global position: %d\n",
            what, i, pos+i)
        break
    }
}

输出（在Go Playground上试试）：

Line start: 24, line: End
Line start: 18, line: Line3
Line start: 12, line: Line2
Found "ine2" at line position: 1, global position: 13