博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Golang系列:抓取网页内容
阅读量:4984 次
发布时间:2019-06-12

本文共 1158 字,大约阅读时间需要 3 分钟。

今天写个简单的程序,根据指定的 URL 来抓取相应的网页内容,然后存入本地文件。这个程序会涉及到网络请求和文件操作等知识点,下面是实现代码:

// fetch.gopackage mainimport (    "os"    "fmt"    "net/http"    "io/ioutil")func main() {    url := os.Args[1]    // 根据URL获取资源    res, err := http.Get(url)    if err != nil {        fmt.Fprintf(os.Stderr, "fetch: %v\n", err)        os.Exit(1)    }    // 读取资源数据 body: []byte    body, err := ioutil.ReadAll(res.Body)    // 关闭资源流    res.Body.Close()    if err != nil {        fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err)        os.Exit(1)    }    // 控制台打印内容 以下两种方法等同    fmt.Printf("%s", body)    fmt.Printf(string(body))    // 写入文件    ioutil.WriteFile("site.txt", body, 0644)}

上面的代码中,我们引入了 net/http 网络包,然后调用 http.Get(url) 方法获取 URL 对应的资源,之后读取出资源数据,然后在控制台打印,并将内容写入到本地文件中。

需要注意的是,在读取资源数据完毕后,应该及时将资源流关闭,避免出现内存资源的泄露。

另外,在处理异常时,我们使用了 fm.Fprintf() 这个方法,它是格式化三大方法之一:

Printf: 格式化字符串并输出到 os.Stdout 中。

Fprintf: 格式化字符串并输出到指定文件设备中,所以参数比 Printf 多一个文件指针 FILE*
Sprintf: 格式化字符串并输出到指定字符串中,所以参数比 Printf 多一个 char*,那就是目标字符串地址。

编译后运行程序,并指定一个 URL 参数,这里暂时指定为百度吧,还是希望 Google 近期能够回归:

$ ./fetch http://www.baidu.com

运行完程序,在当前目录中会生成一个 site.txt 文件。

转载于:https://www.cnblogs.com/liuhe688/p/10897712.html

你可能感兴趣的文章