189 8069 5689
1、服务器编程：以前你如果使用C或者C++做的那些事情，用Go来做很合适，例如处理日志、数据打包、虚拟机处理、文件系统等。
创新互联公司-专业网站定制、快速模板网站建设、高性价比城口网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式城口网站制作公司更省心,省钱,快速模板网站建设找我们，业务覆盖城口地区。费用合理售后完善，十余年实体公司更值得信赖。
2、分布式系统、数据库代理器、中间件：例如Etcd。
3、网络编程：这一块目前应用最广，包括Web应用、API应用、下载应用，而且Go内置的net/http包基本上把我们平常用到的网络功能都实现了。
4、开发云平台：目前国外很多云平台在采用Go开发，我们所熟知的七牛云、华为云等等都有使用Go进行开发并且开源的成型的产品。
5、区块链：目前有一种说法，技术从业人员把Go语言称作为区块链行业的开发语言。如果大家学习区块链技术的话，就会发现现在有很多很多的区块链的系统和应用都是采用Go进行开发的，比如ehtereum是目前知名度最大的公链，再比如fabric是目前最知名的联盟链，两者都有go语言的版本，且go-ehtereum还是以太坊官方推荐的版本。
自1.0版发布以来，go语言引起了众多开发者的关注，并得到了广泛的应用。go语言简单、高效、并发的特点吸引了许多传统的语言开发人员，其数量也在不断增加。
使用 Go 语言开发的开源项目非常多。早期的 Go 语言开源项目只是通过 Go 语言与传统项目进行C语言库绑定实现，例如 Qt、Sqlite 等。
后期的很多项目都使用 Go 语言进行重新原生实现，这个过程相对于其他语言要简单一些，这也促成了大量使用 Go 语言原生开发项目的出现。
上周从零学习了golang，语法简单关键字少，写个爬虫熟悉一下语法结构。
首先选用了原生的net/http包，基本上涵盖了所有的get/post请求，各种参数都可以设置，网上google到html页面解析goquery神器，很轻松就可以解决页面解析问题。
首先就写了个爬取汇率的爬虫。然后重写之前php的一个请求类，请求类的逻辑有点混乱不清晰，往往把两个不同的功能合并到一起写，粒度大，后来发现了一个好用的框架——colly，之后再试试好不好用
Windows 10 Golang
依赖包：goquery
较常用的方法有Find和Each
爬取中国银行的汇率牌价表，golang依赖net/http包和goquery包
唯一的难点是对于goquery方法的使用，需要阅读官方文档：
使用原生的net/http包基本上可以解决大多数的网页请求，使用goquery可以解决页面解析问题
可以利用golang的协程特性进行异步多协程爬取
增加安全性可以通过几个方面进行改进：
1.首先可以限制爬虫的爬取速度
2.每次对网页的请求都随机选用一个客户端
3.选用IP代理池，防止IP误封（及限制ip访问次数）
构造请求代理ip网站的链接→获取网页内容→ 提取网页中IP地址和端口号→验证IP的有效性并存储
轻量级反爬虫方案
浅谈JSP
golang带json的Http请求
Get/Post
HTTP请求中的Form Data和Request Payload的区别
HTTP Json请求
net/http：
golang HTTP操作
python建立爬虫代理ip池
爬虫黑科技之让你的爬虫程序更像人类用户的行为
特点：事件监听，通过callback执行事件处理
基于colly开发的web管理界面
Go语言由Google公司开发，并于2009年开源，相比Java/Python/C等语言，Go尤其擅长并发编程，性能堪比C语言，开发效率肩比Python，被誉为“21世纪的C语言”。
Go语言在云计算、大数据、微服务、高并发领域应用应用非常广泛。BAT大厂正在把Go作为新项目开发的首选语言。
Go语言能干什么?
1、服务端开发：以前你使用C或者C++做的那些事情，用Go来做很合适，例如日志处理、文件系统、监控系统等;
2、DevOps：运维生态中的Docker、K8s、prometheus、grafana、open-falcon等都是使用Go语言开发;
3、网络编程：大量优秀的Web框架如Echo、Gin、Iris、beego等，而且Go内置的 net/http包十分的优秀;
4、Paas云平台领域：Kubernetes和Docker Swarm等;
5、分布式存储领域：etcd、Groupcache、TiDB、Cockroachdb、Influxdb等;
6、区块链领域：区块链里面有两个明星项目以太坊和fabric都使用Go语言;
7、容器虚拟化：大名鼎鼎的Docker就是使用Go语言实现的;
8、爬虫及大数据：Go语言天生支持并发，所以十分适合编写分布式爬虫及大数据处理。
对比于其他语言的程序，Go语言的跨平台能力是真的强，拿.Net和JAVA来说吧，.Net在.Net core出现之前是不能跨平台的，只能在windows上编译运行，即使是.net core出现以后，跨平台的程序也是相当的麻烦。而java虽然一直都可以跨平台，但是运行JAVA程序的机器上也必须要有JAVA程序运行环境JRE。而相对于Go程序，跨平台就简单的多了，只需要在编译指定目标程序运行的架构和环境即可编译出指定操作系统和架构的程序。
以上是指定了go的环境变量后执行的go build命令进行目标程序的构建，这种方式会一直生效的，如果不让他一直生效，可以在构建的时候临时指定环境变量，下面以window的环境为例，来介绍临时指定环境变量的方式构建可以在Linux环境下运行的可执行程序：
可以根据不同的架构和操作系统将其编写为不同的.bat的可执行文件放置在程序的根目录，Linux的和MAC的也一样编写成脚本文件放置在程序的根目录，这样在构建的时候就不用再敲命令了，直接运行脚本就可以了。
Java程序编译打包后为war包或者是java包，必须执行java -jar 命令或者将其放置到tomcat的指定目录下，运行tomcat程序。而Go语言编写的程序最终为可执行的文件（window下编译出的是.exe的可执行文件），只需要将其赋予可执行的权限就可以直接运行了。
构建JAVA程序的镜像需要指定java的基础镜像，否则就需要在镜像中安装java的运行环境了，下面展示的是构建的一个JAVA程序的镜像，构建出来镜像的体积相对比较大
而Go程序制作出的镜像就不需要安装任何的依赖环境，因为他在打包的时候就已经将依赖的包一块打包到一起了
拿着这个镜像就可以到处运行了。
通过对比我们可以发现，如果没有之前的技术和业务的积累，重新开发一个新的项目，使用go去开发无疑是最容易上手的，所以现在很多公司都使用go进行开发，也逐渐将其他语言的项目逐步的用go语言进行改造。其实用什么语言不重要，合适的才重要，开发项目在选择语言的时候也会综合多方面来考虑选择合适的语言和架构，毕竟很多公司都不是搞研究的，都需要项目来赚钱，所以开发的速度、客户的满意度、项目交付的时间才是驱动公司技术的主要因素。
我们个人也应该不断完善自己的技术栈，不应该太依靠某种语言，最重要的还是自己的架构思想和底层架构知识，只有掌握了这些才能够不被 社会 和公司“优化”。
很多朋友可能知道Go语言的优势在哪，却不知道Go语言适合用于哪些地方。
1、 Go语言作为服务器编程语言，很适合处理日志、数据打包、虚拟机处理、文件系统、分布式系统、数据库代理等；网络编程方面。Go语言广泛应用于Web应用、API应用、下载应用等；除此之外，Go语言还可用于内存数据库和云平台领域，目前国外很多云平台都是采用Go开发。
2、 其实Go语言主要用作服务器端开发。其定位是用来开发"大型软件"的，适合于很多程序员一起开发大型软件，并且开发周期长，支持云计算的网络服务。Go语言能够让程序员快速开发，并且在软件不断的增长过程中，它能让程序员更容易地进行维护和修改。它融合了传统编译型语言的高效性和脚本语言的易用性和富于表达性。
3、 Go语言成功案例。Nsq：Nsq是由Go语言开发的高性能、高可用消息队列系统，性能非常高，每天能处理数十亿条的消息；
4、 Docker：基于lxc的一个虚拟打包工具，能够实现PAAS平台的组建。
5、 Packer：用来生成不同平台的镜像文件，例如VM、vbox、AWS等，作者是vagrant的作者
6、 Skynet：分布式调度框架。
7、 Doozer：分布式同步工具，类似ZooKeeper。
8、 Heka：mazila开源的日志处理系统。
9、 Cbfs：couchbase开源的分布式文件系统。
10、 Tsuru：开源的PAAS平台，和SAE实现的功能一模一样。
11、 Groupcache：memcahe作者写的用于Google下载系统的缓存系统。
12、 God：类似redis的缓存系统，但是支持分布式和扩展性。
13、 Gor：网络流量抓包和重放工具。
以上的就是关于go语言能做什么的内容介绍了。
先配置Header最长读取时间、req最长读取时间、req最大读取长度默认6M。
RFC7230禁止\r\n参数，Url中只允许包含英文字母（a-zA-Z）、数字（0-9）、-_.~4个特殊字符以及所有保留字符。但go net/http包放宽了这个要求。
先构建newTextprotoReader，由于缓冲区是对象复用的，用完后要defer put。共完以以下解析任务：
TextprotoReader数据结构，将字节码Reader转成文本Reader。
第一步，从第一行解析出method uri prototype。
第二步解析URL。url.URL数据结构：
解析Scheme，协议前缀（小写）。有查询参数?，则配置url.ForceQuery url.RawQuery。有认证信息///...//，则解析url.User url.Host。最后配置url.Path和url.RawPath，如果Path==RawPath，则RawPath=""。
第三步解析MIMEHeader。
第四步readTransfer。重新配置如下参数：RequestMethod ProtoMajor ProtoMinor Header Trailer ContentLength Close。对于Body，如果encodings支持chunked，读取流用chunkedReader包裹。默认情况用LimitedReader，无body赋空的struct{}。
以下情况返回非空err，示得到正确的请求：
最后配置req.ctx req.RemoteAddr req.TLS body.doEarlyClose = true。
构建Response:
其中closeNotifyCh必须在构建时初始化，没有content所以先置contentLength为-1。
配置w.cw并被w.w包裹。w.cw缓冲默认大小2M。
获取Request可能出现如下错误：
先上响应数据结构：
response字段可以分类为：大对象、缓冲、KV对或bool型的状态参数。
大对象有：
状态字段：
chunkWriter数据结构：
chunkWriter包裹了Response，功能之一是完成Header设置，包括Content-Type Content-Length chunk-header。bufio.Writer是chunkWriter是缓冲包裹。
handler将响应写入到response.w。
调用w.w.Flush()将w写入到cw，注意到Flush()操作，如果未刷空缓存并报错，触发拷贝操作。报错不会退回已写出的数据。
进而调用cw.Write()，根据cw.chunking参数。
putBufioWriter(w.w)清空resp.w缓冲，如果池化放回sync.pool。
根据chunkWriter的定义，w.cw.close()负责cw的结束工作：写入换行符和resp.trailers数据。
最后刷新TCP缓冲w.conn.bufw.Flush()，完成响应包发送。并正确关闭request。