You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
go-zero/doc/shorturl.md

9.0 KiB

使用go-zero从0到1快速构建高并发的短链服务

0. 什么是短链服务?

短链服务就是将长的URL网址通过程序计算等方式转换为简短的网址字符串。

写此短链服务是为了从整体上演示go-zero构建完整微服务的过程算法和实现细节尽可能简化了所以这不是一个高阶的短链服务。

1. 短链微服务架构图

架构图

2. 准备工作

  • 准备goctl工具在任意目录下进行目的是为了编译goctl工具
    1. git clone https://github.com/tal-tech/go-zero
    2. tools/goctl目录下编译goctl工具go build goctl.go
    3. 将生成的goctl放到$PATH确保goctl命令可运行
  • 创建工作目录shorturl
  • shorturl目录下执行go mod init shorturl初始化go.mod

3. 编写API Gateway代码

  • 通过goctl生成shorturl.api并编辑,为了简洁,去除了文件开头的info,代码如下:

    type (
    	shortenReq struct {
    		url string `form:"url"`
    	}
    
    	shortenResp struct {
    		shortUrl string `json:"shortUrl"`
    	}
    )
    
    type (
    	expandReq struct {
    		key string `form:"key"`
    	}
    
    	expandResp struct {
    		url string `json:"url"`
    	}
    )
    
    service shorturl-api {
    	@server(
    		handler: ShortenHandler
    	)
    	get /shorten(shortenReq) returns(shortenResp)
    
    	@server(
    		handler: ExpandHandler
    	)
    	get /expand(expandReq) returns(expandResp)
    }
    

    type用法和go一致service用来定义get/post/head/delete等api请求解释如下

    • service shorturl-api {这一行定义了service名字
    • @server部分用来定义server端用到的属性
    • handler定义了服务端handler名字
    • get /shorten(shortenReq) returns(shortenResp)定义了get方法的路由、请求参数、返回参数等
  • 使用goctl生成API Gateway代码

    goctl api go -api shorturl.api -dir api
    

    生成的文件结构如下:

    .
    ├── api
    │   ├── etc
    │   │   └── shorturl-api.yaml         // 配置文件
    │   ├── internal
    │   │   ├── config
    │   │   │   └── config.go             // 定义配置
    │   │   ├── handler
    │   │   │   ├── expandhandler.go      // 实现expandHandler
    │   │   │   ├── routes.go             // 定义路由处理
    │   │   │   └── shortenhandler.go     // 实现shortenHandler
    │   │   ├── logic
    │   │   │   ├── expandlogic.go        // 实现ExpandLogic
    │   │   │   └── shortenlogic.go       // 实现ShortenLogic
    │   │   ├── svc
    │   │   │   └── servicecontext.go     // 定义ServiceContext
    │   │   └── types
    │   │       └── types.go              // 定义请求、返回结构体
    │   └── shorturl.go                   // main入口定义
    ├── go.mod
    ├── go.sum
    └── shorturl.api
    
  • 启动API Gateway服务默认侦听在8888端口

    go run api/shorturl.go -f api/etc/shorturl-api.yaml
    
  • 测试API Gateway服务

    curl -i "http://localhost:8888/shorten?url=http://www.xiaoheiban.cn"
    

    返回如下:

    HTTP/1.1 200 OK
    Content-Type: application/json
    Date: Thu, 27 Aug 2020 14:31:39 GMT
    Content-Length: 15
    
    {"shortUrl":""}
    

    可以看到我们API Gateway其实啥也没干就返回了个空值接下来我们会在rpc服务里实现业务逻辑

  • 可以修改internal/svc/servicecontext.go来传递服务依赖(如果需要)

  • 实现逻辑可以修改internal/logic下的对应文件

  • 可以通过goctl生成各种客户端语言的api调用代码

4. 编写shorten rpc服务

  • rpc/shorten目录下编写shorten.proto文件

    可以通过命令生成proto文件模板

    goctl rpc template -o shorten.proto
    

    修改后文件内容如下:

    syntax = "proto3";
    
    package shorten;
    
    message shortenReq {
        string url = 1;
    }
    
    message shortenResp {
        string key = 1;
    }
    
    service shortener {
        rpc shorten(shortenReq) returns(shortenResp);
    }
    
  • goctl生成rpc代码rpc/shorten目录下执行命令

    goctl rpc proto -src shorten.proto
    

    文件结构如下:

    rpc/shorten
    ├── etc
    

│   └── shorten.yaml // 配置文件 ├── internal │   ├── config │   │   └── config.go // 配置定义 │   ├── handler │   │   └── shortenerhandler.go // api handler, 不需要修改 │   ├── logic │   │   └── shortenlogic.go // api业务逻辑在这里实现 │   └── svc │   └── servicecontext.go // 定义ServiceContext传递依赖 ├── pb │   └── shorten.pb.go ├── shared │   ├── shortenermodel.go // 提供了外部调用方法,无需修改 │   ├── shortenermodel_mock.go // mock方法测试用 │   └── types.go // request/response结构体定义 ├── shorten.go // rpc服务main函数 └── shorten.proto


直接可以运行,如下:

```shell
$ go run shorten.go -f etc/shorten.yaml
Starting rpc server at 127.0.0.1:8080...

etc/shorten.yaml文件里可以修改侦听端口等配置

5. 编写expand rpc服务

  • rpc/expand目录下编写expand.proto文件

    可以通过命令生成proto文件模板

    goctl rpc template -o expand.proto
    

    修改后文件内容如下:

    syntax = "proto3";
    
    package expand;
    
    message expandReq {
        string key = 1;
    }
    
    message expandResp {
        string url = 1;
    }
    
    service expander {
        rpc expand(expandReq) returns(expandResp);
    }
    
  • goctl生成rpc代码rpc/expand目录下执行命令

    goctl rpc proto -src expand.proto
    

    文件结构如下:

    rpc/expand
    ├── etc
    

│   └── expand.yaml // 配置文件 ├── internal │   ├── config │   │   └── config.go // 配置定义 │   ├── handler │   │   └── expanderhandler.go // api handler, 不需要修改 │   ├── logic │   │   └── expandlogic.go // api业务逻辑在这里实现 │   └── svc │   └── servicecontext.go // 定义ServiceContext传递依赖 ├── pb │   └── expand.pb.go ├── shared │   ├── expandermodel.go // 提供了外部调用方法,无需修改 │   ├── expandermodel_mock.go // mock方法测试用 │   └── types.go // request/response结构体定义 ├── expand.go // rpc服务main函数 └── expand.proto


修改`etc/expand.yaml`里面的`ListenOn`的端口为`8081`,因为`8080`已经被`shorten`服务占用了

修改后运行,如下:

```shell
$ go run expand.go -f etc/expand.yaml
Starting rpc server at 127.0.0.1:8081...

etc/expand.yaml文件里可以修改侦听端口等配置

6. 修改API Gateway代码调用shorten/expand rpc服务未完

7. 定义数据库表结构并生成CRUD+cache代码

  • shorturl下创建rpc/model目录mkdir -p rpc/model

  • 在roc/model目录下编写创建shorturl表的sql文件shorturl.sql,如下:

    CREATE TABLE `shorturl`
    (
      `id` bigint(10) NOT NULL AUTO_INCREMENT,
      `key` varchar(255) NOT NULL DEFAULT '' COMMENT 'shorten key',
      `url` varchar(255) DEFAULT '' COMMENT 'original url',
      PRIMARY KEY(`id`),
      UNIQUE KEY `key_index`(`key`)
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
    
  • 创建DB和table

    create database gozero;
    
    source shorturl.sql;
    
  • rpc/model目录下执行如下命令生成CRUD+cache代码-c表示使用redis cache

    goctl model mysql ddl -c -src shorturl.sql -dir .
    

    也可以用datasource命令代替ddl来指定数据库链接直接从schema生成

    生成后的文件结构如下:

    rpc/model
    ├── shorturl.sql
    ├── shorturlmodel.go              // CRUD+cache代码
    └── vars.go                       // 定义常量和变量
    

8. 修改shorten/expand rpc代码调用crud+cache代码

9. 完整调用演示

10. Benchmark未完

11. 总结(未完)

可以看到go-zero不只是一个框架更是一个建立在框架+工具基础上的,简化和规范了整个微服务构建的技术体系。

我们一直强调工具大于约定和文档

另外,我们在保持简单的同时也尽可能把微服务治理的复杂度封装到了框架内部,极大的降低了开发人员的心智负担,使得业务开发得以快速推进。