From a561884fcf587274e6fc87367ba1384c4459ff53 Mon Sep 17 00:00:00 2001 From: kevin Date: Wed, 16 Sep 2020 13:27:16 +0800 Subject: [PATCH] print message when starting api server --- doc/sharedcalls.md | 154 +++++++++++---------------- example/bookstore/api/bookstore.go | 6 +- example/bookstore/rpc/add/add.go | 11 +- example/bookstore/rpc/check/check.go | 11 +- example/syncx/sharedcalls/main.go | 34 ++++++ tools/goctl/rpc/gen/genmain.go | 6 +- 6 files changed, 111 insertions(+), 111 deletions(-) create mode 100644 example/syncx/sharedcalls/main.go diff --git a/doc/sharedcalls.md b/doc/sharedcalls.md index 01526e85..4803c7b7 100644 --- a/doc/sharedcalls.md +++ b/doc/sharedcalls.md @@ -1,4 +1,4 @@ -# 进程内共享调用SharedCalls +# 防止缓存击穿之进程内共享调用 go-zero微服务框架中提供了许多开箱即用的工具，好的工具不仅能提升服务的性能而且还能提升代码的鲁棒性避免出错，实现代码风格的统一方便他人阅读等等。 @@ -8,68 +8,51 @@ go-zero微服务框架中提供了许多开箱即用的工具，好的工具不 并发场景下，可能会有多个线程（协程）同时请求同一份资源，如果每个请求都要走一遍资源的请求过程，除了比较低效之外，还会对资源服务造成并发的压力。举一个具体例子，比如缓存失效，多个请求同时到达某服务请求某资源，该资源在缓存中已经失效，此时这些请求会继续访问DB做查询，会引起数据库压力瞬间增大。而使用SharedCalls可以使得同时多个请求只需要发起一次拿结果的调用，其他请求"坐享其成"，这种设计有效减少了资源服务的并发压力，可以有效防止缓存击穿。 -例如：高并发情况下，多个请求同时查询某用户信息，以下是利用SharedCalls工具包实现的用户信息获取方法（注意⚠️：go-zero框架中已经提供了针对此场景的代码实现，以下代码只为说明SharedCalls的使用方式，具体可参看[sqlc](https://github.com/tal-tech/go-zero/blob/master/core/stores/sqlc/cachedsql.go)和[mongoc](https://github.com/tal-tech/go-zero/blob/master/core/stores/mongoc/cachedcollection.go)等处代码） +高并发场景下，当某个热点key缓存失效后，多个请求会同时从数据库加载该资源，并保存到缓存，如果不做防范，可能会导致数据库被直接打死。针对这种场景，go-zero框架中已经提供了实现，具体可参看[sqlc](https://github.com/tal-tech/go-zero/blob/master/core/stores/sqlc/cachedsql.go)和[mongoc](https://github.com/tal-tech/go-zero/blob/master/core/stores/mongoc/cachedcollection.go)等实现代码。 + +为了简化演示代码，我们通过多个线程同时去获取一个id来模拟缓存的场景。如下： ```go -// 用户信息结构体 -type UserInfo struct { - UserId int - Name string - Age int -} +func main() { + const round = 5 + var wg sync.WaitGroup + barrier := syncx.NewSharedCalls() + + wg.Add(round) + for i := 0; i < round; i++ { + // 多个线程同时执行 + go func() { + defer wg.Done() + // 可以看到，多个线程在同一个key上去请求资源，获取资源的实际函数只会被调用一次 + val, err := barrier.Do("once", func() (interface{}, error) { + // sleep 1秒，为了让多个线程同时取once这个key上的数据 + time.Sleep(time.Second) + // 生成了一个随机的id + return stringx.RandId(), nil + }) + if err != nil { + fmt.Println(err) + } else { + fmt.Println(val) + } + }() + } -// 用户信息model对象 -type UserModel struct { - db *sql.DB - rds *redis.Client - barrier syncx.SharedCalls + wg.Wait() } +``` -// 利用SharedCalls实现的用户信息获取方法 -func (um *UserModel) GetUserInfoEffectively(userId int) (*UserInfo, error) { - - // SharedCalls.Do方法提供两个参数，第一个参数是资源获取期间的唯一标识 - // 第二个参数是指定一个fun()(interface{},error) 方法来真正获取资源 - val, err := um.barrier.Do(fmt.Sprintf("uId:{%d}:applying", userId), func() (interface{}, error) { - userInfo := &UserInfo{} - - // 从redis中获取用户信息 - userInfoStr, err := um.rds.Get(fmt.Sprintf("uId:{%d}", userId)).Result() - if err != nil && err != redis.Nil { - return nil, err - } - - // 缓存不为空，解析缓存中的用户数据 - if len(userInfoStr) > 0 { - if err := json.Unmarshal(([]byte)(userInfoStr),userInfo);err!=nil { - return nil, err - } - } else { - - // 缓存为空，从db中获取用户数据 - if err := um.db.QueryRow("select id,name,age from users where id=?", userId).Scan(&userInfo.UserId,&userInfo.Name, &userInfo.Age); err != nil { - return nil, err - } - - // 将用户信息保存到缓存 - userInfoBytes, err := json.Marshal(userInfo) - if err == nil { - um.rds.Set(fmt.Sprintf("uId:{%d}", userId), userInfoBytes, 5*time.Second) - } - } - - return userInfo, nil - }) - - // 判断获取用户过程中是否发生错误 - if err != nil { - return nil, err - } +运行，打印结果为： - // 返回用户信息 - return val.(*UserInfo), nil -} ``` +837c577b1008a0db +837c577b1008a0db +837c577b1008a0db +837c577b1008a0db +837c577b1008a0db +``` + +可以看出，只要是同一个key上的同时发起的请求，都会共享同一个结果，对获取DB数据进缓存等场景特别有用，可以有效防止缓存击穿。 ## 关键源码分析 @@ -78,8 +61,8 @@ func (um *UserModel) GetUserInfoEffectively(userId int) (*UserInfo, error) { ```go // SharedCalls接口提供了Do和DoEx两种方法 type SharedCalls interface { - Do(key string, fn func() (interface{}, error)) (interface{}, error) - DoEx(key string, fn func() (interface{}, error)) (interface{}, bool, error) + Do(key string, fn func() (interface{}, error)) (interface{}, error) + DoEx(key string, fn func() (interface{}, error)) (interface{}, bool, error) } ``` @@ -88,14 +71,14 @@ func (um *UserModel) GetUserInfoEffectively(userId int) (*UserInfo, error) { ```go // call代表对指定资源的一次请求 type call struct { - wg sync.WaitGroup // 用于协调各个请求goroutine之间的资源共享 - val interface{} // 用于保存请求的返回值 - err error // 用于保存请求过程中发生的错误 + wg sync.WaitGroup // 用于协调各个请求goroutine之间的资源共享 + val interface{} // 用于保存请求的返回值 + err error // 用于保存请求过程中发生的错误 } type sharedGroup struct { - calls map[string]*call - lock sync.Mutex + calls map[string]*call + lock sync.Mutex } ``` @@ -108,49 +91,41 @@ func (um *UserModel) GetUserInfoEffectively(userId int) (*UserInfo, error) { ```go // 当多个请求同时使用Do方法请求资源时 func (g *sharedGroup) Do(key string, fn func() (interface{}, error)) (interface{}, error) { - // 先申请加锁 g.lock.Lock() - + // 根据key，获取对应的call结果,并用变量c保存 if c, ok := g.calls[key]; ok { - // 拿到call以后，释放锁，此处call可能还没有实际数据，只是一个空的内存占位 g.lock.Unlock() - // 调用wg.Wait，判断是否有其他goroutine正在申请资源，如果阻塞，说明有其他goroutine正在获取资源 c.wg.Wait() - // 当wg.Wait不再阻塞，表示资源获取已经结束，可以直接返回结果 return c.val, c.err - } - // 没有拿到结果，则调用makeCall方法去获取资源，注意此处仍然是锁住的，可以保证只有一个goroutine可以调用makecall c := g.makeCall(key, fn) - - // 返回调用结果 + // 返回调用结果 return c.val, c.err - } - ``` - +``` + - sharedGroup的DoEx方法 - 和Do方法类似，只是返回值中增加了布尔值表示值是调用makeCall方法直接获取的，还是取的共享成果 ```go func (g *sharedGroup) DoEx(key string, fn func() (interface{}, error)) (val interface{}, fresh bool, err error) { - g.lock.Lock() - if c, ok := g.calls[key]; ok { - g.lock.Unlock() - c.wg.Wait() - return c.val, false, c.err - } + g.lock.Lock() + if c, ok := g.calls[key]; ok { + g.lock.Unlock() + c.wg.Wait() + return c.val, false, c.err + } - c := g.makeCall(key, fn) - return c.val, true, c.err + c := g.makeCall(key, fn) + return c.val, true, c.err } ``` @@ -159,24 +134,18 @@ func (um *UserModel) GetUserInfoEffectively(userId int) (*UserInfo, error) { - 该方法由Do和DoEx方法调用，是真正发起资源请求的方法。 ```go - //进入makeCall的一定只有一个goroutine，因为要拿锁锁住的 + // 进入makeCall的一定只有一个goroutine，因为要拿锁锁住的 func (g *sharedGroup) makeCall(key string, fn func() (interface{}, error)) *call { - // 创建call结构，用于保存本次请求的结果 c := new(call) - // wg加1，用于通知其他请求资源的goroutine等待本次资源获取的结束 c.wg.Add(1) - // 将用于保存结果的call放入map中，以供其他goroutine获取 g.calls[key] = c - // 释放锁，这样其他请求的goroutine才能获取call的内存占位 g.lock.Unlock() - defer func() { - // delete key first, done later. can't reverse the order, because if reverse, // another Do call might wg.Wait() without get notified with wg.Done() g.lock.Lock() @@ -185,16 +154,13 @@ func (um *UserModel) GetUserInfoEffectively(userId int) (*UserInfo, error) { // 调用wg.Done，通知其他goroutine可以返回结果，这样本批次所有请求完成结果的共享 c.wg.Done() - }() - // 调用fn方法，将结果填入变量c中 c.val, c.err = fn() return c - } - ``` +``` ## 最后 diff --git a/example/bookstore/api/bookstore.go b/example/bookstore/api/bookstore.go index a2690475..5db086c0 100644 --- a/example/bookstore/api/bookstore.go +++ b/example/bookstore/api/bookstore.go @@ -1,10 +1,12 @@ package main import ( + "flag" + "fmt" + "bookstore/api/internal/config" "bookstore/api/internal/handler" "bookstore/api/internal/svc" - "flag" "github.com/tal-tech/go-zero/core/conf" "github.com/tal-tech/go-zero/rest" @@ -23,5 +25,7 @@ func main() { defer server.Stop() handler.RegisterHandlers(server, ctx) + + fmt.Printf("Starting server at %s:%d...\n", c.Host, c.Port) server.Start() } diff --git a/example/bookstore/rpc/add/add.go b/example/bookstore/rpc/add/add.go index abd67af9..aa67cbf6 100755 --- a/example/bookstore/rpc/add/add.go +++ b/example/bookstore/rpc/add/add.go @@ -4,15 +4,16 @@ package main import ( + "flag" + "fmt" + "bookstore/rpc/add/internal/config" "bookstore/rpc/add/internal/server" "bookstore/rpc/add/internal/svc" add "bookstore/rpc/add/pb" - "flag" - "fmt" - "log" "github.com/tal-tech/go-zero/core/conf" + "github.com/tal-tech/go-zero/core/logx" "github.com/tal-tech/go-zero/rpcx" "google.golang.org/grpc" ) @@ -30,9 +31,7 @@ func main() { s, err := rpcx.NewServer(c.RpcServerConf, func(grpcServer *grpc.Server) { add.RegisterAdderServer(grpcServer, adderSrv) }) - if err != nil { - log.Fatal(err) - } + logx.Must(err) fmt.Printf("Starting rpc server at %s...\n", c.ListenOn) s.Start() diff --git a/example/bookstore/rpc/check/check.go b/example/bookstore/rpc/check/check.go index caea81dd..f31c3f08 100755 --- a/example/bookstore/rpc/check/check.go +++ b/example/bookstore/rpc/check/check.go @@ -4,15 +4,16 @@ package main import ( + "flag" + "fmt" + "bookstore/rpc/check/internal/config" "bookstore/rpc/check/internal/server" "bookstore/rpc/check/internal/svc" check "bookstore/rpc/check/pb" - "flag" - "fmt" - "log" "github.com/tal-tech/go-zero/core/conf" + "github.com/tal-tech/go-zero/core/logx" "github.com/tal-tech/go-zero/rpcx" "google.golang.org/grpc" ) @@ -30,9 +31,7 @@ func main() { s, err := rpcx.NewServer(c.RpcServerConf, func(grpcServer *grpc.Server) { check.RegisterCheckerServer(grpcServer, checkerSrv) }) - if err != nil { - log.Fatal(err) - } + logx.Must(err) fmt.Printf("Starting rpc server at %s...\n", c.ListenOn) s.Start() diff --git a/example/syncx/sharedcalls/main.go b/example/syncx/sharedcalls/main.go new file mode 100644 index 00000000..84abb788 --- /dev/null +++ b/example/syncx/sharedcalls/main.go @@ -0,0 +1,34 @@ +package main + +import ( + "fmt" + "sync" + "time" + + "github.com/tal-tech/go-zero/core/stringx" + "github.com/tal-tech/go-zero/core/syncx" +) + +func main() { + const round = 5 + var wg sync.WaitGroup + barrier := syncx.NewSharedCalls() + + wg.Add(round) + for i := 0; i < round; i++ { + go func() { + defer wg.Done() + val, err := barrier.Do("once", func() (interface{}, error) { + time.Sleep(time.Second) + return stringx.RandId(), nil + }) + if err != nil { + fmt.Println(err) + } else { + fmt.Println(val) + } + }() + } + + wg.Wait() +} diff --git a/tools/goctl/rpc/gen/genmain.go b/tools/goctl/rpc/gen/genmain.go index 5512c4de..baaa6e82 100644 --- a/tools/goctl/rpc/gen/genmain.go +++ b/tools/goctl/rpc/gen/genmain.go @@ -16,11 +16,11 @@ package main import ( "flag" "fmt" - "log" {{.imports}} "github.com/tal-tech/go-zero/core/conf" + "github.com/tal-tech/go-zero/core/logx" "github.com/tal-tech/go-zero/rpcx" "google.golang.org/grpc" ) @@ -38,9 +38,7 @@ func main() { s, err := rpcx.NewServer(c.RpcServerConf, func(grpcServer *grpc.Server) { {{.registers}} }) - if err != nil { - log.Fatal(err) - } + logx.Must(err) fmt.Printf("Starting rpc server at %s...\n", c.ListenOn) s.Start()