You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
go-zero/doc/mapreduce.md

960 B

mapreduce用法

Map

channel是Map的返回值

由于Map是个并发操作如果不用range或drain的方式那么在使用返回值的时候可能Map里面的代码还在读写这个返回值可能导致数据不全或者concurrent read write错误

  • 如果需要收集Map生成的结果那么使用如下方式

    for v := range channel {
    	// v is with type interface{}
    }
    
  • 如果不需要收集结果那么就需要显式的调用mapreduce.Drain

    mapreduce.Drain(channel)
    

MapReduce

  • mapper和reducer方法里可以调用cancel调用了cancel之后返回值会是nil, false
  • mapper里面如果有item不写入writer那么这个item就不会被reduce收集
  • mapper里面如果有处理item时panic那么这个item也不会被reduce收集
  • reduce是单线程所有mapper出来的结果在这里串行处理
  • reduce里面不写writer或者panic会导致返回nil, false