|
1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768697071727374757677787980818283848586878889909192939495969798991001011021031041051061071081091101111121131141151161171181191201211221231241251261271281291301311321331341351361371381391401411421431441451461471481491501511521531541551561571581591601611621631641651661671681691701711721731741751761771781791801811821831841851861871881891901911921931941951961971981992002012022032042052062072082092102112122132142152162172182192202212222232242252262272282292302312322332342352362372382392402412422432442452462472482492502512522532542552562572582592602612622632642652662672682692702712722732742752762772782792802812822832842852862872882892902912922932942952962972982993003013023033043053063073083093103113123133143153163173183193203213223233243253263273283293303313323333343353363373383393403413423433443453463473483493503513523533543553563573583593603613623633643653663673683693703713723733743753763773783793803813823833843853863873883893903913923933943953963973983994004014024034044054064074084094104114124134144154164174184194204214224234244254264274284294304314324334344354364374384394404414424434444454464474484494504514524534544554564574584594604614624634644654664674684694704714724734744754764774784794804814824834844854864874884894904914924934944954964974984995005015025035045055065075085095105115125135145155165175185195205215225235245255265275285295305315325335345355365375385395405415425435445455465475485495505515525535545555565575585595605615625635645655665675685695705715725735745755765775785795805815825835845855865875885895905915925935945955965975985996006016026036046056066076086096106116126136146156166176186196206216226236246256266276286296306316326336346356366376386396406416426436446456466476486496506516526536546556566576586596606616626636646656666676686696706716726736746756766776786796806816826836846856866876886896906916926936946956966976986997007017027037047057067077087097107117127137147157167177187197207217227237247257267277287297307317327337347357367377387397407417427437447457467477487497507517527537547557567577587597607617627637647657667677687697707717727737747757767777787797807817827837847857867877887897907917927937947957967977987998008018028038048058068078088098108118128138148158168178188198208218228238248258268278288298308318328338348358368378388398408418428438448458468478488498508518528538548558568578588598608618628638648658668678688698708718728738748758768778788798808818828838848858868878888898908918928938948958968978988999009019029039049059069079089099109119129139149159169179189199209219229239249259269279289299309319329339349359369379389399409419429439449459469479489499509519529539549559569579589599609619629639649659669679689699709719729739749759769779789799809819829839849859869879889899909919929939949959969979989991000100110021003100410051006100710081009101010111012101310141015101610171018101910201021102210231024102510261027102810291030103110321033103410351036103710381039104010411042104310441045104610471048104910501051105210531054105510561057105810591060106110621063106410651066106710681069107010711072107310741075107610771078107910801081108210831084108510861087108810891090109110921093109410951096109710981099110011011102110311041105110611071108110911101111111211131114111511161117111811191120112111221123112411251126112711281129113011311132113311341135113611371138113911401141114211431144114511461147114811491150115111521153115411551156115711581159116011611162116311641165116611671168116911701171117211731174117511761177117811791180118111821183118411851186118711881189119011911192119311941195119611971198119912001201120212031204120512061207120812091210121112121213121412151216121712181219122012211222122312241225122612271228122912301231123212331234123512361237123812391240124112421243124412451246124712481249125012511252125312541255125612571258125912601261126212631264126512661267126812691270127112721273127412751276127712781279128012811282128312841285128612871288128912901291129212931294129512961297129812991300130113021303130413051306130713081309131013111312131313141315131613171318131913201321132213231324132513261327132813291330133113321333133413351336133713381339134013411342134313441345134613471348134913501351135213531354135513561357135813591360136113621363136413651366136713681369137013711372137313741375137613771378137913801381138213831384138513861387138813891390139113921393139413951396139713981399140014011402140314041405140614071408140914101411141214131414141514161417141814191420142114221423142414251426142714281429143014311432143314341435143614371438143914401441144214431444144514461447144814491450145114521453145414551456145714581459146014611462146314641465146614671468146914701471147214731474147514761477147814791480148114821483148414851486 |
- package egg_energy
-
- import (
- md2 "applet/app/md/institutional_management/egg_energy"
- "applet/app/utils"
- "code.fnuoos.com/EggPlanet/egg_system_rules.git/md"
- "code.fnuoos.com/go_rely_warehouse/zyos_go_es.git/es"
- "context"
- "encoding/json"
- "errors"
- "fmt"
- "github.com/olivere/elastic/v7"
- "strconv"
- "strings"
- )
-
- // 查询Elasticsearch并返回结果
- func QueryElasticsearch(req md2.UserEggFlowReq, indexName string) (resp []md2.UserEggFlowReqRespList, total int64, err error) {
- // 构建查询条件
- boolQuery := elastic.NewBoolQuery()
-
- if req.ScoreValueStart != "" && req.ScoreValueEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("score_value").Gte(req.ScoreValueStart).Lte(req.ScoreValueEnd))
- }
- if req.EcpmStart != "" && req.EcpmEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("ecpm").Gte(req.EcpmStart).Lte(req.EcpmEnd))
- }
- if req.InviteUserNumsStart != "" && req.InviteUserNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("invite_user_nums").Gte(req.InviteUserNumsStart).Lte(req.InviteUserNumsEnd))
- }
- if req.TeamActivityNumsStart != "" && req.TeamActivityNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("team_activity_nums").Gte(req.TeamActivityNumsStart).Lte(req.TeamActivityNumsEnd))
- }
- if req.SignInNumsStart != "" && req.SignInNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("sign_in_nums").Gte(req.SignInNumsStart).Lte(req.SignInNumsEnd))
- }
- if req.ImActivityNumsStart != "" && req.ImActivityNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("im_activity_nums").Gte(req.ImActivityNumsStart).Lte(req.ImActivityNumsEnd))
- }
- if req.SendRedPackageNumsStart != "" && req.SendRedPackageNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("send_red_package_nums").Gte(req.SendRedPackageNumsStart).Lte(req.SendRedPackageNumsEnd))
- }
- if req.EggEnergyExchangeAccountBalanceStart != "" && req.EggEnergyExchangeAccountBalanceEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("egg_energy_exchange_account_balance").Gte(req.EggEnergyExchangeAccountBalanceStart).Lte(req.EggEnergyExchangeAccountBalanceEnd))
- }
- if req.AccountBalanceExchangeEggEnergyNumsStart != "" && req.AccountBalanceExchangeEggEnergyNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("account_balance_exchange_egg_energy_nums").Gte(req.AccountBalanceExchangeEggEnergyNumsStart).Lte(req.AccountBalanceExchangeEggEnergyNumsEnd))
- }
- if req.SendCircleOfFriendNumsStart != "" && req.SendCircleOfFriendNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("send_circle_of_friend_nums").Gte(req.SendCircleOfFriendNumsStart).Lte(req.SendCircleOfFriendNumsEnd))
- }
- if req.ForumCommentsNumsStart != "" && req.ForumCommentsNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("forum_comments_nums").Gte(req.ForumCommentsNumsStart).Lte(req.ForumCommentsNumsEnd))
- }
- if req.CollegeLearningNumsStart != "" && req.CollegeLearningNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("college_learning_nums").Gte(req.CollegeLearningNumsStart).Lte(req.CollegeLearningNumsEnd))
- }
- if req.ViolateNumsStart != "" && req.ViolateNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("violate_nums").Gte(req.ViolateNumsStart).Lte(req.ViolateNumsEnd))
- }
- if req.BrowseInterfaceNumsStart != "" && req.BrowseInterfaceNumsEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("browse_interface_nums").Gte(req.BrowseInterfaceNumsStart).Lte(req.BrowseInterfaceNumsEnd))
- }
- if req.PersonAddActivityValueStart != "" && req.PersonAddActivityValueEnd != "" {
- boolQuery = boolQuery.Filter(elastic.NewRangeQuery("person_add_activity_value").Gte(req.PersonAddActivityValueStart).Lte(req.PersonAddActivityValueEnd))
- }
-
- // 执行查询
- searchResult, err := es.EsClient.Search().
- Index(indexName).
- Query(boolQuery).
- From((req.Page - 1) * req.PageSize).Size(req.PageSize).
- Pretty(true).
- Do(context.Background())
- if err != nil {
- if strings.Contains(err.Error(), "no such index") {
- return nil, 0, nil
- }
- return
- }
-
- // 检查是否有结果
- if searchResult.Hits.TotalHits.Value == 0 {
- return
- }
-
- // 解析结果
- for _, hit := range searchResult.Hits.Hits {
- var doc md2.UserEggFlowReqRespList
- err = json.Unmarshal(hit.Source, &doc)
- if err != nil {
- return
- }
- resp = append(resp, doc)
- }
- total = searchResult.Hits.TotalHits.Value
- return
- }
-
- // StatisticsUserEggScoreValueRange 统计用户蛋蛋分范围
- func StatisticsUserEggScoreValueRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("score_value")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- newAggs := elastic.NewHistogramAggregation().Field("score_value").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- var tempTotalDocCount int64
- var endStart, endEnd string
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- if bucket.Key <= stdDeviation {
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- } else {
- bucketValue := bucket.Key
- if tempTotalDocCount == 0 {
- endStart = utils.Float64ToStr(bucketValue)
- }
- tempTotalDocCount += bucket.DocCount
- endEnd = utils.Float64ToStr(bucketValue)
- }
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.AnyToString(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- if tempTotalDocCount > 0 {
- temp, _ := Operate(tempTotalDocCount, totalCount)
- resp = append(resp, map[string]string{
- "key": endStart + " ~ " + endEnd + " 元",
- "value": utils.Float64ToStrPrec10(temp),
- })
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggKindProportion 统计用户蛋蛋分"评比类型"占比
- func StatisticsUserEggKindProportion(esIndexName string) (result []map[string]interface{}, err error) {
- var res *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- aggs := elastic.NewTermsAggregation().Field("score_value_kind")
- res, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("terms", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return result, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- agg, _ := res.Aggregations.Terms("terms")
- var total float64
- for _, bucket := range agg.Buckets {
- var tmp = map[string]interface{}{}
- bucketValue := bucket.Key
- tmp["key"] = bucketValue
- tmp["count"] = bucket.DocCount
- switch bucketValue {
- case 1:
- tmp["name"] = "人工"
- break
- case 2:
- tmp["name"] = "自动"
- break
- default:
- tmp["name"] = "未知"
- }
- result = append(result, tmp)
- total += utils.AnyToFloat64(bucket.DocCount)
- }
- for _, value := range result {
- value["proportion"] = utils.AnyToString(utils.AnyToFloat64(value["count"]) / total)
- }
- return result, nil
- }
-
- // StatisticsUserEggEcpmRange 统计用户"ecpm"范围
- func StatisticsUserEggEcpmRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("ecpm")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("ecpm").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- func StatisticsUserEggEcpmRange1(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- // 创建百分位数聚合
- percentBoolQuery := elastic.NewRangeQuery("ecpm").Gt(0)
- percentilesAgg := elastic.NewPercentilesAggregation().Field("ecpm").Percentiles([]float64{5, 90}...)
- // 执行查询
- response, err := es.EsClient.Search().
- Index(esIndexName).
- Query(percentBoolQuery).
- Aggregation("percentiles_agg", percentilesAgg).
- Size(0).
- Do(context.Background())
- if err != nil {
- // 处理错误
- return resp, err
- }
- // 获取百分位数结果
- percentiles, found := response.Aggregations.Percentiles("percentiles_agg")
- if !found {
- return resp, err
- }
- // 获取第10和第90百分位数
- p5 := percentiles.Values["5.0"]
- p90 := percentiles.Values["90.0"]
- boolQuery := elastic.NewRangeQuery("ecpm").Gte(p5).Lte(p90)
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("ecpm")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("ecpm").Interval(discreteCoefficient).MinDocCount(1).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- fmt.Println(resp)
- return resp, nil
- }
-
- // StatisticsUserEggInviteUserNumsRange 统计用户"拉新人数"范围
- func StatisticsUserEggInviteUserNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("invite_user_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("invite_user_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggTeamActivityNumsRange 统计用户"团队活跃次数"范围
- func StatisticsUserEggTeamActivityNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("team_activity_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("team_activity_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggSignInNumsRange 统计用户"签到次数"范围
- func StatisticsUserEggSignInNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("sign_in_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("sign_in_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggSendRedPackageNumsRange 统计用户"发红包次数"范围
- func StatisticsUserEggSendRedPackageNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("send_red_package_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("send_red_package_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggEggEnergyExchangeAccountBalanceRange 统计用户"蛋蛋能量兑换余额数量"范围
- func StatisticsUserEggEggEnergyExchangeAccountBalanceRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("account_balance_exchange_egg_energy_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("account_balance_exchange_egg_energy_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggAccountBalanceExchangeEggEnergyNumsRange 统计用户"余额兑换蛋蛋能量数量"范围
- func StatisticsUserEggAccountBalanceExchangeEggEnergyNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("egg_energy_exchange_account_balance")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("egg_energy_exchange_account_balance").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggSendCircleOfFriendNumsRange 统计用户"发朋友圈次数"范围
- func StatisticsUserEggSendCircleOfFriendNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("send_circle_of_friend_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("send_circle_of_friend_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggForumCommentsNumsRange 统计用户"论坛评论次数"范围
- func StatisticsUserEggForumCommentsNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("forum_comments_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("forum_comments_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggCollegeLearningNumsRange 统计用户"学院学习次数"范围
- func StatisticsUserEggCollegeLearningNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("college_learning_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("college_learning_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggViolateNumsRange 统计用户"违规次数"范围
- func StatisticsUserEggViolateNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("violate_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("violate_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggBrowseInterfaceNumsRange 统计用户"浏览界面次数"范围
- func StatisticsUserEggBrowseInterfaceNumsRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("browse_interface_nums")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("browse_interface_nums").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- // StatisticsUserEggPersonAddActivityValueRange 统计用户"个人活跃积分增量值"范围
- func StatisticsUserEggPersonAddActivityValueRange(esIndexName string) (resp []map[string]string, err error) {
- resp = []map[string]string{}
- var result *elastic.SearchResult
- boolQuery := elastic.NewBoolQuery().Must() // 创建bool查询
-
- // 1、 创建 extended_stats 高级统计
- aggs := elastic.NewExtendedStatsAggregation().Field("person_add_activity_value")
- result, err = es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", aggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
-
- // 使用Cardinality函数和前面定义的聚合条件名称,查询结果
- agg, found := result.Aggregations.ExtendedStats("result")
- if !found {
- // 打印结果,注意:这里使用的是取值运算符
- return resp, errors.New("未聚合出数据")
- }
-
- if agg.StdDeviation != nil && *agg.StdDeviation != 0 {
- //2、histogram 直方图聚合
- stdDeviation := *agg.StdDeviation //标准平方差
- min := *agg.Min //最小值
- max := *agg.Max //最大值
- avg := *agg.Avg //平均数
- totalCount := agg.Count //总数
- discreteCoefficient := stdDeviation / avg //离散系数
- if stdDeviation < avg {
- //TODO::如果标准差相对较小,而平均值较大,离散系数可能会导致较大的间隔,直接使用标准差或其他更合适的值作为间隔。
- discreteCoefficient = stdDeviation
- }
- newAggs := elastic.NewHistogramAggregation().Field("person_add_activity_value").Interval(discreteCoefficient).ExtendedBounds(min, max)
- searchResult, err := es.EsClient.Search().
- Index(esIndexName).
- TrackTotalHits(true).
- Query(boolQuery). // 设置查询条件
- Aggregation("result", newAggs). // 设置聚合条件,并为聚合条件设置一个名字
- Size(0). // 设置分页参数 - 每页大小,设置为0,代表不返回搜索结果,仅返回聚合分析结果
- Pretty(true). // 返回可读的json格式
- Do(context.Background())
- if err != nil {
- return resp, err
- }
- // 使用Terms函数和前面定义的聚合条件名称,查询结果
- newAgg, found := searchResult.Aggregations.Histogram("result")
- if !found {
- return resp, errors.New("未聚合出数据")
- }
-
- // 3、组装数据
- var keys []string
- var values []int64
- for _, bucket := range newAgg.Buckets {
- // 每一个桶都有一个key值,其实就是分组的值,可以理解为SQL的group by值
- bucketValue := bucket.Key
- keys = append(keys, utils.Float64ToStr(bucketValue))
- values = append(values, bucket.DocCount)
- }
-
- for k, v := range keys {
- value, _ := Operate(values[k], totalCount)
- if k+1 == len(keys) {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + utils.Float64ToStr(max) + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- } else {
- resp = append(resp, map[string]string{
- "key": v + " ~ " + keys[k+1] + " 元",
- "value": utils.Float64ToStrPrec10(value),
- })
- }
- }
- }
- return resp, nil
- }
-
- func GetYearsAndWeeks() (resp map[string][]string, err error) {
- // 1、 获取到所有的索引
- indices, err := es.GetIndexFromAlias(md.EggEnergyUserEggScoreEsAlias)
- if err != nil {
- return nil, err
- }
-
- //2、组装数据
- resp = map[string][]string{}
- for _, index := range indices {
- // 分割字符串
- parts := strings.Split(index, "_")
-
- // 提取 2024 和 46
- resp[parts[len(parts)-1][:4]] = append(resp[parts[len(parts)-1][:4]], parts[len(parts)-1][4:])
- }
- return
- }
-
- func GetYearsAndWeekStr(esIndexName string) (string, string) {
- parts := strings.Split(esIndexName, "_")
- return parts[len(parts)-1][:4], parts[len(parts)-1][4:]
- }
-
- // Operate 除运算保留10位小数
- func Operate(num1, num2 int64) (float64, error) {
- value, err := strconv.ParseFloat(fmt.Sprintf("%.10f", float64(num1)/float64(num2)), 64)
- if err != nil {
- return 0, err
- }
- return value, nil
- }
|