🔥码云GVP开源项目 12k star Uniapp+ElementUI 功能强大 支持多语言、二开方便! 广告
# Minhash Token Filter(Minhash过滤器) ## 简述 min_hash 过滤器将token流中每个token一一哈希,并将生成的哈希值分成buckets,以保持每bucket最低值的散列值。 然后将这些哈希值作为token(词元)返回。 ## 参数 | 设置 | 描述 | | --- | --- | | `hash_count` | 散列token流的散列数。 默认为`1` 。 | | `bucket_count` | 将minhash分成的bucket数。 默认为`512` 。 | | `hash_set_size` | 每bucket要保留的最小数量。 默认为`1` 。 | | `with_rotation` | 是否将空bucket中的第一个非空bucket的值填充到其循环右边。 仅当hash_set_size等于1时才生效。 如果bucket_count大于1,则默认为`true` ,否则为`false` 。 |