FlashText -- Fast Text Extract and Replace Tool

特性

  • 不随词的数量增长,消耗时间快速增长

例子

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
# 创建工具
In [49]: p = flashtext.KeywordProcessor()

In [50]: p.add_keywords_from_dict({'a': ['b', 'c']})


# match单词
In [52]: p.extract_keywords('a b c')
Out[52]: ['a', 'a']

# match 包括 index
In [56]: p.extract_keywords('a b c', span_info=True)
Out[56]: [('a', 2, 3), ('a', 4, 5)]

Kafka Notes

Tutorials

设计目标

  • 消息持久化,时间复杂度 o(1),TB 级以上数据
  • 高吞吐量

    • 消息传输速率 100KB/s (单机模式下)