正在创建输入法码表，——请问谁知道，从哪里能拿到大量的“词组”（词库）？

[yq-ysy]

单字的码表已经接近完成一万字，还差一半。现在考虑词组的码表生成方法，
打算用程序脚本，读取词组文件，然后生成词组码表。
但不知道，从哪里能拿到大量的“词组”（词库）？

虽然从一些字典网站可以查询到不完全的词组，
并且还要复制、粘贴、合并为一个文件，也很麻烦。
搜狗输入法带有大量的分类词库，可惜不懂如何提取出来……

请问各位还有没有什么好办法？

[月下叹逍遥]

python2解析搜狗输入法词库

代码： 全选

#!/usr/bin/env python
import struct
import os, sys

def read_utf16_str (f, offset=-1, len=2):
    if offset >= 0:
        f.seek(offset)
    str = f.read(len)
    return str.decode('UTF-16LE')

def read_uint16 (f):
    return struct.unpack ('<H', f.read(2))[0]

def get_word_from_sogou_cell_dict (fname):
    f = open (fname, 'rb')
    file_size = os.path.getsize (fname)

    hz_offset = 0
    mask = struct.unpack ('B', f.read(128)[4])[0]
    if mask == 0x44:
        hz_offset = 0x2628
    elif mask == 0x45:
        hz_offset = 0x26c4
    else:
        sys.exit(1)

    title   = read_utf16_str (f, 0x130, 0x338  - 0x130)
    type    = read_utf16_str (f, 0x338, 0x540  - 0x338)
    desc    = read_utf16_str (f, 0x540, 0xd40  - 0x540)
    samples = read_utf16_str (f, 0xd40, 0x1540 - 0xd40)

    py_map = {}
    f.seek(0x1540+4)

    while 1:
        py_code = read_uint16 (f)
        py_len  = read_uint16 (f)
        py_str  = read_utf16_str (f, -1, py_len)

        if py_code not in py_map:
            py_map[py_code] = py_str

        if py_str == 'zuo':
            break

    f.seek(hz_offset)
    while f.tell() != file_size:
        word_count   = read_uint16 (f)
        pinyin_count = read_uint16 (f) / 2

        py_set = []
        for i in range(pinyin_count):
            py_id = read_uint16(f)
            py_set.append(py_map[py_id])
        py_str = "'".join (py_set)

        for i in range(word_count):
            word_len = read_uint16(f)
            word_str = read_utf16_str (f, -1, word_len)
            f.read(12) 
            yield py_str, word_str

    f.close()

def showtxt (records):
    for (pystr, utf8str) in records:
        print (utf8str.encode('utf8'))

def main ():
    if len (sys.argv) != 2:
        print ("Please specify the Sogou PinYin Cell dict file!")
        exit (1)

    generator = get_word_from_sogou_cell_dict (sys.argv[1])
    showtxt(generator)

if __name__ == "__main__":
    main()

[YeLee]

南瓜神

[yq-ysy]

python2解析搜狗输入法词库

好的，谢谢，我试试。

南瓜神

？？？不明白什么意思……

[qy117121]

南瓜神

？？？不明白什么意思……

二楼就是南瓜