Librusec

Books mostly in Russian from Librusec library. With original metadata.

DatasetDict({
    train: Dataset({
        features: ['genre', 'book_title', 'fpath', 'book_json', 'author.first_name', 'author.last_name', 'author.middle_name', 'langs.lang', 'doc_info.nickname', 'doc_info.email', 'doc_info.date', 'doc_info.doc_id', 'doc_info.version', 'doc_info.program_used', 'langs.src_lang', 'doc_info.src_url', 'pub_info.book_name', 'pub_info.publisher', 'pub_info.city', 'pub_info.year', 'title_info.annotation', 'pub_info.isbn', 'pub_info.sequence', 'title_info.keywords'],
        num_rows: 493378
    })
})

JSON

Books are in JSON format:

[
    {
        "body_title": [
            "Жюльетта Бенцони",
            "Манчжурская принцесса"
        ],
        "epigraph": {
            "author": "Лао Цзы",
            "text": [
                "«Нельзя идтии любоваться звездами, когда в твоем ботинке камень»."
            ]
        },
        "sections": [
            {
                "data": {
                    "pars": [
                        "Июль 1918",
                        "Вокзал в Шалон-сюр-Марн...",
                        "Вдоль платформы длинной лентой вытянулись двадцать три вагона санитарного поезда, который вот-вот должен был тронуться. Занимавшиеся погрузкой раненых санитары оказывали им последние услуги, прежде чем передать на попечение медицинского персонала поезда, где позаботятся о них до Лиона.",
                        "Весь день стояла жара, все вокруг было налито тяжестью. К пяти часам вечера разразившаяся гроза принесла долгожданную прохладу, с облегчением воспринятую всеми.

Format JSON as you need

Example:

def format_book(doc):
    res = ""
    for body in doc:
        if 'body_title' in body:
            title = '\n\n'.join(body['body_title'])
            res += title
            res += '\n\n'
        
        if 'sections' in body:
            for section in body['sections']:
                if 'title' in section:
                    sec_title = '\n\n'.join(section['title'])
                    res += sec_title
                    res += '\n\n'
    
                if 'data' in section and 'pars' in section['data']:
                    for par in section['data']['pars']:
                        res += f'{par}\n'
                else:
                    # print('no pars', section)
                    pass

    return res