SCYTH-J — веб-приложение на основе нейронных сетей для классификации японских текстов по динамически задаваемым пользовательским темам. Проект использует полученную с помощью глубокого обучения с учителем квантованную модель и методы обработки естественного языка для анализа и рубрицирования текстов.
SCYTH-J позволяет:
-
Анализировать японский текст и определять его тематику.
-
Сравнивать тексты с эталонными векторами категорий.
-
Добавлять/удалять эталонные образцы.
- Python 3.11.9
- Виртуальное окружение (
venv) - 3.2+ ГБ свободного места (для модели)
- Склонируйте репозиторий:
git clone https://github.com/jhgudleik/scyth_j.git cd scyth-j - Используйте .bat файл:
Дважды щелкните по init.bat. При первом запуске скачается модель, будут установленны зависимости и приложение откроется в браузере по адресу
http://127.0.0.1:port. При всех последующих запусках bat-файла приложение так же будет открываться в окне браузера.
Или самостоятельно...:
-
Создайте и активируйте виртуальное окружение:
python -m venv scyth_j_venv
- Windows:
scyth_j_venv\Scripts\activate
- Linux/Mac:
source scyth_j_venv/bin/activate
- Windows:
-
Установите зависимости (автоматически загрузит
requirements.txt):pip install -r requirements.txt
-
Скачайте модель. По адресу: https://huggingface.co/Cyrilos/scyth_5_cpu_int8/
-
Запустите приложение:
python app.py
Приложение откроется в браузере по адресу
http://127.0.0.1:port.
scyth-j/
│
├── app.py # Основной скрипт приложения
├── app.gif # Демо
├── download_model.py # Скачивание модели
├── init.bat # Установка зависимостей, скачивание модели и запуск приложения
├── init.gif # Демо установки зависимостей, скачивания модели и запуска приложения
├── scyth.png # Логотип приложения
├── standard/ # Каталог эталонных данных (заполняется пользователем)
├── standard_test/ # Каталог демонстрационных образцов (дублирует структуру эталонного каталога
│ ├── vectors.txt # Список векторов категорий
│ ├── topics.txt # Карта ID → тема
│ ├── 1.vec, 2.vec, ... # Векторные представления текстов
│ └── 1.txt, 2.txt, ... # Примеры текстов
│
├── requirements.txt # Зависимости (pip)
├── scyth_5_cpu_int8.pth # Квантованная модель (скачивается)
├── README.md # Этот файл
└── LICENSE # Лицензия проекта
- Введите японский текст в поле
Новый текстили выберите файл. - Нажмите кнопку Рубрицировать.
- Приложение выведет список найденных категорий с вероятностью совпадения.
- Нажмите Добавить образец.
- Выберите категорию или введите пользовательскую.
- Нажмите Сохранить.
- Образец добавляется в базу и становится доступен для последующего анализа.
- Вкладка Образцы позволяет:
- Сортировать по имени или теме.
- Удалять ненужные образцы.
Параметры модели и поиска задаются в начале файла app.py. Ключевые параметры:
| Параметр | Описание |
|---|---|
TOP_K |
Количество возвращаемых категорий (по умолчанию — 3). |
COSINE_THRESHOLD |
Порог косинусного сходства (0.975 — рекомендуется для точности). |
USE_FBGEMM |
Использовать оптимизированный бекэнд для ускорения вычислений. |
Модель scyth_5_cpu_int8.pth скачивается автоматически при первом запуске init.bat из репозитория Hugging Face:
repo_id="Cyrilos/scyth_5_cpu_int8"Если скачивание не работает, убедитесь, что:
- Подключение к интернету стабильное.
- У вас есть доступ к Hugging Face Hub.
Проект распространяется под лицензией MIT. См. файл LICENSE для деталей.
- Автор: Cyrilos
- Почта: 📧 [[email protected]]
- GitHub: scyth-j-repo-link
- Вопросы: Открывайте
Issuesв репозитории.
SCYTH-J is a neural network-based web application for classifying Japanese texts into user-defined dynamic topics. The system uses a quantized supervised trained deep learning model and natural language processing (NLP) techniques to analyze and categorize texts.
SCYTH-J enables:
- Analysis of Japanese text to determine its thematic content.
- Comparison of texts against reference category vectors.
- Adding/removing reference samples.
- Python 3.11.9
- Virtual environment (
venv) - 3.2+ GB free space (for the model)
- Double-click
init.bat.- On first run, it downloads the model, installs dependencies, and opens the app at
http://127.0.0.1:port. - Subsequent runs will auto-launch the browser.
- On first run, it downloads the model, installs dependencies, and opens the app at
-
Clone the repository:
git clone https://github.com/jhgudleik/scyth_j.git cd scyth-j -
Create and activate a virtual environment:
python -m venv scyth_j_venv
- Windows:
scyth_j_venv\Scripts\activate
- Linux/Mac:
source scyth_j_venv/bin/activate
- Windows:
-
Install dependencies:
pip install -r requirements.txt
-
Download the model:
- From Hugging Face.
-
Run the application:
python app.py
The app will open in your browser at
http://127.0.0.1:port.
scyth-j/
│
├── app.py # Main application script
├── app.gif # Demo screenshot
├── download_model.py # Script to download the model
├── init.bat # Automates setup, model download, and app launch
├── init.gif # Demo screenshot of setup and initialization progress
├── scyth.png # Project logo
├── standard/ # User-defined reference data (populated by users)
├── standard_test/ # Demo sample directory (mirrors structure of `standard/`)
│ ├── vectors.txt # List of category vectors
│ ├── topics.txt # ID → Topic mapping
│ ├── 1.vec, 2.vec, ... # Vector files per category
│ └── 1.txt, 2.txt, ... # Sample text files
│
├── requirements.txt # Python dependencies
├── scyth_5_cpu_int8.pth # Quantized model (auto-downloaded)
├── README.md # This file
└── LICENSE # MIT License
- Enter Japanese text in the "New Text" field or upload a file.
- Click "Categorize".
- The app returns a ranked list of categories with match probabilities.
- Click "Add Sample".
- Select or create a category.
- Click "Save".
- The sample is added to the database for future analysis.
- The "Samples" tab allows:
- Sorting by name or topic.
- Deleting unwanted samples.
Key parameters are set in app.py:
| Parameter | Description |
|---|---|
TOP_K |
Number of returned categories (default: 3). |
COSINE_THRESHOLD |
Cosine similarity threshold (recommended: 0.975 for accuracy). |
USE_FBGEMM |
Enable optimized backend for faster computations. |
The model (scyth_5_cpu_int8.pth) is automatically downloaded via init.bat from Hugging Face:
repo_id = "Cyrilos/scyth_5_cpu_int8"If download fails:
- Ensure a stable internet connection.
- Verify Hugging Face Hub access.
This project is released under the MIT License. See LICENSE for details.
- Author: Cyrilos
- Email: 📧 [[email protected]]
- GitHub: scyth-j-repo
- Issues: Open a ticket in the repository.
© 2026 SCYTH-J. All rights reserved

