Este modelo é uma prova de conceito de um modelo de tradução especializado em documentações técnicas desenvolvido como parte de um Trabalho de Conclusão de Curso. O uso deste modelo é voltado para fins acadêmicos. O autor não se responsabiliza por qualquer uso indevido.

A técnica de mixed fine-tuning foi aplicada, conforme descrito no artigo An Empirical Comparison of Domain Adaptation Methods for Neural Machine Translation (Chu et al., ACL 2017)

O mixed fine-tuning foi realizado com dados da Revista FAPESP e documentações técnicas de diversas fontes. Os dados da FAPESP foram obtidos da seguinte fonte: FAPESP Corpora (Aziz & Specia, 2011). Os dados de documentações técnicas, foram coletados e compilados pelo autor em conformidade com as diretrizes específicas de cada fonte.

Helsinki-NLP/opus-mt-tc-big-en-pt

westronai/translation-en-pt

• Arquitetura: Transformer-Big
• Linguagem de origem: Inglês (en)
• Linguagem alvo: Português (pt)
• Tokenização: SentencePiece
• Dados de fine-tuning: Dados da Revista FAPESP e Documentações Técnicas

Aqui está um exemplo de como usar o modelo em Python com Hugging Face:

from transformers import MarianMTModel, MarianTokenizer

src_text = [
    "A bus is a communication system that transfers data between components.",
    "The database host is experiencing issues.",
    "The table is under a lock during the operation."
]

model_name = "westronai/translation-en-pt"
tokenizer = MarianTokenizer.from_pretrained(model_name)
model = MarianMTModel.from_pretrained(model_name)
translated = model.generate(**tokenizer(src_text, return_tensors="pt", padding=True))

for t in translated:
    print(tokenizer.decode(t, skip_special_tokens=True))

Essa tabela mostra as diferenças entre o modelo original e o modelo com fine-tuning, evidenciando as melhorias em termos de adequação técnica nas traduções.

A análise métrica foi realizada utilizando um conjunto de 10.000 sentenças, composto igualmente por documentações técnicas e textos da revista FAPESP, extraídas do conjunto de testes.