QATrainer.Options Classe

Taxa de abandono após funções de ativação em camadas FFN. Deve estar dentro de [0, 1).

Betas para o otimizador Adam.

Otimizador do Epsilon para Adam.

Nome da coluna inicial do índice de resposta

Taxa de abandono para pesos de atenção. Deve estar dentro de [0, 1).

Número de exemplos a serem usados para treinamento em minilote.

O limite de recorte de gradientes. Deve estar dentro de [0, +Inf). 0 significa não recortar norm.

Nome da Coluna de Contexto

Taxa de abandono para situações gerais. Deve estar dentro de [0, 1).

Se deve ser usado o descarte dinâmico.

Se a normalização de camada deve ser aplicada antes de cada bloco de codificador.

A taxa de aprendizado final para o agendador de decaimento polinomial.

Se os parâmetros do codificador devem ser congelados.

Se os parâmetros do módulo de transferência devem ser congelados.

O nome da coluna do rótulo.

Se os parâmetros de norma de camada devem ser treinados.

Taxa de aprendizado para as primeiras N épocas; todas as épocas >N usando LR_N. Observação: isso pode ser interpretado de forma diferente, dependendo do agendador.

Com que frequência registrar a perda.

Pare o treinamento ao atingir esse número de épocas.

Taxa de descarte nas camadas do pooler de modelos de linguagem mascarada. Deve estar dentro de [0, 1).

Nome da Coluna de Resposta para as respostas previstas

O nome da coluna Previsão.

Nome da Coluna de Pergunta

O nome da coluna Pontuação.

A primeira coluna de frase.

A segunda coluna de frase.

A taxa de aprendizado inicial para o agendador de decaimento polinomial.

Tipo de tarefa, que está relacionado ao cabeçalho do modelo.

Número de respostas previstas principais na tarefa de respostas às perguntas.

Nome da Coluna de Resposta para os dados de treinamento

O conjunto de validação usado durante o treinamento para melhorar a qualidade do modelo.

Proporção de etapas de aquecimento para o agendador de decaimento polinomial.

Coefficiency de decadência de peso. Deve estar dentro de [0, +Inf).