Aumentando modelos de linguagem grandes por meio de incorporações vetoriais para melhorar a capacidade de resposta específica do domínio

Nossa pesquisa se concentra em uma ampla variedade de aplicativos de aprendizado de máquina e grandes modelos de linguagem no tratamento do câncer. Isso inclui melhorar o atendimento direto ao paciente e enfrentar desafios operacionais, como agendamento e documentação. Em última análise, estamos tentando responder à pergunta: como essas tecnologias podem melhorar a saúde para pacientes, provedores e pesquisadores?

Grandes modelos de linguagem já começaram a transformar o cenário de pesquisa. Tarefas de processamento de linguagem natural anteriormente proibitivas tornaram-se acessíveis a muito mais investigadores, permitindo muitas novas linhas de pesquisa envolvendo dados não estruturados. Um grande desafio é o cenário em rápida mudança de grandes ferramentas e infraestrutura de modelo de linguagem.

Muitos médicos e pesquisadores podem ter ideias para aplicações, mas atualmente não têm o conhecimento contextual ou técnico necessário para a implementação, ou consideração cuidadosa das compensações de diferentes abordagens. Para começar, instale o Git, python e PIP no computador e execute os comandos em um terminal para verificar a instalação. Em seguida, execute o comando git clone para baixar o repositório e instalar os requisitos necessários.

Para criar um banco de dados vetorial, edite a configuração. py, substituindo o valor da variável a seguir pelo caminho do arquivo para a pasta que contém os documentos que serão usados para aumentar o modelo de linguagem grande. Em seguida, salve o arquivo atualizado no diretório articles.

Em seguida, em um terminal no mesmo diretório, execute o código com o comando Python 3 build index para criar e persistir o banco de dados. Verifique se o banco de dados agora está salvo na pasta do banco de dados vetorial. Para consultar o LLM aumentado, execute o Python 3 run augmented llm.

py no terminal. Teste as consultas do usuário para receber respostas que são aumentadas pelos dados do conjunto de documentos. Em seguida, pressione control mais C para sair quando terminar.

Para criar MCQs, edite as perguntas do arquivo. py, tomando nota do formato dos exemplos. Adicione perguntas seguindo um formato semelhante e salve o arquivo.

Para editar a configuração. pi, adicione a chave de API para abrir AI ou abraçar o rosto. Se o objetivo for comparar com modelos de qualquer um dos provedores.

Agora salve o arquivo. Em seguida, edite os llms de comparação. py e escolha o conjunto de modelos a serem testados.

Depois de descomentar os modelos para comparar. Por fim, em um terminal, execute o código com o comando compare llms e, após a execução, visualize as respostas do modelo na pasta especificada para avaliação ou outra revisão. Entre os MCQs testados, o modelo de incorporação teve um desempenho significativamente melhor do que o de base, assim como os modelos de IA aberta aumentada.