FinGPT : Révolutionner la finance open-source avec une approche centrée sur les données

Name

Matt Popovic

Published on 17/08/2023

(opens in a new tab) (opens in a new tab) (opens in a new tab) (opens in a new tab) (opens in a new tab) (opens in a new tab)

Pourquoi FinGPT ?

Le paysage financier est très dynamique, ce qui rend difficile de suivre les changements constants. Les méthodes traditionnelles de réentrainement des LLM en utilisant un ensemble de données mixtes de sources financières et générales peuvent être coûteuses et chronophages. Par exemple, BloombergGPT, un autre LLM, nécessite environ 1,3 million d'heures de GPU pour le réentrainement, pour un coût d'environ 5 millions de dollars. Il est donc peu pratique de réentrainer un modèle LLM chaque mois ou chaque semaine.

FinGPT présente une alternative plus accessible. Il privilégie l'adaptation légère, en exploitant les points forts de certains des meilleurs LLM open-source disponibles. Ces modèles sont ensuite alimentés avec des données financières et affinés pour la modélisation financière du langage. Le coût de l'adaptation diminue considérablement, estimé à moins de 300 dollars par entraînement, ce qui fait de FinGPT une solution rentable.

Comment fonctionne FinGPT :

Alors que nous continuons notre exploration de FinGPT, plongeons plus en profondeur dans ses aspects techniques. FinGPT est construit sur la base de LLM open-source, qui sont affinés avec des données financières pour la modélisation du langage financier. Ce processus est rendu possible grâce à l'apprentissage par renforcement à partir des retours humains (RLHF), une technologie qui permet au modèle d'apprendre les préférences individuelles.

• L'un des aspects critiques de FinGPT est sa focalisation sur les données financières en libre accès à grande échelle sur Internet. Cela permet des mises à jour fréquentes (mensuelles ou hebdomadaires) grâce à un pipeline d'automatisation de la curation des données. Contrairement à BloombergGPT, qui dispose d'un accès privilégié aux données et aux API, FinGPT est plus accessible et privilégie l'adaptation légère.

• Un autre des points forts clés de FinGPT est sa capacité à s'adapter rapidement aux nouvelles données. Cela est rendu possible grâce à son approche d'adaptation légère, qui réduit considérablement le coût de l'entraînement. Cela fait de FinGPT non seulement un outil puissant dans l'industrie financière, mais aussi une solution rentable.

• FinGPT privilégie également les données financières à grande échelle sur Internet. Cela est réalisé grâce à un pipeline d'automatisation de la curation des données, qui permet des mises à jour rapides. Cette fonctionnalité distingue FinGPT des autres LLM, en en faisant une alternative plus accessible.

La technologie clé derrière FinGPT est "RLHF (apprentissage par renforcement à partir des retours humains)". Cette technologie, qui fait défaut à BloombergGPT, permet à un modèle LLM d'apprendre les préférences individuelles telles que le niveau d'aversion au risque, les habitudes d'investissement et les conseils personnalisés en matière de robo-advisor. C'est l'ingrédient "secret" de ChatGPT et GPT4, qui font de FinGPT un outil puissant dans l'industrie financière.

Démonstrations FinGPT : Un guide détaillé

FinGPT propose plusieurs démonstrations pour mettre en valeur ses capacités et offrir un guide pratique aux utilisateurs. Ces démonstrations sont conçues pour montrer comment entraîner votre propre modèle FinGPT dans différents marchés financiers. Plongeons dans les détails de ces démonstrations.

FinGPT V1 : Marché financier chinois avec ChatGLM et LoRA

La première démo, FinGPT V1, se concentre sur le marché financier chinois. Elle utilise ChatGLM et LoRA (Low-Rank Adaptation) pour entraîner le modèle FinGPT. Voici un guide étape par étape pour l'utiliser :

1. Configurer l'environnement : Avant de commencer, assurez-vous d'avoir installé les packages nécessaires. Vous pouvez le faire en exécutant la commande pip install -r requirements.txt dans votre terminal.

2. Importer les modules nécessaires : Importez les modules nécessaires pour entraîner le modèle. Cela inclut FinGPT, ChatGLM et LoRA, entre autres.

from fingpt import FinGPT
from chatglm import ChatGLM
from lora import LoRA

3. Initialiser le modèle : Initialisez le modèle FinGPT avec les paramètres souhaités.

model = FinGPT(
    num_tokens=50257,
    dim=768,
    depth=12,
    heads=12,
)

4. Entraîner le modèle : Entraînez le modèle en utilisant ChatGLM et LoRA.

model.train(ChatGLM, LoRA)

5. Sauvegarder le modèle : Après l'entraînement, sauvegardez le modèle pour une utilisation future.

model.save("fingpt_v1.pth")

FinGPT V2 : Marché financier américain avec LLaMA et LoRA

La deuxième démo, FinGPT V2, se concentre sur le marché financier américain. Elle utilise LLaMA et LoRA pour l'entraînement du modèle FinGPT. Voici un guide étape par étape pour l'utiliser :

1. Configurer l'environnement : Comme pour la première démo, assurez-vous d'avoir installé les packages nécessaires.

2. Importer les modules nécessaires : Importez les modules nécessaires pour entraîner le modèle. Cela inclut FinGPT, LLaMA et LoRA, entre autres.

from fingpt import FinGPT
from llama import LLaMA
from lora import LoRA

3. Initialiser le modèle : Initialisez le modèle FinGPT avec les paramètres souhaités.

model = FinGPT(
    num_tokens=50257,
    dim=768,
    depth=12,

Veuillez fournir la traduction française de ce fichier markdown sans traduire le code incorporé:

heads=12,
)

4. ** Entraînez le modèle **: Entraînez le modèle en utilisant LLaMA et LoRA.

model.train(LLaMA, LoRA)

5. ** Sauvegardez le modèle **: Après l'entraînement, sauvegardez le modèle pour une utilisation ultérieure.

model.save("fingpt_v2.pth")

Ces démonstrations fournissent un guide pratique sur la façon de former votre propre modèle FinGPT. En suivant ces étapes, vous pouvez tirer parti de la puissance de FinGPT pour analyser et prédire les marchés financiers.

Conclusion

Nous espérons que cet article vous a donné une compréhension approfondie de FinGPT et de son potentiel de révolutionner l'industrie financière. Restez à l'écoute pour plus d'informations sur le monde de la finance open source!

FAQs

En conclusion de notre exploration de FinGPT, abordons quelques questions fréquemment posées sur cet outil révolutionnaire.

Qu'est-ce que FinGPT?

FinGPT est un outil centré sur les données développé par la Fondation AI4Finance. Il démocratise les données financières pour les grands modèles de langage (LLMs), offrant une solution open source pour la finance ouverte.

Comment fonctionne FinGPT?

FinGPT fonctionne en exploitant les forces de certains des meilleurs LLM open source disponibles. Ces modèles sont alimentés avec des données financières et affinés pour la modélisation linguistique financière. La technologie clé derrière FinGPT est RLHF (Reinforcement Learning from Human Feedback), qui permet au modèle d'apprendre les préférences individuelles.

En quoi FinGPT se distingue-t-il des autres LLM?

FinGPT se distingue par son focus sur la démocratisation des données financières à l'échelle d'Internet et sa technologie unique RLHF. Il offre également une solution rentable, avec un coût d'adaptation estimé à moins de 300 $ par formation.