Atelier IA Tech #7 : Fine Tuning

Programme :

• Génération de données d'entraînement avec ollama
• Fine-tuning d'un petit modèle (https://huggingface.co/microsoft/Phi-3-mini-4k-instruct), avec la méthode LoRA
• Différentes évaluations du modèle ajusté (similarité cosinus, cross-encoder, llm-as-a-judge)
• Présentation d'outils plus avancés pour la gestion des entraînements et des workflows : MLFlow (https://mlflow.org/) et Metaflow (https://metaflow.org/)

Présentateurs :

• Marius Garénaux (Université de Rennes)

• Morgan Bohn (Université Strasbourg)