Evidence Hub

Towards decentralization, asynchrony, privacy and personalization in federated learning

Mathieu Even

2024

Abstract

Asynchronie, décentralisation, vie privée et personnalisation en apprentissage fédéré Les modèles d'apprentissage automatique modernes exigent d'énormes quantités de données et de puissance de calcul pour effectuer des prédictions précises. Par conséquent, ces modèles sont entrainés de manière distribuée : un grand nombre d'unités de calcul sont nécessaires, et les données utilisées pour l'entraînement, étant trop vastes pour être centralisées sur une seule machine, sont stockées de manière décentralisée par les utilisateurs. Cette thèse explore différentes problématiques liées à l'entraînement distribué de modèles. En raison de l'échelle grandissante des ordres de grandeurs des besoins en calcul et en données nécessaires, nous examinons d'abord les méthodes d'entraînement asynchrones et le cadre décentralisé. Ensuite, nous abordons les questions liées à la protection des données, naturellement amplifiées dans le cadre décentralisé, et la personnalisation des modèles, un scénario plus complexe dans lequel les utilisateurs ne partagent pas nécessairement le même objectif, mais doivent néanmoins collaborer.

Read the paper

Related studies

Go deeper in Evidence Hub

Evidence Hub adds a study data sheet (design, sample size, evidence level, key numbers), an AI summary and a chat grounded in the paper's text.

Open this study Sign up free