Ny algoritm gör maskininlärning snabbare och mer exakt
Algoritmen kan förbättra hur smarta enheter i hem och på arbetsplatser samarbetar. Genom att minska hur ofta enheterna behöver prata med en server samtidigt som den sömlöst hanterar olika data mellan enheterna.
I en artikel som publicerades vid 2024 International Conference on Acoustics, Speech, and Signal Processing presenterade KTH-forskarna Jiaojiao Zhang och Mikael Johansson, tillsammans med Jiang Hu från Harvard University, en banbrytande algoritm som är utformad för att hantera de nuvarande utmaningarna med Federated Learning (FL).
Traditionella metoder begränsade
Federated Learning har vuxit fram som ett viktigt ramverk inom maskininlärning, vilket möjliggör samarbete mellan flera organisationer och användare utan att behöva dela underliggande uppgifter.
Traditionella FL-metoder är dock begränsade i vilka problem de kan lösa och har stött på hinder när det gäller att hantera kommunikationsflaskhalsar och hantera datadiversitet bland klienter.
Det är här Zhang, Hu och Johanssons innovativa algoritm kommer in.
Genom att separera datahantering och kommunikation blir FL mer effektivt. Den gör det inte bara möjligt att lösa regulariserade FL-problem utan minskar också frekvensen för kommunikationen mellan enheter och server, vilket gör hela processen snabbare.
Dessutom kan den hantera olika data från olika klienter utan problem.
Tre viktiga egenskaper
- Det här arbetet innebär ett stort steg framåt för Federated Learning, som i sin tur kan förbättra smarta enheter i hem och på arbetsplatser genom att möjliggöra effektivare modellträning i samarbete med distribuerad data.
Viktiga egenskaper hos algoritmen inkluderar:
- kan hantera regulariserade FL-problem på ett effektivt sätt, både när det gäller beräkningar och kommunikation.
- säkerställer hög noggrannhet i tränade modeller även när man hanterar olika data mellan olika enheter.
- minskar kommunikationsfrekvensen mellan enheter och server, vilket snabbar upp hela inlärningsprocessen.
Under ICASSP2024 mottog Zhang, Hu och Johansson Best Paper Award för sitt arbete, med motiveringen att det ”visar på innovation och akademisk excellens inom akustik, tal och signalbehandling”.
Läs artikeln Composite Federated Learning with Heterogeneous Data
Text: Sturle Hauge Simonsen ( sturle@kth.se )
Relaterade nyheter
Ny algoritm gör maskininlärning snabbare och mer exakt
Algoritmen kan förbättra hur smarta enheter i hem och på arbetsplatser samarbetar. Genom att minska hur ofta enheterna behöver prata med en server samtidigt som den sömlöst hanterar olika data mellan ...
Läs artikeln
Trafikflöden ska studeras i Kista för att minska utsläppen
För att förstå utsläppen från trafik bättre ska forskare studera trafikflöden i Kista genom att använda Big data och AI. Förhoppningen är att skapa transportlösningar som genererar lägre utsläpp och f...
Läs artikeln