Kursen kommer att organiseras i form av
- Inledande föreläsningar som introducerar utmaningen och forskningsrapporterna som diskuterar dessa utmaningar och lösningar. Denna del av kursen kommer att omfatta 4-5 föreläsningar, fördelade över två veckor. Efter varje föreläsning tilldelas eleverna läsmaterial och vilka specifika frågor de förväntas svara på i sina rapporter och presentationer. OBS: studenterna har inga presentationer eller rapporter att inlämna under kursens två första veckor, men de börjar arbeta med dem. Dessa föreläsningar kommer att omfatta a) Kravanalys, b) Lagring och ledningar/kopplingsteknologi och avvägningar och c) Aritmetiska implementeringsalternativ.
- Studentpresentationer och gruppdiskussioner om toppmoderna lösningar. Studenter kommer att presentera under de efterföljande 3 veckorna, 4 x 30 min presentationer, var och en med ytterligare 15 minuter reserverade för diskussion. Varje presentation kommer att involvera en presentatör och två aktiva lyssnare. Eleverna måste göra en rapport baserad på sin presentation och den feedback de får från läraren och den aktiva lyssnarna. I tredje och fjärde veckan introduceras och tilldelas projekten, tillsammans med formatet som eleverna skickar in sin projektrapport.
- Studentpresentationer av sina projekt. Under den femte och sjätte veckan arbetar eleverna med sina projekt och förbereder projektpresentationen och rapporten. Läraren är tillgänglig för diskussioner på begäran. Under veckorna 7/8 kommer projektpresentationerna att ges och rapporterna att lämnas in.
Kursen består av följande två moduler:
Kravanalys
I den här modulen studerar vi hur man systematiskt extraherar krav på beräkningsoperationer, datatyper, ledningar/kopplingar och datalagring. Dessa krav är logiska till sin natur och oberoende av implementeringsstil. Många exempel från verkligheten kommer att diskuteras under föreläsningar och eleverna får lösa problem för att få praktisk erfarenhet.
Att kunna förstå energikraven är det första steget i att skapa lågenergi-, och därmed hållbara, lösningar.
Konstruera AI-hårdvara och förstå tekniska och arkitektoniska avvägningar
I denna modul studerar vi vad som är de arkitektoniska avvägningarna vid implementering av AI-hårdvara. Vi går in på detaljerna i minneshierarkin och deras teknikalternativ. Minne är den mest dominerande kostnadskomponenten och vi studerar hur man utnyttjar temporär lokalitet för att minimera kostnaden för minneslagring och dataåtkomst.
Bredvid minnet är ledningar/kopplingar den största utmaningen. Ledningar har den värsta skalningsaspekten av tekniken idag. Till exempel, att flytta data med 1 mm på ett chip har jämförbara energikostnader med en singel-precisions flyttalsoperation. Förutom energikostnader spelar ledningar/kopplingar också en stark roll i arkitektoniska beslut. Till exempel är det ett vanligt misstag att öka parallelliteten i beräkningarna utan att samtidigt öka parallelliteten i åtkomst till data. Vi visar hur vi kan göra konstruktioner som möjliggör ökad beräkning med matchande ökning av bandbredden till minnet.
Slutligen studerar vi också vilka alternativ som finns för att implementera de aritmetiska operationerna i Neurala Nätverk. Vi studerar hur man gör avvägningar när det gäller noggrannhet visavi implementeringskostnader med hjälp av en konkret fallstudie från fältet bakterie-genom-igenkänning.
Att känna till dessa arkitektoniska och teknologiska alternativ för att minska energi kommer att bidra till hållbara AI-lösningar.
Efter att ha gått denna kurs kommer eleverna att kunna
- Analysera kraven för ett verkligt maskininlärningsproblem vad gäller lagring, beräkning och effektförbrukning,
- Ta välgrundade beslut baserat på tillgänglig teknik, arkitektoniska alternativ, exakta uppskattningar av area, prestanda och energi som bäst uppfyller målen för maskininlärningsproblemet,
- Skapa anpassade AI-lösningar med låg energi som bidrag till en hållbar utveckling,
- Utvärdera stora forskningstrender och förstå vilka de öppna utmaningar är som samhället fokuserar på.