Ny, supersmart maskinvare kan gi kraftige kutt i strømforbruket
Forskere ved NTNU har utviklet maskinvare som får datasystemer til å jobbe smartere og raskere, og bruke mindre energi.
Alle som kan noe om å kjøre dataprogrammer vet at det tar tid. Og alle vil at programmet de kjører, skal ta så kort tid som mulig. Den lille maskinvare-enheten dataforskerne har designet skal bygges inn prosessoren, som er selve hjernen i en datamaskin.
Derfra gjør den det enklere for utviklere å skrive programmer som tar kort tid.
Yter mer med mindre strøm
Foto: Thor Nielsen / NTNU
– Den forteller en utvikler hva programmet hen har skrevet bruker tid på, og hvorfor, forteller professor Magnus Jahre ved Institutt for datateknologi og informatikk på NTNU.
– Når utvikleren vet dette, kan hen endre programmet sitt, slik at det gjør den samme jobben mer effektivt.
Sammen med stipendiat Björn Gottschall og professor Lieven Eeckhout fra Universitetet i Gent har Jahre utviklet to varianter av maskinvaren, TIP og TEA, og begge er søkt patentert.
Dette er TIP og TEA, og slik fanger de tidstyver:
- TIP står for Time-Proportional Instruction Profiling.
- TEA bygger på TIP, og forkortelsen står for Time-Proportional Event Analysis.
- TIP sitter som en bitteliten, supersmart detektiv inne i prosessoren, eller databrikken, som sørger for å utføre oppgavene et dataprogram skal løse.
- Den finner, og forteller, utvikleren nøyaktig hvor dataprogrammet bruker mye tid.
- TEA er hakket mer avansert. Den hjelper til med å fortelle utvikleren mer om hvorfor programmet bruker mye tid akkurat der det gjør det.
- TEA kan også gi en enkel pekepinn på hva som må gjøres for å fjerne tidstyvene.
Mer bærekraftig databehandling
Tidsbruk er en kritisk faktor for å få til en mer bærekraftig databehandling. Én måte å få ned strømforbruket på er å bruke datamaskinene mindre, altså over kortere tid. Til det trengs programmer som utnytter maskinvaren maksimalt.
– Og det er nøyaktig det TEA og TIP bidrar til, sier Magnus Jahre.
Når tidstyvene i programvaren tas, kan andre store utfordringer også løses. For eksempel kan kampen om strømmen blir mindre når datautstyret blir mer effektivt. Da slipper vi å lage stadig nye servere. Dermed trenger vi langt færre strømslukende datasentre enn vi kanskje tror vi gjør.
- Les også: Hvor mye energi trenger vi i Norge?
18 datasentre og 1 million servere
I dag finnes 18 datasentre i Norge. Til sammen har disse omtrent 1 million datamaskiner, eller servere. Magnus Jahre har regnet ut at TIP og TEA gjør det mulig å kutte CO2-utslippene med omtrent 63 000 tonn fordi kjøretiden på programmene går ned. Regnestykket forutsetter at alle prosessorene kjører med den nye maskinvaren og at programmene er omtrent like effektive som de NTNU-forskerne har brukt.
Norges største datasenter på Hamar står snart klart til å gi strøm til kinesiske TikTok´s videoer. Samlet investerer driftsselskapet Green Mountain og TikTok rundt 37 milliarder kroner i anlegget som vil kreve rundt 1 prosent av Norges kraftforbruk, ifølge NRK. Illustrasjon: Green Mountain.
Trenger 85 000 færre servere
Siden norske datasentre bruker fornybar energi, vil CO2-utslippene i Jahres oppsett stort sett komme fra produksjonen av serverne i datasenteret. Hvis alt virker slik det skal, fører raskere kjøretid til at datasentrene kan gjøre den samme jobben med omtrent 85 000 færre servere. Det tilsvarer omtrent halvparten av utslippene til Stjørdal kommune i 2021.
Denne forbedringen vil også frigjøre omtrent 400 gigawattimer (GWh) med energi. Med utgangspunkt i Statistisk Sentralbyrås statistikk er det like mye som går til rundt 23 000 husstander i et år.
- Les også: Datasenter er vår tids varme kilder
Bra for værmelding og medisiner
Bedre ytelse betyr at mer kan gjøres på samme tid. Værmeldingene kan bli mer presise fordi de kan kjøres med høyere oppløsning. Medisiner kan bli mye mer effektive når datamaskinene får gjort mange flere analyser på kortere tid, av hvordan de virker.
Chat GPT og andre språkmodeller vil gi oss raskere eller bedre svar på det vi spør om, selv om de gjør mye større søk enn i dag, ifølge forskerne.
Ekstrem forskjell i strømforbruk
Oppfinnelsen fra NTNU gjør det enklere for utviklere å skrive programmer som tar kort tid. Foto: Colourbox
I dag kan ytelsen til et program, altså hvor mye det forbruker av tid og strøm, variere ekstremt. Ett design kan ha flere titalls tusen ganger høyere ytelse enn et annet som gjør nøyaktig samme jobb.
At kjøretiden faktisk kan variere fra noen få sekunder til mange minutter viser behovet for smartere, og mer bærekraftige løsninger.
Moores Lov snart ut på dato
Det er snart 60 år siden Gordon E. Moore, som også var en av Intels grunnleggere, lanserte antagelsen om at yteevnen i kretsene på én databrikke ville dobles hver 24. måned. Diskusjonen går om spådommen, som også kalles Moores lov, snart går ut på dato. Lufta er uansett begynt å sive ut av ballongen, ifølge Jahre.
– Siden prosessorene ikke blir automatisk raskere i samme grad som før, blir det enda viktigere at programvaren utnytter maskinvaren mer effektivt.
Det er uhyre krevende å få til.
Brikkene brukes overalt
Alle de store produsentene Intel, IBM, ARM og AMD lager kraftige prosessorer med høy ytelse. Markedet er formidabelt.
Brikkene brukes i alt av sky-infrastruktur, i alle datasentre, samt i bærbare og stasjonære datamaskiner og smarttelefoner. Det er flere av dem i TV-en din og bilen din er full av dem.
Utfører 500 ulike ordrer -samtidig
De kraftigste prosessorene jobber med opp til 500 instruksjoner på en gang, og gjør bitte litt på hver av dem samtidig. Programvaren derimot, baserer seg på at instruksjonene utføres én og én av gangen. Omtrent som når du følger en matoppskrift trinn for trinn.
– Nøkkelproblemet er å se på alt dette samtidig, og finne nøyaktig hvilke av de 500 instruksjonene programmet bruker tid på akkurat nå. Det er akkurat dette TIP løser, forklarer dataprofessoren.
.. men kaster bort tid og gir feil svar
Produsentene har utstyrt brikkene sine slik at de kan analysere hva programmene bruker tid på. Alle har hver sine løsninger. Forskerne ved NTNU har testet 4 av dem. De har påvist at alle gjør systematiske feil, og at de dermed gir feil svar.
– De er faktisk så upresise at det blir vanskelig for utvikleren å forstå hvorfor programmet yter som det gjør. Det er svært krevende å forstå hva det bruker tid på. Dermed kan hen heller ikke vite hva som skal gjøres med det. Bytter de ut disse enhetene med TIP og TEA, blir det riktig, sier Magnus Jahre.
Tungregning og supersimulator
Det er først og fremst tungregneanlegget IDUN på NTNU som har gjort det mulig for forskerne å utvikle TIP og TEA. De har også brukt simulatoren FireSim som er utviklet ved Berkeley.
Tungregneanlegget på NTNU har hjulpet forskerne til å kjøre realistiske simuleringer med enormt store datasett. Foto: NTNU
De som tester nye maskinvare-løsninger, bruker gjerne programvare som simulerer hvordan maskinvaren oppfører seg. Da kan de se på noen hundre millioner instruksjoner av gangen. Oppsettet på NTNU gjør det mulig å se på milliarder av instruksjoner.
Det er det ikke så mange i verden som kan.
Kundene har mest nytte
NTNU eier rettighetene til TIP og TEA, og NTNU Technology Transfer (TTO) har søkt patent og jakter på kommersielle partnere. Strengt tatt løser ikke oppfinnelsen noe problem for brikkeprodusentene. Det er kundene deres som først og fremst vil ha nytte av oppfinnelsen, ifølge Magnus Jahre.
Så lenge Intel, Arm og de andre holder tritt med konkurrentene, vil de trolig mene at prosessorene de har er effektive nok og lite lystne på å bruke penger, tid og ressurser på noe helt nytt.
Bevisbyrden ligger hos forskerne
Dersom en produsent bestemmer seg for å ta NTNU-oppfinnelsen i bruk i dag, så vil det allikevel ta flere år før TEA og TIP finnes i noe du kjøper i butikken.
– En prosessor med høy ytelse er et ekstremt komplisert produkt. Tusenvis på tusenvis av årsverk er brukt for å lage dem. Når vi forskere, som attpåtil kommer fra verdens utkant, kommer og forteller produsentene at de må gjøre ting på en helt annen måte, så ligger bevisbyrden på oss.
– Vi må forklare dem at det virker, og at de bør ta det i bruk. Det er en ganske krevende øvelse, sier Magnus Jahre
Amazon, Google og Apple
Forretningsutvikler Lodve Berre i TTO sier at de sikter de seg inn mot aktører som lager både sin egen maskinvare og programvare, som Amazon, Google og Apple.
– Disse vil kunne ta ut verdien av TIP og TEA direkte i sine dedikerte sky-løsninger og server-parker. Det gir et fortrinn overfor andre aktører som kjører på tradisjonell maskinvare, sier han.
Bedre ytelse, lengre levetid
Tid- og strømforbruk i dataprogrammer kan variere ekstremt. Ett design kan ha flere titalls tusen ganger høyere ytelse enn et annet som gjør nøyaktig samme jobb. Foto: NTNU
Teknologien fra NTNU vil bety at for eksempel Apple enklere kan identifisere feil og flaskehalser, både i operativsystem og annen programvare. Dermed kan de øke både ytelse og batterilevetid på sine enheter – både MacBooks, mobiltelefoner og nettbrett, ifølge Lodve Berre.
Og hvor er TIP og TEA om fem år?
– Da tenker jeg det er tatt i bruk, og på vei til en butikk nær deg, sier professor Magnus Jahre.
