Er gebeurt veel in de wereld van edge AI, waarbij ingebedde processors krachtiger worden en cloudalgoritmen worden aangepast voor uitvoering op deze processors. In een gesprek met Sergi Mansilla van Edge Impulse is het duidelijk dat de industrie deze verandering aangrijpt ten gunste van embedded systemen.

Door cascadering van machine-learningmodellen kunnen algoritmen met een laag stroomverbruik een voorlopige beoordeling van gegevens maken. Als er kernattributen aanwezig zijn, kan een tweede algoritme, zoals een groot taalmodel, aanvullende, meer energievretende verwerking uitvoeren. VLM's, of vision taalmodellen, vinden steeds vaker hun weg naar edge systemen, waardoor natuurlijke taalalgoritmen objecten kunnen detecteren of een scène kunnen beschrijven.

Tijdens het interview kwamen ook de voordelen van Qualcomm's overname van Edge Impulse voor de community en de toegang tot nieuwe hardware die het ontwikkelaars biedt aan bod.
 
    
Modellen in serie: AI-prestaties optimaliseren op embedded apparaten