6-fach geringerer RAM-Bedarf auf einem Edge-Gerät ohne Leiterplatten-Redesign

Das Projekt auf einen Blick: Ein Produktunternehmen wollte den Einsatz eines Edge-Geräts auf Basis des Raspberry Pi Compute Module 4 skalieren, das mehrkanalige Sensordaten und Videodaten erfasst. Bei 20 bis 50 Geräten pro Standort überlasteten die Rohdatenströme die ohnehin stark beanspruchten WLAN-Netzwerke: Verbindungen brachen ab und Daten trafen nicht mehr in Echtzeit ein. Der Kunde definierte zwei Anforderungen: zunächst einen stabilen Betrieb und anschließend geringere Gerätekosten.

Promwad überarbeitete die Embedded-Linux-Umgebung, die Speicherverwaltung und die Datenverarbeitungspipeline. Dadurch sank der RAM-Verbrauch von über 4 GB auf etwa 700 MB, und die Datenanalyse wurde auf das Gerät verlagert. Das Produkt läuft nun auf einer Compute-Module-4-Konfiguration mit 1 GB RAM und 8 GB eMMC, ohne dass die Trägerplatine überarbeitet werden musste. Auch an Standorten mit hoher Netzwerkauslastung bleiben die Verbindungen stabil, während das Gerät 50- bis 100-mal weniger Daten überträgt.

 

Kurzinfo

Herausforderung

Unser Kunde entwickelte ein Edge-Gerät, das einen mehrkanaligen Sensor mit einer Kamera kombiniert und für Installationen mit 20–50 Geräten pro Standort vorgesehen ist. Jedes Gerät erfasste etwa 24 Mbit/s an Rohsensordaten sowie einen Videostream. Ein Teil der Datenanalyse erfolgte auf einem Server.

Der Prototyp verwendete eine universelle Linux-Distribution, Python-Anwendungen, mehrere Docker-Container und das SDK des Sensorherstellers. Er basierte auf einem Raspberry Pi Compute Module 4 mit 8 GB RAM und 32 GB eMMC.

Die Software benötigte mehr als 4 GB RAM. Unter Last kam es zu hohen Betriebstemperaturen und Datenfehlern. An den Einsatzstandorten waren die WLAN-Netzwerke häufig bereits stark ausgelastet. Die Rohdatenströme aller installierten Geräte konkurrierten um dieselbe Bandbreite. Verbindungen brachen wiederholt ab, und das System konnte die Daten nicht in Echtzeit bereitstellen. Zudem beeinträchtigten die Geräte andere Netzwerke und Sensoren am selben Standort.

 Der Kunde stellte zwei Anforderungen:

  • Das System musste auch bei maximaler Anzahl installierter Geräte zuverlässig funktionieren;
  • Die Herstellungskosten des Geräts mussten gesenkt werden.

Beide Anforderungen mussten unter Beibehaltung des bestehenden Hardwaredesigns, des Sensors und der Kamera erfüllt werden.

 

Wo der Prototyp an seine Grenzen
Soll Ihr Edge-Gerät mit weniger RAM auskommen, ohne die Leiterplatte zu überarbeiten?

 

Lösung

Promwad analysierte die bestehende Softwarearchitektur und konzentrierte sich auf drei Bereiche: Embedded Linux, Speicherverwaltung und Datenverarbeitung direkt auf dem Gerät.

 

Engineering Solution at a Glance

Entwicklung eines kompakteren Embedded-Linux-Systems. Das Team ersetzte die universelle Linux-Distribution durch ein minimales Yocto-basiertes System-Image und konfigurierte Kernel, Treiber und Systemkomponenten entsprechend den tatsächlichen Anforderungen des Geräts.

Mehrere Docker-Container wurden durch native Systemdienste ersetzt. Dadurch reduzierte sich die Anzahl unnötiger Laufzeitkomponenten, und die Größe der Software sowie ihrer Abhängigkeiten ließ sich gezielter kontrollieren.

Das optimierte System behielt alle erforderlichen Funktionen bei und benötigte gleichzeitig weniger Speicherplatz.

Reduzierung von Speicherkopien und Buffer-Overhead. Die ursprüngliche Verarbeitungspipeline für Sensordaten enthielt zahlreiche Zwischenpuffer und unnötige Datenkopiervorgänge, einschließlich des zusätzlichen Speicherbedarfs durch die Integration eines Drittanbieter-SDKs.

Das Promwad-Team analysierte den Datenaustausch zwischen den Softwarekomponenten und reduzierte redundante Kopiervorgänge durch gemeinsam genutzte Puffer und referenzbasierte Datenverarbeitung, wo immer dies möglich war.

Darüber hinaus nahm das Team folgende Änderungen vor:

  • Statische Speicherzuweisung für Puffer, um eine besser vorhersehbare Speichernutzung im Dauerbetrieb sicherzustellen.
  • Einsatz geeigneter numerischer Datentypen: Unnötige 64-Bit-Darstellungen wurden durch 32-Bit- oder 16-Bit-Datentypen ersetzt, sofern die erforderliche Signalgenauigkeit dies zuließ.
  • Reduzierung der Datenübertragungsvorgänge, um die Speicherbandbreite weniger zu belasten und unnötige CPU-Last zu vermeiden.

Der Speicherbedarf wurde in beiden Bereichen des Moduls reduziert: Die Verarbeitungspipeline benötigt weniger RAM, während das System-Image und die lokal gespeicherten Daten weniger eMMC-Speicher beanspruchen.

Optimierung der Rechenleistung und Edge Computing. Die optimierte Verarbeitungspipeline ermöglichte eine umfangreichere Datenverarbeitung direkt auf dem Gerät und reduzierte dadurch die an den Server übertragene Datenmenge. Die lokale Verarbeitung veränderte auch die Anforderungen an den Datenspeicher. Der Prototyp verfügte über eine SD-Karte mit 256 GB. Da das Gerät nun Ergebnisse statt Rohdaten speichert, kann der Kunde die Karte entfernen und die Kosten pro Gerät um etwa 50 US-Dollar senken. Alternativ kann eine SD-Karte mit bis zu 16 GB als temporärer Backup-Puffer beibehalten werden.

Leistungskritischer Code wurde von Python nach C übertragen. Mathematische Operationen, einschließlich der Verarbeitung mittels schneller Fourier-Transformation (FFT), wurden mithilfe von Arm-NEON-Vektorinstruktionen optimiert. Zudem wurden die Rechenaufgaben auf die Prozessorkerne verteilt.

Das Team organisierte außerdem die Daten vor der Komprimierung neu, um die Kompressionseffizienz zu verbessern.

Durch diese Verbesserungen konnte ein größerer Teil der Datenverarbeitung direkt auf dem Gerät erfolgen. Anstatt für die Analyse derselben Datenmenge auf einen Server angewiesen zu sein, konnte das System die Daten lokal verarbeiten und eine deutlich geringere Informationsmenge übertragen.

Die bestehende Trägerplatine, der Sensor und die Kamera blieben unverändert.

Wichtigste Vorteile und Ergebnisse

Vorher-Nachher

Der wichtigste Erfolg war die höhere Zuverlässigkeit. Durch die Übertragung von Ergebnissen statt Rohdaten reduzierte sich der Datenverkehr pro Gerät um das 50- bis 100-Fache. Dadurch wurden die bereits stark ausgelasteten Netzwerke entlastet. Selbst bei maximaler Anzahl installierter Geräte bleiben die Verbindungen nun stabil, ohne andere Netzwerke und Sensoren am selben Standort zu beeinträchtigen.

Die Kostensenkung war die zweite Anforderung, die durch die Softwareoptimierung ohne Änderungen an der Trägerplatine erfüllt wurde. Das Gerät kann nun mit einer kostengünstigeren Compute-Module-4-Konfiguration betrieben werden, die weniger RAM und eMMC-Speicher benötigt. Durch den Verzicht auf die 256-GB-SD-Karte lassen sich zusätzlich etwa 50 US-Dollar pro Gerät einsparen. In der Serienproduktion summieren sich diese Einsparungen mit jedem gefertigten Gerät.

Die Verlagerung der Datenverarbeitung auf das Edge-Gerät entlastete auch den Server. Zum Zeitpunkt des Projekts konnte ein Server für etwa 3.000 US-Dollar durch einen Mini-PC für rund 700 US-Dollar ersetzt werden.

Weitere Leistungen für Geräte mit begrenztem Speicher

FAQ

Unser Gerät funktioniert bereits. Was wird bei einem Audit des Linux-Systems geprüft?

 

Ein technisches Audit eines Linux-basierten Systems konzentriert sich auf die Ressourcennutzung. Es umfasst Sicherheitsrisiken, Startzeit und Energieverbrauch, Prozessoreffizienz sowie die tatsächliche Nutzung von RAM, ROM und Flash-Speicher. In diesem Projekt funktionierte der Prototyp zwar, benötigte jedoch die größte Modulkonfiguration der Produktfamilie, und der Prozessor erhitzte sich unter Last. Das Audit beantwortet vor Beginn der Optimierung eine zentrale Frage: Wie viel Arbeitsspeicher und Prozessorzeit werden tatsächlich für die erforderlichen Aufgaben genutzt?

 

 

Mit welchen Prozessorarchitekturen und Linux-Umgebungen arbeiten Sie?

 

Unsere Treiber- und Kernelentwicklung umfasst x86, Arm, RISC-V, PowerPC, SPARC und weitere Prozessorarchitekturen. Zunächst analysieren wir die Hardwarespezifikationen und die Anforderungen an das Gesamtsystem. Anschließend passen wir den Kernel an die jeweilige Plattform an und konfigurieren seine Funktionen entsprechend der Anwendung. Dieses Projekt basierte auf einem Arm-Anwendungsprozessor im Compute Module 4. Derselbe Ansatz lässt sich auch auf Industrie-PCs oder x86-Systeme übertragen.

 

 

Wie tief greifen diese Arbeiten in das System ein?

 

Die Arbeiten beginnen beim Bootloader. Ein Board Support Package (BSP) kann Bootloader wie U-Boot oder kundenspezifische Lösungen, Treiber, Protokollstacks und Systemschnittstellen, eine Selbsttestsequenz beim Einschalten sowie Profiling und Codeoptimierung umfassen. Auf Kernel-Ebene kommen Dateisysteme, Task-Scheduling, Netzwerkstack, Device-Tree-Konfiguration und Speicherverwaltung hinzu. In diesem Projekt wurden die Einsparungen vor allem durch die Optimierung der Speicherverwaltung und des Datenpfads zwischen den Softwarekomponenten erzielt.

 

 

Können Sie ein Linux-System optimieren, das wir oder ein anderer Anbieter bereits entwickelt haben?

 

Das ist unser üblicher Ausgangspunkt. Die Anpassung bestehender Linux-Distributionen, die Migration eines Systems auf ein anderes Betriebssystem und die Portierung von Middleware zwischen verschiedenen Lösungen gehören zu unseren Leistungen. In diesem Projekt verwendete der Prototyp eine universelle Linux-Distribution mit Python-Anwendungen, mehreren Docker-Containern und dem SDK des Sensorherstellers. Keine dieser Komponenten wurde von Promwad entwickelt. Das SDK erwies sich als größte einzelne Ursache für redundante Datenkopiervorgänge.

 

 

Wie lässt sich der Speicherverbrauch durch Optimierungen auf Kernel-Ebene reduzieren?

 

Durch die Optimierung der Kernel-Konfiguration und die Anpassung der entsprechenden Parameter nutzt das System seine vorhandenen Ressourcen effizienter, anstatt zusätzlichen Speicher zu benötigen. Die Arbeiten auf Kernel-Ebene konzentrieren sich auf Speicherverwaltung und E/A-Scheduling. Mithilfe von Profiling lässt sich feststellen, wo Rechenzeit und Speicher verbraucht werden. In diesem Projekt bedeutete das: ein minimales System-Image mit ausschließlich benötigten Komponenten, native Systemdienste statt Container, gemeinsam genutzte Puffer und referenzbasierte Verarbeitung statt Datenkopien sowie numerische Datentypen, die auf die tatsächlich erforderliche Signalgenauigkeit abgestimmt sind.

 

 

Erzählen Sie uns von Ihrem Projekt

Wir prüfen Ihre Anfrage sorgfältig und melden uns mit dem optimalen technischen Ansatz.

Alle übermittelten Informationen bleiben vertraulich und sicher — eine NDA stellen wir auf Anfrage bereit.

Sie bevorzugen direkten E-Mail-Kontakt?
Schreiben Sie an [email protected]

Expertengespräch in 24 Stunden
Gesicherter Anruf mit unserem Experten in 24h
Integriert in Ihr Team, Entwicklung von A bis Z
Plug-in model für Ihr Full-Cycle-F&E
500+ Projekte für OEMs in EU und USA
500+ Projekte für OEMs in EU & USA
22 Jahre Engineering-Erfahrung
22 Jahre Engineering-Erfahrung
MVP in 8–10 Wochen
MVP in 8–10 Wochen — planbare Lieferung
Aussteller auf IBC, Embedded World, MWC
Präsentiert auf IBC, Embedded World, MWC

Andere Fallstudien