Tutorial Deep Learning: Einsatz des trainierten Modells auf der Zielhardware

Der Weg trainierter Modelle auf die Zielsysteme fällt mitunter sehr verschieden aus. Entwickler müssen vor allem auf die Leistung und den Stromverbrauch achten.

Lesezeit: 8 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen
Von
  • Ramon Wartala
Inhaltsverzeichnis

Die letzten beiden Teile dieses Tutorials haben viel über die Auswahl und die Beschaffung geeigneter Daten und ihre Aufbereitung für das Training von Deep-Learning-Modellen für die Objekterkennung erklärt. Dabei haben Entwickler anhand von Python und dem frei verfügbaren Google Colab gesehen, wie sich die Daten innerhalb einer Jupyter-Notebook-Umgebung nutzen lassen und wie sich die Trainingszeit durch Hardwarebeschleunigung verkleinern lässt.

Notebooks und Colab stehen hierbei stellvertretend für die Werkzeuge, mit denen man derzeit Machine-Learning-Modelle entwickelt und trainiert. Die Cloud eignet sich hervorragend als Trainingsplatz, was nicht nur daran liegt, dass alle großen Cloud-Anbieter Notebookumgebungen bereitstellen, sondern sich diese on demand skalieren lassen. Wenn absehbar ist, dass ein Modelltraining auf der gebuchten Hardware mehrere Tage in Anspruch nimmt, können Entwickler in der Cloud mit größerer Hardware die Trainingszeit verkürzen.

Bleibt die Frage, wie man trainierte Modelle auf die eigentlichen Zielsysteme bekommt. Dieser Schritt ist in vielen Anwendungsszenarien nötig, da nicht überall potente Grafikkarten aus Serverhardware zur Verfügung stehen. Heute finden sich die meisten Deep-Learning-Modelle bei mobilen Endgeräten, Industrierobotern oder PKWs. Diese Anwendungen laufen auf beschränkter oder zumindest spezialisierter Hardware. Besonders in mobilen Systemen ist der Stromverbrauch von entscheidender Bedeutung. Im Gegensatz zu GPU-Modulen in Servern, die schnell mehrere 100 Watt für den Betrieb benötigen, müssen mobile Geräte den Koeffizienten aus Leistung und Energieverbrauch, also die Anzahl GPU-Kerne zur Leistungsaufnahme in Watt optimieren.

Immer mehr Wissen. Das digitale Abo für IT und Technik.

  • Zugriff auf alle Inhalte von heise+
  • exklusive Tests, Ratgeber & Hintergründe: unabhängig, kritisch fundiert
  • c't, iX, Technology Review, Mac & i, Make, c't Fotografie direkt im Browser lesen
  • einmal anmelden – auf allen Geräten lesen - monatlich kündbar
  • erster Monat gratis, danach monatlich 9,95 €
  • Wöchentlicher Newsletter mit persönlichen Leseempfehlungen des Chefredakteurs
GRATIS-Monat beginnen Jetzt GRATIS-Monat beginnen Mehr Informationen zu heise+