Machine Learning / AI

Machine Learning, also maschinelles Lernen, ist eine Möglichkeit, unsere Maschinen intelligenter zu machen. Dabei lernt ein System anhand von Beispielen, wie eine bestimmte Aufgabe (beispielsweise Klassifizierung oder Erkennen von Objekten, Erkennen von Anomalien in Sensordaten, Prognose von Zusammenhängen oder Worten, etc.) zu lösen ist. Nach dem Training kann dieses Wissen, welches nun im Modell gespeichert ist, auch auf bisher unbekannte Eingangsdaten angewendet werden. Mit Hilfe von maschinellem Lernen lassen sich insbesondere Probleme lösen, für welche eine handgestrikte, algorithmische Lösung zu schwierig zu finden oder zu komplex zu implementieren wäre.In den letzten Jahren haben insbesondere “tiefe” neuronale Netzwerke, welche eine mehrschichtige innere Struktur aufweisen, enorme Fortschritte erzielt. Die Verfügbarkeit von bislang unerreichter Rechenleistung (in Form von GPUs und Cloud Computing) sowie riesiger Datensätze (Big Data, z.B. Flickr, ImageNet, Twitter, Kaggle) erlaubt das Training von immer komplexeren und tieferen neuronalen Netzwerken. Die weltweite Zuammenarbeit von Forschenden im Gebiet des Deep Learning führte in kürzester Zeit zu neuen Netzwerk-Architekturen, Anwendungsgebieten und Möglichkeiten.

  • Convolutional Neural Networks (CNNs) eignen sich besonders für Bild- und Videoverarbeitung und damit für Aufgaben wie die Klassifikation von Objekten, die Detektion von Verkehrsteilnehmern und Signalisation, die Segmentation von medizinischen Scans, etc.
  • Recurrent Neural Networks (RNNs) enthalten Rückkopplungen (zum Beispiel in Form von LSTM) und können damit früheren Kontext miteinbeziehen. Sie werden insbesondere in der Sprachverarbeitung (Natural Language Processing, insbesondere Textverständnis, Übersetzung und Sprachsynthese) sowie für die Verarbeitung von Sequenzen, Zeitreihen, Sensordaten, etc. eingesetzt.

Werden beim Training eines neuronalen Netzwerks anstelle eines vollständigen Trainingsdatensatzes lediglich Belohnungs- oder Bestrafungspunkte verteilt, spricht man von Reinforcement Learning anstelle von Supervised Learning. Mit diesem Ansatz können beispielsweise Computer lernen, Brett- und Videospiele zu meistern, neue Medikamente zu finden oder Ampeln optimal zu steuern, und Roboter lernen auf zwei Beinen zu gehen und zu jonglieren.

Für einfachere Probleme, beispielsweise im Bereich Sensorik oder Maschinenüberwachung, können hingegen auch klassische Algorithmen wie Regressionen, Entscheidungsbäume, Random Forests, Support Vector Machines, Clustering oder Principal Component Analysis eingesetzt werden.

SCS berät und unterstützt Kunden beim Einsatz von Machine Learning und künstlicher Intelligenz in allen Aspekten:

  • Innovations-Workshop und Machbarkeitsstudie
  • System- und Netzwerk-Design
  • Big Data Management
  • Labeling (Tools, Durchführung, Validierung)
  • Training
    • unsupervised, supervised, semi-supervised, reinforcement
    • on-device, on-premise, auf SCS-eigenem Server, cloud-basiert
  • Netzwerk-Optimierung (Analyse, Pruning/Kompression, Optimierung für Zielplattform)
  • Industrialisierung (Deployment, Lifecycle Management, Data Warehouse, Tracing)
    • AI at the Edge, eingebettete neuronale Netzwerke
  • Validierung und Zertifizierung (Medical, ADAS)

Durch die multidisziplinäre Position von SCS können wir auf vertiefte praktische Erfahrungen in all diesen Bereichen zurückgreifen – das System-Design betreffend wie auch bezüglich der Umsetzung auf dedizierter Hardware oder unter Verwendung von Standardkomponenten. Projekte in den folgenden Bereichen zählen zu unserem Erfahrungsschatz:

Industrie

  • Detektion, Klassifikation und Tracking von Objekten in Punktwolken, 2D- und 3D-Bildern sowie Videosequenzen
  • Rekonstruktion von 3D-Räumen aus 2D-Aufnahmen mittels Deep Reinforcement Learning
  • Anomalie-Detektion in Zeitreihen-Daten aus der Maschinen- und Steuerungsüberwachung
  • Personendetektion und -zählung in Videosequenzen
  • Pose estimation, Klassifikation und Segmentation anhand von IMU- und Videosequenzen

Medizin

  • Detektion von Fehlstellungen in Ultraschall-Aufnahmen
  • Segmentation von volumetrischen medizinischen Bilddaten (Optical Tomography)
  • Prognose von Vitalparametern anhand medizinischer Sensordaten
  • Massgeschneiderte Labeling-Tools für Detektion und Segmentierung auf medizinischen Bildern

AI at the Edge

  • Implementation eines FPGA-basierten Beschleunigers für neuronale Netzwerke
  • Entwicklung eines Compilers für neuronale Netzwerke für ein ultra-low-power SoC mit dediziertem CNN-Beschleuniger
  • Optimierung von neuronalen Netzwerken auf CPUs, GPUs, FPGAs sowie dedizierter Hardware
  • Detektion und Klassifikation von Fahrzeugen, Fahrspuren und Signalisation in 2D- und Stereo-3D-Bildern
  • Detektion und Identifikation von Tieren auf Infrarot-Aufnahmen

 

Der Zusammenhang zwischen Deep Learning, neuronalen Netzwerken, Machine Learning und Artificial Intelligence.

Machine Learning / AI – Blogs

  • T-REX: A new Explainable AI (XAI) MethodologyT-REX: A new Explainable AI (XAI) Methodology
    SCS ist stolz darauf, an einer Nature Communications Biology Publikation mitgearbeitet zu haben. Wir gratulieren den Autoren von   herzlich zu ihrem Paper. Zusammen mit Peter Maloca vom «Institute of Molecular and Clinical Ophthalmology Basel (IOB)» konnten wir zeigen, wie Unsicherheiten in der Ground Truth das Lernverhalten eines Machine Learning (ML) Algorithmus beeinflussen. Konkret haben wir untersucht, ...
  • AI in Medical Imaging: Automatisierte Erkennung von HüftfehlstellungenAI in Medical Imaging: Automatisierte Erkennung von Hüftfehlstellungen
    SCS gratuliert den Autoren von ganz herzlich zur Publikation ihrer Resultate im «European Journal of Ultrasound». Zusammen mit David Oelen und den Kinderärzten Dr. Stefan Essig und Dr. Thomas Baumann konnten wir zeigen, dass ein Deep Learning-basierter Algorithmus Winkel in der Hüfte von neugeborenen Kindern vergleichbar gut bestimmen kann wie ausgebildete Mediziner (mehr Details ...