Vorlesung "Echtzeitbildverarbeitung" (Sommer 2016)

Real-Time Computer Vision

News

• zur ersten Übung bitte openCV installieren, Beispielprogramm peas aus Stud.IP kompilieren und starten und Notebook mitbringen

Veranstalter

• Prof. Dr. Udo Frese

Sommersemester 2016

Veranstaltungskennziffer: 03-MB-709.03 Kategorie: Masterbasis (ECTS: 6)
Ü 2 SWS : Mo von 12:15 - 13:45 MZH 5210
V 2 SWS : Mi von 10:15 - 11:45 MZH 1110

Voraussetzung (inhaltlich): Bildverarbeitung I. Um erfolgreich an Echtzeitbildverarbeitung teilzunehmen benötigt man nicht sämtliche Details aus Bildverarbeitung I, wohl aber ein Grundverständnis für wie Bilder in den Rechner kommen und wie Perspektive funktioniert. Die Darstellung dieser Grundlagen in EBV ist abgeschlossen aber ein bisschen gestrafft. Im Zweifelsfall bitte nachfragen.

Thema

Bildverarbeitung (engl. computer vision) ist die automatische Extraktion von Informationen aus Bildern. In den meisten Fällen ist das Ziel abgebildete Objekte und deren (räumliche) Lage zu bestimmen. Industrielle Anwendungen sind Qualitätskontrolle ("ist eine Platine vollständig bestückt", "stimmen die Maße eines Bauteils"), Montage ("Lage eines Objektes zum Greifen oder Fügen") aber auch Logistik ("Lesen von Aufklebern", "Greifen von Paketen") und Sicherheit ("Personenerkennung"). In der Forschung ist ein breites Anwendungsfeld die Servicerobotik, wo Roboter zu greifende Gegenstände, Hindernisse oder ihre eigene Position im Gebäude erkennen müssen. Ein anderes Beispiel sind "Sportrobotik"-Anwendungen, z.B. der Roboterfussball RoboCup oder das Fangen zugeworfener Bälle. Viele Anwendungen sind deshalb schwierig, weil das Ergebnis in "Echtzeit", d.h. während der Vorgang abläuft vorliegen muss. Diese Veranstaltung beschäftigt sich mit Techniken für Bildverarbeitung bei denen Rechenzeit eine schwierige Beschränkung ist. Ziel ist,

• ausgewählte Methoden zur Bildverarbeitung in Echtzeit zu beherrschen
• in einer Anwendung potentielle Probleme und Lösungen zu erkennen
• einschätzen zu können, welche Methode sich für welche Anwendung eignet

Die letzten beiden Punkte werden einen großen Raum einnehmen. Wir werden in Vorlesung und Übung ausführlich Anwendungen, Lösungsansätze ("wie könnte man es machen") und potentielle Schwierigkeiten ("was wird dabei schief gehen") diskutieren.

Teilnahme

• Informatik Master (Masterbasis), Bachelor
• Digitale Medien Bachelor (Medieninformatik-Wahl oder Spezielle Gebiete der Digitalen Medien), Master (Media Informatics/free Electives)
• Systems Engineering Bachelor/Master (Vertiefung: Robotik)
• Studierende aller Fachrichtungen, die praktische Informatikscheine akzeptieren.

Profil

Die Anteile in der Veranstaltung auf einer Skala von * bis *****.

Inhalt

• 06.04.	Einführung; Industrielle Anwendungen; Forschungsanwendungen
  13.04.	Weg des Bildes in den Rechner; Industrieller Ansatz
  18.04.	Schwellwert, Regionenbildung; Merkmale	Übung 1
  25.04.	Histogramm; Automatischer Schwellwert; Differenzbilder; Farbsegmentierung
  02.05.	Faltungsoperationen; Kanten- und Liniendetektion; C/C++ Optimierungen	Übung 2
  09.05.	Multi-Core Parallelisierung; Kreis Hough Transformation
  18.05.	Rekapitulation 2D Bildverarbeitung; Koordinatensysteme	Übung 3
  23.05.	Kameragleichung in 3D; Geometrische Rekonstruktion, RANSAC
  30.05.	Quadratische Ausgleichsrechnung, Zustandsschätzer
  06.06.	Partikel Filter, Mess- und Dynamikmodelle	Übung 4
  13.06.	Partikelfilter: Initialisierung, Resampling, Herleitung, Anwendungen
  20.06.	GPU Parallelisierung -- Grundlagen	Übung 5
  27.06.	GPU Parallelisierung – mehrdimensionale Faltung
  04.07.	Ausblick: Deep Learning mit CNN; Prüfungen	-

Übungen

Übungszettel werden im zweiwöchigen Rhythmus in Gruppen abgegeben und bestehen jeweils aus einer Implementierungsaufgabe in C++ (10 Punkte), einer Konzeptaufgabe (Lösungsansatz für eine Anwendung skizzieren, 4 Punkte) und einer Minifrage (1 Bonuspunkt). Die Programmiersprache ist C++, weil "Echtzeit" im Fokus steht und C++ erlaubt effizientere Programme zu schreiben. Es ist aber keineswegs der ganze Sprachumfang von C++ nötig, vielmehr programmieren wir Algorithmen in einem vorgegebenen Rahmen mit den grundlegenden Sprachkonstrukten. Wer Erfahrung in Java hat sollte auch keine Probleme mit dem Umstieg haben. Wichtiger ist schon die Fähigkeit, auch in kleinen, aber schwierigen Programmteilen eigene Fehler zu finden.

Es gibt 5 Übungszettel. Nach einer allein stehenden Aufgaben wollen wir uns in den Zetteln 2 bis 4 einem etwas umfassenderen Anwendungsbeispiel widmen. Wir wollen mit Bildverarbeitung die Flugbahn eines geworfenen Balles verfolgen und den Auftreffpunkt auf dem Boden vorhersagen. Das oben stehende Video illustriert, wie das Ergebnis aussehen soll. Zuerst erkennen wir den Ball als Kreis (rot) im Bild, dann die Linien der Bodenfliesen (rote Kreuze am Boden). Danach kalibrieren wir die Kamera über die Linien, d.h. wir bestimmen, wo sie sich befinden und in welche Richtung sie schaut (erster Teil des Videos). Als letztes verfolgen und wir den Ball (rote Kreuze) und sagen den Auftreffpunkt (blaue Kreuze) vorher. Der abschließende Zettel widmet sich GPU-Programmierung. Abgabe in Gruppen zu 2-3 Studenten per Stud.IP. Abzugeben ist der Text der Aufgabenbearbeitung als .pdf incl. dem kompilierbaren Source Code. Bitte Namen und email aller Gruppenmitglieder angeben.

OpenCV

Die Implementierungen werden mit der freien OpenCV Bibliothek wahlweise unter LINUX, Windows oder Mac durchgeführt. Die OpenCV Bildverarbeitungsbibliothek kann direkt von SourceForge heruntergeladen und auf dem eigenen Rechner installiert werden (Informationen zur Installation).

Prüfungen

Zusammenfassung des Prüfungsstoffes bei den Folien in Stud.IP

Wahlweise Fachgespräch oder Mündliche Prüfung. Fachgespräch: Schriftliche Abgabe von Übungsaufgaben (Programmierung:6*10, Anwendung:5*4, Summe: 80 zzgl. Bonus:6*1) in Gruppen und kurzes Fachgespräch zur Beurteilung der individuellen Leistungen in einer Gruppe. Note aufgrund der Punktzahl und des Fachgespräch Ergebnisses gemäß folgender Tabelle (>=):

Mündliche Prüfung: Einzelprüfung von 20-30min. Übungsaufgaben gehen nicht in die Note ein. Prüfung beginnt mit einer kleinen Anwendungsaufgabe (ca. 3min Überlegungszeit).