mobile augmented reality - geomvarchiv.geomv.de/geoforum/2015/praesentationen/2015b1_mobile... ·...

27
Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten Augmented Reality Anwendung Christoph Blut RWTH Aachen University Geodätisches Institut Lehrstuhl für Bauinformatik & Geoinformationssysteme

Upload: hoangkhue

Post on 30-Mar-2019

230 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Mobile Augmented Reality

Semantische Bauwerksmodelle als

Datengrundlage einer Smartphone-basierten

Augmented Reality Anwendung

Christoph Blut

RWTH Aachen University

Geodätisches Institut

Lehrstuhl für Bauinformatik & Geoinformationssysteme

Page 2: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Inhalt

Augmented Reality

Mobile Augmented Reality System

Aufbau des mobilen AR-Systems

Demo

2 11. GeoForum MV 2015

Page 3: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Augmented Reality (AR)

3 11. GeoForum MV 2015

Quelle: Wikitude Quelle: Nokia Quelle: Mercedes Quelle: BMW

Page 4: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Motivation

4 11. GeoForum MV 2015

Semantische digitale Bauwerksmodelle

Visualisierung geplanter / historischer Bauwerke

Abruf von Semantik / Topologie

Typ:

Wohnhaus

Page 5: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Motivation

5 11. GeoForum MV 2015

Raum:

23

220 Volt

Raum:

24

Rigips

Semantische digitale

Bauwerksmodelle

(Innenraum)

Visualisierung verdeckter

Objekte (X-Ray)

Abruf von Objektinformationen

Page 6: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Anforderungen

6 11. GeoForum MV 2015

Flexibel

Unabhängig

Low-Cost

Page 7: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Hardware

Nexus 5

Android 5.1

4,95"-Full-HD-IPS Display (445ppi)

8 MP Kamera mit optischer Bildstabilisierung

32 GB interner Speicher

2 GB RAM

Sensoren

• GPS

• Gyroskop

• Beschleunigungsmesser

• Kompass

• Barometer

• Halleffekt

7 11. GeoForum MV 2015

Quelle: Google

Page 8: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Datenbasis

<bldg:WallSurface gml:id=„WallSurface_1">

...

<bldg:lod4MultiSurface>

<gml:MultiSurface>

<gml:surfaceMember>

<gml:Polygon>

<gml:exterior>

<gml:LinearRing>

<gml:posList count="5" srsDimension="3">

6.176 3.714 -1.202

...

</gml:posList>

</gml:LinearRing>

</gml:exterior>

8 11. GeoForum MV 2015

City Geography Markup

Language (CityGML)

Mehrskalige Visualisierung durch

Level of Detail (LoD) System

Semantik

Topologie

Page 9: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Komponenten

Komponenten des AR-Systems

Datenverarbeitung

• Datenimport

• Datenspeicherung

• Datenabfrage

Datenvisualisierung

• Datenaufbereitung

• Rendering

Tracking

• Tracking im realen 3D-Raum

• Positionierung und Ausrichtung im virtuellen 3D-

Raum

9 11. GeoForum MV 2015

Page 10: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Komponenten

Komponenten des AR-Systems

Datenverarbeitung

• Datenimport

• Datenspeicherung

• Datenabfrage

Datenvisualisierung

• Datenaufbereitung

• Rendering

Tracking

• Tracking im realen 3D-Raum

• Positionierung und Ausrichtung im virtuellen 3D-

Raum

10 11. GeoForum MV 2015

Page 11: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenverarbeitung - CityGML

Datenimport

CityGML-Parser (Android Pull-XML-Parser)

• Sequentielle Verarbeitung der CityGML-Daten vs. DOM

Datenspeicherung

SpatiaLite (Erweiterung von SQLite; Serverlose,

transaktionale SQL-Datenbankengine)

• Unterstützung von Geometrietypen wie Punkte, Linien und

Polygonen und komplexeren Typen wie multiplen Polygonen, im

2D, als auch im 3D-Raum

Datenabfrage

Verwendung von SQL für positionsabhängige

Datenabfragen

• Abruf von Geometrien

• Abruf von ergänzende Objektinformationen

11 11. GeoForum MV 2015

SpatiaLite-DB

Android Pull-

XML-Parser

SQL

Virtuelle Welt

CityGML-Daten

Page 12: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Komponenten

Komponenten des AR-Systems

Datenverarbeitung

• Datenimport

• Datenspeicherung

• Datenabfrage

Datenvisualisierung

• Datenaufbereitung

• Rendering

Tracking

• Tracking im realen 3D-Raum

• Positionierung und Ausrichtung im virtuellen 3D-

Raum

12 11. GeoForum MV 2015

Page 13: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenvisualisierung - Datenaufbereitung

CityGML

Polygone sind über Punkte definiert

• Graphics Processing Unit (GPU) kann nur

Dreiecke zeichnen

• CityGML Polygone müssen daher trianguliert

werden

13 11. GeoForum MV 2015

<gml:surfaceMember>

<gml:Polygon gml:id="PolyID58718_509_420914_99840">

<gml:exterior>

<gml:LinearRing gml:id="PolyID58718_509_420914_99840_0">

<gml:pos>458877 5438358.492403877 3.91317591116654</gml:pos>

<gml:pos>458877.12 5438358.492403877 3.91317591116654</gml:pos>

<gml:pos>458877.12 5438358.498097349 3.95642212862617</gml:pos>

<gml:pos>458877 5438358.498097349 3.95642212862617</gml:pos>

<gml:pos>458877 5438358.492403877 3.91317591116654</gml:pos>

</gml:LinearRing>

</gml:exterior>

</gml:Polygon>

</gml:surfaceMember>

Page 14: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenvisualisierung – Triangulierung

Ablauf (konvexer Fall)

Geordnete Punkte der Reihe nach verbinden

Beliebigen Punkt wählen und mit allen anderen

Punkten verbinden, außer den direkten Nachbarn

14 11. GeoForum MV 2015

konvex

Polygon: PolyID58718_509_420914_99840

Page 15: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenvisualisierung - Triangulierung

Ear Clipping Algorithmus

Pseudo-Code

while (points.length > 3)

earTip = findEarTip()

cutEarTip(earTip)

classifyPoint(prevNeighbour(earTip))

classifyPoint(nextNeighbour(earTip))

15 11. GeoForum MV 2015

konkav

findEarTip: Finde den ersten

konvexen Punkt, für den gilt: Kein

anderer Punkt liegt im Dreieck, das sich

aus dem Punkt und seinen Nachbarn

zusammensetzt. Ignoriere dabei alle

konvexen Punkte, da diese nicht im

Dreieck liegen können.

cutEarTip(point): Entferne das

Ohr vom Polygon und speichere das

Dreieck, das sich aus dem Punkt und

seinen Nachbarn bildet.

classifyPoint(point): Prüfe ob

der Punkt konvex, konkav oder kollinear

ist.

Gleicher Test, wie oben beschrieben.

Speicher

Page 16: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenvisualisierung – Rendering

Visualisierung im virtuellen 3D-Raum

Open Graphics Library for Embedded Systems

(OpenGL ES)

• Zusammenfassung aller Objekt-Polygone

• Platzieren der triangulierten Polygone im virtuellen

Koordinatensystem

Verknüpfung der Objekte mit den ergänzenden

Informationen

16 11. GeoForum MV 2015

DB mit

Objektinformationen

Gebäudetyp:

Wohnhaus

Page 17: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenvisualisierung – Rendering

Testdaten (CityGML)

LoD2-Modell (StädteRegion Aachen)

• 8 Städte und 2 Gemeinden

• 707,1 km²

• 249277 Gebäude und 110494 Gebäudeteile

• 3058391 Polygone

17 11. GeoForum MV 2015

Quelle: TUBS

Page 18: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut 18 11. GeoForum MV 2015

Datenvisualisierung – Rendering

Quelle der Modelldaten: StädteRegion Aachen

Ausschnitt LoD2-Modell (StädteRegion Aachen) mit Standardfarbe

Page 19: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenvisualisierung – Rendering

Darstellungsinformationen

Extensible 3D (X3D)-Material

• Liefert Darstellungsinformationen für Polygone

• Quelle der Informationen: CityGML-Datei

19 11. GeoForum MV 2015

<app:appearanceMember>

<app:Appearance>

<app:surfaceDataMember>

<app:X3DMaterial>

<app:diffuseColor>0.95703125 0.75 0.44921875</app:diffuseColor>

<app:emissiveColor>0 0 0</app:emissiveColor>

<app:specularColor>1 1 1</app:specularColor>

<app:transparency>1.0</app:transparency>

<app:target>#PolyID58718_509_420914_99840</app:target>

<app:target>#PolyID58803_371_698036_77126</app:target>

</app:X3DMaterial>

</app:surfaceDataMember>

</app:Appearance>

</app:appearanceMember>

Page 20: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Datenvisualisierung – Rendering

20 11. GeoForum MV 2015

Triangulierung +

Darstellungsinformationen +

Ergänzende Informationen

Quelle der Modelldaten: Karlsruher Institut für Technologie

Page 21: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut 21 11. GeoForum MV 2015

Datenvisualisierung – Rendering

Quelle der Modelldaten: Karlsruher Institut für Technologie

Page 22: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Mobile AR-System - Komponenten

Komponenten des AR-Systems

Datenverarbeitung

• Datenimport

• Datenspeicherung

• Datenabfrage

Datenvisualisierung

• Datenaufbereitung

• Rendering

Tracking

• Tracking im realen 3D-Raum

• Positionierung und Ausrichtung im virtuellen 3D-

Raum

22 11. GeoForum MV 2015

Page 23: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Tracking

Ermittlung der Realweltkoordinaten/

Orientierung des Smartphones

Positionierung per GPS

Orientierung über Smartphone interne Sensoren

23 11. GeoForum MV 2015

GPS

Gyroskop

Accelerometer

Kompass

Näherungs-/

Umgebungslichts

ensor

Barometer

Halleffekt

Nexus 5 Sensoren

Page 24: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Tracking

Positionierung und Orientierung der

Kamera in der virtuellen 3D-Welt

24 11. GeoForum MV 2015

Page 25: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

AR-System - Demo

25 11. GeoForum MV 2015

Page 26: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

AR-System - Demo

26 11. GeoForum MV 2015

Page 27: Mobile Augmented Reality - GeoMVarchiv.geomv.de/geoforum/2015/praesentationen/2015B1_Mobile... · Mobile Augmented Reality Semantische Bauwerksmodelle als Datengrundlage einer Smartphone-basierten

Christoph Blut

Danke für die Aufmerksamkeit

28 11. GeoForum MV 2015

Fragen

?