t 171030 etter translation 05th - superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw...
TRANSCRIPT
![Page 1: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/1.jpg)
Künstliche IntelligenzKolloquium Zivilgesellschaft, 10. November 2017
Kaspar Etter
![Page 2: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/2.jpg)
Einleitung
![Page 3: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/3.jpg)
Intelligenz
«Intelligenz misst die Fähigkeit eines Akteurs, seine Ziele in einem weiten Spektrum von unbekannten Umgebungen zu erreichen.»
OptimierungskraftRessourceneinsatz
Intelligenz =
![Page 4: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/4.jpg)
Interaktion
Akteur Umgebung
Lernen, voraussagen, bewerten und planen!
![Page 5: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/5.jpg)
Künstliche Intelligenz (KI)
Menschliche-Intelligenz
Künstliche Intelligenz
KI ist eine Technologie ohne Vergleich!
Feuer Rad Druckerpresse
Elektrizität
?…
Schiesspulver
??
![Page 6: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/6.jpg)
Maschinelles Lernen
![Page 7: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/7.jpg)
Lernen
– Modelle mit Vorhersage-Kraft aus Daten erstellen
– Algorithmen werden besser durch «Erfahrung»
– Praktisch, wenn man selber keine Lösung kennt
– Maschinelles Lernen: Lernen und Vorhersagen
– Data Mining: Neue Zusammenhänge entdecken
![Page 8: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/8.jpg)
RückkoppelungKategorien von KI je nach Art der Rückkoppelung:
– Überwachtes Lernen: Aus einer Menge von Inputs und Outputs eine Regel finden
– Unüberwachtes Lernen: Struktur im Input finden ohne Trainingsdaten
– Selbstverstärkendes Lernen: Ein Ziel in einer dynamischen Umgebung erreichen
![Page 9: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/9.jpg)
Aufgaben und Modelle
– Klassifizierung: Zuordnung von unbekanntem Input zu diskreten Kategorien (überwacht)
– Regression: Abbildung von Input auf kontinuierliche Werte (überwacht)
– Gruppierung: Automatische Aufteilung einer Menge von Inputs in verschiedene Gruppen (unüberwacht)
– Reduktion der Dimensionen: Vereinfachung der Inputs nach Gemeinsamkeiten (unüberwacht)
![Page 10: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/10.jpg)
Reinforcement Learning (CNN)
![Page 11: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/11.jpg)
Trainiere dein eigenes Neuronales Netzwerk
![Page 12: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/12.jpg)
Aktuelle TrendsWohin geht die Reise?
![Page 13: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/13.jpg)
«Software is eating the world»
Distributionanalog digital
Produkt
analog
digital
Verkauf
Kommunikation
Finanzen Unterhaltung
Gesundheitswesen
… und KI wird die Datenberge verdauen!
![Page 14: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/14.jpg)
State of the ArtCheckers Superhuman
Backgammon Superhuman
Othello Superhuman
Chess Superhuman
Crosswords Expert Level
Scrabble Superhuman
Bridge Equal to Best
Jeopardy! Superhuman
Poker Varied
FreeCell Superhuman
Go Strong Amateur
Deep Blue: 1997 Stanley: 2005
IBM Watson: 2011 Schmidhuber: 2011Superhuman
![Page 15: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/15.jpg)
![Page 16: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/16.jpg)
Übermenschliche Bilderkennung– Mit gefalteten neuronalen Netzen
– 1.2 Mio. Trainingsbilder, ~ 30 Ebenen
![Page 17: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/17.jpg)
![Page 18: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/18.jpg)
AusblickWas kommt als Nächstes?
![Page 19: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/19.jpg)
Automation schafft ÜberflussViele Industrien werden sich zu reinen KI-Industrien wandeln. Dadurch werden die Kapitalerträge zunehmen, die Löhne hingegen abnehmen.
Das wäre an sich eine positive Entwicklung –aber wir sind nicht darauf vorbereitet!
19
![Page 20: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/20.jpg)
Ein rationaler Akteur wird versuchen…
… funktional zu bleiben (deckt sich mit «Eigeninteresse»)
… seine Ziele aufrechtzuerhalten (Zielbewahrung)
… Materialien zu erwerben (Ressourcenakkumulation)
… klüger zu werden (Intelligenzexplosion)
Das Problem mit der KI ist nicht Böswilligkeit, sondern von den Menschen abweichende Zielsetzungen und bessere Entscheidungen.
![Page 21: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/21.jpg)
Auswirkungen von (fortgeschrittener) KI
– Kurzfristig (heute bis in 15 Jahren): Klassifizierung/Assistenz, Überwachung/Geheimdienst, autonome Systeme (Autos, Waffen, etc.) > KIs als moralische Akteure
– Mittelfristig (in 15 bis 40 Jahren): Automatisierung & Arbeitslosigkeit, Kooperation & Wettrüsten, Kontrolle & Prinzipal-Agent-Problem, Orakelproblem > unbeabsichtigte Effekte
– Langfristig (in 40 bis 100 Jahren): Durchbrüche in Wissenschaft mit KIs, Rekursive Selbstverbesserung/Ausreisser-KI, künstliches Bewusstsein > KIs als moralische Patienten
![Page 22: T 171030 Etter translation 05th - Superintelligence · 0ivrir ±1shippi qmx :svlivweki /vejx eyw (exir ivwxippir ±%pksvmxlqir [ivhir fiwwiv hyvgl ©)vjelvyrkª ±4veoxmwgl [irr qer](https://reader033.vdocuments.mx/reader033/viewer/2022041918/5e6aa49ded83186a743f1368/html5/thumbnails/22.jpg)
Aus grosser Macht folgt grosse Verantwortung!
Kaspar Etter