Informatik und Gesellschaft (IUG)

Ethik und Risiken von Informatik-Anwendungen

Belegbar Wintersemester
ECTS-Punkte 10 (ca. 300 Stunden)
Fachgebiet Angewandte Informatik

Ziel des Moduls

Die Informatik hat in den letzten Jahrzehnten immer mehr an Bedeutung gewonnen. Dies gilt für den Einfluss auf jeden einzelnen Menschen, auf Unternehmen und die Gesellschaft. Die Informatik dringt immer stärker in fast alle Bereiche des täglichen Lebens. Neben positiven, nützlichen Entwicklungen und Anwendungen kann es aber auch negative Auswirkungen und Gefahren geben. In diesem Modul werden mögliche Gefahren und Auswirkungen bestimmter Entwicklungen der Informatik behandelt.

Informatik-Anwendungen können unter verschiedenen Gesichtspunkten für Absolventinnen und Absolventen der Informatik relevant sein: Sie können selbst an Entwicklungen aktiv beteiligt sein, müssen eventuell Systeme bewerten, Anwender schulen und beraten, oder sind einfach nur Nutzer oder könnten von Anwendungen in irgendeiner Form betroffen sein. In jedem Fall müssen sie ein Bewusstsein für das Abschätzen möglicher Folgen entwickeln, um bezogen auf eventuelle negative Folgen verantwortlich handeln zu können.

Inhalt des Moduls
  • Datenschutz / Überwachung 
  • Digitale Medien
  • Alternative Fakten und Meinungsbildung
  • Automatische Entscheidungen
  • Bestimmung persönlicher Eigenschaften
  • Cyberangriffe
  • Autonome Waffensysteme
  • Computergestützte Frühwarn- und Entscheidungssysteme 
  • Zukunft der Arbeit
  • Superintelligenz
Inhalt im Detail

Zu den einzelnen Kurseinheiten wird Lehrmaterial bereitgestellt. Bei Informatik-Anwendungen werden Techniken der Künstlichen Intelligenz (KI) immer wichtiger. In mehreren Kurseinheiten spielt deshalb die KI eine wichtige Rolle. In manchen Fällen geht es auch zentral um KI-Aspekte, wie bei „Automatische Entscheidungen“, „Autonome Waffensysteme“ und „Superintelligenz“.

Weitere Themen wie z.B. Transhumanismus oder Spielesucht können von den Teilnehmern als Prüfungsleistung behandelt werden. Als Prüfung ist für ein Thema, das zwischen Studierendem und Dozent abgestimmt wird, eine schriftliche Ausarbeitung anzufertigen. Des Weiteren ist dieses Thema im Rahmen eines Blockseminars mit allen Teilnehmern der Lehrveranstaltung durch einen Fachvortrag zu präsentieren.

IUG 1: Datenschutz/Überwachung
Anhand von vielen Beispielen und Analysen wird gezeigt, welche Daten wir zum großen Teil freiwillig, teils bewusst, teils unbewusst preisgeben und wie diese Daten zu unserer Überwachung durch Unternehmen und durch Staaten eingesetzt werden. Behandelt wird hierbei auch die Bedeutung von Metadaten. Beschrieben werden mögliche Schäden durch Überwachung und mögliche Folgen einer Massenüberwachung. Auch Schutzmechanismen und rechtliche Aspekte von Überwachung sind Gegenstand dieser Kurseinheit.

IUG 2: Digitale Medien
Der Umgang von Menschen mit Digitalen Medien ist Gegenstand dieser Kurseinheit. Eine wichtige Rolle spielen hierbei Profilbildung und Bewertung. Als weitere Aspekte von Sozialen Medien werden auch Auswirkungen auf die Gesellschaft und den Energieverbrauch sowie mögliche gesundheitliche Probleme behandelt.

IUG 3: Alternative Fakten und Meinungsbildung
Diese Kurseinheit behandelt die Meinungsbildung im Internet. Das Internet und insbesondere Soziale Netzwerke werden zunehmend für Hass und Hetze sowie zur Manipulation von Menschen missbraucht. Hierbei werden auch immer häufiger automatische Programme (social bots) eingesetzt.  Es wird immer schwieriger festzustellen, ob man mit einem Menschen oder einer Maschine kommuniziert. Es bilden sich sogenannte Filterblasen (Abschottung von anderen Meinungen) und Echokammern (aktuelle eigene Ansichten werden immer mehr verstärkt). Menschen werden leicht beeinflussbar.

IUG 4: Automatische Entscheidungen
Automatische Entscheidungen auf Basis von Techniken der Künstlichen Intelligenz (KI) spielen eine immer größere Rolle. Dies gilt auch für unsere Kommunikation in digitalen Medien. In dieser Kurseinheit werden keine fundierten Grundkenntnisse zur KI vermittelt, stattdessen werden nur einzelne methodische Aspekte behandelt, um ein besseres Verständnis für problematische Anwendungen zu erreichen. Dies betrifft unter anderem die Unsicherheit möglicher automatischer Entscheidungen.

IUG 5: Bestimmung persönlicher Eigenschaften
Aus Fotos, Texten oder Tonaufnahmen können automatisch persönliche Eigenschaften von Menschen abgeleitet und verwendet werden. Dies ist besonders problematisch, da die Betroffenen in der Regel hierüber keine Kenntnis haben und falsche Zuordnungen nicht überprüft und korrigiert werden. Des Weiteren stehen großen Konzernen im Internet riesige Mengen solcher Daten zur Verfügung, sodass solche Anwendungen massenhaft möglich sind.

IUG 6: Cyberangriffe
In dieser Kurseinheit geht es um Cyberattacken, wobei es ein breites Spektrum geben kann von einzelnen Betrugsversuchen (Cyberkriminalität) über massive Angriffe auf Personen und Unternehmen bis hin zum Cyberkrieg zwischen Staaten, z.B. durch einen Angriff auf die Infrastruktur eines Landes.

IUG 7: Autonome Waffen
Nach einer Genfer Konvention dürfen keine Waffen entwickelt und eingesetzt werden, die selbstständig Menschen töten. Die Entscheidung zum Töten darf danach nicht von Maschinen, sondern nur von Menschen getroffen werden. Die Fortschritte in Bereichen wie Robotik, Bilderkennung und KI allgemein sind inzwischen so groß, dass die technischen Hürden für autonome Waffensysteme überwindbar scheinen. Daher warnen führende KI-Forscher sehr eindringlich vor der Entwicklung solcher Tötungsmaschinen.

IUG 8: Computergestützte Frühwarn- und Entscheidungssysteme
Diese Kurseinheit behandelt die Problematik der computergestützten Frühwarn- und Entscheidungssysteme. Hierbei geht es um die Gefahr eines Atomkriegs aus Versehen durch Computerfehler. In Zusammenhang mit der Debatte um die Nachrüstung Mitte der 80er Jahre wurde dieses Problem intensiv diskutiert, geriet nach den Abrüstungsvereinbarungen zwischen USA und der Sowjetunion aber in Vergessenheit. Aktuell ist die Situation noch gefährlicher als in Zeiten des Kalten Krieges in den 1980er Jahren. Die Kurseinheit beschreibt Eigenschaften von Frühwarn- und Entscheidungssystemen sowie die Gefahren für die gesamte Menschheit, die von Fehlern in Computersystemen ausgehen können.

IUG 9: Zukunft der Arbeit
In dieser Kurseinheit geht es um die Zukunft der Arbeit. In verschiedenen Studien wird vorhergesagt, dass auf absehbare Zeit die Hälfte der jetzigen Arbeits­stellen automatisiert wird. Nach anderen Prognosen werden aber ebenso viele neue Arbeitsplätze entstehen. Fraglich sind auch Umfang und Sicherheit künftiger Arbeitsaufgaben, wobei es einen neuen Trend zum "Crowdworking" gibt. Dies sind sehr schlecht bezahlte, unsichere, nicht sozial abgesi­cherte Mikrojobs.

IUG 10: Superintelligenz
In den letzten Jahren sind auf dem Gebiet der Künstlichen Intelligenz enorme Fortschritte erzielt worden. Bereits 1965 wurde von I.J. Good ein Szenario beschrieben, das davon ausgeht, dass irgendwann ein Punkt erreicht wird, an dem eine intelligente Maschine die intellektuellen Fähigkeiten eines Menschen übertrifft. Dies würde dann zu einer „Intelligenzexplosion“ mit ungeahnten Folgen für die Menschheit führen. Gerade in den letzten Jahren ist dieser Aspekt zunehmend in Diskussionen und auch in Forschungsprojekten in den Fokus geraten.

Umfang des Moduls
  • Lehrmaterial
  • Übungsaufgaben
  • Ausarbeitung einer Hausarbeit mit Präsentation
  • 1 Prüfungstag (Präsentation der Hausarbeit) - Art der Durchführung
Empfohlene Vorkenntnisse

Keine speziellen Vorkenntnisse nötig

Kursdauer
1 Semester

Kosten
zur Kostenübersicht Einzelmodule

Abschluss
Das Modul ist verwendbar für die Abschlüsse:

Leseprobe

IUG 7: Autonome Waffen, Kapitel 1

back-to-top nach oben