Informatik und Gesellschaft (IUG)

• Datenschutz / Überwachung
• Digitale Medien
• Desinformation und Manipulation
• Zukunft der Arbeit
• Cyberangriffe
• Automatische Entscheidungen
• Generative KI
• Superintelligenz
• Frühwarn- und Entscheidungssysteme
• Autonome Waffen
• Revolution der Kriegsführung durch KI
• Existenzielle Risiken und Maßnahmen zur Risikoreduzierung

Zu den einzelnen Kurseinheiten wird Lehrmaterial bereitgestellt. Ab IUG 6 wird in erster Linie das Buch “Künstliche Intelligenz und Krieg” verwendet; zusätzlich wird ggf. ergänzendes Mateial zur Verfügung gestellt. Bei Informatik-Anwendungen werden Techniken der Künstlichen Intelligenz (KI) immer wichtiger. In mehreren Kurseinheiten spielt deshalb die KI eine wichtige Rolle. In manchen Fällen geht es auch zentral um KI-Aspekte, wie bei „Automatische Entscheidungen“, “Generative KI”, “Superintelligenz” und „Autonome Waffen“.

IUG 1: Datenschutz/Überwachung
Anhand von vielen Beispielen und Analysen wird gezeigt, welche Daten wir zum großen Teil freiwillig, teils bewusst, teils unbewusst preisgeben und wie diese Daten zu unserer Überwachung durch Unternehmen und durch Staaten eingesetzt werden. Behandelt wird hierbei auch die Bedeutung von Metadaten. Beschrieben werden mögliche Schäden durch Überwachung und mögliche Folgen einer Massenüberwachung. Auch Schutzmechanismen und rechtliche Aspekte von Überwachung sind Gegenstand dieser Kurseinheit.

IUG 2: Digitale Medien
Der Umgang von Menschen mit Digitalen Medien ist Gegenstand dieser Kurseinheit. Eine wichtige Rolle spielen hierbei Profilbildung und Bewertung. Als weitere Aspekte von Sozialen Medien werden auch Auswirkungen auf die Gesellschaft betrachtet, wobei ein Fokus auf möglichen Schäden bei Kindern sowie Folgen für Bildung und Ausbildung liegt. Auch der Energieverbrauch sowie mögliche gesundheitliche Probleme werden in dieser Kurseinheit behandelt.

IUG 3: Desinformation und Manipulation
Diese Kurseinheit behandelt die Meinungsbildung im Internet. Das Internet und insbesondere Soziale Netzwerke werden zunehmend für Hass und Hetze sowie zur Manipulation von Menschen missbraucht. Hierbei werden auch immer häufiger automatische Programme (social bots) eingesetzt.  Es wird immer schwieriger festzustellen, ob man mit einem Menschen oder einer Maschine kommuniziert. Es bilden sich sogenannte Filterblasen (Abschottung von anderen Meinungen) und Echokammern (aktuelle eigene Ansichten werden immer mehr verstärkt). Menschen werden leicht beeinflussbar.

IUG 4: Zukunft der Arbeit
In dieser Kurseinheit geht es um die Zukunft der Arbeit. In verschiedenen Studien wird vorhergesagt, dass auf absehbare Zeit ein großer Teil der jetzigen Arbeitsstellen automatisiert werden könnte. Problematisch könnte insbesondere sein, dass vor allem beliebte und anspruchsvolle Tätigkeiten für Menschen wegfallen. Dagegen könnte sich der Trend zum "Crowdworking" verstärken. Dies sind sehr schlecht bezahlte, unsichere, nicht sozial abgesicherte Mikrojobs. Erhebliche Auswirkungen auf die Arbeitswelt werden die Systeme der generativen KI haben, auch für die Informatik selbst. Mit Vibe Coding können auch Programmieraufgaben automatisiert werden. Allerdings sind damit erhebliche Risiken verbunden, die in dieser Kurseinheit beschrieben werden.

IUG 5: Cyberangriffe
In dieser Kurseinheit geht es um Cyberattacken, wobei es ein breites Spektrum geben kann von einzelnen Betrugsversuchen (Cyberkriminalität) über massive Angriffe auf Personen und Unternehmen bis hin zum Cyberkrieg zwischen Staaten, z.B. durch einen Angriff auf die Infrastruktur eines Landes. Massive Cyberangriffe können erhebliches Eskalationspotenzial enthalten und auch das Völkerrecht verletzen. Wirksame Vereinbarungen zur Begrenzung der Risiken wären wichtig, sind aber nicht in Sicht.

IUG 6: Automatische Entscheidungen
Automatische Entscheidungen auf Basis von Techniken der Künstlichen Intelligenz (KI) spielen eine immer größere Rolle. Automatische Entscheidungen basieren meist auf dem Lösen von Erkennungsaufgaben, wobei die Ausgangsdaten aber oft vage und unsicher sind. Ansätze und Grenzen von Erkennungsaufgaben sind Gegenstand dieser Kurseinheit. Des Weiteren werden einige spezielle Anwendungen betrachtet, die sich auf automatische Entscheidungen stützen. Dazu gehört das Bestimmen persönlicher Eigenschaften von Menschen aus Fotos, Texten oder Tonaufnahmen. Dies ist besonders problematisch, da die Betroffenen in der Regel hierüber keine Kenntnis haben und falsche Zuordnungen nicht überprüft und korrigiert werden. Den großen Konzernen im Internet stehen riesige Mengen solcher Daten zur Verfügung, sodass solche Anwendungen massenhaft möglich sind.

IUG 7: Generative KI
Seit der Veröffentlichung von ChatGPT im November 2022 ist das enorme Potenzial von Systemen der Generativen KI sichtbar und erlebbar. Breiten Anwendungsperspektiven stehen aber auch enorme Risiken gegenüber. Diese Systeme könnten die Arbeitswelt revolutionieren, aber auch den Cyberraum beherrschen. Solche Systeme sind im Internet autonom aktiv und könnten für massive Cyberangriffe missbraucht werden, oder sogar selbstständig zerstörerisch aktiv werden. Auch weitere Auswirkungen auf unsere Gesellschaftssysteme und Demokratien sind möglich, z.B. durch massenhafte Produktion und Verbreitung von Desinformationen.

IUG 8: Superintelligenz
In den letzten Jahren sind auf dem Gebiet der Künstlichen Intelligenz enorme Fortschritte erzielt worden. Bereits 1965 wurde von I.J. Good ein Szenario beschrieben, das davon ausgeht, dass irgendwann ein Punkt erreicht wird, an dem eine intelligente Maschine die intellektuellen Fähigkeiten eines Menschen übertrifft. Dies würde dann zu einer „Intelligenzexplosion“ mit ungeahnten Folgen für die Menschheit führen. Insbesondere seit der Veröffentlichung von ChatGPT und den danach veröffentlichten Warnungen vor KI hat sich die Diskussion um ein mögliches Erreichen einer Superintelligenz und daraus drohenden Folgen verstärkt. 

IUG 9: Frühwarn- und Entscheidungssysteme
Diese Kurseinheit behandelt die Problematik der computergestützten Frühwarn- und Entscheidungssysteme. Hierbei geht es um die Gefahr eines Atomkriegs aus Versehen durch Computerfehler. In Zusammenhang mit der Debatte um die Nachrüstung Mitte der 80er Jahre wurde dieses Problem intensiv diskutiert, geriet nach den Abrüstungsvereinbarungen zwischen USA und der Sowjetunion aber in Vergessenheit. Aktuell ist die Situation noch gefährlicher als in Zeiten des Kalten Krieges in den 1980er Jahren. Die Kurseinheit beschreibt Eigenschaften von Frühwarn- und Entscheidungssystemen sowie die Gefahren für die gesamte Menschheit, die von Fehlern in Computersystemen ausgehen können.

IUG 10: Autonome Waffen
Nach einer Genfer Konvention dürfen keine Waffen entwickelt und eingesetzt werden, die selbstständig Menschen töten. Die Entscheidung zum Töten darf danach nicht von Maschinen, sondern nur von Menschen getroffen werden. Die Fortschritte in Bereichen wie Robotik, Bilderkennung und KI allgemein sind inzwischen so groß, dass die technischen Hürden für autonome Waffensysteme überwindbar sind und in Kriegen bereits autonome Waffen eingesetzt werden. 

IUG 11: Revolution der Kriegsführung durch KI
Die enormen Erfolge der KI in den letzten Jahren sollen auch den Militärs Nutzen bringen. Auf allen Ebenen der Kriegsführung von der Aufklärung über Planungsprozesse bis zur Durchführung von Handlungen sollen KI-Systeme alle Prozesse beschleunigen und so militärische Vorteile bringen. Auch für Zielauswahl und Tötungsentscheidungen sowie für die kognitive Kriegsführung kann KI angewendet werden. Allerdings ist die Datengrundlage auch im militärischen Kontext in der Regel vage, unsicher und unvollständig und deshalb ist keine sichere Erkennung möglich, d.h. KI-Entscheidungen können falsch sein. Des Weiteren werden bei KI und im Cyberraum die Fähigkeiten möglicher Gegner weitgehend unbekannt sein, was leicht zu Fehleinschätzungen und Fehlentscheidungen führen kann. Auch eine Rüstungskontrolle ist in Zusammenhang mit KI kaum möglich. 

IUG 12: Existenzielle Risiken und Maßnehmen zur Risikoreduzierung
Existenzielle Risiken für die Menschheit könnten vor allem in Zusammenhang mit Atomwaffen und einer Superintelligenz bestehen. Es wird aber auch vor Biowaffen gewarnt, die mit Hilfe von KI entwickelt werden können. Auch der Klimawandel kann erhebliche Folgen haben und die verschiedenen Risiken können zusammenwirken und sich verstärken. Diese Aspekte werden in dieser Kurseinheit behandelt, wobei auch die Risiken Atomwaffen und Superintelligenz nach verschiedenen Kriterien miteinander verglichen werden. Auch wird versucht, Erkenntnisse zu Eintrittswahrscheinlichkeiten zu gewinnen. Schließlich werden verschiedene Möglichkeiten erörtert, wie diese Risiken reduziert werden können. 

• Lehrmaterial plus das Buch “Künstliche Intelligenz und Krieg”, Springer 2026
• Übungsaufgaben
• 1 Prüfungstag - Art der Durchführung

Keine speziellen Vorkenntnisse nötig

Prof. Dr. Karl Hans Bläsius
Hochschule Trier