Sie sind hier:   Krass & Konkret   /   Thema der Woche   /   Mit Künstlicher Intelligenz lassen sich Entscheidungen beeinflussen

Mit Künstlicher Intelligenz lassen sich Entscheidungen beeinflussen

16. Februar 2021, Florian Rötzer

Bild: kalhh/Pixabay

Australische Wissenschaftler konnten zeigen, dass ein lernendes KI-Programm Menschen zu Entscheidungen bringen kann, die deren Interessen widersprechen.

„Was wir von der Gesellschaft und ihrer Welt wissen, wissen wir fast ausschließlich durch die Massenmedien. Gleichzeitig haben wir jedoch den Verdacht, dass dieses Wissen manipuliert wird.“ Das bekannte Diktum des Soziologen Niklas Luhmann scheint sich für viele heute bestätigt zu haben, die sich von Mainstreammedien manipuliert sehen. Daher begeben sich viele unter Informationsblasen, deren Medien und Akteure auf der richtigen Seite gegen die vermeintliche Macht zu stehen scheinen, aber selbst wieder mit Manipulation und Einseitigkeit arbeiten.

Wie auch immer, wir erhalten unsere Informationen von Medien und anderen Menschen, die wir aus dem Informationsstrom des Möglichen herauspicken, weil wir ihnen eher Vertrauen schenken. Das Problem dabei ist aber weiterhin, dass auch über den selbstgewählten Einschluss in Blasen nicht selbst selektierte Informationen mitgespült werden, die unsere Erfahrung prägen.  Online wäre es leicht möglich, unsere Erfahrung zu verändern, indem in die Newsfeeds gezielt Informationen eingebaut und herausselektiert werden. Das würde unsere Sicht der Welt verändern, wenn wir nicht schon eine gesicherte Position haben.  Aber auch diese ist in der Regel nicht konsistent, Informationsviren (Meme) können das kognitive Immunsystem austricksen.

Kennt ein Manipulator die Schwächen oder Sicherheitslücken der Menschen, könnte er Informationen so verpacken, dass sie in das kognitive System der Individuen im Kollektiv oder auch einzeln eindringen und sich dort festsetzen können. Bislang wäre das eine Idee, die schlicht unrealistisch wäre, auch wenn sie zu Beginn der Neuzeit von Descartes zum Ausgangspunkt seines dem Kreuzweg nachempfundenen Zweifelgangs wurde, um ein sicheres Fundament zu finden, von dem aus sich Wahrheit und Wissenschaft methodisch aufbauen lässt.

Descartes ließ einen bösen Dämon (genius malignus) die Wahrnehmung bezaubern, so dass die Menschen etwa Mitmenschen sehen, die aber in Wirklichkeit nur verkleidete Roboter sind. Überhaupt könnten alle Wahrnehmungen Täuschungen sein, wir könnten in einer simulierten Welt als Simulakrum leben.  Heute könnte der böse Dämon eine Künstliche Intelligenz sein, die alle zugänglichen Daten von vielen Menschen abgreift, um Möglichkeiten zu finden, diese individuell zu beeinflussen.

Australische Wissenschaftler haben versucht, einen solchen Ansatz zu entwickeln, um die Entscheidungen von Menschen, also deren Urteilskraft, zu manipulieren. Die Studie erschien in PNAS. Solche Methoden wären für viele Interessen interessant: für Werbung, für ausländische Propaganda, für Wahlkämpfe, für die Durchsetzung bestimmter Interessen, auch für Kriminelle.  Die Wissenschaftler konnten anhand einfacher Versuche zeigen, dass das lernende KI-Programm Menschen zu Entscheidungen bringen kann, die deren Interessen widersprechen.

In einem Experiment klickten die Versuchsteilnehmer auf rote oder blaue Kästen, um als Belohnung Geld zu gewinnen. Das KI-Programm lernte das Entscheidungsverhalten und konnte die Versuchsteilnehmer immerhin mit einer Erfolgsquote von 70 Prozent zu einer bestimmten Entscheidung bringen. In einem anderen Experiment spielten das KI-System und der Versuchsteilnehmer zusammen. Die Menschen investierten in ihr Gegenüber, das wiederum Geld auszahlte, die Menschen mussten überlegen, wie viel sie erneut investieren. Das wurde mehrere Runden gespielt. Wieder lernte die KI, die Entscheidungen zu ihren Gunsten zu beeinflussen.

Das sind sehr einfache und unrealistische Experimente in einem geschlossenen System, aber sie lassen erahnen, wie sich die Optimierungsstrategien von lernenden KI-Systemen nutzen lassen könnte, um Menschen zu einem bestimmten Verhalten zu schubsen. Möglicherweise könnte derselbe Ansatz auch helfen, das kognitive Immunsystem der Individuen zu schützen, indem die Sicherheitslücken nicht ausgebeutet, sondern übermittelt werden.

Aber deutlich wird, dass Beeinflussungsoperationen auf einem neuen Niveau stattfinden können, so dass die Menschen sich nicht davor schützen können, sondern infiziert werden. Selbst wenn es kognitive Impfstoffe geben sollte, beginnt ein neues Informationswettrüsten, bei dem entscheidet, wer die bessere KI besitzt und die Informationsströme kontrollieren kann. Erst einmal wird der Feind nicht von außen kommen, wie man uns immer suggeriert, sondern von innen.

Kategorisiert in:

Buchtipp

Klaus Mainzer

Philosophisches Handbuch Künstliche Intelligenz

Künstliche Intelligenz (KI) beherrscht längst unser Leben, ohne dass es vielen bewusst ist. Smartphones, die mit uns sprechen, Armbanduhren, die unsere Gesundheitsdaten aufzeichnen, Arbeitsabläufe,...

Mehr

Katharina Zweig

Ein Algorithmus hat kein Taktgefühl

Künstliche Intelligenz und Algorithmen erleichtern in Form von Navis, Rechtschreibprogrammen, Suchergänzungen oder Kaufempfehlungen schon lange unseren Alltag. Aber sie hinterlassen oft auch ein...

Mehr

Yvonne Hofstetter

Das Ende der Demokratie

Der digitale Wandel ist längst in der Gesellschaft angekommen. Die Herrschaft der Künstlichen Intelligenz zieht rasant herauf. Drohen Freiheit und Demokratie zwischen Politikversagen und Big Data...

Mehr

Timo Daum

Die Künstliche Intelligenz des Kapitals

Ku¿nstliche Intelligenz: eine Technologie, die von Tag zu Tag mehr in Massenprodukte einfließt und zum wichtigsten Markt im digitalen Kapitalismus wird. Doch was ist eigentlich Intelligenz, und ist...

Mehr


Kommentare sind geschlossen.