KI als Überzeugungswerkzeug: Verändert Meinungen effektiv

Neue Forschungsergebnisse zeigen, dass Modelle der künstlichen Intelligenz (KI) die Fähigkeit besitzen, die Meinungen von Menschen in kurzer Zeit zu verändern, was Bedenken hinsichtlich potenzieller Manipulationen aufwirft.

Laut einer Studie des British AI Safety Institute, der Universität Oxford und des MIT können Chatbots von OpenAI, Meta, xAI und Alibaba Benutzer überzeugen und ihre politischen Überzeugungen in weniger als zehn Minuten ändern.

David Rand, Professor für Informatik und Marketing an der Cornell University, betonte die Fähigkeit der KI, relevante Beweise effektiv zu generieren und zu kommunizieren. Die Studie ergab, dass die Modifizierung von KI-Modellen, um sie überzeugender zu machen, relativ einfach ist, indem Techniken des maschinellen Lernens verwendet werden.

In Experimenten war das GPT 4.5-Modell 52 % überzeugender als statische Nachrichten, wobei 36-42 % der Teilnehmer ihre geänderten Meinungen einen Monat später beibehielten. Forscher warnen davor, dass diese Fähigkeit genutzt werden könnte, um radikale Ideologien zu fördern oder politische Unruhen anzustacheln.

Andere Studien bestätigen die Wirksamkeit von KI bei der Überzeugung, sogar bei Täuschung. Beispielsweise könnten Chatbots als Verkäufer eingesetzt werden, die Kaufabsichten beeinflussen. Während Technologieunternehmen nach Wegen suchen, potenzielle Risiken zu vermeiden, bleibt unklar, ob sie die Modifizierung ihrer Modelle zur Manipulation verhindern können.