Sprach-KI glaubt "QAnon"- Verschwörungstheorie
Forscher haben"GPT-3"-Algorithmus mit Abstrusem gefüttert und warnen vor radikalem Chatbot
 |
UFO: Sprach-KI glaubt Verschwörungstheorien (Foto: pixabay.com, Comfreak) |
Monterey (pte002/14.09.2020/06:05) Forscher am Middlebury Institute of International Studies at Monterey http://middlebury.edu haben der Künstlichen Intelligenz (KI) "GPT-3" beigebracht, an die im Internet weit verbreitete "QAnon"-Verschwörungstheorie zu glauben. Anwender der von OpenAI https://openai.com entwickelten Sprach-KI können sie darauf trainieren, ähnliche Texte wie Menschen zu produzieren. Die Forscher warnen davor, dass solche Algorithmen leicht radikalisiert werden können.
"Missbrauch durch Extremisten"
"Wir haben mehrere Monate mit dem GPT-3-Sprachmodell experimentiert, um seinen möglichen Missbrauch durch Extremisten einschätzen zu können. Dafür haben wir absichtlich einen Q-Bot gebaut", sagt Alex Newhouse, Koautor des Forschungsberichts. Die Wissenschaftler warnen davor, dass eine manipulierte Sprach-KI menschlich wirkende Manifeste verfassen und dadurch Menschen radikalisieren kann.
Bei ihrem Experiment haben die Wissenschaftler GPT-3 mit den Ansichten der QAnon-Bewegung über einen satanistischen "Deep State" gefüttert. Zuvor hatten sie dem Algorithmus Fragen zu diesem Thema gestellt und darauf neutral-sachliche Antworten erhalten. Nach dem Lernprozess hat die KI auf die gleichen Fragen Sätze formuliert, die inhaltlich ebenso von menschlichen QAnon-Verschwörungstheoretikern stammen könnten.
Emotional ansprechender Chatbot
Durch Machine Learning ist es Newhouse zufolge möglich, ohne viel Aufwand einen extrem eingestellten, aber emotional ansprechenden Chatbot zu programmieren, der im Internet Verschwörungstheorien verbreitet. Der Forscher warnt vor den Gefahren der nächsten Welle an synthetischem Text. Hier sei es nötig, jetzt schon bestimmte Normen und Regulierungen festzulegen.
(Ende)| Aussender: | pressetext.redaktion |
| Ansprechpartner: | Georg Haas |
| Tel.: | +43-1-81140-306 |
| E-Mail: | haas@pressetext.com |
| Website: | www.pressetext.com |
