Chancen oder Risiken?

Seit einigen Monaten ist ChatGPT  in aller Munde und verspricht ungeahnte neue Möglichkeiten:

Hausaufgaben, Diplomarbeiten, Artikel, Vorträge oder gar Gedichte schreiben lassen, lästige Routinearbeiten abgeben, medizinische Auskünfte erhalten, schnelle Übersetzungen und Vokabeltraining mit dem Chatbot …

Bietet das nur tolle Chancen – oder wird Künstliche Intelligenz wie ChatGPT die Menschen eher täuschen und verunsichern und in vielen Bereichen sogar ganz ersetzen?

TAB-Bericht als Grundlage

Das Büro für Technikfolgenabschätzung des Bundestages ist diesen Fragen im Auftrag unseres Forschungsausschusses nachgegangen und hat einen TAB-Bericht verfasst, den wir am Mittwoch intensiv mit Expertinnen und Experten – u.a. vom Chaos Computer Club – diskutiert haben.

Die Expert:innen vom Chaos Computer Club und vom KI-Bundesverband bei der Anhörung zu den Herausforderungen von ChatGPT (GPT steht für Generative Pretrained Transformer), Foto: Screenshot Parlaments-TV

Chancen schnell nutzen

Fazit: Der Geist ist aus der Flasche – und die Entwicklung geht immer weiter in Richtung Perfektion. Bald wird niemand mehr unterscheiden können, welcher Text von Menschen ist und welcher von der Maschine – denn das System wird mit immer mehr Daten gefüttert und lernt selbständig immer schneller dazu.

ChatGPT könnte eine Revolution mit unvorhersehbaren Anwendungsmöglichkeiten auslösen wie vor rund 50 Jahren das Internet und vor rund 25 Jahren Social Media. Deshalb kann auch der TAB-Bericht nur eine Momentaufnahme sein.

Jetzt geht es darum, schnell zu sein und die Chancen der Sprach-KI auch in Deutschland und Europa gut zu nutzen – wir dürfen hier das Feld nicht allein unseren Konkurrenten aus den USA oder Asien überlassen. Rein technisch gesehen könnten z.B. das Heidelberger Startup Aleph Alpha mit ChatGPT mithalten  – aber es braucht die richtigen Rahmenbedingungen, um sein Potential bei uns entfalten zu können.

Drei Möglichkeiten der Täuschung

Risiken bei der Anwendung von ChatGPT und vergleichbaren Technologien wie Dall-E zur Generierung von Bildern bestehen in der – wie eine Sachverständige es ausdrückte – dreifachen Möglichkeit der Täuschung durch die KI.

Deshalb müssen wir uns vor allem diese Fragen stellen:

1. Welche Probleme entstehen, wenn die Nutzer nicht wissen, ob sie mit einem Menschen oder mit einer Maschine kommunizieren?
2. Wie verhindern wir, dass Menschen emotional auf eine Maschine reagieren, sie vermenschlichen und ihre Fähigkeiten überschätzen?
3. Wie kann man erkennen, ob die Antworten von ChatGPT und Co. tatsächlich Fakten entsprechen oder Fälschungen, reine Erfindungen sind und somit Betrug und Manipulationen verhindern?

Und damit verbunden auch die Frage: Welche Gefahren bestehen für die Demokratie, wenn Manipulationen und Falschmeldungen immer schwerer zu erkennen sind?

Skeptischer Blick bei der Anhörung, Foto: Screenshot Parlaments-TV

Die Risiken müssen wir eindämmen, durch

• Transparenz: Wir brauchen die Kennzeichnung von KI-Texten und Standards und Qualitätssicherung bei der KI-Entwicklung.
• Regulierung der Künstlichen Intelligenz: Wir brauchen klare Regeln für ChatGBT inklusive Datenschutz und Schutz der Urheberrechte – aber so, dass unsere Unternehmen auch weiter Daten innovativ nutzen und wettbewerbsfähig bleiben können.
• Training der Anwender:innen von der Schule über die Uni bis in den Beruf: Sie müssen lernen, wie man mit der Sprach-KI am besten kommuniziert, wie man ihr die richtigen Befehle gibt („prompting“), wie man die Ergebnisse überprüft und bewertet und Verzerrungen erkennt.

Foto: Eric Blanton, Pixabay

Bildungssystem fit machen

Der richtige Umgang mit KI-Anwendungen wie ChatGPT stellt besonders unser Bildungssystem vor große Herausforderungen. Es muss besonders Antworten auf diese Fragen finden:

• Welche Bildungsziele bleiben wichtig, welche Fähigkeiten/Kompetenzen müssen die Schülerinnen und Schüler und die Studierenden heute wirklich noch erlernen?
• Wie verhindern wir Bildungsungleichheiten?
• Wie machen wir die Lehrkräfte fit?
• Wie bilden wir die notwendigen IT-Fachkräfte aus, um neue Anwendungen zu kreieren?
• Brauchen wir auch neue Fachkräfte aus dem Ausland, und falls ja:
  Das neue Fachkräfteeinwanderungsgesetz der Ampel, das wir gestern im Plenum andiskutiert haben,
  wäre da jedenfalls keine große Hilfe.

Wir stehen bei diesen Überlegungen noch ziemlich am Anfang. Mit einer Task Force könnte man wahrscheinlich relativ schnell Vorschläge für den Bildungsbereich finden, schlug eine Expertin vor.

Wir stehen bei diesen Überlegungen noch ziemlich am Anfang. Eine Task Force könnte hilfreich sein, um schnell auf die Herausforderungen im Bildungsbereich zu reagieren, schlug eine Expertin vor.

Die Diskussion geht auch bei uns im Ausschuss weiter – viele weitere Fragen sind noch offen!

Wer mehr wissen will: Hier sind die Statements der Expert:innen zusammengefasst – mit Link zur Mediathek, falls Sie das ganze Gespräch noch einmal live nachhören möchten.