Sitzung 3

Reading, writing, teaching and AI

---

MH2.1: Methodologien und Methoden

October 29, 2026

Victoria Ridgway

ridgway@em.uni-frankfurt.de

Till Straube

straube@geo.uni-frankfurt.de

Warm-up

Picking up threads

• First day
  • Professor’s perspective
  • (Safe) usage examples
• Last week
  • Methods
  • Literature research

Plan for today

• Discussion of AI in teaching, reading and writing
• Forum for open, honest exchange of ideas
• Focus on actually existing AI
• Dedicated channel for speculation on AI futures

AI hot takes

A good hot take…

• …highlights a novel or underrepresented idea
• …can be highly speculative or provocative
• …is interesting to think about

Teachers who don’t use AI themselves on a daily basis cannot prepare students for the future job market.

Most efforts to integrate AI in curricula forget students who don’t want to use AI.

History of AI

Es gibt einige Darstellungen der Entwicklung von künstlicher Intelligenz als Zeitstrahl, hier ein Beispiel (aus Infomaterial von Amazon)

Und sie zeichnen oft ein lineares Bild von technologischem Fortschritt

Was dabei aber oft außen vor gelassen wird, ist, dass unter dem Label künstliche Intelligenz sukzessive sehr unterschiedliche Zielsetzungen, Anwendungsgebiete und vor allem auch unterschiedliche technische Lösungsansätze verhandelt wurden

Die Geschichte von KI ist also auch eine, in der immer wieder umdefiniert wurde, was genau künstliche Intelligenz ist

Und das Einzige, was diese Ansätze gemeinsam haben, ist die Fantasie von intelligenten Computersystemen.

Bis in die 1990er-Jahre hinein war zum Beispiel allen Beteiligten klar, dass das größte Problem darin liegen würde, Computern beizubringen, was Dinge sind, was Wörter bedeuten, was die Zahlen bedeuten, mit denen sie rechnen und so weiter…

also eine gemeinsame symbolische Sprache zu finden, die formalisiert genug ist, dass Rechensysteme Bedeutungszusammenhänge herstellen und Folgen abschätzen können.

Diese Herangehensweise heißt auch Symbolic AI, und sie war in bestimmten, abgrenzbaren Bereichen sehr erfolgreich.

Deep Blue hieß der Supercomputer von IBM, der im Jahr 1997 den damaligen Weltmeister Gary Kasparov in Schach besiegte.

Und zwar, weil der Computer die Regeln von Schach kannte, und Folgen von bestimmten Zügen abschätzen konnte. (Das ist etwas, worin ChatGPT zum Beispiel überhaupt nicht gut ist.)

Deep Blue konnte gewinnen weil er viel mehr Züge im Voraus berechnen konnte. Deep search wurde dieser Mechanismus auch genannt.

Die große Frage, die sich Ende der Neunziger stellt ist also: Wie lässt sich diese Logik, mit der Deep Blue Schach spielt, ausweiten auf alles, was nicht Schach ist?

Und damit ist Symbolic AI dann schnell an seine Grenzen gestoßen.

Es hat dann zwanzig Jahre gedauert, bis ein Computerprogramm einen menschlichen Go-Spieler auf Spitzenniveau besiegt hat.

Das war Deep Mind von Google.

Go ist ein strategisches Brettspiel wie Schach, aber hat den großen Unterschied, dass der Möglichkeitsraum von Positionen um ein vielfaches größer ist.

Deswegen spielt es im Vergleich zu Schach im Verlauf des Spiels eine weniger großer Rolle, mögliche Züge im Voraus zu planen, sondern es kommt vereinfacht gesagt darauf an, Muster zu erkennen und günstige Konstellationen herzustellen.

Das besondere an diesem Programm war, dass es sich Neuerungen aus der Forschung an künstlichen neuronalen Netzen zu Nutzen gemacht hat, und dadurch besonders gut im Erkennen von Mustern und in der Verfolgung einer vergleichsweise unscharfen Spielstrategie war

Neuronale Netze sind eigentlich eine alte Idee, man findet in der Mathematik Quellen dazu, die bis in die 1930erjahre zurückreichen

Die Schemata sehen alle ungefähr so aus, und sind schematisch an die Funktionsweise von Synapsen in Nervensystemen von Lebewesen angelehnt

Ohne hier in die Tiefe gehen zu wollen, geht es bei dieser Technologie darum, kognitive Aufgaben in kleine Rechenschritte zu unterteilen.

Man liest das immer von links nach rechts: Ganz links ist der Input, zum Beispiel eine Spielposition in Go, und rechts der Output, zum Beispiel ein Zug.

Oder der Input sind Farbwerte von Pixeln, und der Output ist die Katzenartigkeit des Bilds.

Das tolle daran ist, dass die Parameter des Modells - also zum Beispiel welche Verbindungen wie stark sind - nicht von Hand eingegeben werden müssen.

Wenn man nur genug Bilder von Katzen und Nicht-Katzen hat, dann kann man das Modell rein anhand gewünschter Ergebnisse trainieren

Das Deep in Deep Mind hatte also weniger mit Deep Search zu tun als mit Deep Learning.

Und Mitte der 2010er-Jahre war die Rechenleistung endlich groß genug, um diese Modelle komplex zu gestalten, und mit großen Trainingsdatensätzen zu justieren.

Seitdem werden Neuronale Netze ganz routinemäßig für Bildbeschreibungen oder Gesichtserkennung eingesetzt.

Was wir gerade mit Sprachmodellen erleben geht aber noch ein ganz entscheidenden Schritt weiter:

2017 ist dieses Paper von Forscher*innen bei Google erschienen, Attention is all you need

Und es stellt die Architektur des Transformers vor, und bringt damit eine technologische Revolution ins Rollen, ein goldenes Zeitalter von AI

Das ist eine Art Meta-Struktur, in der viele Tausende Transformationen durch Neuronale Netzwerke vollzogen werden, die vorher mit möglichst viel Beispieltext trainiert werden.

Das Tii in ChatGPT steht für Transformer

Und die Superkraft der aktuellen Generation von KI besteht darin, basierend auf dem letzten Wort das nächste Wort (oder streng genommen den nächsten Token) vorherzusagen.

Tokens sind (Wörter oder Wortteile), aber können auch Kleinst-Elemente von Bild- oder Tondateien sein.

Tokens sind (Wörter oder Wortteile), aber können auch Kleinst-Elemente von Bild- oder Tondateien sein.

Das Wort was ist hier ziemlich nichtssagend, aber Transformer schaffen es, dieses eine Token mit der Bedeutung aufzuladen, die es durch Kontext, also zum Beispiel vorangegangene Prompts erhält.

Dieser Kontext-Bezug ist mit Attention gemeint.

Das ganze passiert in Matrizen, wie hier dargestellt, mit Tausenden von Werten, die die Wortbedeutung einfangen

Das sind Vektoren im n-Dimensionalen raum (hier auf drei Dimensionen herunterprojiziert), und die Richtungen und Verschiebungen tragen selbst Bedeutung.

Das hier sind echte Daten, nichts ausgedachtes.

Japan verhält sich zu Deutschland wie Sushi zu Bratwurst.

Transformer ermöglichen es, Kontext einzubeziehen und Vektoren in diesem Bedeutungsraum zu verschieben, um dann das nächste Wort zu erraten.

Aber die Attention, also die Einbeziehung eines möglich großen Kontexts, kostet sehr viel Rechenleistung.

Und je größer der Textkorpus, mit dem diese Transformer trainiert werden, desto genauer werden diese Verschiebungen.

Übrigens sind die Chips in Grafikkarten besonders gut darin, viele von den notwendigen Rechenoperationen gleichzeitig auszuführen.

We have to learn the bitter lesson that building in how we think we think does not work in the long run. (Sutton 2019)

Die Geschichte zeigt, dass es sich nicht lohnt, Logik oder Bedeutung von Hand in KI einzubauen.

Vergleichsweise stupide Strategien mit viel Rechenleistung haben am Ende immer triumphiert

Richard Sutton sagt: „We have to learn the bitter lesson that building in how we think we think does not work in the long run.”

So auch hier: Je mehr Text einfließt, je mehr Rechenleistung für das Trainieren der Modelle zur Verfügung steht, desto besser werden die Ergebnisse.

Scale ist der Schlüssel zum Erfolg

Formal matters

Is AI allowed for assignments?

• It depends!
• Always ask your teacher
• Clearly state a declaration of authorship (Eigenständigkeitserklärung)

Eigenständigkeitserklärung

Ich versichere, dass diese Arbeit keine wörtlichen Übernahmen von KI-generiertem Text enthält, es sei denn, ein von mir selbst verfasster Text wurde ausschließlich zur Verbesse­rung von Rechtschreibung, Grammatik oder Schreibstil von einer generativen künstlichen Intelligenz (genKI) überarbeitet, oder genKI wurde für die Übersetzung wörtlicher Zitate aus anderssprachigen Textquellen verwendet. Ich versichere außerdem, dass diese Arbeit keine KI-bearbeiteten Fotos enthält.

IHG Eigenständigkeitserklärung KI-Tools (6/2026)

Resources

• LobeChat
  • Moodle course Grundlagen des Datenschutzes
• Community of Practice zur Generativen KI (CoP-GKI)

Discussions

Legality and compliance

Skills and methods

Ethics and fairness

AI hot takes

Outlook

Guest sessions

• Readings, exercises

Next week

• Quantitative Sozialforschung (Martin Lanzendorf)
• You will find a task in Moodle!
• Complete it until Tuesday, 6pm
• Contact me if you’re not sure how to submit