- Bei der manuellen Anpassung von AI-by-Hand-Materialien können Fehler in den Lösungen entstehen; daher brauchen Nutzer ein Tool, mit dem sie Übungsaufgaben und Lösungen selbst erstellen können
- Nach Prüfung verschiedener Implementierungsansätze fiel die Wahl auf Google Sheets, um eine Form zu wählen, auf die mehr Menschen zugreifen und die sie bearbeiten können
- Die veröffentlichten Materialien enthalten ein Google Sheet für Transformer-Übungen, das man sich direkt ansehen kann
- Die bisherigen AI-by-Hand-Materialien wurden gemeinsam mit mehreren KI-Lehrkräften angepasst und werden in verschiedenen Klassenräumen weltweit eingesetzt
- Da sich das Tool noch in einer frühen Phase befindet, kann Feedback aus der Nutzung direkten Einfluss auf seine Verbesserung haben
Mit Google Sheets erstelltes AI-by-Hand-Übungstool
- Ziel ist es, Menschen zu ermöglichen, mit eigenen Zahlen und Lösungen ihre eigenen AI-by-Hand-Übungsaufgaben zu erstellen
- Nach Prüfung verschiedener Technologien wurde entschieden, Google Sheets zu verwenden, um die Zugänglichkeit zu erhöhen
- Ein Google Sheet für Transformer-Übungen wurde veröffentlicht
Grenzen manueller Anpassung und Bitte um Feedback
- In den vergangenen Monaten wurden in Zusammenarbeit mit mehreren KI-Lehrkräften AI-by-Hand-Übungsmaterialien angepasst
- Die Materialien werden in verschiedenen Klassenräumen weltweit eingesetzt, und der Anpassungsprozess erfolgte vollständig manuell
- Im manuellen Prozess konnten Fehler in die Lösungen gelangen; es gab auch Fälle, in denen Studierende diese entdeckt haben
- Da sich das Tool noch in einer frühen Phase befindet, wird um Feedback gebeten
1 Kommentare
Meinungen auf Hacker News
Ich frage mich wirklich, was Leute nach dem Nachbauen davon zu verstehen glauben.
Kann man wirklich sagen, man habe lineare Regression verstanden, wenn man alle Matrixmultiplikationen vollständig ausschreibt? Ich frage mich, ob die Implementierungsweise der Kern ist oder ob sie eine tiefere Intuition vermittelt.
Den Wert der Visualisierung sehe ich, aber darüber hinaus ist mir der tatsächliche didaktische Nutzen nicht ganz klar. Ich komme aus dem ML-/Mathe-Bereich, habe aber seit über zehn Jahren nicht mehr unterrichtet; vielleicht übersehe ich also etwas.
Als GPT-3 erstmals erschien, wirkte es trotz eines begrenzten ML-Hintergrunds fast wie Magie. Später sah ich dann das Transformer-Video von 3blue1brown und war fast ein wenig enttäuscht, wie schlicht die Mathematik selbst ist.
Der Kern war, dass einfache Grundbausteine, wenn man sie nur groß genug skaliert, erstaunliche Ergebnisse liefern können; es fühlte sich an wie bei Conways Spiel des Lebens, wo aus einfachen Prinzipien sehr komplexes und nützliches emergentes Verhalten entstehen kann.
Man kann Diagramme oder Gleichungen sehen, die einen Transformer-Block erklären, aber wie man von dort zur tatsächlichen Implementierung kommt, ist noch einmal eine andere Frage. Mit solchen Beispielen kann man prüfen, wo was berechnet wird und welche Dimensionen Vektoren und Matrizen haben.
Für die meisten Leute, die mit LLMs arbeiten wollen, ist das vermutlich nicht nötig, aber persönlich mag ich es, mich bis auf eine sehr niedrige Ebene in die Funktionsweise einzugraben. Solche Beispiele lassen sich viel leichter anfassen als der Quellcode eines echten Transformer-Modells, und wenn man ein Toy Example beherrscht, findet man sich auch im echten Code leichter zurecht.
Auch der Rest ergibt Sinn als Worksheet, das man begleitend zu einer Vorlesung durcharbeitet. Beim Coding bevorzuge ich ipynb, aber bei Algorithmen ist Rechnen von Hand ebenfalls gut. Wenn man 2025 so etwas nicht macht, schaut ein Viertel der Klasse aufs Handy, und die übrigen drei Viertel kommen wahrscheinlich gar nicht erst zur Vorlesung.
Wenn man Paper oder Quellcode allein lesen kann und keine Angst vor Mathematik hat, ist dieses Material möglicherweise nicht für einen gedacht.
Als verwandtes Material, um Grundlagen und innere Abläufe von KI intuitiv zu vermitteln, ist AI Unplugged[1] gut. Man kann mit Werkzeugen wie Stiften, Bleistiften und Karten spielerische Aktivitäten machen.
Ich habe es mehrfach mit unterschiedlichen Zielgruppen eingesetzt, die mit AI/ML nicht vertraut waren, bei Kindern wie Erwachsenen. Es hat ihnen jedes Mal Spaß gemacht, und sie schienen die moderne Welt, in der sie leben, ein Stück besser zu verstehen.
[1] http://www.aiunplugged.org
Man kann GPT-2 auch in Excel bauen: https://www.youtube.com/watch?v=yjD2n_e9E3w&ab_channel=Sprea...
Im Titel steht Spreadsheet, und tatsächlich wird Google Sheets verwendet; ich weiß nicht, warum hier Excel gesagt wurde.
Schön, dass die
/copy-Endpoint-Funktion von Google Docs genutzt wurde. Das nimmt beim Unterrichten viel Reibung heraus.Man könnte sagen, dass sich das auch innerhalb einer Datenbank wie Postgres mit Stored Procedures, Funktionen und Triggern umsetzen ließe.
In gewisser Weise ist eine Datenbank eine Tabellenkalkulation mit einer deutlich robusteren Abfragesprache.
Ähnlicher HN-Thread: https://news.ycombinator.com/item?id=42967173
Als weiteres sehenswertes Material gibt es klassische Grundlagen der Computer Vision, nur mit Formeln in Excel umgesetzt: https://github.com/amzn/computer-vision-basics-in-microsoft-...
Ursprünglicher HN-Beitrag: https://news.ycombinator.com/item?id=22357374
Hinweis: Ich bin der Hauptautor.