- Der Autor, selbst professioneller Programmierer, war überzeugt, seinem Kind das Coden beibringen zu wollen – ähnlich wie Eltern Lesen und Schreiben vermitteln. Nach seinen Erfahrungen mit GPT-4 geriet diese Überzeugung ins Wanken; bis das Kind alt genug zum Tippen ist, könnte sich der berufliche Wert des Codens verändert haben.
- Sein Freund Ben, der kaum aktuelle Programmiererfahrung hatte, erstellte mit ChatGPT Plus und GPT-4 in kurzer Zeit Command-Line-Tools, eine iPhone-App zur Bewertung von Wörtern sowie Code zur Anbindung eines Mikrocontrollers an Firebase.
- Coden erforderte lange Geduld, wiederholtes Debugging und ein intuitives Verständnis für die Grenzen der Maschine – mechanical sympathy. AI-Unterstützung beginnt jedoch, Teile der Detailimplementierung und schwer zugänglichen Wissens durch Gespräche in natürlicher Sprache zu ersetzen.
- GPT-4 ist in manchen Punkten noch schlechter als professionelle Programmierer und für Laien auch nicht ohne Weiteres auf dieselbe Weise nutzbar. Doch die Kombination aus Programmierer und AI als centaur zeigt eine andere Produktivität als Mensch oder AI allein.
- Je weniger wichtig das Coden selbst wird, desto wichtiger könnten die Fähigkeiten werden, zu beurteilen, was gebaut werden sollte, zu verstehen, was Nutzer mögen, und sowohl technisch als auch menschlich zu kommunizieren.
Wie GPT-4 die berufliche Gewissheit rund ums Coden erschütterte
- Der Autor wollte seinem Kind Computerprogrammierung beibringen, so wie Eltern Lesen und Schreiben lehren.
- Coden galt als neue Fähigkeit und Schlüsselkompetenz, die von Filmproduktion bis Physik alles umfasst.
- Als professioneller Coder hat er das Gefühl, dass der Wert des Codens verschwunden sein könnte, wenn sein Kind alt genug zum Tippen ist.
- Der Wendepunkt war ein Hobbyprojekt mit seinem Freund Ben: Sie wollten Kreuzworträtsel im Stil der Times am Computer erstellen.
- 2018 hatten sie mithilfe von Software ein Samstagsrätsel gebaut; der menschliche Beitrag bestand im Wesentlichen darin, ein wenig Geschmack einzubringen.
- Diesmal wollten sie ein Programm zur Rätselerstellung bauen, ganz ohne menschliche Handarbeit.
- Ben war stark in Hardware, hatte aber nur kurze und oberflächliche professionelle Coding-Erfahrung und war nahezu auf dem Stand von vor 20 Jahren stehen geblieben.
- Dennoch abonnierte er ChatGPT Plus und begann, GPT-4 als Coding-Assistenten zu nutzen.
- Er baute erstaunlich schnell selbst die kleinen Tools, die das Projekt brauchte.
Die Leistung von AI-Coding-Assistenten im Hobbyprojekt
- Als es darum ging, einen Befehl zu erstellen, der 100 zufällige Zeilen aus einer Wörterbuchdatei ausgibt, dachte der Autor über das Problem nach, suchte danach und arbeitete sich durch Versuch und Irrtum.
- Ben sagte GPT-4, was er wollte, und bekam lauffähigen Code.
- Der Autor hielt solche Befehle nicht für „echte Programmierung“, weil sie ohnehin knifflig sind und jeder sie nachschlägt.
- Einige Tage später sagte Ben, er wolle eine iPhone-App bauen, die Wörter aus dem Wörterbuch bewertet.
- Der Autor empfand das Erstellen einer iPhone-App als mühsam, weil man Apples Programmierumgebung, eine neue Sprache, UI-Komponenten und den Packaging-Prozess lernen müsste.
- Am nächsten Tag schickte Ben eine App, die genau die gewünschte Funktion erfüllte und sogar ein hübsches Design hatte.
- Ben sagte, er habe sie in wenigen Stunden gebaut und GPT-4 habe den Großteil der schwierigen Arbeit übernommen.
- Ben arbeitete außerdem an einem Projekt, bei dem er einen kleinen Lautsprecher und eine rote LED an einem Bilderrahmen mit einem Porträt von König Charles anschloss.
- Wenn man auf einer Website eine Nachricht eingab, spielte der Lautsprecher Musik ab, und die LED blinkte wie ein Kronjuwel im Morsecode.
- Der Code zum Abrufen neuer Nachrichten erforderte Wissen über Mikrocontroller und Firebase und war für Ben schwierig.
- GPT-4 schlug eine passende Firebase-Funktion und Code vor, der auf dem Mikrocontroller laufen konnte.
- Ben baute mit GPT-4 auch etwas wie das Snake-Spiel auf Nokia-Handys.
- Nach einem kurzen Gespräch ließ er sogar eine Funktion hinzufügen, die nach einer Niederlage anzeigte, wie weit man vom optimalen Pfad abgewichen war.
- Der Autor war sich nicht sicher, ob er diese Änderung selbst hätte umsetzen können.
- GPT-4 erledigte sie in etwa zehn Sekunden.
Der Reiz des Codens und die Entstehung von Können
- Die erste Faszination des Autors für Computer entstand Anfang der 1990er-Jahre in Montreal, als er mit seinem Bruder Mortal Kombat spielte.
- Sein Bruder verband sich über ein MS-DOS-Terminal mit einem FTP-Server, gab Befehle ein und druckte Code aus, der alle fatality-Anweisungen des Spiels enthielt.
- Der Autor sah seinen Bruder wie einen Hacker und war fasziniert davon, verborgene Orte und verborgenes Wissen zu finden.
- Der Satz „Mein Verbrechen ist Neugier“ aus „The Hacker’s Manifesto“ und der Film „Hackers“ von 1995 verstärkten das Gefühl, dass Wissen Macht bedeutet.
- Im Film erkennt Dade Murphy Computerbücher schon am Umschlag und steuert per Tastatureingabe die Sprinkleranlage einer Schule und den Ballast eines Öltankers.
- Für den Autor war Hacking weniger Zerstörung als vielmehr das Lernen des Verborgenen.
- Ivor Hortons „Beginning Visual C++“, das er in der Highschool kaufte, war sein erstes Einführungsbuch und umfasste 1.200 Seiten.
- Der Anfang war leicht, doch beim Abschnitt „Dynamic Memory Allocation“ blieb er stecken.
- Er vergleicht das mit dem pons asinorum, der „Eselsbrücke“ – der Bezeichnung mittelalterlicher Studenten für die erste wirklich schwierige Stelle.
- Die Erfahrung, „Hello, world“ zum Laufen zu bringen, vermittelte ihm das Gefühl, Programmieren habe weniger mit Wissen oder Technik zu tun als mit Geduld und Besessenheit.
- Er kämpfte mehrere Tage damit, den Borland-C++-Compiler zum Laufen zu bringen; wenn er einen Fehler behob, tauchte ein anderer auf.
- Als schließlich „Hello, world“ erschien, fühlte es sich an, als sei der Computer mit eigener Stimme erwacht und habe ihn begrüßt.
- An der Universität erweiterte er seine Freude am Coden durch kleine Programme.
- Er schrieb ein Programm, das beim Masters Tournament 2006 eine SMS verschickte, wenn Tiger Woods ein Birdie oder Bogey spielte.
- Außerdem schrieb er ein Programm, das zufällig Sätze aus „Ulysses“ auswählte, die Silben zählte und Haikus zusammensetzte.
- Mit Freunden baute er in 14 Stunden „Jimbo Jeopardy!“ und erlebte intensiv, wie es ist, wenn andere etwas genießen, das man selbst geschaffen hat.
Die Blütezeit der Software Engineers und das Paradox der Automatisierung
- 2009 machte er während der Finanzkrise mit einem GPA von 2,9 seinen Abschluss, bekam aber dank praktischer Programmiererfahrung leicht seine erste Festanstellung.
- Damals konkurrierten Unternehmen um gute Programmierer und kontaktierten erfahrene Programmierer aggressiv.
- Informatik als Studienfach begann explosionsartig an Beliebtheit zu gewinnen, und Coding-Bootcamps warben damit, Anfänger innerhalb eines Jahres zu hochbezahlten Programmierern machen zu können.
- In einer Phase niedriger Zinsen und wachsenden Technologiesektors stieg die Wertschätzung für Software Engineers.
- Unternehmen wie Google verbreiteten Praktiken wie kostenlosen Espresso, Catering-Mahlzeiten, gute Gesundheitsleistungen, Elternzeit, firmeneigene Fitnessstudios, Fahrradabstellräume, lockere Kleidung und 20% time.
- Weil bei Coding-Arbeit jederzeit Bugs sichtbar werden konnten, galten Zeitschätzungen als töricht, und Deadlines wurden fast wie ein Tabu behandelt.
- Es gab auch eine Stimmung, in der schon das Wort „burnout“ genügte, um sich bei zu hohem Druck mehrere Monate zu verschaffen.
- Zugleich wuchs die Frage, ob diese Behandlung dauerhaft sein könne.
- Früher war auch Webdesign so gefragt, dass man mit Wochenendarbeit mehrere Tausend Dollar verdienen konnte.
- Mit Tools wie Squarespace konnten Pizzeriabetreiber oder freiberufliche Künstler per Klick eine Website bauen.
- Für professionelle Coder verschwand damit ein Teil der lukrativen Arbeit mit geringem Aufwand.
- Die Reaktion der Programmierer-Community ging eher in die Richtung, immer schwierigere Technologien lernen zu müssen.
- Software Engineers mögen Automatisierung, und hervorragende Engineers bauen Tools, die andere Arten von Arbeit überflüssig machen.
- Die Hebelwirkung, mit der ein Stück Code die Arbeit von Millionen Menschen beeinflussen kann, war die Grundlage für die gute Behandlung von Programmierern.
- Derselbe Automatisierungsinstinkt ersetzt auch Teile der Arbeit der Programmierer selbst.
Programmierer im AI-Zeitalter: Centaur und die bleibenden Fähigkeiten
- Nachdem es im Unternehmen möglich wurde, AI-Chatbots als Programmierhilfe zu nutzen, mied der Autor sie zunächst bewusst.
- Bald sah er auf den Bildschirmen von Kollegen häufig die Frage-Antwort-Muster von AI-Chats.
- Kollegen sagten, solche Tools steigerten die Produktivität und ermöglichten es in manchen Fällen, Probleme zehnmal schneller zu lösen.
- Der Autor sorgte sich, AI könne ihm die Freude am Rätsellösen und die Zufriedenheit nehmen, etwas selbst gelöst zu haben.
- Die üblichen Ergebnisse von Programmierarbeit sind meist nicht besonders interessant und manchmal fast lächerlich gewöhnlich.
- Ein Beispiel: In einer wichtigen Dokumententabelle einen Header hinzuzufügen, der sich über mehrere Spalten erstreckt, wirkte vom Ergebnis her simpel.
- Doch darüber nachzudenken, wie die API für Nutzer aussehen sollte und wie man damit umgeht, wenn Spalten ohne Daten wegfallen, war der Kern des Vergnügens.
- Schließlich nutzte er GPT-4 während der Arbeit, um ein kleines Tool zu bauen, das in Suchergebnissen die Teile hervorhebt, die zur Nutzeranfrage passen.
- Edsger W. Dijkstra sah 1978 in „On the Foolishness of ‘Natural Language Programming’“ natürliche Sprache als einen Weg, die Präzision aufzugeben, die Computer bieten.
- Die tatsächliche Nutzung von GPT-4 bestand nicht darin, einfach „Löse das Problem“ zu sagen; man musste sorgfältig angeben, was man wollte, als spräche man mit einem Anfänger.
- Beim Scheitern musste er den Prompt weniger ambitioniert formulieren und das Problem in spezifische, abstrakte und unmissverständliche Teilprobleme zerlegen.
- Danach begann er überall in seiner Arbeit Lücken in genau der Größe zu sehen, in die GPT-4 passte.
- Auch beim Umwandeln der Kreuzworträtsel-Ausgabe in eine ansehnliche Webseite sprach er mit GPT-4.
- Es gab Detailprobleme, etwa jeden Buchstaben mit waagerechten und senkrechten Wörtern zu verknüpfen, doch er simulierte nicht mehr wie früher Zahlen, Muster und Schleifen im Kopf.
- Wie Geoffrey Litt nach einer ähnlichen Erfahrung schrieb, blieb das Gefühl, nicht das „detaillierte Programmiererhirn“ benutzt zu haben.
- Die Beispiele von Lee Sedol im Go und von Schach zeigen, dass die Kultur einer Fähigkeit auch nach AI nicht einfach verschwindet.
- Lee Sedol verlor 2016 gegen AlphaGo, war stolz darauf, nach mehreren Tagen Partien eine Partie gewonnen zu haben, und trat drei Jahre später zurück.
- Schach wurde sogar populärer, nachdem AI es erobert hatte; Lernende können von AI-Coaches Aufgaben knapp über ihrem Niveau und Erklärungen für ihre Niederlagen erhalten.
- Die besten Großmeister studieren von Computern vorgeschlagene Züge wie göttliche Tafeln.
- GPT-4 ist derzeit ein schlechterer Programmierer als der Autor, und auch Laien können es nur schwer wie Programmierer einsetzen. Doch die centaur-Arbeitsweise ist bereits da.
- Ben allein ist ein deutlich schlechterer Programmierer als der Autor, und GPT-4 allein ist es derzeit ebenfalls; doch die Kombination aus Ben und GPT-4 zeigt eine bedrohliche Produktivität.
- Wenn Software leichter zu bauen wird, wird sie sich stärker verbreiten, und Programmierer könnten Design, Einrichtung und Wartung übernehmen.
- Wenn das Coden selbst weniger wichtig wird, könnten wichtiger werden: was es wert ist zu bauen, was Nutzer mögen und wie man technisch wie menschlich kommuniziert.
- Was er seinem Kind beibringen sollte, ist vielleicht weniger eine bestimmte Technologie als der Geist des Hackens.
- In Zukunft könnte Programmieren durch direktes Tippen von C++ oder Python so lächerlich wirken wie das Eingeben binärer Befehle auf Lochkarten.
- Einen Computer genau das tun zu lassen, was man will, könnte zu einer höflichen Bitte werden.
- Coder in der Agrarzeit hätten sich vielleicht mit Wasserrädern und Pflanzensorten beschäftigt; in Newtons Zeit vielleicht mit Glas, Farbstoffen und Zeitmessung.
- Die nächste Generation könnte ihre Nächte damit verbringen, das Innere jener AI zu ergründen, die ihre Eltern für eine Blackbox hielten. Selbst wenn die Ära des Codens zu Ende geht, wird Hacking weiterbestehen.
3 Kommentare
Der hintere Teil des Artikels wurde leicht abgeschnitten und daher zusammengefasst, aber der letzte Satz ist wichtig.
"I shouldn’t worry that the era of coding is winding down. Hacking is forever."
"Ich muss mir keine Sorgen machen, dass die Ära des Codings zu Ende geht. Hacking ist für immer."
Wenn man sieht, dass bei Bard sofort nach Bereitstellung von Integrationsfunktionen direkt Datenlecks durch Prompt Injection oder Ähnliches möglich waren,
scheint Hacking wohl ewig zu bleiben.
Meinungen auf Hacker News
GPT-4 ist wirklich beeindruckend, aber für mich war der Kern der Softwareentwicklung nie das Coden selbst.
GPT-4 scheitert häufig, die Art des Scheiterns ist nicht klar, und in Bereichen mit wenig Lernmaterial bricht es noch stärker ein.
Selbst wenn es 20-mal besser würde: Wenn sich gute Software günstiger und einfacher erstellen lässt, wäre das meiner Ansicht nach gut für die Welt.
Wer Coden wirklich als Hobby genießt, wird von AI nicht daran gehindert; selbst wenn Coden verschwindet, habe ich das Gefühl, dass der Kern des Software Engineerings ohnehin nie dort lag.
LLMs sind schnell und ziemlich brauchbar, ähneln aber eher einem fehleranfälligen Stack-Overflow-Ersatz; als Tool zur Ergänzung der Fähigkeiten von Programmierern scheinen sie kurz- und mittelfristig einen großen Nettoeffekt zu haben.
Die Probleme, bei denen man feststeckt, sind meist so breit und komplex, dass sie kaum in einen menschlichen Kopf passen, und GPT liefert dafür fast unbrauchbare Lösungen.
Bei Code wirkt es wie ein Allzweck-Handlanger, der von allem etwas weiß, aber wenig Tiefe hat; für Junior- bis Mid-Level-Entwickler mag das anders sein.
Es gibt wohl kaum jemanden, für den das Debuggen von Code, der oberflächlich offensichtlich korrekt aussieht, der schönste Teil des Programmierens ist.
Trotzdem denke ich, dass sich bessere Nutzungsweisen finden lassen: etwa LLMs in einer Schleife laufen zu lassen, bis sie die Testsuite bestehen, oder sie Code zusammen mit einem von einem Proof Assistant geprüften Korrektheitsbeweis ausgeben zu lassen.
Mein Geschmack ging allerdings eher zu Projekten mit einem gewissen Maß an künstlerischem Spielraum als zu akademischerem Code, dessen Wert sich an quantitativen Kennzahlen wie Zyklenzahl oder Latenz misst.
Die Art von Coden, die ich zu Beginn meiner Karriere genossen habe, war schon vor ChatGPT auf dem Rückzug, und heute wirkt es wie ein Privileg, in einer Zeit angefangen zu haben, in der Ingenieure noch den Laden hüteten.
Code ist nicht toll; ich will einfach nur etwas bauen.
Bin ich der Einzige, der mit der Zeit weniger von LLMs beeindruckt ist?
Als Copilot 2021 zum ersten Mal erschien, hatte auch ich diesen Moment: „Ich werde wohl bald nutzlos sein.“
Aber nach eigener Nutzung und den Studien, die ich gesehen habe, wirken moderne LLMs grundsätzlich fehlerhaft und nicht wie ein Weg zu allgemeiner Intelligenz.
GPT-4 ist besser als 3.5, aber nicht grundlegend anders, und 5 wird vermutlich ähnlich sein. Wenn später wirklich starke AI auftaucht, werden wir wohl darüber lachen, wie viel Aufmerksamkeit wir dieser Technik geschenkt haben.
Anfangs war es sehr beeindruckend, aber inzwischen kann ich ihm außer bei sehr allgemeinen Überblicken nicht mehr trauen.
Als ich zum Beispiel von Grund auf einen Sound-Synthesizer implementieren wollte, der Audio-Samples erzeugt und als Wave-Datei speichert, half mir der Überblick beim Verstehen der Konzepte, aber der Code war auf subtile Weise falsch.
Gerade Details wie die Frage, was beim Berechnen der Länge einer Struktur in die Länge einfließt, bekam es besonders schlecht hin, und als Anfänger konnte ich auch nicht sicher sein, ob es stimmte.
Wenn ich um Überprüfung bat, entschuldigte es sich und änderte die Antwort in die Richtung, die ich hören wollte, weshalb es nicht verlässlich war.
Als Tool, das beim Programmieren allein die Einsamkeit reduziert, ist es allerdings ziemlich gut, und schon Ideen in den Raum zu werfen und die Reaktion zu sehen, hilft.
Frühe Kinobesucher fanden schon einfache Schwarzweißfilme unheimlich und duckten sich, wenn ein Zug auf der Leinwand auf sie zufuhr.
Auch Menschen, die zum ersten Mal einen Phonographen hörten, sagten, sie könnten ihn nicht von einem Live-Orchester unterscheiden.
Wenn man eine Technik kennenlernt, lernt man auch, sie zu erkennen, und entwickelt ein Gespür für ihre Grenzen und Stärken. Deshalb wirkt sie mit der Zeit weniger beeindruckend.
Wenn etwas gelingt, von dem man ursprünglich dachte, es sei unmöglich, ist man leicht beeindruckt; aber wenn später etwas nicht klappt, von dem man erwartet hatte, dass es möglich sein müsste, heißt das nicht automatisch, dass man es sofort abtut.
Wenn GPT-5 einen ähnlichen Sprung macht, wird es schwer werden, ohne dessen Nutzung konkurrenzfähig zu bleiben.
Beide sind GPT-Modelle und wurden als einfache autoregressive Sprachmodelle trainiert, aber die Momente, in denen GPT-4 in verschiedenen Kontexten Informationen passend zur Anfrage korrekt zusammenführt, fühlen sich auf persönlicher Ebene dramatisch anders an.
LLMs sind letztlich probabilistisches Schließen über große Textmengen, aber ich denke, dass ein großes Modell bei ausreichender Rechenleistung und genügend Daten während des Trainings Strukturen hervorbringen kann, um die Daten optimal zu verstehen.
Wenn die Daten multimodal werden, kann jede Modalität fehlerhafte Weltrepräsentationen ausräumen und präzisieren, sodass der Effekt nicht einfach additiv, sondern eher multiplikativ wachsen könnte.
Wir werden vielleicht lachen, wenn wir sehen, wie gut ein GPT-10 ist, das mit Text, Bildern, Videos, Audio und Geschmackssensoren trainiert wurde, aber ich halte auch GPT-4 für einen größeren Schritt nach vorn als jede bisherige Stufe, die die Menschheit betreten hat.
Ich sehe Leute, die ernsthaft Prompts wie „Schreib mir einen Ausdruck, der 2 und 2 addiert“ verwenden, um das benötigte
2+2zu bekommen, und das als magische Effizienz bezeichnen.Ehrlich gesagt schreibe ich nicht besonders gern lange Texte, und für mich ist Code immer kürzer und schneller als eine Erklärung in natürlicher Sprache. Genau deshalb braucht man überhaupt Code.
Von hohen Erwartungen aus betrachtet kann man sagen, es sei „grundlegend fehlerhaft“, aber vom Ausgangspunkt „nutzlos“, wie viele denken, ist es auch ein erstaunliches Tool.
Alle paar Monate lasse ich ChatGPT auch einen einfachen Frontend-Test machen, den ich Junior-Entwicklern gebe, aber es hat ihn noch nie bestanden. Nicht einmal annähernd.
Es antwortet selbstbewusst, aber mit subtilen Ungenauigkeiten, und der erzeugte Code ähnelt der Art unsinnigen Codes, die ein frisch gebackener Bootcamp-Absolvent abliefert, der in einem achtseitigen Lebenslauf behauptet, 50 Technologien „gemeistert“ zu haben.
Falls es besser geworden ist, merke ich nichts davon.
Schon vor zehn Jahren hieß es, autonome Lkw würden die Trucking-Branche innerhalb von zehn Jahren umkrempeln, und die Medienberichterstattung rund um LLMs ist genauso.
Es ist beeindruckend, aber ich frage mich, wie lange wir noch wiederholen, dass es bei jeder Linksabbiegung auf 100 mph beschleunigt und gegen eine Wand fährt.
Ich würde KI gern so einsetzen, dass sie Konstellationen von Punkten verbindet, die Menschen niemals verbinden könnten, und ein Experte anschließend das Ergebnis prüft, bevor man weitermacht. Wann der Tag kommt, an dem man mit
gpt installein neues CLI-Tool oder eine App bekommt, weiß ich nicht, aber bald ist es nicht.Es wurde halbwegs brauchbar, stimmte aber nicht pixelgenau überein, und der Team Lead sagte, ich solle es noch einmal machen. Der geschäftliche Wert lag bei null, aber unser Team war damals stolz auf Pixel Perfect.
Das war einer der Auslöser dafür, dass ich mit der Frontend-Entwicklung aufgehört habe.
Kürzlich habe ich ChatGPT zur Übung etwas ähnliches CSS erstellen lassen, und es hat es perfekt hinbekommen.
In CSS bin ich nur mittelmäßig, aber mit ChatGPT kann ich Ergebnisse erzielen, die nahe an die Qualität von CSS-Experten herankommen. Wie im Artikel gesagt: Ein Generalist auf mittlerem Niveau kann jetzt mit Experten konkurrieren.
Meine Erfahrung ist ziemlich anders. Ich bin ein anspruchsvoller Backend-Entwickler, der bei Bedarf auch formale Verifikation einsetzt, und mich nervt alles, was logisch nicht funktioniert.
Da wir mit Computern arbeiten, sollte alles logisch sein, aber vieles am Frontend ist für mich überhaupt nicht logisch.
Wenn ich jemanden aus dem Frontend frage: „Wie zentriert man Text?“, sagt er
text-align, und natürlich habe ich das zuerst ausprobiert, aber es hat nicht funktioniert.Auch Frontend-Leute müssen bei einfachen Fragen manchmal erst selbst etwas ausprobieren und scheitern, statt sofort eine Antwort zu geben.
Heute repariert es Copilot, wenn es die Antwort nicht direkt ausspuckt, oder ChatGPT-4 beziehungsweise „front-end hacker“, ein personalisierter GPT, der unsere Codebasis kennt. Das funktioniert täglich, den ganzen Tag über gut.
Auf den ersten Blick wirkt es wie ein beeindruckender Trick, wie außerirdische Technologie aus der Zukunft.
Mit der Zeit sieht man jedoch die Lücken, und nach Monaten oder Jahren der Nutzung merkt man, dass diese Lücken kaum geschlossen werden.
Das Verbesserungstempo ist gemessen an der noch zu schließenden Lücke im Vergleich zu Marketing und Rhetorik eher mittelmäßig, und am Ende fühlt sich die Nutzung manchmal nach mehr Arbeit an als der Verzicht darauf.
Rein datengetriebene Machine-Learning-Ansätze eignen sich möglicherweise nicht für Probleme, die eine Genauigkeit weit über 80 % erfordern.
Für Handelsalgorithmen, die schon bei 55 % Trefferquote Geld verdienen, Empfehlungs-Engines, die eine Liste von Filmen oder Songs zum Scrollen anzeigen, überflogene Suchergebnisse oder Spamfilter, die Rauschen im Posteingang reduzieren, ist das in Ordnung.
Aber Probleme wie „das ist die richtige Antwort“ oder „fahr Auto, ohne Menschen zu töten“ sind deutlich schwieriger.
Die meisten Vorschläge gingen nicht einmal durch die beiden Punkte, zwischen denen interpoliert werden sollte, und als ich darauf hinwies, lieferte es eine Funktion, die zwar durch die Punkte ging, aber nicht mehr glatt war.
Ich habe es wirklich versucht und mehrmals neu angefangen.
Wenn so etwas Code zur Steuerung von Maschinen schreibt, wird das totales Chaos; deshalb glaube ich, dass wir uns zwischen einer Welt mit Machine Learning und einer Welt mit Roboter-Lieferdrohnen entscheiden müssen.
Kleinigkeiten wie aus Variablen Funktionsparameter zu machen hat es allerdings ganz ordentlich erledigt.
Allerdings glaube ich, dass auch diese Aufgabe letztlich bewältigt wird, und die verbleibende Frage wird dann sein, ob es echte Fähigkeit ist oder Datenleckage.
Ich verstehe nicht, ob die Leute wirklich meinen, dass wir uns gerade in der Dämmerungsphase dieser Technologie befinden.
Aus meiner Sicht stehen wir kurz davor, in ein Zeitalter quantenhafter Produktivität beim Coding einzutreten.
Ich bin sehr gespannt darauf, weil KI-Unterstützung nicht nur verbessert, was ich schreibe, sondern mir auch beim Lernen während der Arbeit hilft. Noch nie hat mir das Schreiben von Software so viel Spaß gemacht wie im vergangenen Jahr.
Ich schreibe seit Jahrzehnten Software, aber jetzt habe ich fast immer einen Coach an meiner Seite, der mir hilft, über Blockaden hinwegzukommen und Entscheidungen zu verstehen.
Es ist nicht nur so, als würde man zum Platz eines Kollegen gehen und ein Problem schildern, sondern man bekommt tatsächlich produktive Lösungsansätze, die das Ergebnis inspirieren.
Wirklich erstaunlich.
Ich verstehe nicht, warum Coding seinem Ende entgegengehen soll. Ich sehe keine Belege dafür, dass KI-Coding-Assistenten ordentliche Entwickler ersetzen werden. Es sei denn, die eigene Fähigkeit, etwas zu bauen, ist wirklich miserabel.
Es fühlt sich an, als hätte jemand gesagt: „Das Fundament ist jetzt kostenlos, aber das Haus kann man immer noch bauen.“
Ich muss immer noch das Haus bauen, es planen, entwerfen und umsetzen, es den Leuten bekannt machen, unterstützen, vertreten und erklären. Es ist nur einfacher geworden, weil ich das Fundament nicht mehr selbst herstellen muss.
Wenn KI Entwickler doppelt so produktiv macht: Wird die zusätzliche Entwicklungskapazität von bestehender und neuer Nachfrage absorbiert? Wird sich die Zahl der Entwickler halbieren? Oder werden gleich viele Entwickler deutlich niedrigere Löhne bekommen?
Diese Fragen stellen sich selbst dann, wenn kein einziger bestehender Entwicklerjob vollständig durch KI ersetzt wird.
Wichtig ist auch, welche Art von Arbeit sich gut für KI-Automatisierung eignet. Mir fallen Aufgaben wie CSS ein, bei denen man in einem engen Kontext viele kleine technische Details kennen muss, um kleine Änderungen am Ergebnis zu erzielen.
Wenn man diese Art von Coding macht, ist es meiner Meinung nach an der Zeit, den eigenen Kompetenzbereich auf breitere Verantwortlichkeiten auszuweiten.
Viele Schichten, die frühere Coder verstehen mussten, werden von Neueinsteigern heute nicht mehr verstanden, obwohl diese Schichten das Verhalten weiterhin auf subtile Weise beeinflussen können.
Wer seit mehr als 13 Jahren in dem über die letzten Jahrzehnte am weitesten verbreiteten Bereich der Web-Technologien programmiert, kann das Gefühl haben, dass diese Technologie in die Dämmerung gerät, weil der gesamte Stack, auf dem das Web beruht, von Jahr zu Jahr schwerer zu verstehen wird.
Im Frontend wird es immer schwieriger, aus dem Code allein zu lernen, was jemand getan hat. Wegen moderner Build-Technologien bringt es kaum noch etwas, sich den Code einer Site anzusehen, und solche Beschwerden gab es schon vor 13 Jahren.
Wenn man Kinder oder Verpflichtungen außerhalb der Arbeit hat, wird es — zusammen mit der Tatsache, dass Software immer mehr Bereiche verschlingt — für Menschen außerhalb der Schule schwieriger, ihre Fähigkeiten durch gezieltes Üben zu schärfen.
Produktivitätssteigerung bedeutet nicht automatisch eine Verbesserung von Handwerkskunst. Das ähnelt der Industrialisierung: Sie steigerte die Produktivität und machte viele Produkte verfügbar, war aber für handwerkliche Fähigkeiten nicht förderlich.
Früher sah man häufig Leute, die Bauteile auf Platinen löten und mehrere integrierte Schaltkreise verbinden konnten; ich habe das selbst an der Universität gemacht.
Diese Schicht von Handwerkern ist inzwischen verschwunden, und es gibt entweder Experten, die extrem gut verstehen, wie Computerhardware funktioniert, oder Menschen, die Hardware einfach kaufen und sie wie Magie behandeln.
Traditionell zeigte man über Zwischenstufen Interesse, wurde ausgebildet und wurde Experte; ein Hobby konnte in einen Beruf übergehen.
Wenn man heute in einer Chipfabrik arbeitet, dann nicht, weil man „das Kind mit dem Lötkolben“ war, sondern weil man einen langen akademischen Weg durchlaufen hat. Man lernt fortgeschrittene Inhalte, gegenüber denen Löten wie Steinzeit wirkt.
In der Software gibt es diese mittlere Handwerkerschicht noch, aber sie verschwindet schnell — nicht nur wegen LLMs.
Es gibt viele Menschen, die Websites irgendwie zusammenstecken und zum Laufen bringen, oder die mit Excel- oder Python-Skripting Alltagsaufgaben erledigen, aber keine fortgeschrittenen Konzepte kennen.
Wenn GPT-artige Systeme auftauchen, brauchen Experten weniger Hilfe von Junioren. Statt dass ein Systemarchitekt das Grundgerüst entwirft und kleine Aufgaben an Junioren verteilt, kann er sich das Nötige vom LLM holen.
In der Folge werden weniger Menschen auf höchstem Niveau ausgebildet werden, und diese wenigen werden viel produktiver sein, aber viele Menschen werden in der Mitte isoliert zurückbleiben.
Ich bestreite nicht, dass AI guten Code schreiben und mit der Zeit besser werden kann, aber ich weiß nicht, wie ein Workflow, in dem AI die meisten Entwickler ersetzt, funktionieren soll
Wenn man etwa die Arbeit eines Junior-Programmierers nimmt, der CRUD-Endpunkte schreibt, kann es länger dauern, Anforderungen so zu beschreiben, dass sie genau dem entsprechen, was ich will, als sie mit Hilfe eines Tools wie Copilot direkt selbst zu coden
Kann man sich vorstellen, dass nichttechnische Nutzer mit AI von A bis Z entwickeln? Wenn der generierte Code Bugs enthält, kann man dann davon ausgehen, dass zu keinem Zeitpunkt ein Mensch eingreifen muss?
Selbst wenn bei einem Bug ein Techniker eingreift: Wenn es Zeit kostet, zu untersuchen, was die AI geschrieben hat, und im Nachhinein zu verstehen, was passiert ist, verschwindet die Kostenersparnis beim Schreiben von Code schnell
Am Ende ist das Schreiben von Code nur ein kleiner Teil der Arbeit, und LLMs sind zwar gut beim Generieren von Code, aber im Kern keine Problemlöser
Diese Technologie ist erstaunlich, aber sie wird wohl ein weiteres Werkzeug im Werkzeugkasten von Entwicklern werden. Sie ist auch ein großartiger Tutor und erspart es bei eigenständigen Problemen, etwa einem Script zum Scrapen von Webseiteninhalten, einen Entwickler hinzuzuziehen
Aber sie kann den Workflow vieler Entwickler deutlich erleichtern, sodass weniger Leute ausreichen oder dieselbe Anzahl mehr erledigen kann
Das habe ich auch an anderer Stelle in diesem Thread geschrieben: https://news.ycombinator.com/item?id=38259425
Im Grunde fühlte sie sich für die Dinge, die normalerweise viel Zeit fressen, wie ein sehr mächtiger allgemeiner Assistent und Brainstorming-Partner an
Nicht nur auf Code beschränkt: Ich habe sie auch für Dokumentation genutzt, etwa indem ich ihr grobe Informationen gab und sie in kohärente Dokumente ordnen ließ oder Feedback einholte
Beim Onboarding in ein neues Projekt hilft sie auch, schwer verständliche Dokumentationsfragmente einzufügen und erklärt zu bekommen
Auch bei Management-Kleinkram habe ich weniger mentale Energie aufgewendet, indem ich Anforderungen und meine Perspektive eingab und Antworten aus einer bestimmten Sichtweise erstellen ließ
Natürlich kann man das auch mit anderen Teammitgliedern machen, aber sie sind nicht immer zur Stelle und haben selbst Arbeit. Ein Tool wie ChatGPT wird nicht müde, sodass man das innere Kleinkind, das immer weiter „Warum?“ fragt, nach Herzenslust herauslassen kann
Selbst wenn man andere Menschen fragen kann, hilft ChatGPT dabei, die Frage zu verfeinern
Für Boilerplate, langweilige Aufgaben und das Übersetzen eines von einem Menschen erklärten Algorithmus in Code ist es ziemlich nützlich
Es kann Code auch gut von einer Sprache in eine andere übertragen und erledigt die Arbeit, wenn man es richtig anweist
Auf die Beschäftigungsaussichten wird es große Auswirkungen haben. Noch ersetzt es keine Engineers, aber Menschen, die sich auf bestimmte Technologien als Implementierungsexperten spezialisiert haben, sind gefährdet. Allein der Produktivitätszuwachs wird die Nachfrage senken
Nach meiner anekdotischen Erfahrung aus 98 Kommunen haben solche Tools nie lange funktioniert
Dagegen bauen und automatisieren digital affine Mitarbeitende inzwischen mit Hilfe von ChatGPT Dinge
Aus Sicht der langfristigen Wartung ist vieles davon genauso miserabel wie frühere RPA- oder Workflow-Tools, aber diesmal können die Leute es auch selbst warten
Allerdings sind sie keine Softwareentwickler, daher klappt es nicht mit Dingen wie Skalierbarkeit, Ressourcennutzung, Dokumentation oder Fehlerbehandlung
Trotzdem geht es meist nur darum, ein paar Stunden pro Monat zu „sparen“, also nicht um etwas Wichtiges genug, um echte Entwickler darauf anzusetzen; 90 % können daher ausreichend sein
Kombiniert mit Verbesserungen in Tools wie SharePoint Online lässt sich intern erledigen, wofür früher interne Entwickler oder externe Berater nötig gewesen wären
Das ist nicht der Tod des Software Engineerings. Es skaliert nicht, und langfristig wird es Probleme geben, wenn Amateur-Architekturen ineinandergreifen müssen
Aber wenn man googeln muss, wie man ein paar beliebige Textzeilen aus einem Dictionary herausholt, ist es schwer zu sagen, dass man nicht gefährdet ist
GPT erledigt „Programme, die man sich per Googeln zusammenbauen kann“, ziemlich leicht und gut genug, und das wird in der Branche immer häufiger passieren
Aus meinen Aufzeichnungen kann man sehen, dass ich von LLMs, genauer GPT, zugleich beeindruckt und enttäuscht bin. Andere Modelle sind ehrlich gesagt nicht besonders gut
Bei der eigentlichen Entwicklung im Arbeitsalltag hat es kaum geholfen, aber Dokumente schreibt es größtenteils für mich, und das erschreckend gut
Ich mache auch viel Codegenerierung, bei der aus Excel-Datenmapping-Sheets Typen, Klassen usw. erstellt und CRUD-Funktionalität generiert wird. Früher habe ich dafür kurze CLI-Scripts geschrieben, heute übernimmt GPT den Großteil
Allerdings ist es miserabel darin, Business-Logik, die Effizienz erfordert, in gut entworfenem Code umzusetzen, und darin ist es bisher kein bisschen besser geworden
In Europas nichttechnischen Großunternehmen und der riesigen IT- und Beratungsindustrie, die sie unterstützt, gibt es viele Entwickler, die Dinge tun, in denen GPT gut ist; je besser die Tools werden, desto deutlich weniger Softwareentwickler werden insgesamt gebraucht
Besonders beunruhigt mich, dass wir CS-Studierenden immer noch vieles beibringen, was GPT gut kann
Ich bin externer Prüfer für CS-Studierende auf Academy-Niveau, und GPT könnte im Curriculum fast die volle Punktzahl erreichen. Der Schwerpunkt liegt vor allem darauf, viel „einfachen“ Code für Unternehmen zu produzieren
Ich fürchte, dass viele Studierende eine harte Zeit erleben werden, wenn LLMs wirklich Fuß fassen, und dass sich die Curricula nicht rechtzeitig ändern werden. Die dänische Hochschulbildung passt sich nur langsam an die Realität an und war schon vor zehn Jahren etwas veraltet
Die Aussage „Programmieren hat weniger mit Wissen oder Können zu tun als mit Geduld, vielleicht sogar mit Besessenheit. Programmierer sind Menschen, die eine endlose Reihe langweiliger Hindernisse aushalten“ trifft gut, warum man bei KI-gestütztem Programmieren optimistisch sein kann
Die Einstiegskurve ins Programmieren ist schrecklich steil – nicht, weil es schwierig ist, sondern weil es nervt
Man muss sechs Monate lang seltsame Fehlermeldungen und fehlende Semikolons durchstehen, bevor man das Gefühl hat, tatsächlich etwas zu bauen und voranzukommen
Die meisten geben auf und halten sich für „nicht klug genug“, dabei hatten sie in Wahrheit nicht genug Geduld, um durch diesen Morast zu kommen
Ich denke, LLMs haben großen Einfluss auf diese anfängliche Lernkurve. Es ist eine gute Sache, wenn mehr Menschen die Grundlagen des Programmierens lernen und langweilige, repetitive Aufgaben in ihrem Leben vom Computer automatisieren lassen können
Programmierer müssen im Alltag mehr als fast jeder andere Beruf hässliche Wahrheiten akzeptieren. Physikingenieure, Bauarbeiter und Mechaniker brauchen diese Tugend ebenfalls, aber weil ihre Feedback-Zyklen langsamer sind, wird sie weniger häufig verlangt
Das ist ungefähr so, als würde man sagen, Google Translate habe alle fließend Spanisch sprechen lassen
Letztlich muss man weiterhin Code prüfen und verstehen, wie er funktioniert, um ChatGPT effektiv zu nutzen
Den Code tatsächlich einzutippen war nie der schwierige Teil der Softwareentwicklung
Wenn dieses Tool Entwickler nur um sechs Monate nach vorn bringt, wäre es im Verhältnis zu den Rechenressourcen besser, Informatikunterricht an Schulen anzubieten – und das würde eine deutlich stärkere Generation von Ingenieuren hervorbringen
Komplexe Softwareprojekte mit vielen Nutzern haben praktisch endlose Backlogs an verwaisten Bug-Tickets
Vor ein paar Monaten wurde in Firefox, glaube ich, ein 25 Jahre alter Bug behoben
In den meisten Compilern und Frameworks stapeln sich Tickets wie „Fehlermeldung verbessern, wenn X passiert“, aber Entwicklerzeit ist zu teuer, als dass sie Priorität bekämen
Mit der Zeit besteht der Unterschied zwischen Seniors und Juniors oft weniger in Intelligenz oder tatsächlicher Erfahrung, sondern in den Narben, die sie sich beim Durchqueren von Bugs und Usability-Problemen zugezogen haben, die vor dem Lebensende eines Produkts nie behoben werden
Damit KI Programmierer vollständig ersetzt, braucht es wohl noch ein paar große Durchbrüche, aber sie auf Bugtracker loszulassen und den ganzen Tag kleine Korrekturen machen zu lassen, liegt durchaus in Reichweite
Dann wird menschliches Programmieren interessanter und leichter zu lernen
Es erinnert an ganz normale Menschen, die an die Grenzen der Apps gebunden sind, die sie nutzen, und an die Beliebtheit von Büchern der Art „Automatisieren mit Python“
Wenn diese neue Technologie dafür sorgt, dass Menschen nicht länger an solche Grenzen gebunden sind, wäre das ziemlich großartig
Code ist nach wie vor ein komplexes und zerbrechliches Artefakt
Dass LLMs Code schreiben, ist nur der Anfang; für die meisten Menschen wäre Low-Code/No-Code mit LLM-Unterstützung idealer
Ich führe diese Debatte mit einem Freund, der mit KI und neuronalen Netzen arbeitet
Er sagt, Coding werde bald veraltet sein und vollständig durch Codegenerierung im ChatGPT-Stil ersetzt werden
Als „Senior Engineer“ sehe ich den überwiegenden Teil meiner Arbeit in Kommunikation, Führung innerhalb der Organisation, darin, Produktanforderungen wirklich zu verstehen und zu erkennen, wie sie mit unseren Systemen zusammenspielen
Ich schreibe zwar Code, aber selbst wenn der größte Teil davon durch Codegenerierung ergänzt würde, würde sich an dem, was ich tue, kaum etwas ändern
Ihre Arbeit besteht nicht aus solchen Dingen, sondern darin, erfasste Issues zu übernehmen und umzusetzen. Sie bekommen keine schwierigen Probleme, sondern Aufgaben mitsamt Akzeptanzkriterien
Wenn etwas wie ein künftiges CodeGPT ihre Programmierfähigkeiten vollständig ersetzt, wie sieht dann in zehn Jahren ihr Weg zum Senior aus?
Die heutigen Seniors gehen in 10 bis 20 Jahren in Rente, und wenn sie durch Menschen ersetzt werden, die tatsächlich von automatischer Codegenerierung profitiert haben, könnte „Coding“ zu etwas werden, das alte Leute gemacht haben, bevor Maschinen es übernahmen
Wenn KI kleinere, aber leistungsfähigere Teams ermöglicht, werden weniger Führungskräfte und Meetings nötig sein, und alles wird viel effizienter
Vielleicht müssen wir uns auch von der Zeit verabschieden, die wir ins Mentoring von Junior Engineers gesteckt haben. Bald wird es nämlich keine Juniors mehr geben
Ich navigiere durch die Organisation, knüpfe Verbindungen zu anderen Teams und versuche zu verstehen, was getan werden muss
Der Code, den ich schreibe, fühlt sich wie ein Nebenprodukt der eigentlichen Arbeit an
Erstens werden weniger Menschen beteiligt sein, wodurch die Koordination einfacher wird
Zweitens werden mehr Menschen Zugang zu Koordinationsrollen bekommen, und es ist gut möglich, dass Berufsgruppen oder Persönlichkeitstypen diese Rollen übernehmen, die normalerweise nicht als „gut im Coden“ galten
Wenn die Maschine etwa erklären kann, wie das, was gebaut wird, im Allgemeinen funktioniert, brauchen sie keine herausragenden Coding-Fähigkeiten mehr
Deshalb erwarte ich, dass der Arbeitsmarkt in diesem Bereich stark durcheinandergerät und die Löhne deutlich sinken
Dieser Text wirkt nicht, als sei er von einem Programmierer geschrieben, und auch einige der Kommentare sehen nicht nach professionellen Engineers aus.
Welche Teile der Arbeit von Programmierern kann AI in naher Zukunft realistisch ersetzen?
Nehmen wir der Diskussion halber an, dass der Coding-Teil kosteneffizient ersetzt werden kann. Kann sie dann auch die anderen Teile übernehmen?
Dazu gehören Dinge wie vage Anforderungen entgegennehmen und sie mit Design- und Produktteams klären, AI ausreichend anweisen, um komplexe Funktionen zu bauen, Code Reviews, beliebige Build-Fehler behandeln, Features so dokumentieren, dass andere Programmierer und Stakeholder sie verstehen, sowie Production-Issues debuggen und beheben.
Realistisch wird es eine lange Phase geben, in der Programmierer mithilfe von AI effizienter werden, bevor überhaupt die Möglichkeit entsteht, dass AI gute Programmierer effektiv ersetzt.
Im Vorteil werden Engineers sein, die abstrakter denken, und zuerst werden Low-Level-Programmieraufgaben absorbiert werden.
Das Beheben beliebiger Build-Fehler wird wahrscheinlich als Nächstes folgen.
Dann lautet die Frage, wie viel Prozent der Arbeit von Programmierern sie übernehmen können und ob der verbleibende Teil eine andere Kombination von Fähigkeiten verlangt.
Es gibt Programmierer, die gut coden, aber lautstark klagen, wenn das Business leicht vage Anforderungen liefert. Sie sehen ihre Arbeit nämlich nur als Coding, nicht als Klärung von Geschäftsregeln.
Diese Gruppe wird stärker betroffen sein als Programmierer, die bereit sind, auch in unklaren Situationen Geschäftsanforderungen zu verstehen.
Es macht zwar Fehler, aber diese Fehler scheinen nur schwach mit menschlichen Fehlern zu korrelieren.
Besonders da Google immer nutzloser wird, weiß es manchmal Dinge, nach denen ich sonst stundenlang suchen müsste.
Persönlich nutze ich es für Scripting und zur Unterstützung bei Ausführungsfunktionen.
Wenn man sich die aktuellen Tools ansieht, scheint das noch sehr weit weg zu sein.
Der Titel fühlt sich nicht so an, als passe er gut zum Artikel.
Der Titel klingt so, als würde die Fähigkeit des Programmierens ersetzt, aber der Artikel argumentiert letztlich, dass sie sich stark verändern wird, und mein Bauchgefühl geht ebenfalls eher in diese Richtung.
Am Ende sinkt die Einstiegshürde. Ist das etwas Schlechtes? Aus egoistischer Sicht ja, aus gesellschaftlicher Sicht nicht.
Eines der Probleme, mit denen Kanada und bis zu einem gewissen Grad auch die USA konfrontiert sind, ist meiner Ansicht nach Ungleichheit.
Menschen in eher „durchschnittlichen“ Serviceberufen verdienen viel weniger als Engineers, und das war in den letzten Jahren ziemlich unangenehm.
Der gesellschaftliche Wert generativer AI liegt darin, Wissensarbeit wie Recht, Medizin und Software Engineering für „durchschnittliche“ Menschen deutlich zugänglicher zu machen.
Es wird auch Nachteile geben, aber Macht gleichmäßiger zu verteilen, dürfte ein Weg sein, der näher an einer Utopie liegt als fehlgeleiteter Elitismus. Letzteres klingt wie ein Weg in die Autokratie.
Wenn der Mindestlohn der niedrigste Lohn und Programmierergehälter die höchsten Löhne wären, wäre Amerika eine sehr egalitäre Wirtschaft.
Wenn man die verbleibenden Wege in die Mittelschicht in den USA automatisiert, vergrößert das nur die Kluft zwischen den Kapitalisten, denen die Automatisierungsinfrastruktur gehört, und den Menschen, die in die schrumpfenden nicht automatisierten Bereiche gedrängt werden.
Dann verbessert sich ihre Lage nicht.
Aus der Perspektive eines Grauhaarigen, der nicht jeden Tag codet, war ChatGPT als Programmierassistent beeindruckend.
Es fühlt sich an, als hätte man einen Junior-Developer für 20 Dollar im Monat in Rufbereitschaft.
Letzten Monat brauchte ich ein schnelles, schmutziges Utility; ich habe das Problem selbst in 4–5 Schritte zerlegt, ChatGPT für jeden Schritt die Funktionen schreiben lassen und sie dann selbst zusammengefügt.
Größtenteils lief es glatt, aber ein Teil erforderte übermäßig viel Anleiten und Nachbessern, bis das gewünschte Ergebnis herauskam.