Xkcd 1425 (Tasks) feiert 10-jähriges Jubiläum

• XKCD 1425 (Tasks) turns ten years old today

  • Einer der bekannten XKCD-Comics, "Tasks", feiert heute sein 10-jähriges Jubiläum
  • Aufgaben wie „prüfen, ob ein Foto einen Vogel zeigt“ lassen sich heute mit Vision-LLMs, CLIP, ResNet+ImageNet usw. leicht lösen
  • In der Softwareentwicklung erfordert die Unterscheidung zwischen einfachen und schwierigen Problemen jedoch weiterhin viel Erfahrung
  • LLMs machen dieses Problem noch komplexer
  • Es ist sehr schwierig und wenig intuitiv zu verstehen, welche Aufgaben LLMs zuverlässig lösen können
  • Es handelt sich um ein Computersystem, das schwach in Mathematik ist und Faktenabfragen nicht zuverlässig durchführen kann

• AI-assisted programming tools

  • Mit dem Aufkommen KI-gestützter Programmierwerkzeuge beginnen mehr Menschen, ihre eigene Software zu entwickeln
  • Neue KI-unterstützte Programmieranfänger lernen schnell, was einfache und was schwierige Probleme sind
  • Kürzlich habe ich eine Beschwerde gesehen, dass sich mit Claude Artifact keine Bilder analysieren lassen
  • Claude selbst kann Bilder analysieren, aber der CSP-Header verhindert, dass der erzeugte Code API-Aufrufe an ein LLM ausführen kann

• Recent articles

  • DJP: A plugin system for Django - 25. September 2024
  • Notes on using LLMs for code - 20. September 2024
  • Things I've learned serving on the board of the Python Software Foundation - 18. September 2024

Zusammenfassung von GN⁺

• Dieser Artikel betont, wie wichtig es in der Softwareentwicklung ist, zwischen einfachen und schwierigen Problemen zu unterscheiden
• KI-Werkzeuge wie LLMs machen dieses Problem noch komplexer
• Mit der zunehmenden Nutzung KI-gestützter Programmierwerkzeuge steigen mehr Menschen in die Softwareentwicklung ein
• Es ist wichtig, technische Einschränkungen wie CSP-Header zu verstehen
• Projekte mit ähnlichen Funktionen sind unter anderem GPT-4 und BERT

[GN⁺]

Hacker-News-Kommentare

• Das Entwicklungstempo von AI/ML ist erstaunlich schnell

  • Als vor 10 Jahren die GAN-Arbeit erschien, war die Qualität der erzeugten Bilder sehr beeindruckend
  • Der Fortschritt bis heute übertrifft jede Vorstellung

• Software ist wie ein Haus

  • Gegenüber Kunden verwende ich oft die Analogie: „Einen Restaurantstuhl ins Wohnzimmer zu stellen ist etwas anderes, als die Toilette im Bad zu versetzen.“
  • Auch Nicht-Programmierer verstehen diese Analogie intuitiv

• Menschen lösen seit Tausenden von Jahren Probleme der Navigation

  • Die für den Erhalt von Satelliten nötige Energie ist um ein Vielfaches größer als die für das Training von Modellen

• Es gibt die Aussage: „Das scheint nicht so recht zu passen“

  • Vor 10 Jahren hätte ich nicht gedacht, dass sich Schwieriges und Leichtes so vertauschen würden

• Es ist weiterhin schwer zu verstehen, welche Aufgaben ein LLM lösen kann

  • Ich habe ChatGPT genutzt, um meiner Tochter bei ihrer Präsentation zu helfen, bekam aber nicht das gewünschte Ergebnis
  • Stattdessen hat es jeden Buchstaben des Alphabets aus Gemüse zusammengesetzt und daraus das von meiner Tochter gewünschte Wort gebildet

• Jeremy Howard hat diesen Klassifikator in seinem Diffusionsprozess implementiert

• Das liegt innerhalb von Randalls erwarteter Bandbreite

  • Die anfängliche Schätzung zu Projektbeginn lag bei 5 Jahren, und 10 Jahre später gibt es eine öffentlich verfügbare Lösung

• 2014 erschien 1425

  • Damals hieß es: „Dafür braucht man ein Forschungsteam und 5 Jahre“
  • 2020 veröffentlichte die BBC einen Blogbeitrag über eine Kamera, die Vogelarten erkennt

• Es erkennt, ob ein Foto die typischen Farben eines gewöhnlichen Vogels enthält, und wird später korrigiert, wenn es Konkurrenten entfernt

• Früher gab es Manager, die Programmierung nicht verstanden

  • Sie dachten, es gehe nur um einen einzigen Button, der ein kleines Informationsfenster öffnet
  • Es dauerte, bis sie verstanden, dass die Aufbereitung der Daten Wochen in Anspruch nimmt