Eine kurze Geschichte der Tab-Autovervollständigung von Cursor

• Cursors erstklassige Tab-Autovervollständigung wurde durch die Übernahme des Babble-Modells von Supermaven möglich; dieses Modell bot ein Kontextfenster von bis zu 1 Million Tokens und niedrige Latenz von 250 ms
• Frühere LLM-basierte Autovervollständigung hatte die Einschränkung, nur Code nach der Caret-Position vorherzusagen, doch Babble ermöglichte durch auf Edit-Sequenzen basierendes Training mit git diff flexiblere Code-Vorschläge
• Jacob Jackson, Gründer von Supermaven, ist die Person, die 2018 — noch bevor LLMs aufkamen — mit TabNine eines der ersten Code-Vervollständigungstools entwickelte
  • Nach der Übernahme von TabNine arbeitete er als Forscher bei OpenAI, machte sich dann wieder selbstständig und entwickelte 2022 mit Supermaven ein Konkurrenzprodukt zu Cursor
  • Supermaven erreichte zwar nicht die Popularität von Cursor, aber sein Tab-Autovervollständigungsmodell Babble gehörte zur absoluten Spitze des Marktes
  • Stand 2024 erreichte Babble 300k Kontext bei 250 ms Latenz und lag damit deutlich vor Cursor
  • Vor der Übernahme durch Cursor unterstützte Babble sogar ein Kontextfenster von 1 Million Tokens, was im Vergleich zu populären Chat-Modellen jener Zeit enorm war
• Das Unterscheidungsmerkmal von Babble war seine Trainingsmethode
  • Gewöhnliche LLM-Autovervollständigung ergänzt nur Code nach dem Caret (FIM-Methode)
  • Babble konnte durch Training auf Basis von Edit-Sequenzen Änderungen an verschiedenen Stellen im Code und sogar dateiübergreifend vorhersagen
  • Die Struktur ähnelt git diff und spiegelt damit das tatsächliche Editierverhalten von Entwicklerinnen und Entwicklern wider
• Die Übernahme durch Cursor
  • Cursor kontrolliert die IDE selbst und konnte dadurch Modelle auf Basis der Bearbeitungshistorie von Entwicklerinnen und Entwicklern trainieren; das unterscheidet es von TabNine oder üblichen pluginbasierten Tools
  • Das schafft ein äußerst vorteilhaftes Umfeld für das Training von Autovervollständigungsmodellen
  • Jacob war nach den Grenzen von Plugins an einem Punkt angekommen, an dem er eine eigene IDE bauen wollte, und Cursor arbeitete wohl gerade daran, bei der Tab-Vervollständigung aufzuholen — also eine ideale Kombination
  • Cursor und Jackson kannten sich bereits zuvor, daher war die Übernahme eine naheliegende Entscheidung
• Dadurch konnte Cursor das leistungsfähigste Tab-Autovervollständigungsmodell am Markt aufbauen
  • Und Cursor hält seinen technischen Vorsprung bei der Autovervollständigung derzeit durch eine riesige Nutzerbasis und einen Data Moat aufrecht
  • Das derzeit größte Risiko ist, dass sich — wie man am Beispiel von Cline sehen kann — der gesamte Code-Copilot-Workflow grundlegend verändern könnte

[bbulbum]

Ich hatte eifrig nach einem Plugin gesucht, das in neovim Autovervollständigung auf Cursor-Niveau unterstützt, aber offenbar war das nur mit einem eigenen Modell möglich..

[postercolo]

Ich nutze das supermaven-Plugin für Neovim. Es ist die kostenlose Version, aber ich fand es besser als Copilot.