Meta kündigt LLM Compiler an

• Meta hat die Modellfamilie LLM Compiler angekündigt, die auf Code Llama basiert und Funktionen zur Code-Optimierung und für Compiler bietet
• Diese Modelle verfügen über die folgenden Fähigkeiten:
  • Compiler-Emulation
  • Vorhersage optimaler Passes zur Optimierung der Codegröße
  • Disassemblierung von Code
• Für neue Optimierungs- und Compiler-Aufgaben feinabstimmbar

Wichtige Merkmale

• Erzielt Ergebnisse auf Spitzenniveau bei Codegrößen-Optimierung und Disassemblierung
• Zeigt, dass KI Code-Optimierung erlernt und Compiler-Experten dabei unterstützen kann, Optimierungsmöglichkeiten zu identifizieren

Modellveröffentlichung

• Die Modelle LLM Compiler 7B und 13B wurden unter einer permissiven Lizenz für Forschung und kommerzielle Nutzung veröffentlicht
• Unterstützt Entwickler und Forschende dabei, die Modelle leicht zu nutzen und neue Forschung in diesem Bereich voranzutreiben

[ragingwind]

Die Idee wirkt interessant.

[GN⁺]

Hacker-News-Meinung

• Die Verwendung von LLMs als Compiler/Decompiler ist eine interessante Anwendung
• Bei Compilern sind Zuverlässigkeit und Genauigkeit entscheidend
• LLMs sind ihrem Wesen nach unvorhersehbar, daher wirkt es seltsam, sie in eine Build-Pipeline einzubinden
• In der Arbeit wurde ausgehend von CodeLlama ein Modell für drei Aufgaben trainiert
  • Die erste Aufgabe ist Kompilierung: Eingabecode und Compiler-Flags vorgeben und die Ausgabe-Assembly vorhersagen
  • Die zweite Aufgabe ist Vorhersage/Optimierung von Compiler-Flags: die Größe der Assembly optimieren
  • Die dritte Aufgabe ist Dekompilierung: Es wird behauptet, dass dieser Ansatz Vorteile gegenüber früheren Verfahren hat
• Es gibt ein Problem mit der Verifizierbarkeit des Dekompilierungsansatzes
• Es wird die Methode verwendet, den dekompilierten Code erneut zu kompilieren und so die Korrektheit zu überprüfen
• Mit einer Genauigkeit von etwa 45 % ist das noch nicht zuverlässig, könnte aber zusammen mit traditionellen Decompilern nützlich sein
• Ich würde gern untersuchen, ob sich dieses Modell auf Performance-Optimierung ausweiten lässt
• Es scheint, dass es künftig mehr Systeme geben wird, in denen LLMs Intuition liefern und die Verarbeitung auf mechanische/strenge Weise erfolgt
• Ich frage mich, wie man prüfen kann, ob ein LLM die Bedeutung der Eingabe bewahrt
• Frühere Forschung ist auf GitHub zu finden
• Twitter war von dieser Forschung beeindruckt, denkt aber, dass sie Programme mit hoher Wahrscheinlichkeit kaputtmachen wird
• Anders als bei anderen AI-Arbeiten von Meta wird nicht erwähnt, dass dies bei Instagram, Facebook oder Meta eingesetzt wird
• „Compiler LLM“ wäre vermutlich ein treffenderer Name als „LLM Compiler“
• Ich verstehe den Zweck dieser Arbeit nicht
• Ich erinnere mich, im Spiel <i>Deus Ex</i> mit dem Neural Optimizer und Disassembler von Meta Technologies gehandelt zu haben